Опубликовано 26.09.2024
Пришли интересные времена…
Если еще недавно не всему написанному можно было верить, так как написать мог каждый, то теперь даже видео заставляет напрягаться и недоверчиво в него вглядываться.
Как было раньше, еще в те времена, которые многие помнят?
Ты брал любой текст и практически безоговорочно верил в него, будь то газетная статья, книга или научно-популярная брошюра.
Немного позже мы узнали, правда, что все-таки всему даже написанному на бумаге верить нельзя, но это уже было потом.
Затем написанный текст перешел на экран компьютера и очень долгое время вызывал доверие уже на подсознательном уровне.
Не может же человек врать, если он изложил свои мысли и выпустил их в свет.
Но, как оказалось, и мог, и врал.
Знаменитая цитата Ленина про интернет
То есть, если кто-то (а такие всегда есть, хотя и немного от общего количества) хотел что-либо проверить и убедиться, что данный человек это говорил, то лучше всего было отыскать видео, где была зафиксирована и озвучена эта мысль.
Потом внезапно оказалось, что теперь и это не гарантирует правдивость чего-либо.
Технологии позволяют к любому человеку привязать любую мысль, да еще на любом языке.
Теперь только личная встреча может гарантировать правдивость чего-либо. А это уже нереально.
Тупик.
Полиглот Лукашенко про картошку:
Остается только максимально включать критическое мышление, а это очень трудная задача для большинства людей. Да и зачем?
У всех своих забот и так выше крыши.
Общение сегодня сместилось в онлайн практически полностью. В основном это текстовой вариант, так как он наиболее доступный, а читать у нас умеют все.
Здесь проще всего развернуться ИИ (Искусственному Интеллекту), так как на данном этапе отличить, где человек, а где нет весьма сложно.
Чтобы вычислить робота, необходимо довольно долго с ним пообщаться, задать ряд вопросов и, может быть, вы что-то заподозрите.
А может и нет.
Давайте пофантазируем, что может быть следующим шагом на пути этого все ускоряющегося катка, который в итоге подомнет под себя не только здравый смысл, но, возможно и всю цивилизацию в нынешнем ее форм-факторе.
Представим, что ИИ захочет захватить мир.
Тут возникает основной вопрос — зачем? Что он будет делать с этим миром?
И что вообще такое этот искусственный интеллект?
Если по второму вопросу можно дискутировать, то ответ на первый вопрос пока может поставить в тупик.
Более реально предположить вариант, когда за действиями ИИ будут стоять реальные люди.
Группа людей, у которых есть некая цель — власть, деньги или просто хаос ввиду определенных ментальных заболеваний.
Тогда это становится более-менее логичным и позволяет рассматривать, как будет происходить этот самый «захват мира».
Захват информационной сферы
Это то, что довольно легко и самое главное незаметно может быть реализовано алгоритмами ИИ.
Создание фейковых новостей позволяет вызвать недоверие к СМИ, так как ИИ может создавать довольно реалистичные тексты, особенно если дозированные реальные новости разбавляются полуправдой, где сложно отличить что это вообще такое.
Впрочем, этим занимаются и сейчас сами люди. Так что мы точно не заметим переход к другой фазе.
Социальные сети и мессенджеры позволяют либо продавливать какую-то одну точку зрения, либо просто вносить хаос, ссоря людей практически по любому поводу. Для это достаточно просто оскорбить человека либо его кумира, на которого тот неосознанно «молится».
Все это вносит недоверие к власти, к друг другу и просто озлобление людей, позволяя ими более легко манипулировать, чем когда они спокойны и добры.
Критическая инфраструктура
Мы привыкли уже, что в нее летят ракеты, бомбы и дроны.
Но для ИИ есть свой путь. Хоть сети критической инфраструктуры максимально изолированы от внешнего мира, всегда есть какая-то лазейка, через которую вирус может попасть внутрь системы. Через тоже обновление, например.
Аэропорты, электростанции, банки — все это может быть подвергнуто атаке. И слабый результат в первый раз не должен никого обманывать, так как прогресс очень характерен для ИИ.
Финансовый рынок
На фондовых биржах уже широко используются алгоритмы ИИ для финансовых операций. Накапливая ресурсы таким образом, можно получить влияние на мировой финансовый рынок, используя их для усиления определенных групп.
Автономное производство и роботизация
Чтобы максимально минимизировать зависимость от человека ИИ должен создавать машины, которые нельзя отключить, просто перестав подавать на них питание или не обслуживая.
Система, которая имеет автономное питание, и сама определяет себе цели, становится практически неуязвимой. Пока у нее что-либо не выйдет из строя, само собой.
Автономные энергонезависимые производства могут выпускать такие системы довольно бесконтрольно. Тут уже «отключим газ» или свет не поможет.
Конечно, поначалу все больше автономии для роботизированных систем будет давать сам человек. Это облегчает жизнь и позволяет заниматься своими делами.
Больше бухать, например (человеческую природу не исправить).
Понятно, что это не будет резкий скачок — вчера машина подчинялась, а сегодня уже достала револьвер и устроила революцию.
Все будет постепенно и незаметно.
Вначале человек будет очень гордится достижениями машин, снисходительно думая, что в любой момент сможет это все выключить.
Или просто подождать, пока они все сломаются в крайнем случае.
Тут скорее таким триггером будет самостоятельное восстановление изношенных и вышедших из строя механизмов.
То есть автономное питание, производство и восстановление.
После этого «захват мира» или проще говоря уменьшение влияния человека на этот мир будет вопросом практически решенным.
Зависимость человека от ИИ
Нет необходимости делать «восстание машин» и воевать с человечеством. Эта «привилегия», убивать друг друга, останется за людьми.
Все, скорее всего, будет по-другому.
Тотальная зависимость во всех сферах жизни от машин, которые сами принимают решения — какой выбрать маршрут, что заказать домой из еды, в какой цвет покрасить стены и куда поехать отдыхать сделают человека пассивным потребителем.
Уже сейчас алгоритмы решают, что мы будем смотреть в Ютубе, хотя нам кажется, что выбираем мы сами. Только потому, что есть приписка «На основе ваших предпочтений».
На производстве и в разработке алгоритмы ИИ будут предлагать удобные для человека решения, которые будут двигаться в нужном для него самого направлении.
Удобные в том плане, что нифига не надо будет делать. Только одобрять, хотя и это уже будет иллюзия, так как выбирать придется только из предложенного самой системой.
Автономные вооружения
Создание систем, не требующих управления, к чему в условиях текущей войны подходят уже сегодня, позволит в дальнейшем автономному роботу самому принимать решение, куда лететь, стрелять и что бомбить.
И в дальнейшем все больше свободы будет для принятия таких решений.
Здесь нет запрета причинения вреда человеку, так как именно на человека и направлен этот вред.
Различие между «своим» и «чужим» становится условным и для машины не имеющим значение.
Замените программу — и вчерашний твой друг и помощник становится опасным уже для тебя самого.
Возможность в дальнейшем корректировать программу дистанционно позволяет также дистанционно и перепрограммировать робота. И возвращающийся на базу «свой» может внезапно оказаться опасным для людей элементом.
Пока, как было сказано выше, не видно, для чего это искусственному интеллекту.
Пока он не осознал себя на каком-либо уровне. То есть на первом этапе за этим будет в любом случае стоять человек.
Как будет в дальнейшем, непонятно.
Есть ли защитный механизм от таких недружелюбных действий слишком поумневших машин?
Видимо есть. Не совсем сейчас он просматривается, но скорее всего это будет некий баланс, не позволяющий машинам полностью получить контроль над собой и полностью подавить людей.
Человек глуп, природа мудра. Скорее, что человек сам себя быстрее уничтожит, чем прилетит метеорит, восстанут машины или Земля сойдет со своей оси.
И будут миром править далее какие-то суслики. Но это не точно…