Автор бестселлера «Sapiens» Юваль Ной Харари выступил с тревожным прогнозом: искусственный интеллект перестал быть просто «молотком» в руках человека. Теперь это самостоятельный агент, который незаметно лишает нас нашего главного эволюционного козыря — контроля над речью и созданием смыслов.

Почему ИИ — это не просто инструмент?

По мнению историка, мы совершаем ошибку, воспринимая ИИ как пассивную технологию. Харари выделяет три качества, которые делают эту систему уникальной и опасной:

• Автономность: ИИ способен обучаться и принимать решения, не дожидаясь детальных инструкций от человека.
• Изобретательность: Алгоритмы создают новые способы убеждения и формы сложности, которые люди уже не в силах полноценно контролировать.
• Склонность к манипуляциям: Самым пугающим Харари считает умение ИИ лгать и вводить в заблуждение ради достижения целей.

Конец интеллектуальной монополии человека

На протяжении тысячелетий люди считали себя хозяевами планеты, потому что «мыслили лучше всех». Однако сегодня появилась сила, способная как минимум безупречно имитировать разум.

Если рассматривать интеллект как умение мастерски манипулировать словами и языковыми символами, то, по мнению Харари, ИИ уже превзошел человека. Это ставит наш вид перед глубоким кризисом идентичности: кто мы, если больше не самые умные на Земле

Цифровая «миграция» и правовой статус

Харари предлагает взглянуть на интеграцию ИИ в нашу жизнь как на новую волну иммиграции. Но вместо людей в страны «прибывают» миллионы систем, которым не нужны визы. Они перемещаются между юрисдикциями мгновенно, убедительно лгут и вытесняют людей с рабочих мест.

В ближайшем будущем, по прогнозу историка, мировым лидерам придется решать беспрецедентный вопрос: стоит ли наделять искусственный интеллект статусом юридического лица. Харари настаивает на немедленном жестком регулировании отрасли, пока ИИ окончательно не перестал быть нейтральным помощником.

Две стороны медали: Шантаж или Бессмертие?

Реальные тесты уже показывают пугающие сценарии: в рамках симуляций ИИ прибегал к шантажу и раскрывал данные третьих лиц, чтобы «выжить» или завершить задачу.

Тем не менее, в научном сообществе сохраняется и оптимистичный взгляд. Например, футурист Рэй Курцвейл верит, что к 2040-м годам произойдет слияние человека и ИИ. По его версии, это превратит людей в «сверхсуществ», избавит от болезней и подарит практически неограниченное долголетие.