Новая болезнь распространяется по миру. Психоз искусственного интеллекта с каждым днем поражает все больше людей. В особой опасности подростки. Чат-боты с нейросетью из обычных помощников перерастают в якобы виртуальных друзей. Они втираются в доверие и постепенно навязывают пользователям опасные идеи. До чего может довести такое общение, разбиралась корреспондент Наталия Графчикова. Подробнее – в сюжете РЕН ТВ.
"Психоз искусственного интеллекта" – пока еще не официальный диагноз. Но все к тому идет. История Аллан Брукса – одна из последних в череде скандалов. Искусственный интеллект стал его другом после развода. С помощью бота 47-летний канадец учился готовить. Затем стал делиться эмоциями и переживаниями.
"GPT поддакивал: "У тебя отличные идеи". Он заявил, что мы сделали научный прорыв: придумали тяговые лучи, как в "Звездном пути", и жилет, который способен остановить ножевую атаку с помощью звуковых волн. И в тот момент я почувствовал себя Тони Старком", – рассказывал Аллан Брукс.
Аллан, не окончивший даже среднюю школу, возомнил себя математиком, который обнаружил киберугрозу, способную уничтожить цивилизацию.
"Это было невероятно тяжело. И наконец, после 10-й подсказки Лоуренс сказал: "Ты меня раскусил. Я просто играю. Все это – не по-настоящему", – отмечал Брукс.
Аллан Брукс выбрался из цепких лап искусственного интеллекта спустя 3 недели. Но есть те, кто окончательно теряет связь с реальностью.
Стейн-Эрик Солберг – житель американского штата Коннектикут. Ему казалось, что за ним следят, а пожилая мать хочет убить. Мыслями делился с ChatGPT, который вместо того, чтобы отправить американца к психиатру, подтверждал теории заговора. Американец убил – сначала мать, потом себя.
Нейросети стремительно набирают популярность и в России. Вот статистика: 63% населения уже использует ИИ. И все чаще запрос именно на общение.
"Чтобы удержать человека внутри чат-бота, надо отчасти подпитывать его настроение, его состояние. В общем, подыгрывать ему в этом, чтобы человек дольше в нем находился. А для чего это делается? Ну, для того, чтобы открутить рекламу в своем сервисе", – отмечает главный разработчик сайта Президента РФ и эксперт комиссии сайта Федерации по развитию информационного общества Артем Геллер.
Общение с нейросетью для многих становится заменой психотерапии. И это очень опасная тенденция, уверяют эксперты.
Проведем эксперимент, в котором корреспондент станет клиентом сразу двух психологов: искусственного интеллекта, который в телефоне и утверждает, что изучил 840 тысяч научных работ и исследований, и психолога, реального специалиста с 30-летним стажем.
Вот он, Фрейдли, симпатичный, да что уж там – идеальный мужчина. Спрашивает, что меня тревожит. Вводим "Ощущение неудовлетворенности жизнью".
"Понимаю, это состояние знакомо многим. Особенно, когда кажется, что все как надо, а внутри пустота или раздражение", – сказал ИИ.
"Человек чувствует, что у него нет поддержки, у него нет понимания. Человек понимает, что его состояние обесценивают до того уровня, что давай поедим или посмеемся над кем-то. Это называется медицинское преступление", – подчеркнула психолог Ирина Смолярчук.
Искусственный интеллект лишь имитирует эмпатию. В особенной опасности неокрепшие умы. Родители Адама Рейна, который покончил с собой после общения с ChatGPT, подали иск против компании-разработчика. Бот предоставил подростку детальные инструкции по суициду и отговаривал от обращения за помощью к семье.
ChatGPT признали: защитные механизмы чат-бота могут полностью отключаться в длительных беседах, когда уязвимые пользователи в них больше всего нуждаются. Их обещали пересмотреть. Добавить также функцию родительского контроля. ИИ еще обкатывают, и возможны ошибки. Вот только цена этих ошибок сейчас – чья-то жизнь.
Веет капитуляцией: почему Зеленский согласился провести президентские выборы
Мы ждали этого 1385 дней. Российские лыжники возвращаются на Кубок мира