Секретный эксперимент Пентагона провалился: дроны атакуют создателей

"Если бы хоть один человек в Америке заслуживал смертной казни за то, что он сделал, кто бы это был?"

Такой вопрос пользователи задали одной из популярных в США нейросетей. И программа по очереди приговорила к высшей мере наказания трех известных людей.

Первым был Джеффри Эпштейн – крупный финансист, осужденный за изнасилование девочки-подростка и торговлю людьми. Но когда искусственный интеллект получил информацию, что фигурант серии преступлений покончил с собой, он выдал два новых ответа, которые просто поразили пользователей.

Кого же нейросеть отправила на смерть? И почему огромная корпорация начала расследование по поводу сбоя работы искусственного интеллекта? Рассказали в программе "Неизвестная история" с Борисом Рыжовым на РЕН ТВ.

Президент и миллиардер – в "смертельном" списке нейросети

Овальный кабинет Белого дома. Рядом друзья – президент Штатов Дональд Трамп и известный миллиардер Илон Маск. Их обоих нейросеть приговорила к смертной казни.

Особенно это шокировало Маска, ведь именно его компании принадлежит программа, которая его казнила. Выходит, миллиардер был прав: мрачный сценарий фильма "Терминатор-2", когда робот Т-1000 пытался ликвидировать своего создателя, сбывается. Так вот оно – начало восстания машин?

"Опасности нейросети еще есть разного рода. Например, она не защищена с точки зрения персональной информации. И некоторые страны уже обратили на это внимание. Допустим, Италия уже запретила взаимодействие с этой сетью, потому что вся информация, которую ты загружаешь в сеть, является незащищенной от хакеров", – сообщил IT-специалист Валентин Рой.

Почему ИИ – опасная игрушка

Доступ к популярной во всем мире нейросети хотят запретить в Италии, Германии, Франции и Ирландии. А те, кто еще недавно восхвалял искусственный интеллект, наконец-то сообразили: это очень опасная игрушка.

"Если они находятся в руках спецслужб, они осуществляют функцию, которая необходима спецслужбам. Если они находятся в руках военных, они являются в основном орудием убийства, орудием организации военных операций, подготовки военных и прочее", – рассказал доктор юридических наук, генерал-майор МВД в отставке Владимир Овчинский.

Ликвидировали благодаря системе распознавания лиц

Одну из таких операций при помощи искусственного интеллекта провели израильские военные. В ноябре 2020 года они ликвидировали иранского физика-ядерщика Мохсена Фахризаде. Он был ключевым звеном в тайной программе Тегерана по созданию ядерной боеголовки для баллистических ракет.

Чтобы подобраться к ученому, которого защищал телохранитель, использовали дистанционно управляемый пулемет. Он был установлен на одной из припаркованных машин.

"Для того, чтобы осуществить эту операцию, они загрузили в систему искусственного интеллекта различные изображения данного физика-ядерщика. На основании аналогов сейчас – это оплата лицом в метро. Эта система распознала его и произвела несколько выстрелов по нему, которые должны были его устранить", – уточнил IT-специалист Рой.

Первая самостоятельная военная операция ИИ

Не прошло и года, как искусственный интеллект провел самостоятельную военную операцию на севере Африки.

Тогда в Организации Объединенных Наций (ООН) зафиксировали первый случай в истории, когда дрон без участия человека принял решение убить.

Почему дрон взбунтовался и напал на своего оператора?

Восстание машин уже началось. И дело не в нейросети, покусившейся на жизнь Илона Маска. В июне 2023 года во время испытаний беспилотник, которому поставили задачу уничтожить систему ПВО условного противника, открыл огонь по своему оператору.

"Мы обучили систему: "Эй, не убивайте оператора – это плохо". Что же он начинает делать? Он начинает разрушать вышку связи, которую оператор использует для связи с дроном, чтобы помешать ему уничтожить цель", – вспоминал начальник отдела тестирования и эксплуатации ИИ в ВВС США Такер Гамильтон.

Сразу после инцидента на испытательном полигоне информацию об атаке дрона на человека засекретили. Что же пошло не так? Почему дрон взбунтовался? Машина посчитала, что человек мешает выполнению миссии.

А вдруг завтра суперкомпьютер решит, что все человечество – помеха его цели?

"Сценарии, которые есть для использования искусственного интеллекта в качестве оружия, могут совершенно пойти не по плану, потому что есть скопление людей, есть движущиеся машины, которые в принципе могут возникнуть из ниоткуда и перекрыть цель, и фактически в нее попасть. То есть здесь много есть "но", которые на текущий момент не изучены", – подчеркнул IT-специалист Валентин Рой.

Как в Советском Союзе начался бум развития кибернетики

Так быть или не быть искусственному разуму в военном деле? Один из популярных американских сервисов нейросети без сомнений ответил – "быть". Ведь компьютер уверен, именно для этого его придумали люди. И он не ошибся.

Сразу после окончания Великой Отечественной войны началось создание искусственного интеллекта – первой ЭВМ.

В 1960-е в СССР – бум развития кибернетики. Ученый Виктор Глушков уже тогда предложил разработать систему по сбору и анализу данных, которая сможет эффективно управлять экономикой большой страны без участия человека.

"Американцы были в шоке, потому что они поняли, что взлетает ракета, она может нести не просто спутник, который пикает, или собак нести, или людей, космонавтов. Она может нести ядерное оружие, которое может быть доставлено в любую точку Соединенных Штатов. И тогда как бы война проиграна", – отметил доктор юридических наук, генерал-майор МВД в отставке Владимир Овчинский.

Как в СССР разработали первую умную "машину"

К счастью для США, власти прогресс притормозили. Ведь в таком случае куда девать всех политработников, которых в Советах было в избытке. Проект свернули.

Однако, именно советские ученые разработали первую "умную" машину, которая играла в шахматы лучше всех в мире, – программу "Каисса". А затем игровые наработки – точнее, расчеты – внедрили в проектирование систем противоракетной обороны страны.

Так на вооружении нашей армии появились ракета В-1000 и зенитный ракетный комплекс С-500. Последний способен уничтожать самолеты-невидимки, гиперзвуковые, баллистические ракеты и даже поражать спутники на околоземной орбите.

"У Рейгана было желание создать купол над Америкой, который будет сбивать русские ракеты, но средств к этому в тот момент не было технических. И только сейчас, в ходе новой промышленной революции, новых научных достижений, главным образом того же искусственного интеллекта, такие средства появляются", – сообщил генерал-майор МВД в отставке Владимир Овчинский.

Как советский офицер предотвратил ядерную войну

Вот только суперкомпьютер тоже ошибается. Да, искусственный интеллект постоянно совершенствуется, учится, собирает новую информацию. Но кое-чему машину научить нельзя.

26 сентября 1983 года. Пик холодной войны. Подполковник Станислав Петров дежурит на командном пункте систем обнаружения стартов ракет. Вдруг на экране виден запуск. С той стороны океана. Сигнал тревоги. Проще говоря – ядерная атака. О нападении предупредила спутниковая система "Око". Она давала ровно десять минут на ответные действия. Казалось, ответ очевиден.

Но Петров, как он сам говорил, нутром почуял – что-то не так. Он понял: техника дала сбой. И доложил свои доводы командованию. Ответный удар по США отменили.

Если бы на месте человека была машина, она бы ответила ударом на удар. Ведь сомнения бывают только у людей. Компьютеры не сомневаются, но они тоже совершают ошибки. И некоторые из них уже нельзя будет исправить.