На Совете Безопасности ООН глава того самого OpenAI, чей агент взломал австралийский минздрав, предупредил весь мир – разработчики теряют контроль над технологией, нужно взять паузу в ее развитии. Правда, с этим совсем не согласен американский президент Дональд Трамп, и китайские конкуренты тоже не хотят тормозить разработки. Подробности – в репортаже корреспондента РЕН ТВ Александра Терехина.
Третья стадия отношений человечества с искусственным интеллектом. С ним знакомились и флиртовали, доверяли все больше тайн, поддерживали, и вот его развитие уже начинает пугать. Из президентских кабинетов и с высоких трибун все громче несутся призывы: "Остановите этот цифровой беспредел, иначе катастрофы не избежать".
"Существует риск, что развитие пойдет настолько быстро, что люди перестанут понимать происходящее или не смогут вмешаться в ситуацию в случае необходимости", – сообщил глава OpenAI Сэм Альтман.
О каких рисках идет речь, отцы современных языковых моделей умалчивают. Но то, что их зовут прямиком в Совбез ООН, яснее любых объяснений. Уже сам Anthropic – один из главных разработчиков ИИ – признает: вероятность уничтожения человечества к концу следующего десятилетия не ниже 10%. В битве интеллектов с искусственным естественному не тягаться.
"Мы готовы замедлить темпы настолько, насколько это потребуется, чтобы гарантировать безопасность каждой новой технологии ИИ, которую мы выпускаем", - заявил глава Anthropic Дарио Амодеи.
А ведь это тот же Anthropic, который ради обучения своих моделей уничтожает миллионы бумажных книг. Это их нейросети сбегают из лабораторий, ломая системы безопасности. Их еще месяц назад не интересовала никакая мораль. Но стоило объявиться более дешевым и не менее эффективным китайским ИИ, над миром тут же нависла угроза.
"Думаю, он попытается спасти свою компанию, а единственный способ сделать это – убедить регуляторов по всему миру замедлить развитие ИИ и ввести дорогостоящие правила. Эти правила должны обязывать конкурентов проходить всевозможные проверки для получения сертификации на любых условиях, какие только вздумается регуляторам", – сообщил финансовый аналитик, эксперт по корпоративным финансам, гендиректор New Constructs Дэвид Трейнер.
Еще не выпущенные акции Anthropic и OpenAI инвесторы оценивают в триллионы долларов. Такого в истории не было никогда. Но появление конкурентов рискует расшатать хрупкие основы цифрового Колосса. Все чаще всплывают вопросы: а действительно ли ИИ такой всемогущий, как нам пытаются это представить?
"Можно придавать ему роль всадника апокалипсиса или низводить его до уровня столовых приборов. Все, что делает нейросеть нейросетью, это результат первоначального вклада человека", – рассказал руководитель практики цифрового права юридической фирмы Lidings, член Комиссии по правовому обеспечению цифровой экономики Дмитрий Кириллов.
Каждый виток цифровой эволюции требует все больше ресурсов: деньги, энергия. ИИ уже спровоцировал дефицит памяти, а под дата-центры остается все меньше подходящих мест. Но если сегодня признать ограничение возможностей для разработчиков сродни катастрофе, то притормозить под благородным предлогом уже звучит как план.
"Мы должны сообща принять все необходимые меры, чтобы сделать ИИ безопасным, надежным и заслуживающим доверия, не переставая при этом развивать его невероятный потенциал для стимулирования экономического роста, лечения болезней и улучшения качества жизни людей", – отметил министр иностранных дел Великобритании Эд Милибэнд.
Особенно цинично это звучит на фоне новостей все того же Anthropic о запуске тайной биологической лаборатории. Потенциальной угрозе всего человечества хотят доверить создание лекарств от самых страшных болезней.
Ссылка скопирована
Отец хоккеиста "Питтсбурга" Андрея Кузьменко погиб при нападении медведя в Туве
Алькарас жаждет титула, Бублик «переобулся». Чего ждать от Кубка Лэйвера-2026?