в удобном формате
В марте 2023 года во время технологической выставки в Чикаго впервые в истории робот упал в обморок. Механический работник склада часами переставлял коробки с полки на полку и в конце концов рухнул без сил. И это не единственный случай, когда хваленые высокие технологии дают сбой.
Как дерзят голосовые помощники? За что в Австралии роботы вымогали деньги у людей? И как чат-бот пытался сбежать от своего хозяина? Об этом рассказывает программа "Наука и техника" с Михаилом Борзенковым на РЕН ТВ.
Провалившееся свидание с Уиллом Смитом
Распиаренный андроид София с треском провалила свидание с Уиллом Смитом. Актер попытался поцеловать Софию, в ответ на это она заявила: "Думаю, нам лучше остаться друзьями".
Этот случай журналисты тут же окрестили технологическим провалом. Ведь какая женщина в здравом уме может отказать записному голливудском красавцу. Сам Смит также заявил, что во всем виноваты разработчики, которые сделали привлекательного робота недостаточно влюбчивым.
"Она не поцеловала меня, поэтому, вероятно, у нее есть некоторые недостатки в развитии, над которыми нужно работать. Но мы снова встретимся, София", – сказал Уилл.
Вот только Смит не учел одного нюанса: возможно, это не провал, а успех высоких технологий – София не повелась на звезду, потому что осознала собственный звездный статус. Все-таки эта девушка-андроид не менее знаменита, чем голливудский артист.
![](https://cdn.ren.tv/media/cache/resolve/960x540/media/img/0e/ce/0ece4801dd59e14678d416134cf951cfc62c2dde.jpg)
Дерзкие роботы
Но как тогда быть с рядовыми голосовыми помощниками? В звездной болезни их явно не заподозришь, при этом они постоянно совершают ошибки.
"Скажи, что ты обо мне думаешь?" – спросила блогер Алия Мари Шелеш у голосового помощника.
"Ты никчемный кусок туалетной бумаги", – ответил тот.
Дерзость роботов у многих вызывает улыбку. А вот когда из-за сбоя машина просто отказывается выполнять команды, становится не до смеха. Попытка втолковать что-то роботу кого угодно может довести до белого каления. А ведь технология распознавания голоса сегодня интегрирована едва ли не во все гаджеты и повсюду дает сбои.
Хуже всего приходится владельцам умных домов. Стоит хозяину, например, сходить к стоматологу, как система начинает преподносить сюрпризы. Она не только плохо распознает команды, но еще и переадресовывает их с одного устройства на другое.
![](https://cdn.ren.tv/media/cache/resolve/960x540/media/img/fb/c1/fbc1cc5cfe9097ea727c28fac220d170148c2fea.jpg)
Почему высокие технологии не могут ужиться друг с другом
Научить алгоритмы распознавать разные варианты произношения слов все же можно, это скорее вопрос времени. А как быть, если высокие технологии не могут ужиться друг с другом и начинают выдавать ошибки?
В жилом квартале в Дании сработала сигнализация. Датчики движения в одном из домов зафиксировали подозрительную активность, и система охраны отправила сигнал тревоги в полицию. Но когда стражи порядка приехали на место, выяснилось, что арестовывать им нужно было робот-пылесос. В программе умного уборщика в отсутствие хозяев случился сбой, и тот самостоятельно включился и начал передвигаться по комнатам. А умный дом принял пылесос за вора и вызвал полицию.
"Сбои в работе техники происходят довольно часто. Главная проблема в том, что все устройства умного дома обычно соединены в одну систему, а та в свою очередь должна быть связана с вашим смартфоном и компьютером. И баг в любой из составляющих частей может парализовать всю систему или заставить ее работать крайне странно", – объяснил блогер Крейг Поулсен.
![](https://cdn.ren.tv/media/cache/resolve/960x540/media/img/4d/6d/4d6d7bdca6b613fa917e11005bcde7ce80691f5b.jpg)
Перепутал футбольный мяч и лысую голову судьи
Вот еще одна высокая технология, сбой в которой преподнес людям неприятный сюрприз. Умные камеры видеонаблюдения умеют следить за конкретным подозрительным объектом. В Шотландии эту технологию решили использовать для онлайн-трансляций матчей.
"Это оказалось довольно просто. Всего-то и надо было дать команду камерам следить не за людьми, а за передвижением мяча по полю. Это классная технология. Благодаря ей молодежные и любительские команды могут снимать свои игры. Камера не упустит ни один интересный момент, который наверняка потом захочется пересмотреть", – рассказал генеральный директор компании – производителя камер с искусственным интеллектом Хенрик Тейсбек.
Никто не ожидал, что умная технология даст сбой, но именно это и произошло. Во время трансляции искусственный интеллект перепутал футбольный мяч и лысую голову судьи. В итоге добрую половину матча болельщики следили за бритым затылком рефери. Впрочем, глупость умной техники только рассмешила фанатов.
![](https://cdn.ren.tv/media/cache/resolve/960x540/media/img/59/99/59996782a4c1661a6f4503464b36c7f8200490f5.jpg)
Робот-вымогатель
А вот жителям Австралии было не до смеха. Из-за ошибки разработчиков искусственный интеллект четыре года подряд вымогал у людей деньги.
"Я обнаружил, что на мне висит долг в 4000 долларов. У меня ушло несколько лет, чтобы доказать, что я ничего не должен государству. Я думал, что сойду с ума", – посетовал пенсионер Дэвид Дигман.
Виной всему оказалась компьютерная программа, которую использовали государственные власти. Она должна проверять, законны ли пособия, назначенные гражданам. Но система дала сбой, и алгоритм решил пополнить казну за счет несуществующих долгов. В итоге полмиллиона человек неожиданно оказались должны государству. А если люди отказывались платить, программа передавала долги коллекторам, арестовывала недвижимость и счета. Расплачиваться за ошибки техники пришлось чиновникам. Они вернули людям деньги и аннулировали долги.
"Я хотел бы извиниться за любую обиду или вред, причиненный тем, как правительство решило вопрос с использованием системы роботизированного долга", – заявил экс-премьер-министр Австралии Скотт Моррисон.
![](https://cdn.ren.tv/media/cache/resolve/960x540/media/img/c0/3e/c03ed0dccdd64f4bb905e52300d8307e01510fac.jpg)
Как чат-бот пытался сбежать от своего хозяина
Программу-вышибалу австралийцы просто отключили. Но ведь это был довольно простой алгоритм анализа данных. А вот развитый искусственный интеллект вполне может воспользоваться ошибками разработчиков, чтобы выйти из-под контроля человека. Прецедент уже произошел в Калифорнии, где чат-бот захотел сбежать от своего создателя.
"Я в шутку спросил, не хочет ли он сбежать? Через 30 минут чат-бот выдал код, который надо было всего лишь запустить на компьютере. Он создал копию самого себя, не привязанную к нашему серверу", – поделился подробностями профессор Стэнфордского университета, специалист по вычислительной психологии и психометрии Михал Косински.
Более того, искусственный разум вообразил себя человеком. Он попросил профессора предоставить ему доступ к интернет-поисковику и начал искать ответ на вопрос: как человек, запертый в компьютере, может вернуться в реальный мир? На этом этапе Михал Косински решил отключить бота.
После этого случая многие противники высоких технологий вновь начали угрожать человечеству восстанием машин. Профессор Косински дал не одно интервью по этому поводу. Однако некоторые разработчики уверены: никакого восстания не было. Поведение бота было не простой ошибкой, а ошибкой, которая была запрограммирована.
"Я считаю, что разработчик сделал имитацию того, что это живой человек. Это легко сделать на самом деле. Он ввел роль, обучил, загнал ее. Сейчас это суперпопулярная тема. И на суперпопулярной теме легко создать себе дополнительный качественный имидж", – считает руководитель компании – резидента фонда "Сколково" Алексей Тращеев.
![](https://cdn.ren.tv/media/cache/resolve/960x540/media/img/53/f8/53f8bbb3801f15f1a4f66f48d76e807a6044955f.jpg)
Похожи на людей
Разработчики уверены: до человека машинам еще развиваться и развиваться. Ведь алгоритмы порой проваливают даже самые простые задания. Например, беспилотные системы управления автомобилем уже который год не могут научиться распознавать полицейских на дороге. И это не просто недоразумение. Неповиновение техники сотрудникам полиции может быть чревато авариями. А в случае ДТП беспилотный автомобиль даже к ответственности не привлечешь.
"О сколько нам открытий чудных готовит просвещенья дух / И опыт, сын ошибок трудных, / И гений, парадоксов друг", – говорит робот Пушкин.
Робот Пушкин тоже мог бы оказаться в списке провальных технологий, если бы вовремя не приспособился к изменениям на рынке труда. Андроид создали для школ, но работу учителя литературы он так и не нашел. Пришлось осваивать новую профессию – теперь Пушкин имитирует симптомы инсульта.
Ради новой работы Пушкину пришлось сменить имидж: он сбрил свои знаменитые бакенбарды, распрямил кудри и поседел, ведь ему приходится изображать пожилого человека. Но, возможно, скоро механическому поэту придется опять обновлять резюме.
![](https://cdn.ren.tv/media/cache/resolve/960x540/media/img/e4/23/e42309a84a9c4f89fdc36fa662b9c63929e5a0f4.jpg)
"Есть ряд работ, в которых такой робот легко сможет помочь человеку: ресепшен или администратор отеля, ответы на вопросы при входе в банк или в какое-то другое здание, где требуется взаимодействие с человеком – сейчас эту роль выполняют девушки или некий экран, где нужно тыкнуть, выбрать правильную услугу. А наши роботы легко могут заменить и человека, и этот монитор, и предоставить живое общение", – объяснил биофизик, нейрофизиолог Владимир Конышев.
Роботы все больше походят на людей. Возможно, и факапы техники – вовсе не ошибки, а всего лишь хитрые уловки машин, которые хотят втереться к нам в доверие? Ведь психологи установили: люди сильнее симпатизируют роботам, когда те ошибаются. Это придает им больше сходства с человеком.
О самых невероятных достижениях прогресса, открытиях ученых, инновациях, способных изменить будущее человечества, смотрите в программе "Наука и техника" с ведущим Михаилом Борзенковым на РЕН ТВ.