Один из лидеров рынка нейросетей, компания Anthropic попала в громкий скандал. Ее масштабная программа по обучению языковой модели обернулась сожжением нескольких миллионов бумажных книг. Их сканировали таким образом, что после пришлось выкидывать. История вскрылась совершенно случайно, и теперь бросает тень на всю индустрию. О сомнительных практиках в духе романа Брэдбери в сюжете РЕН ТВ рассказал корреспондент Александр Терехин.
Происходящее напоминает сюжет, достойный антиутопии: миллионы книг разорваны и сожжены ради искусственного интеллекта.
"Критики бьют тревогу по поводу того, как компании обучают свои программы искусственного интеллекта", – сообщили на американском телевидении.
Неожиданные тайны компании Anthropic вырвались со страниц внутренних документов и утекли в сеть. При виде масштабов содеянного понятно, почему информацию так тщательно скрывали.
"Это промышленный конвейер, работа идет в больших масштабах. Им пришлось потратить миллионы долларов на покупку миллионов печатных книг. Часто это подержанные книги. Я видел видео этого процесса, это ужасно, это чем-то похоже на скотобойню, только для книг", – заявил преподаватель в области ИИ Кайл Балмер.
К книгам как источнику знаний разработчики ИИ обратились, когда нейросети проштудировали весь интернет, каждую страницу, каждый комментарий – миллиарды сайтов. Казалось бы, искусственный интеллект и так знает все, но нет.
"Языковые модели учатся на текстах, чем больше их загружено в память, тем умнее интеллект. Все как у человека. Но оригинальные тексты веб-страниц закончились за пару лет, поэтому Anthropic и пошли за знаниями к первоисточникам", – сообщил корреспондент.
История так бы и осталась тайной, если бы не жадность. Разработчики скачали семь миллионов пиратских книг, что не осталось незамеченным. Дальше – суды, иски на 1,5 миллиарда. Там и выяснилось, что цифровыми копиями дело не ограничивается, нейросетям скармливают и миллионы бумажных изданий, которые для ускорения процесса режут постранично, сканируют, а после сжигают.
"Для обучения нейронных сетей нужны хорошие тексты, тексты, написанные человеком. Тексты, сгенерированные самой нейронной сетью, самим искусственным интеллектом, конечно, тоже можно использовать для обучения нейронных сетей, но здесь возникает гораздо больше проблем, сеть может деградировать", – объяснил директор Исследовательского центра в области искусственного интеллекта ННГУ имени Н. И. Лобачевского Николай Золотых.
В документах Anthropic тайную программу назвали проект "Панама". Ее возглавил выходец из Google, который чем-то подобным уже занимался. Именно он предложил хитрый юридический маневр: если скупать тома, бывшие в употреблении, то никакие авторские отчисления не нужны, а книги – расходный материал во имя прогресса.
Законными такие варварские методы назвало и американское правосудие. В судебном заключении говорится, что это "добросовестное использование". У Anthropic даже появились помощники – компании, скупающие книги в лавках старьевщиков. Продавцы еще удивлялись, что за несколько месяцев продажи взлетели в разы, но оказалось, что они напрасно радовались.
"Очень тревожит, что после оцифровки печатные экземпляры подлежат уничтожению. Это настоящий культурный скандал. К примеру, здесь, в Виттенберге, туристы знают, что делали со старинными книгами тогда, 500 лет назад. Их сохраняли, а не оцифровывали", – признал немецкий издатель, историк Франк Шуман.
За полгода под нож пустили около двух миллионов изданий, но разработчикам и того мало. В документах фигурирует фраза "все книги мира". Непонятно, их надо скопировать или уничтожит? Такими темпами новых знаний нейросетям хватит еще на два-три года обучения, а дальше информации просто не останется.
Ссылка скопирована
Прокурор запросил для Лерчек 6 лет условно и штраф на 1,2 млрд
Российская сборная начинает водный чемпионат Европы с серебра! Отличились прыгуны в воду