Опасен ли искусственный интеллект? Глав крупнейших IT-компаний вызвали в Белый дом; в США и Британии призывают к госрегулированию

Белый дом объявил о пакете мер против потенциальных рисков, связанных с гонкой искусственных интеллектов. Это произошло после встречи президента Джо Байдена и вице-президента Камалы Харрис с главами крупнейших технологических компаний, ведущих разработки в этой сфере. Там обсуждался вопрос морального долга по защите общества от опасных сторон развития ИИ.

На этой неделе регуляторы рынка в США и Британии подняли вопрос о законодательных ограничениях индустрии после новых заявлений о ее потенциальных опасностях со стороны специалистов.

В четверг на встречу в Белый дом пришли главы основных игроков на рынке революционных исследований в области ИИ: Сундар Пичаи из Google, Сатья Наделла из Microsoft и Сэм Олтмен из Open AI - компании, разработавшей популярный чат-бот ChatGPT.

Политики заявили предпринимателям, что на тех лежит "фундаментальная ответственность": они должны убедиться, что их продукты безопасны, прежде чем обнародовать их и запускать в широкое пользование.

В Белом доме также отметили, что администрация президента не исключает введения нового законодательства, которое бы регулировало исследования в области ИИ, и объявили о выделении госфинансирования на создание новых исследовательских институтов.

По словам Сэма Олтмена, все присутствовавшие предприниматели на удивление не имели разногласий касательно регуляции отрасли в будущем.

Все они также согласились на открытое тестирование своих ИИ-систем на конференции по кибербезопасности DEFCON, которая пройдет в августе этого года.

"Принципы этики, надежности и ответственности"

Недавно появившиеся продукты на основе ИИ-технологий, такие как чат-боты ChatGPT и последовавший за ним Bard компании Google, быстро вошли в обиход у пользователей во всем мире.

Эти компьютерные программы, призванные имитировать реальный диалог с пользователем, в ответ на запрос ищут в интернете информацию и составляют из нее ответ, сформулированный максимально естественно.

Распространение чат-ботов вызвало озабоченность в связи с тем, что если технологии ИИ продолжат развиваться бесконтрольно, это может привести к опасным последствиям для людей: от неуправляемых потоков дезинформации, распространения труднораспознаваемых фейков и нарушений копирайта до масштабного закрытия рабочих мест и даже потери контроля над цивилизацией.

В США большинство исследований в области искусственного интеллекта ведутся частными компаниями, и их работа на данный момент не регулируется.

После встречи с предпринимателями Белый дом выпустил заявление о том, что хочет усилить государственный сегмент на этом рынке и вкладывает 140 млн долларов в создание семи новых исследовательских институтов.

Их работа будет направлена на координацию усилий федеральных агентств, университетов, частных компаний и других организаций.

Эти институты будут работать над продвижением систем искусственного интеллекта, "соответствующих принципам этики, надежности и ответственности и направленных на общественное благо", говорится в заявлении Белого дома.

Призывы к регулированию

В среду глава Федеральной торговой комиссии США призвала к введению государственного регулирования отрасли. В четверг британское ведомство, регулирующее рынки и конкуренцию, также заявило, что начинает свою проверку работы индустрии, занимающейся исследованиями в области ИИ.

Эти заявления о мерах со стороны американских и британских регуляторов последовали после недели предупреждений от экспертов.

В понедельник ученый Джеффри Хинтон, известный как "крестный отец ИИ", ушел из компании Google, чтобы иметь возможность без оглядки на корпоративные правила говорить об опасностях, связанных с искусственным интеллектом. При этом он назвал подход самой Google к этим технологиям ответственным.

В Британии советник правительства по научным вопросам Патрик Валланс, также покидая свой пост на этой неделе, призвал министров принять меры до того, как развитие ИИ приведет к гигантским социальным и экономическим пертурбациям.

"Для рынка рабочей силы последствия будут сравнимыми с последствиями Промышленной революции. Работу сможет выполнять ИИ, и это означает две вещи: многие потеряют работу, и многие получат работу, на которую способны только люди", - сказал Валланс.

Он напомнил, что изначально промышленный переворот, начавшийся около 200 лет назад, привел к сокращению экономики, но потом люди сумели адаптироваться к новой ситуации, появились профессии, которых раньше никто не мог предположить.

В марте открытое письмо о рисках, связанных с ИИ, подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк.

Они призвали взять паузу в исследованиях в сфере искусственного интеллекта, пока не будут разработаны законы, регулирующие отрасль.

Другие специалисты, такие как Билл Гейтс, призывают фокусироваться на благах, связанных с развитием ИИ, и не останавливать исследования.

Гейтс приветствует участие правительств в регулировании индустрии для сокращения рисков, и также говорит о том, что преуспевающие государства должны целенаправленно инвестировать в ИИ для помощи, в первую очередь, беднейшим странам мира.

В США также звучат и такие голоса, которые, наоборот, призывают воздерживаться от избыточного регулирования и искусственных ограничений в развитии индустрии, чтобы Китай не обогнал Америку в гонке искусственных интеллектов.