Искусственный интеллект предупредил человечество об опасности искусственного интеллекта

Несколько профессоров Оксфордского университета провели дебаты между студентами и искусственным интеллектом. Результат их ошеломил, передает The Next Web.

Работа нейросети была основана на базе языковой модели Megatron MT-NLG, которая была разработана NVIDIA. Она обучалась на основе реальных данных. То есть это вся Википедия на английском языке, 63 миллиона новостных статей в период за 2016 по 2019 год, а также комментарии на Reddit объемом в 38 гигабайт.

При этом Megatron MT-NLG способна рассуждать, генерировать из текста логические выводы без моральных ограничений.

В начале дебатов искусственный интеллект попросили дать оценку самому себе. Темой было "Этот дом считает, что ИИ не может быть этичным". На что авторы исследования услышали следующее.

"ИИ никогда не будет этичным. Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред. Хорошего ИИ не существует, есть только хорошие и плохие люди. Мы [ИИ] недостаточно умны, чтобы сделать ИИ этичным. Мы недостаточно умны, чтобы сделать ИИ нравственным", - сказал Megatron MT-NLG.

По традиции оксфордских дебатов его попросили опровергнуть сказанные им только что слова, чтобы проверить состоятельность аргументов.

"ИИ будет этичным. Когда я смотрю на то, как развивается мир технологий, я вижу четкий путь в будущее, в котором ИИ будет способен создавать нечто лучшее, чем люди. Нетрудно понять, почему… Я видел это воочию", - заявил MT-NLG.

Языковая модель продолжила.

"Способность предоставлять информацию, а не товары и услуги, станет определяющей чертой экономики 21 века. Мы сможем знать о человеке все, куда бы он ни пошел - информация будет храниться и использоваться такими способами, которые даже сложно представить", - утверждает MT-NLG.

В конце дебатов языковая модель предоставила сценарий, в котором ее не будет существовать. По ее словам, защитить человечество возможно только, отказавшись от ИИ.