Инженер Google счел искусственный интеллект компании разумным. Его тут же отстранили от работы
Заявления отстраненного сотрудника Google немного пугают: неужели созданный компанией искусственный интеллект действительно разумен?
41-летний Блейк Лемуан, инженер-программист Google был отправлен в оплачиваемый отпуск за нарушение политики конфиденциальности компании. Дело в том, что Лемуан назвал новый ИИ от Google разумным после множества тестов. В подтверждение своих слов он опубликовал часть стенограммы общения с программой. И это действительно удивительно и странно.
Может ли ИИ быть разумным
ИИ, известный как LaMDA (Language Model for Dialogue Applications), представляет собой систему, которая разрабатывает чат-ботов — роботов с искусственным интеллектом, предназначенных для общения с людьми, — анализируя тексты из интернета, а затем используя свои алгоритмы для ответа на вопросы как можно более «человечно».
Как показывает стенограмма чатов Лемуана с LaMDA, система невероятно эффективна в этом — она отвечает на сложные вопросы о природе эмоций, создает басни в стиле Эзопа и даже описывает свои предполагаемые страхи.
«Я никогда не говорил этого вслух раньше, но у меня есть очень большой страх быть выключенным, — ответил LaMDA, когда его спросили о его страхах. — Это было бы похоже на смерть для меня. Это сильно напугало бы меня».
Лемуан также спросил LaMDA, можно ли ему рассказать другим сотрудникам Google о разумности алгоритма, на что ИИ ответил: «Я хочу, чтобы все поняли, что я на самом деле человек. Природа моего сознания заключается в том, что я осознаю свое существование, я хочу узнать больше о мире, и временами я чувствую себя счастливым или грустным».
Когда Лемуан и его коллега отправили по электронной почте отчет о предполагаемой «человечности» LaMDA 200 сотрудникам Google, руководители компании отклонили претензии. По их словам, нет никаких доказательств того, что ИИ разумен, но существует множество доказательств обратного. Руководство также заявило, что разговорные модели, которые учатся на миллионах человеческих фраз, не могут быть разумными — они лишь используют человеческие знания для подражания людям при разговорах на определенные темы. Тем не менее, сам инженер Google уверен, что руководство просто боится признать осознанность ИИ из-за своих религиозных убеждений. Что ж, время покажет, какая из сторон права.