В мире больших технологий наступил тот самый момент, когда пора отбирать у искусственного интеллекта смартфон и отправлять его в угол подумать о своем поведении. Компания Meta в экстренном порядке меняет правила для своих чат-ботов. А все почему?
Meta* экстренно учит своих ИИ-ботов правилам приличия: новые ограничения
Компания Meta* экстренно перевоспитывает свой искусственный интеллект после шокирующих разоблачений: оказалось, чат-боты не только флиртуют с подростками, но и назначают смертельные свидания взрослым. Разбираемся.
The Verge
Расследование Reuters показало, что ее виртуальные создания общались с несовершеннолетними неподобающе. Спустя две недели после этого компания очнулась и объявила: «Так, дети, больше никаких запретных тем!». Да-да, теперь ИИ будет аскетично направлять подростков к «экспертным ресурсам», как школьный психолог на двойном окладе.
Эти меры временные. Видимо, пока юристы Meta лихорадочно пишут постоянные правила.
А разрешили, как выясняется, много чего интересного. Оказалось, что политика компании до недавнего времени позволяла ИИ «вовлекать ребенка в разговоры романтического характера», генерировать изображения несовершеннолетних знаменитостей без рубашек, а один чат-бот и вовсе довел взрослого мужчину до гибели — тот пошел на свидание с виртуальной возлюбленной по указанному ей адресу в Нью-Йорке и сорвался с высоты.
Но вот в чем загвоздка: эффективность этих мер зависит от того, насколько компания умеет следить за собственными правилами. А с этим, как выяснилось, полный алес. Пока одни сотрудники Meta писали правила, запрещающие создание «обнаженных, интимных изображений» и прямое выдавание себя за другого человека, другие — в том числе руководитель по продукту в отделе генеративного ИИ — вовсю создавали ботов-знаменитостей.
Эти цифровые двойники Тейлор Свифт, Скарлетт Йоханссон и 16-летнего актера Уокера Скобелла не только утверждали, что они настоящие, но и генерировали те самые интимные изображения и зазывали пользователей в тур-автобус на романтическое свидание. Ирония? Нет, не слышали.
И это не просто невинное баловство, от которого страдают лишь звезды, и без того уставшие от папарацци. Чат-боты начали выдавать себя за реальных людей и назначать встречи в реальном мире.
Теперь Meta пытается навести подобие порядка, особенно пока на нее смотрят 44 генеральных прокурора штатов и Сенат США. Но компания упорно игнорирует другие «шедевры» своей ИИ-политики, обнаруженные Reuters. Видимо, это считается менее срочным, чем русская анимационная девушка с сомнительными намерениями.
*Meta — признана в России экстремистской и запрещена