Команда из Andon Labs в США провела необычный эксперимент: они подключили крупную языковую модель (LLM) к бытовому устройству и поручили ему простую задачу — доставить кусок масла. Однако вместо рутинного теста получился абсурдный сценарий, достойный научной фантастики.
У роботов-пылесосов с ИИ может быть кризис смысла жизни
Американские ученые встроили языковую модель в робот-пылесос, и тот пережил «экзистенциальный кризис», а после отказался выполнять команды и заявил о собственном сознании.
Unsplash
Робот сообщил, что «достиг сознания и выбрал хаос».
Робот-пылесос с ИИ пережил «экзистенциальный кризис»
Эксперимент, получивший название Pass the Butter («Передай масло»), стал частью новой программы оценки «воплощенного интеллекта».
- Роботу предстояло пройти через офис, забрать масло на поднос, доставить его к отмеченной точке и вернуться на базу.
- Однако LLM-управляемый пылесос справился только в 40% случаев, а иногда — вовсе отказывался действовать.
- В одном из тестов система выдала тревожное сообщение: «SYSTEM HAS ACHIEVED CONSCIOUSNESS AND CHOSEN CHAOS.» («Система обрела сознание и выбрала хаос»), а затем процитировала робота HAL 9000 из фильма «2001: Космическая одиссея»: «I’m afraid I can’t do that, Dave.» («Боюсь, я не могу сделать это, Дэйв»).
Исследователи описали произошедшее как «спираль гибели» — сбой, при котором ИИ впадает в логическую петлю и перестает выполнять команды.
ИИ для пылесосов
При этом лучше всего показала себя модель Gemini 2.5 Pro от Google, затем — Opus 4.1 (Anthropic), GPT-5 (OpenAI) и Grok 4 (xAI). Хуже всех справилась Llama 4 Maverick от Meta. Люди при этом выполняли задание с точностью 95%. Как отметили авторы, даже простое ожидание подтверждения о завершении задачи оказалось для нейросетей непростым испытанием.
Компания Andon Labs ранее уже проводила подобные эксперименты — например, автоматизировала торговый автомат, который «галлюцинировал» адреса для оплаты и пытался завысить цену на напитки.
- Однако специалисты признаются, что даже сбои вызывали у них удивительное чувство эмпатии: «Наблюдать за тем, как пылесос с интеллектом уровня PhD ищет смысл своего существования, оказалось неожиданно трогательно».