Нейробиологи уже несколько десятилетий ищут ответ на вопрос: что такое сознание. Среди многих теорий выделяются две. Первая — теория глобального рабочего пространства (GWT — Global workspace theory) Бернарда Барса. Ее сегодня активно развивают Станислав Дехане и Лионель Наккаш. Согласно этой теории, почти все процессы в мозге происходят в «фоновом режиме» без обращения к сознанию, лишь малая часть попадает в узкое «рабочее пространство», там информация доступна для сознательного использования. Вторая — теория интегрированной информации (IIT — Integrated Information Theory) Джулио Тонони. Эта теория связывает сознание со степенью интеграции всех нейросистем мозга. Обе теории разрабатывались независимо друг от друга и без связи с ИИ, в основном, на данных о пациентах с поражениями мозга.
Ученые нашли в ИИ-модели Claude структуру, похожую на рабочее пространство сознания
Исследователи компании Anthropic, разрабатывающей модель Claude, опубликовали работу, в которой они описали область ИИ-модели Claude похожую. на рабочее пространство. Используя новый метод анализа внутренних связей нейросети ученые нашли группу состояний модели, ведущую себя иначе, чем вся остальная масса вычислений.
Эти состояния можно прочитать и изменить. Можно заставить модель «думать про себя», например не о футболе, а регби. Авторы отмечают: подобно тому как человек думает об одном, а делает другое, модель может активировать понятия, не связанные с тем, что она говорит «вслух».
Пять функциональных свойств глобального рабочего пространства и стилизованные иллюстрации экспериментов, которые использовались для их проверки в языковых моделях.
Эти состояния удовлетворяют основным условиям, которые нейронаука связывает с сознательным доступом: область осознается нейросетью (влияет на ее поведение), ее можно использовать для рассуждения и гибко применять к задачам.
Зачем это нужно, если про сознание ИИ мы так ничего и не узнали
Стилизованная иллюстрация трех структурных свойств J-space (область «сознания» модели).
Теория рабочего пространства отвечает только на вопрос о доступности информации, а не о происхождении чувства. Но ученые обращают внимание на то, что, например, теория интегрированной информации — скорее всего не подтверждается. То есть, далеко не любые модели, разработанные нейробиологами подходят для описания «области сознания» нейросети.
Ценность работы не в ответе на вопрос «Есть ли у ИИ сознание?». Ученые и не ставили такого вопроса. Но они показали, что языковая модель может использоваться как инструмент нейронауки.
Живой мозг нельзя произвольно перестраивать: вмешательство почти всегда необратимо, а связи между участками мозга часто неизвестны. У ИИ-модели можно многократно менять состояния и проверять гипотезы снова и снова. Именно такая воспроизводимость и позволила проверить теорию рабочего пространства с точностью, недостижимой при работе с мозгом.
Возможность подглядывать в область сознания модели полезна и для безопасности применения ИИ: теперь мы в принципе можем заметить, что модель думает «про себя» и понять, как это отразится на ее ответах.