Сознание обычно описывают как осознание мира и самого себя, но на уровне науки это все еще одна из самых спорных тем.
Эксперты: ИИ становится «экзистенциальным риском» для людей
Ученые все чаще говорят о «экзистенциальном риске» в неожиданном месте — в науке о сознании. Пока ИИ и нейротехнологии ускоряются, человечество до сих пор не умеет надежно отличать «есть переживание» от «мы так думаем».
Unsplash
В обзоре от 1 февраля 2026 года в журнале Frontiers in Science ученые предупреждают: прогресс в ИИ, нейроинтерфейсах и лабораторных «мини-мозгах» может опередить наше понимание того, что такое сознание и как его распознавать. Эта разница в темпах грозит этическими ошибками.
От медицины до разработки технологий, которые потенциально способны создать сознание «случайно».
Ученые спешат определить сознание и опасаются ИИ
- Мы умеем связывать субъективный опыт с активностью мозга и отдельными структурами, однако не согласны в главном: какие системы действительно необходимы и как именно из биологии «вспыхивает» переживание.
Авторы нового обзора считают, что следующая практическая цель — научные тесты на наличие сознания.
Если появятся доказательные методы, ими можно будет проверять признаки осознанности у пациентов после тяжелых повреждений мозга, при деменции, под анестезией — и точнее решать вопросы лечения и ухода.
- Ученые отмечают, что подходы, вдохновленные интегрированной информационной теорией и теорией глобального рабочего пространства, уже фиксировали признаки осознанности у части людей с диагнозом «синдром безответного бодрствования». Но тот же инструмент неизбежно выйдет за пределы клиники.
- Он заставит по-новому обсуждать границы чувствительности у животных, вопрос о том, когда возникает осознанность у плода, и что делать с «brain organoids» — мозгоподобными структурами, выращенными в лаборатории.
- А если когда-нибудь тест начнет уверенно указывать на сознание у машин, общество столкнется с темами прав, ответственности и допустимых экспериментов.
Правовой статус сознания
Новые данные о роли бессознательных процессов могут расшатать привычные юридические конструкции вроде mens rea («виновный ум», необходимый для установления умысла).
- И даже если «сознательный ИИ» на обычных компьютерах невозможен, ИИ, который убедительно имитирует сознание, уже создает моральные и социальные ловушки.
От манипуляций до ошибок в обращении с системами, которые выглядят «живыми».
Ведущий автор профессор Аксель Клиридманс (Université Libre de Bruxelles) прямо связывает тему с рисками уровня цивилизации: если мы научимся создавать сознание — даже непреднамеренно, — цена ошибки окажется слишком высокой.
Поэтому команда призывает к согласованным исследованиям и «adversarial collaborations», когда конкурирующие теории проверяют друг друга в совместно спроектированных экспериментах.