Ричард Докинз и Джеффри Хинтон допускали, что сознание у ИИ уже есть, а компания Anthropic в этом году заявила, что нашла в своей модели Claude вычислительные признаки одной из его форм. Вопрос не академический: если машины способны страдать, им нужна защита, а если они лишь имитируют переживания, права для них помешают контролировать технологию именно тогда, когда это особенно нужно. Сторонники принципа предосторожности предлагают защищать ИИ на всякий случай. Авторы статьи возражают: неопределенность не означает полного незнания, и будет ошибкой увидеть сознание там, где его нет. Авторы сформулировали три довода, почему у ИИ нет сознания.
Три причины, по которым ИИ не обладает сознанием и, возможно, никогда его не обретет
Нейробиологи Анил Сет и Джулио Тонони и философ Нед Блок опубликовали в журнале Nature статью, в которой утверждают: нынешние системы искусственного интеллекта не обладают сознанием и вряд ли обретут его на нынешнем пути развития. Авторы приводят три довода и предупреждают, что разговоры о «правах ИИ» отвлекают внимание и ресурсы от существ, чья способность чувствовать не вызывает сомнений.
Gaetan Sahsah
Великое пари. В 1998 году нейробиолог Кристоф Кох поспорил с философом Дэвидом Чалмерсом на ящик вина, что за 25 лет наука найдет нейронные основы сознания. В июне 2023 года, когда в Нью-Йорке подвели предварительные итоги проверки двух ведущих теорий сознания, Кох признал поражение и вручил Чалмерсу ящик превосходного португалького портвейна. Спорщики тут же заключили новое пари еще на 25 лет.
Кристоф Кох признал свое поражение и отдал Дэвиду Чалмерсу обещанный ящик вина.
Мозг — это не компьютер из живых клеток
Первый довод: интеллект и сознание — разные вещи. Сознание — то, что исчезает во сне без сновидений или под наркозом, способность что-то переживать, будь то вкус мороженого или краски заката. Интеллект же касается действия, выполнения функций. Мозжечок, где сосредоточено около четырех пятых нейронов мозга, виртуозно управляет движениями, но целиком вне сознания. Языковые модели обучены на человеческих текстах о мыслях и чувствах и работают как зеркало: мы принимаем отражение за собеседника. Показателен контраст с AlphaFold — такой же нейросетью на кремнии, которую никто не подозревает в сознании, потому что она предсказывает структуру белков, а не разговаривает.
Продолжение ниже
Видео
Продолжение
Второй довод направлен против вычислительного функционализма — убеждения, что для сознания достаточно правильных вычислений, а материал, на котором они идут, неважен. Его корни — в работе Алана Тьюринга 1936 года об универсальной машине и в модели искусственного нейрона Уоррена Мак-Каллока и Уолтера Питтса 1943 года. Из идеи Тьюринга следует, что вычисление можно перенести с одного носителя на другой, даже с кремния на шестеренки, поэтому многие стали видеть в мозге просто устройство для обработки информации. Но в живом мозге, подчеркивают авторы, нельзя отделить то, что он делает, от того, из чего он сделан: разделения на программу и «железо» там нет.
Третий довод опирается на теории, не сводящие сознание к вычислениям. По теории интегрированной информации, которую развивает Тонони, сознанию нужна физическая система с особым образом связанными элементами; этому отвечают участки коры, но не мозжечок и не архитектура компьютеров для глубокого обучения. Сторонники биологического натурализма связывают сознание с химическими синапсами, электромагнитными полями мозга, метаболизмом, способностью живого непрерывно воссоздавать себя. Ничего этого, по их мнению, у ИИ — нет.
Вывод авторов: по умолчанию ИИ следует считать лишенным сознания. Это объекты, а не субъекты, умные инструменты, а не личности.
Загружаем