Специалисты Anthropic сообщили о попытках применения ИИ для исследований вируса чикунгунья, птичьего гриппа и ортопоксвирусов. Исследователи искали мутации, способные усилить заразность патогенов или снизить эффективность иммунного ответа.
Разработчики ИИ заявили о 5 попытках взлома модели Claude для работы с вирусами и токсинами
Компания Anthropic зафиксировала 5 случаев нелегального использования модели Claude для работы с опасными вирусами и токсинами. Разработчики предупреждают о рисках создания биологического оружия, но ведущие ученые называют тревогу ложной, а действия пользователей — обычной научной практикой.
Вирус птичьего гриппа. https://www.nature.com/articles/nature10831
Международные ограничения доступа к ИИ. Многие ведущие разработчики ИИ, включая компании Anthropic (разработчик модели Claude) и OpenAI (разработчик ChatGPT), ограничивают доступ к своим продуктам из соображений национальной безопасности. Сервис Claude официально недоступен во многих странах, включая Китай и Иран. Из-за этого ученые из этих стран вынуждены использовать прокси-серверы и сторонние аккаунты, что автоматические системы безопасности ИИ часто трактуют как подозрительную или вредоносную активность.
Реконструкция вируса чикунгунья, полученная с помощью криоэлектронной микроскопии.
В компании Anthropic эти действия расценили как опасное усиление функций вирусов. Беспокойство вызвало и то, что авторы запросов обходили географические блокировки через VPN, а работы проводились в учреждениях, связанных с госсектором и военными. Часть экспертов по безопасности назвала прецеденты тревожным сигналом, указывающим на попытки создания биооружия с помощью ИИ.
Продолжение ниже
Видео
Продолжение
Насколько реальны риски
Но далеко не все ученые разделяют тевогу разработчиков ИИ-моделей. Вирусолог Кристиан Андерсен заявил, что описанные эксперименты представляют собой базовые научные изыскания, жизненно необходимые для понимания механизмов патогенов и разработки вакцин. Внесение природных мутаций в безопасные лабораторные штаммы — стандартный метод работы, который проводится в условиях высокой защиты.
Реконструкция ортопоксвирусов.
Использование VPN эксперты объясняют желанием исследователей из тех стран, где доступ к модели Claude заблокирован, получить доступ к передовым ИИ-инструментам в обход корпоративных ограничений. Подобные блокировки сами создают проблемы для нормальных ученых, теряющих доступ к анализу геномов.
Кристиан Андерсен говорит: «Это звучит пугающе, но на самом деле это просто базовые биологические исследования, которые сами по себе не только совершенно безопасны, но и очень нужны».
Загружаем