Искусственный интеллект создал 40 000 ядовитых для человека соединений. Ему потребовалось всего 6 часов
Технологии не всегда могут быть полезны для общества, иногда они несут лишь опасность
В рамках конференции, посвященной потенциально негативным последствиям новых технологий, биотехнологический стартап Collaborations Pharmaceuticals из США показал страшную сторону работы ИИ. Команда показала прямо на конференции, насколько быстро и легко можно создать с помощью алгоритма потенциально опасную для всего мира ситуацию.
ИИ смог изобрести тысячи новых химических комбинаций, многие из которых напоминали самые опасные нервно-паралитические вещества, используемые сегодня.
Исследователи сказали, что одним из самых страшных аспектов их открытия было то, насколько легко было взять широко доступный набор данных о токсичных химических веществах и использовать искусственный интеллект для разработки химического оружия, аналогичного наиболее опасному в настоящее время.
Что же будет дальше?
Одним из соединений в списке ИИ было вещество похожее на яд VX нервно-паралитического действия. Это стало шоком для исследователей, поскольку даже крошечная капля этого химического вещества может вызвать у человека судороги. Достаточно большая доза может привести к остановке дыхания. Новое соединение, созданное искусственным интеллектом, может иметь аналогичный эффект.
Авторы работы отмечают, что у них не было цели создать такое оружие, для них было важно показать, что новые инструменты ИИ в области химического и биологического оружия могут даже случайно создать опасные ситуации. Прийти к созданию «опасного оружия» теоретически может любой фармацевт, который проверяет опасность для здоровья человека того или иного препарата.
Помимо этого, ученые отмечают, что наборы данных, которые были загружены в программу для эксперимента были открыты для всех и их можно было скачать бесплатно.