«ИИ-Чернобыль неизбежен»: ученые обсуждают огромный потенциал и риски умных алгоритмов

Этот год был плодотворным для Google DeepMind и Королевского Научного общества (Великобритания), которые на этой неделе организовали форум «ИИ для науки» в Лондоне. В прошлом месяце Google DeepMind получил Нобелевскую премию по химии на следующий день после того, как ИИ получил аналогичную награду по физике.

Работа с искусственным интеллектом ведется в течение многих лет. По словам Демиса Хассабиса, главного исполнительного директора Google DeepMind, нас ждет невероятная новая эра открытий, «золотой век» науки, если человечество избрало правильную стратегию исследований ИИ.

Однако мечта о светлом будущем остается хрупкой. Искусственный интеллект — это не волшебная палочка. Чтобы совершить прорыв, исследователи должны выявить резонные проблемы, собрать точные данные, разработать соответствующие алгоритмы и правильно их применять.

Что, если ИИ вызовет негативную реакцию, усугубит неравенство, вызовет финансовый кризис, приведет к катастрофической утечке данных, поставит экосистемы на грань исчезновения из-за чрезмерных энергетических потребностей? Что, если он попадет не в те руки и приведет в действие биологическое оружие, созданное с помощью ИИ?

Сиддхартха Мукерджи, исследователь рака из Колумбийского университета в Нью-Йорке и автор книги «Император всех болезней», удостоенной Пулитцеровской премии, подозревает, что разобраться в этой проблеме будет непросто. «Я думаю, что почти неизбежно, по крайней мере при моей жизни, произойдет какая-то версия ИИ-Чернобыля», — сказал он, имея в виду ядерную аварию, вызванную человеческой ошибкой в 1986 году.

Многие исследователи ИИ настроены оптимистично. В Найроби (Кения) медсестры проводят испытания ультразвукового сканирования беременных женщин с помощью искусственного интеллекта, что позволяет избежать многолетнего обучения. Лондонская компания Materiom использует искусственный интеллект для производства материалов на 100% биологической основе, обходя нефтехимию. Искусственный интеллект преобразовал медицинскую визуализацию, климатические модели и прогнозы погоды, а также изучает способы получения плазмы для ядерного синтеза. На горизонте появляется виртуальная клетка — элемент жизни не из углерода, а из кремния.

Хассабис и его коллега Джон Джампер получили Нобелевскую премию за программу AlphaFold, которая предсказывает структуры и взаимодействия белков. Она используется в биомедицинской науке, в частности для разработки лекарств. Теперь исследователи из Isomorphic, дочернего подразделения Google DeepMind, совершенствуют алгоритм и объединяют его с другими, чтобы ускорить разработку лекарств. Предполагается, что в самом ближайшем будущем мы научимся сокращать время разработки лекарства с лет и десятилетий до месяцев или даже недель, и это произведет революцию в процессе разработки лекарств.

Швейцарская фармацевтическая компания Novartis пошла еще дальше. Помимо разработки новых лекарств, искусственный интеллект ускоряет привлечение к клиническим испытаниям, сокращая процесс, который может занять годы, до нескольких месяцев. Фиона Маршалл, президент компании по биомедицинским исследованиям, сказала, что еще один инструмент помогает с запросами регулирующих органов. ИИ может выяснить, задавались ли подобные вопросы государственной комиссии раньше, а затем предсказать, какой ответ будет наилучшим, который, вероятно, обеспечит положительное заключение на ваш препарат.

Дженнифер Дудна, получившая Нобелевскую премию за инструмент для редактирования генов Crispr (иммунной памяти клеток), заявила, что искусственный интеллект сыграет большую роль в повышении доступности методов лечения любых инфекций. Регулирующие органы одобрили первое вмешательство в Crispr в прошлом году, но при цене в 2 млн долларов (1,6 млн фунтов стерлингов) на каждого пациента результаты не принесут пользы. Тогда Дудна, основательница Инновационного института геномики в Беркли, Калифорния, заявила, что ее дальнейшая работа в лаборатории будет направлена на создание коровы, не выделяющей метан. Метод редактирования микробов в кишечнике животного поможет сократить выделение парниковых газов.

На данный момент огромной проблемой для исследователей является проблема «черного ящика»: ИИ может принимать решения, но не способен объяснять их, что затрудняет доверие. Но, по словам Хассабиса, это может измениться с помощью аналога сканирования мозга для ИИ. Прогнозируется, что проблема «черных ящиков» будет решена в ближайшие пять лет.

Климатический кризис может стать еще одним ограничением для ИИ. В то время как Google публикует достижения в области прогнозирования наводнений, лесных пожаров и засух, основанные на ИИ, как и многие крупные технологические компании, она использует больше энергии, чем многие другие страны. Сегодняшние крупные модели являются основной причиной этого. Для обучения одной крупной языковой модели, такой как OpenAI ChatGPT, может потребоваться 10 ГВт·ч электроэнергии, что достаточно для питания 1000 домов в средней полосе России в течение года.

Однако ученые выражают надежду на то, что преимущества этих систем намного перевесят потребление энергии. Так, искусственный интеллект поможет создавать новые батареи, сверхпроводники комнатной температуры и, возможно, даже ядерный синтез. Есть положительные стороны и в спросе Google на энергию. Компания стремится к «зеленой» энергетике, поэтому данная необходимость должна стимулировать инвестиции в возобновляемые источники энергии и снижать затраты.

По итогам конференции остались и те, кого убедить так и не удалось. Асмерет Асефау Берхе, бывший директор научного отдела Министерства энергетики США, сказала, что достижения в области искусственного интеллекта могут привести к страданиям, добавив, что ничто так не беспокоит людей, как спрос на энергию. Она призвала к достижению амбициозных целей в области устойчивого развития. На повестке дня остался вопрос о том, достаточно ли только инвестировать в возобновляемые источники энергии, чтобы ускорить отказ от ископаемого топлива. Так или иначе, любой технологический прорыв, в особенности в сфере ИИ, должен привести к глобальным изменениям не только во внешнем мире, но и в мышлении каждого отдельного человека.