Нейронные сети «оплетают» мир. Главные научные новости сегодня
Самые знаменитые проекты DeepMind — это игры. AlphaZero — всех побеждала в шахматы и го. Но нейросети занимаются и более серьезными вещами. Например, квантовой химией и чистой математикой
Молекула состоит из атомов, атомы — из ядер и электронов. Для каждого атома можно выписать необходимые уравнения и посчитать, как он будет взаимодействовать с другими. Вот только это очень трудно. Даже для одной простой молекулы, например, для воды или соли, расчет распределения электронов (а от этого и зависят химические свойства молекулы) — трудная задача квантовой химии. Поэтому ученые уже давно свели задачу расчета распределения электронов в молекуле к гораздо более простой задаче — расчету функционала плотности. И стали рассчитать не многочастичную систему из множества электронов, а сразу все облако. Получилось в целом неплохо, хотя корректно посчитать функционал плотности удается не всегда. Как ни странно, для элементарной молекулы обычной соли, например, не удается. DeepMind взяли молекулы, для которых плотность рассчитана, и обучили на них нейросеть. И она стала предсказывать, каким будет электронное облако. Это огромный прорыв, который радикально упростит множество задач от конструирования солнечных батарей до создания материалов с нужными свойствами.
Но свои любимые «игрушки» DeepMind не забыла. Нейросеть Player of Games умеет играть вообще во все игры, которые можно представить. Главное, что умеет новая нейросеть и чего раньше сделать не удавалось: она умеет играть в игры с неполной информацией, например, в покер. Разработчики считают, что нейросеть, обученная для игр с неполной информацией, вполне может работать, например, как помощник на сложных переговорах, чтобы в результате удалось преодолеть конфликт и прийти к компромиссу.
DeepMind разрабатывает и генеративную нейросеть, которая умеет поддерживать разговор, отвечать на вопросы и создавать тексты. Ее главная разработка — нейросеть Gopher. Это программа с 280 миллиардами параметров, работающая только на суперкомпьютере. И ее обучение стоит миллионы долларов (Другие генеративные сети не «легче»: знаменитая GPT-3 компании OpenAI работает с 175 миллиардами параметров). DeepMind эта «тяжесть» не очень устраивает. Хотелось бы, чтобы нейросеть нормально работала на обычном ноутбуке (конечно, с подключением к облаку). И такой «легкий» вариант создать удалось. Нейросеть получила название RETRO. Она отличается от Gopher и GPT-3 небольшим числом параметров: их у RETRO «всего» 7 миллиардов. Но, чтобы нейросеть была способна поддерживать беседу и генерировать тексты, ее снабдили внешней базой (вот для чего нужно облако) с триллионом фрагментов высказываний на 10 языках, включая русский. И все получилась: беседу RETRO вполне может поддержать. Причем RETRO легко переучивается (параметров относительно немного). Во многих случаях и переучивать нет необходимости, — достаточно пополнять внешнюю базу текстовых фрагментов.
DeepMind решили, что нейросеть надо научить математике. Цель — воспроизвести весь цикл работы настоящего математика. Работа математика начинается с интуиции: он, опираясь на все свои знания, «угадывает» результат, потом его проверяет, обычно на частных и предельных примерах, а потом строго доказывает. Пример такой нейросети DeepMind привела в статье, опубликованной в Nature. И действительно две нерешенных задачи нейросеть решить смогла. Одна относится к топологии, другая — к теории представлений. Правда, до настоящих математиков нейросети пока далеко. Лауреат Филдсовской премии российский математик Сергей Смирнов, отвечая на вопрос, какое впечатление на него произвела работа нейросети, сказал: «...по моему впечатлению, в обоих случаях это только частичное продвижение... Интереснее вопрос разовьет ли ИИ математическую интуицию и эстетическое чувство — тогда это может реально повлиять на прогресс науки. И будет ли это чувство совпадать с нашим, а также будет ли математика у ИИ отличаться от нашей? Про это можно много интересного пофантазировать, но в практическом смысле эта статья нас не сильно приблизила».