Нейробиологи показали, как из живых нейронов и астроцитов построить искусственную нейросеть
Трансформеры были придуманы как ускоритель работы искусственной нейросети. И никто не думал, что у них есть аналог в мозге. Оказывается есть, но это не сети нейронов, а сети нейронов и астроцитов.
Около шести лет назад ученые открыли новый тип мощной модели нейронной сети, известной как трансформер. Эти модели могут достигать высокой производительности, например, генерировать текст по подсказкам с точностью, близкой к человеческой. Трансформер лежит в основе таких систем искусственного интеллекта, как ChatGPT и Bard. Несмотря на высокую эффективность, трансформеры загадочны: в отличие от других моделей нейронных сетей, вдохновленных мозгом, было неясно, как построить их на основе биологических компонентов.
Теперь исследователи из Массачусетского технологического института, Лаборатории искусственного интеллекта MIT-IBM Watson и Гарвардской медицинской школы выдвинули гипотезу, которая может объяснить, как можно построить трансформер, используя биологические элементы мозга. Они предполагают, что биологическая сеть, состоящая из нейронов и других клеток мозга — астроцитов, может выполнять те же основные вычисления, что и трансформер.
Астроциты — это отличаются от нейронов, но постоянно работают с ними и играют роль во многих физиологических процессах, например, в регуляции кровотока. Однако ученые до сих пор не имеют четкого представления о том, какую роль играют эти клетки в вычислительных процессах, выполняемых мозгом.
Нейроны и астроциты
В новой работе исследователи изучили работу астроцитов в мозге при выполнении вычислений и создали математическую модель, которая показывает, как астроциты вместе с нейронами могут создать биологически правдоподобный трансформера.
Гипотеза может послужить толчком для будущих исследований в области нейронаук, посвященных изучению работы человеческого мозга. В то же время она может помочь исследователям машинного обучения объяснить, почему трансформеры так успешно справляются с разнообразными сложными задачами.
«Мозг намного превосходит даже самые лучшие искусственные нейронные сети, которые мы разработали, но мы не знаем, как именно работает мозг. В нашей работе мы исследуем связи между биологическим устройством мозга и сетями искусственного интеллекта. Это нейронаука для ИИ и ИИ для нейронауки», — говорит Дмитрий Кротов, старший автор работы.