Эмерджентность в нейронах головного мозга и в нейронных сетях искусственного интеллекта. Нейробиолог Константин Анохин

17 апреля 2024 на конференции Data Fusion свой доклад представил Константин Владимирович Анохин, директор Института перспективных исследований мозга МГУ имени М. В. Ломоносова, академик РАН. Тема выступления: «Эмерджентность в нейронных сетях искусственного и естественного интеллекта». Эмердженция – это возникновение высокопорядковых явлений из низкопорядковых. Классический пример – появление разума и сознания в ходе усложнения нервной системы. Неясность сегодня в том, не станет ли происходить нечто подобное и в усложняющихся искусственных нейронных сетях. В докладе разобрано, какие ответы на этот вопрос дает теория нейронных гиперсетей, описывающая алгоритмы происхождения высших функций в головном мозге. Доклад. Эмерджентность в нейронных сетях искусственного и естественного интеллекта (Константин Владимирович Анохин, директор Института перспективных исследований мозга МГУ имени М. В. Ломоносова, академик РАН) Программа на сайте конференции ТАЙМИНГ: 01:53 Введение в эмерджентность • Обсуждение термина “эмерджентность“ и его связи с искусственным интеллектом и нейронными сетями. • Упоминание о работах Ильи Суцкевера и его команды, которые обнаружили новые свойства в больших языковых моделях. 16:23 Примеры эмерджентности в искусственных нейронных сетях • Обсуждение работы Google и DeepMind, которые обнаружили эмерджентные свойства в больших языковых моделях. • Упоминание о работе Ильи Суцкевера и его команды, которые обнаружили способность искусственных нейронов детектировать негативное или позитивное отношение в тексте. 20:30 Эмерджентные свойства нейронов • В искусственных нейронных сетях возникают специализированные нейроны с когнитивной специализацией, которые могут быть управляемы. • В мозге животных также обнаруживаются специализированные нейроны, которые могут быть врожденными или приобретенными в результате индивидуального опыта. 31:09 Нейроны, распознающие пространство и время • В больших языковых моделях возникают нейроны, распознающие места и время, даже если они не были обучены на эти свойства. 33:53 Теория нейронных гиперсетей • Теория объясняет, как возникают эмерджентные свойства в нервной системе, включая когнитивные свойства, знания, понимание и субъективный опыт. • Теория предполагает, что мозг постоянно генерирует новые варианты функциональных систем для достижения результатов в условиях неожиданности. 37:48 Нейронные сети и их развитие • Мозг представляет собой дерево из функциональных систем, которые генерируют новые варианты решений и могут автономизироваться. • Нейроны приобретают свойства, общие для разных функциональных систем, что позволяет им становиться нейронами красного, лица, цвета, форм и т.д. 42:51 Искусственные нейронные сети и их эволюция • Искусственные нейронные сети могут приобретать функциональные системы и ветвистое дерево систем, что может привести к возникновению у них субъектности и сознания. • Вопрос о том, куда идет эволюция искусственных нейронных сетей, остается открыт.