17 апреля 2024 на конференции Data Fusion свой доклад представил Константин Владимирович Анохин, директор Института перспективных исследований мозга МГУ имени М. В. Ломоносова, академик РАН. Тема выступления: «Эмерджентность в нейронных сетях искусственного и естественного интеллекта». Эмердженция – это возникновение высокопорядковых явлений из низкопорядковых. Классический пример – появление разума и сознания в ходе усложнения нервной системы. Неясность сегодня в том, не станет ли происходить нечто подобное и в усложняющихся искусственных нейронных сетях. В докладе будет разобрано, какие ответы на этот вопрос дает теория нейронных гиперсетей, описывающая алгоритмы происхождения высших функций в головном мозге. Доклад. Эмерджентность в нейронных сетях искусственного и естественного интеллекта (Константин Владимирович Анохин, директор Института перспективных исследований мозга МГУ имени М. В. Ломоносова, академик РАН) Программа на сайте конференции
ТАЙМИНГ: 01:53 Введение в эмерджентность • Обсуждение термина "эмерджентность" и его связи с искусственным интеллектом и нейронными сетями. • Упоминание о работах Ильи Суцкевера и его команды, которые обнаружили новые свойства в больших языковых моделях. 16:23 Примеры эмерджентности в искусственных нейронных сетях • Обсуждение работы Google и DeepMind, которые обнаружили эмерджентные свойства в больших языковых моделях. • Упоминание о работе Ильи Суцкевера и его команды, которые обнаружили способность искусственных нейронов детектировать негативное или позитивное отношение в тексте. 20:30 Эмерджентные свойства нейронов • В искусственных нейронных сетях возникают специализированные нейроны с когнитивной специализацией, которые могут быть управляемы. • В мозге животных также обнаруживаются специализированные нейроны, которые могут быть врожденными или приобретенными в результате индивидуального опыта. 31:09 Нейроны, распознающие пространство и время • В больших языковых моделях возникают нейроны, распознающие места и время, даже если они не были обучены на эти свойства. 33:53 Теория нейронных гиперсетей • Теория объясняет, как возникают эмерджентные свойства в нервной системе, включая когнитивные свойства, знания, понимание и субъективный опыт. • Теория предполагает, что мозг постоянно генерирует новые варианты функциональных систем для достижения результатов в условиях неожиданности. 37:48 Нейронные сети и их развитие • Мозг представляет собой дерево из функциональных систем, которые генерируют новые варианты решений и могут автономизироваться. • Нейроны приобретают свойства, общие для разных функциональных систем, что позволяет им становиться нейронами красного, лица, цвета, форм и т.д. 42:51 Искусственные нейронные сети и их эволюция • Искусственные нейронные сети могут приобретать функциональные системы и ветвистое дерево систем, что может привести к возникновению у них субъектности и сознания. • Вопрос о том, куда идет эволюция искусственных нейронных сетей, остается открыт.
