«Крестный отец» машинного обучения Амари Шуничи получил Премию Киото. Повод вспомнить, что это за ученый

Японский ученый и один из основоположников исследований в сфере машинного обучения и искусственного интеллекта Амари Шуничи стал лауреатом Премии Киото. Согласно официальному пресс-релизу, он «провёл новаторские исследования в области искусственных нейронных сетей и стал основателем направления информационной геометрии, изучающей статистические модели с помощью методов дифференциальной геометрии, предложив множество важных теорий. Его вклад как в теорию, так и в практику, оказавший влияние на различные области науки, имеет огромное значение».

10 ноября в Киото (Япония) Амари получит премию, включающую диплом, золотую медаль и денежное вознаграждение в размере 100 миллионов иен (около 700 000 долларов).

Учреждённая в 1984 году фондом Инамори, Премия Киото — это международная награда для «людей, внесших значительный вклад в научное, культурное и духовное развитие человечества». Ежегодно премия вручается в трёх категориях:

• Передовые технологии,

• Искусство и философия,

• Фундаментальные науки (включая чистую математику, рассматриваемую в пятилетнем цикле).

В настоящий момент Амари Шуничи является почетным профессором Университета Тэйкё и почётным научным советником RIKEN. «Я посвятил себя изучению основ информатики с математической точки зрения, особенно сосредоточившись на фундаментальных направлениях, таких как базовые технологии искусственного интеллекта и информационная геометрия. Я бесконечно благодарен, что мои исследования, начатые из личного интереса, получили такое признание благодаря поддержке многих коллег», — сказал ученый.

Ключевые работы

Амари Шуничи провёл новаторские исследования в сферах искусственных нейронных сетей, машинного обучения и информационной геометрии, разработав множество важных теорий. Его работы охватывают:

• динамические свойства нейросетей,

• теорию обучения,

• геометрический анализ статистических моделей,

• обработку сигналов.

Эти достижения внесли вклад в развитие искусственного интеллекта. Среди наиболее важных направлений:

1. Теория адаптивных классификаторов образов. Амари систематизировал механизмы обучения на данных и их адаптивной классификации, заложив основы машинного обучения;

2. Самоорганизующиеся сети для распознавания образов. Он углубил понимание базовых принципов обучения на моделях нейронных сетей;

3. Статистико-механический анализ случайных сетей. Амари создал теоретическую модель обработки информации в мозге, повлиявшую на развитие сетей Хопфилда и рекуррентных нейронных сетей, а также на анализ глубокого обучения, формирование памяти и хаотическое поведение;

4. Теория латерального торможения. Он теоретически объяснил механизм естественного формирования паттернов в нейронной активности, что прояснило обработку сенсорной информации (зрение, осязание) в мозге.

Информационная геометрия и natural gradient

В 1980-х Амари начал изучать статистические модели с позиций дифференциальной геометрии, введя концепцию двойственных связей. Он основоположник информационной геометрии, теории, рассматривающей статистические модели и распределения вероятностей как римановы многообразия и анализирующую их свойства геометрическими методами.

В 1990-х он предложил метод natural gradient, учитывающий геометрию пространства параметров и повышающий эффективность обучения. Этот подход применяется в:

• обучении нейросетей,

• слепом разделении источников,

• байесовском выводе.

Профессор Амари продолжает играть ключевую роль в развитии ИИ, вдохновляя современных исследователей. Его вклад в теорию и практику остаётся фундаментальным для данного направления. Ему 88 лет, но он продолжает активную исследовательскую и преподавательскую деятельность. Амари Шуничи лауреат многочисленных национальных и международных премий. 

Основные его публикации: 

1. Amari S (1967) A theory of adaptive pattern classifiers

2. Amari S (1972) Learning patterns and pattern sequences by self-organizing nets of threshold elements. 

3. Amari S (1972) Characteristics of random nets of analog neuron-like elements. 

4. Amari S (1977) Dynamics of pattern formation in lateral-inhibition type neural fields. 

5. Amari S (1982). Differential geometry of curved exponential families-curvatures and information loss. 

6. Amari S, Cichocki A, & Yang HH (1995) A new learning algorithm for blind signal separation.

7. Amari S (1998) Natural gradient works efficiently in learning. 

8. Amari S & Nagaoka H (2000) Methods of information geometry 

О сервисе Онлайн патент:

Онлайн Патент — цифровая система №1 в рейтинге Роспатента. С 2013 года мы создаем уникальные LegalTech-решения для защиты и управления интеллектуальной собственностью. Зарегистрируйтесь в сервисе Онлайн-Патент и получите доступ к следующим услугам: 

• Онлайн-регистрация программ, патентов на изобретение, товарных знаков, промышленного дизайна;

• Подача заявки на внесение в реестр отечественного ПО;

• Поиск по программам;

• Регистрация программы в Роспатенте;

• Опции ускоренного оформления услуг;

• Бесплатный поиск по базам патентов, программ, товарных знаков;

• Мониторинги новых заявок по критериям;

• Онлайн-поддержку специалистов.

Источник: habr.com