Математики объявили войну ИИ-хайпу Более 150 ведущих мировых математиков опубликовали…

Математики объявили войну ИИ-хайпу

Более 150 ведущих мировых математиков опубликовали "Лейденскую декларацию". Суть: бигтехи превращают фундаментальную науку в (сюрприз-сюрприз) маркетинговый инструмент, и это нужно остановить.

Технологические гиганты и ИИ-лабы обожают анонсировать "прорывы" через пресс-релизы и блог-посты, в обход нормального научного рецензирования.

Математики прямо говорят политикам и инвесторам: не верьте хайпу. Проблема в том, что нейросети научились генерировать очень правдоподобные, но откровенно ошибочные доказательства. Отличить машинную галлюцинацию от реальной теоремы становится всё сложнее. Система экспертного рецензирования трещит по швам.

Отдельная боль: авторские права. ИИ-модели обучаются на гигантских массивах опубликованных работ, систематически нарушая лицензии и игнорируя авторство. Декларация требует: хотите использовать наши статьи для трейнинга, спрашивайте разрешения.

Документ выдвигает жесткие требования. ИИ не может быть автором. Вся ответственность за корректность формул и доказательств лежит исключительно на человеке. Использовал нейросеть, обязан сделать дисклеймер.

Отдельный пункт: этика. Математики напоминают, что их труд используется для создания систем массовой слежки, политманипуляций и военного ИИ. Ученые призывают коллег отказываться от партнерства с компаниями, чьи ценности противоречат научной этике.

Среди подписантов нет ноунеймов. В рабочей группе ученые из Колумбийского, Кэмбриджского, Оксфордского и других университетов. Люди, которые определяют повестку в мировой математике.

По сути, математическое сообщество пытается защитить себя (и нас) от булшита бигтехов. Есть реальный риск, что повестка исследований будет определяться не глубиной задач, а тем, насколько легко их можно автоматизировать, завернуть в красивый бложик, показать на встрече с инвесторами. Уолл-стрит хеджирует риски на аренду GPU, а математики хеджируют риски самой науки.