Ученые предупреждают: ответы ИИ — это не продукт мыслительного процесса

Группа исследователей из Университета штата Аризона предупреждает, что не стоит воспринимать выдачу результатов от современных моделей искусственного интеллекта (ИИ) как продукт полноценного мыслительного процесса. Доклад на соответствующую тему опубликован на сайте препринтов arXiv.

Фото из открытых источников

Специалисты под руководством ученого Суббарао Камбхампати утверждают, что выдаваемый моделями ИИ текст часто воспринимается пользователями как продукт осмысленных размышлений. Тем не менее, подчеркивается, что это впечатление обманчиво: ответы представляют собой исключительно набор статистически подобранных последовательностей символов, не несущих подлинного смысла или алгоритмической глубины.

«Это похоже на культ карго, когда внешний вид имитирует нечто значительное, хотя на самом деле никакой внутренней сути нет», — поясняют авторы исследования.

Авторы называют полученные от нейросетей ответы не иначе как «поверхностными фрагментами текста». Согласно выводам экспертов, созданные людьми нейронные сети не демонстрируют никаких реальных проявлений интеллектуальных процессов. Вместо шагов настоящего мышления пользователи видят лишь результат сложных оптимизаций, производимых моделью.

Источник