Андрей Карпати: ИИ — другой тип интеллекта, а не «недочеловек»

Бывший директор по ИИ в Tesla Андрей Карпати предлагает рассматривать большие языковые модели (БЯМ) не как «недоделанных людей», а как иной тип мышления. По его мнению, они развиваются не по пути создания цифрового человека, а в принципиально иной среде. Людей формировала борьба за выживание на протяжении миллионов лет, тогда как современные модели совершенствуются на основе датасетов, метрик и положительных отзывов.

Карпати пытается объяснить, почему ИИ может решать сложные задачи, рассуждать о квантовой физике, дрейфе континентов и даже анализировать Вселенную, но иногда с трудом справляется с простыми задачами, такими как подсчёт букв в слове. Однако это свойство присуще не только ИИ — гении тоже могут быть гениальны в одной области, но не всегда приспособлены к повседневной жизни.

Причина, по мнению Карпати, заключается в разном темпе мышления и сопутствующих чертах. Гении могут быть психопатичными, невротичными, сверхчувствительными, раздражительными, обидчивыми, капризными и с частыми перепадами настроения. У них практически отсутствует способность к адаптации.

Что касается ИИ, то Карпати опирается на эволюционную метафору. Для животных ошибка в острых задачах может стоить жизни и генов. Для LLM провал в аналогичном тесте почти ничего не значит — нейросеть не «умирает», её просто немного корректируют создатели, и появляются новые версии.

Далее Карпати выделяет три уровня отличий. Во-первых, это разные носители: малопонятный биологический мозг с нейронами и ныне «трансформеры» на графических процессорах. Во-вторых, разные механизмы обучения: человек формируется на основе генетики, развития тела и опыта, а ИИ обучается на текстах, другой информации и донастраивается по обратной связи.

В-третьих, различается режим существования: у человека есть непрерывная биография, тогда как знания модели «замораживаются» после обучения. ИИ, словно духи, «призываются» в ответ на запрос, обрабатывают его и исчезают до следующего вызова.

Главным отличием Карпати называет цель оптимизации. Биологический разум формировала естественная эволюция, где ошибка напрямую влияла на выживание особи и племени. Нейросети формируются в другой среде: данные, функции потерь, проверки безопасности, оценка разметчиков, продуктовые метрики, «лайки» и «дизлайки» пользователей. Ошибка здесь означает ухудшение качества сервиса, падение рейтингов или блокировку, но не смерть.

И гении, и ИИ живут в «своём выдуманном мире». В результате и возникает асимметрия интеллекта: иногда они демонстрируют феноменальные способности, но также имеют «пробелы в знаниях», особенно когда задача кажется неважной и малоинтересной.

Однако, по мнению Карпати, ИИ и люди — почти инопланетяне друг для друга. Пользователи, которые научатся относиться к БЯМ как к иным «информационным существам» с уважением и может с любовью НО В МЕРУ, смогут лучше понимать их поведение и достигать больших совместных результатов.

То есть «спать» с роботами не нужно, всё равно что спать с пришельцем(тем более эти «прищельцы» создан тобой — какой-то постэскапизм), а вот провести совместную научную работу, где ИИ будет анализатором, а человек — творцом, почему бы и нет

Источник: vk.com

Источник: ai-news.ru