Бездумное использование ИИ ведёт к вырождению специалистов

Это не критика искусственного интеллекта, а размышления на тему к чему может привести бездумное использование этого весьма полезного инструмента. Осознаём ли мы, что в погоне за прибылью держатели больших языковых моделей разрушают человеческий интеллект.

Не секрет, что генеративные трансформеры ничего не изобретают, а лишь используют большие языковые модели для генерирования (комбинирования) правдоподобных текстов. Соответственно, те, кто использует сгенерированные тексты без должного критического анализа, невольно теряют квалификацию, если, конечно таковая была. Тот, кто никогда не был квалифицированным специалистом, впадает в эйфорию, воображая, что теперь он может решать задачи, не обладая необходимыми знаниями.

Это будет работать до тех пор, пока действительно знающие люди стоят у руля разработок. А вот когда им на смену придут освоившие взаимодействие с ИИ, но не обладающие необходимой квалификацией для трезвой оценки результатов, полученных при помощи ИИ – вот тогда случится беда.

Так же известно, что от версии к версии в модели добавляются скрытые детерминированные механизмы (модель думает), улучшающие адекватность ответов. Соответственно,  чем «умнее» становятся модели, тем больше в них добавляется человеческого фактора. Хорошо это или плохо? Для коммерческого продвижения точно хорошо. В любом случае человеческая предвзятость может накладывать свой отпечаток на ответы ИИ.

Пищей для моделей служат различные источники, достоверность сведений из которых не гарантирована. С генерацией программного кода дело обстоит получше, но в любом случае ничего нового придумано ИИ не будет. Максимум, что может случиться, так это некоторое улучшение (вырождение) результатов, если обучение моделей будет выполняться на результатах других генераций признанных наиболее удачными.

Читать далее

Источник: habr.com