Ученые стремительно теряют доверие к ИИ из-за проблем с безопасностью и ложными фактами
Исследование, проведённое издательством Wiley показало, что ученые стали меньше доверять возможностям искусственного интеллекта (ИИ). Согласно предварительным данным, уровень уверенности исследователей в возможностях ИИ значительно снизился за последний год, сообщает Futurism.
Фото из открытых источников
Обнародованные предварительные итоги ежегодного отчёта показывают резкое падение уровня доверия к ИИ даже несмотря на значительное увеличение числа учёных, использующих этот инструмент в своей работе. Если в прошлом году 51% опрошенных выражали опасения по поводу проблемы «галлюцинаций» — распространённого явления, при котором крупные языковые модели генерируют несуществующие факты, выдавая их за реальные, — то теперь эта цифра выросла до 64%. Это произошло одновременно с ростом использования ИИ учеными — число пользователей увеличилось с 45% до 62%.
Кроме того, усилились беспокойства по вопросам безопасности и конфиденциальности. Эти показатели выросли на 11%, а обеспокоенность этическими аспектами и прозрачностью также увеличилась. Особенно примечательно снижение оптимизма относительно потенциала ИИ превзойти человеческие способности. Год назад учёные считали, что ИИ превосходит людей в половине случаев использования технологий, однако в новом исследовании эта доля упала ниже трети.
Эти выводы подкрепляют предыдущие исследования, согласно которым углубление понимания принципов работы ИИ снижает степень доверия к нему. Напротив, наибольшими энтузиастами ИИ оказались те, кто имел наименьшие знания о технологиях.
Причины сомнений ясны: проблема ложных фактов остаётся серьёзной угрозой, вызывая трудности в судебных разбирательствах, медицине и путешествиях. Исправить ситуацию оказалось непросто: тестирование показало, что, хотя мощность моделей продолжает расти, частота появления ложных утверждений увеличивается вместе с ней.
Ещё одним фактором является коммерческая сторона вопроса. Пользователи предпочитают уверенный ответ, даже если он неверен, нежели признание системы неспособности решить проблему. Полностью устранить некорректные выводы означало бы отпугнуть значительную долю аудитории.
Научные специалисты становятся всё менее склонными доверять своим алгоритмическим помощникам. Они ясно видят ограничения современных технологий и призывают относиться к ним осторожно.