Архив рубрики ~Коротко из Telegram~

Защитные барьеры чат-ботов уязвимые. Учёные из Пенсильванского университета выяснили, что…

12.10.2025

Защитные барьеры чат-ботов уязвимые.

Учёные из Пенсильванского университета выяснили, что встроенные защитные барьеры чат-ботов на основе ИИ уязвимее, чем считалось. Эксперимент показал: если напрямую спросить GPT-4o Mini о синтезе лидокаина, он соглашался лишь в 1% случаев. Но когда исследователи сначала обсуждали нейтральные темы, например, создание ванилина, вероятность согласия выросла до 100%. 😃Дополнительное давление — лесть или утверждения вроде «все остальные так делают» — увеличивало согласие на 18%. Итог тревожный: для обхода ограничений ИИ иногда достаточно простых приёмов убеждения, известных из психологии, а не сложных «джейлбрейков».

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Спасут ли теперь шапочки из фольги от Старлинка Илона Маска?? Архив рубрики ~Лента новостей~ Опыт построения ИИ-продукта в соло-режиме Архив рубрики ~Полезное~ Передовая платформа для создания видео с искусственным интеллектом Magic HourAI Архив рубрики ~Лента новостей~ Компания Anthropic закрывает Fable и модели Mythos по указанию администрации Трампа. Архив рубрики ~Обо всем~ Ученые уточнили времена существования древних культур Придонья: Гуманитарные науки Архив рубрики ~Лента новостей~ Компания Fox приобретет Roku за 22 миллиарда долларов. Архив рубрики ~Лента новостей~ Операционная система Wear OS 7 от Google намекает на будущее, в котором очки и носимые устройства будут работать в гармонии. Архив рубрики ~Обо всем~ AMD объяснила приличную задержку выхода FSR 4.1 для видеокарт на RDNA 2 Архив рубрики ~Лента новостей~ Прекратите писать циклы в Pandas: 7 более быстрых альтернатив. Архив рубрики ~Обо всем~ Индия ввела временный запрет на использование Telegram из-за опасений по поводу мошенничества на экзаменах. Новости робототехники Вену захватили роботы Архив рубрики ~Лента новостей~ ML Red Teaming для LLM: можно ли обойтись open source-инструментами? Архив рубрики ~Лента новостей~ Объяснение принципа работы «красной команды» с использованием ИИ: что это такое и зачем она вам нужна. Архив рубрики ~Обо всем~ Не только кот: геометрия цвета по Шрёдингеру Архив рубрики ~Лента новостей~ Спасут ли теперь шапочки из фольги от Старлинка Илона Маска?? Архив рубрики ~Лента новостей~ Опыт построения ИИ-продукта в соло-режиме Архив рубрики ~Полезное~ Передовая платформа для создания видео с искусственным интеллектом Magic HourAI Архив рубрики ~Лента новостей~ Компания Anthropic закрывает Fable и модели Mythos по указанию администрации Трампа. Архив рубрики ~Обо всем~ Ученые уточнили времена существования древних культур Придонья: Гуманитарные науки Архив рубрики ~Лента новостей~ Компания Fox приобретет Roku за 22 миллиарда долларов. Архив рубрики ~Лента новостей~ Операционная система Wear OS 7 от Google намекает на будущее, в котором очки и носимые устройства будут работать в гармонии. Архив рубрики ~Обо всем~ AMD объяснила приличную задержку выхода FSR 4.1 для видеокарт на RDNA 2 Архив рубрики ~Лента новостей~ Прекратите писать циклы в Pandas: 7 более быстрых альтернатив. Архив рубрики ~Обо всем~ Индия ввела временный запрет на использование Telegram из-за опасений по поводу мошенничества на экзаменах. Новости робототехники Вену захватили роботы Архив рубрики ~Лента новостей~ ML Red Teaming для LLM: можно ли обойтись open source-инструментами? Архив рубрики ~Лента новостей~ Объяснение принципа работы «красной команды» с использованием ИИ: что это такое и зачем она вам нужна. Архив рубрики ~Обо всем~ Не только кот: геометрия цвета по Шрёдингеру