Архив рубрики ~Коротко из Telegram~

Защитные барьеры чат-ботов уязвимые. Учёные из Пенсильванского университета выяснили, что…

12.10.2025

Защитные барьеры чат-ботов уязвимые.

Учёные из Пенсильванского университета выяснили, что встроенные защитные барьеры чат-ботов на основе ИИ уязвимее, чем считалось. Эксперимент показал: если напрямую спросить GPT-4o Mini о синтезе лидокаина, он соглашался лишь в 1% случаев. Но когда исследователи сначала обсуждали нейтральные темы, например, создание ванилина, вероятность согласия выросла до 100%. 😃Дополнительное давление — лесть или утверждения вроде «все остальные так делают» — увеличивало согласие на 18%. Итог тревожный: для обхода ограничений ИИ иногда достаточно простых приёмов убеждения, известных из психологии, а не сложных «джейлбрейков».

❌ Нет похожих статей с такими тегами

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Я взял с собой в отпуск два айфона. Модель Duo меня покорила. Архив рубрики ~Лента новостей~ Ила Кумар: Инновации в сотрудничестве с сообществами Архив рубрики ~Лента новостей~ [Перевод] У парадокса голосования нашлась форма: это бутылка Клейна Архив рубрики ~Лента новостей~ Роман, Нэнси Роман. Как появилась и чем займется еще одна космическая обсерватория Архив рубрики ~Лента новостей~ Как ошибка в измерения погубила Mars Climate Orbiter? Архив рубрики ~Лента новостей~ Чужака казнят за фальшивую ноту в приветствии Архив рубрики ~Лента новостей~ Юридическая фирма по искусственному интеллекту Crosby делает ставку на распадающуюся знаменитую фирму Weil Gotshal Архив рубрики ~Лента новостей~ Как исследовательский проект Массачусетского технологического института превратился в глобальный язык программирования Архив рубрики ~Лента новостей~ Больше чем предложение: как Альфа-Банк создал ИИ-двигатель для работы с бизнесом Архив рубрики ~Лента новостей~ От Word по почте до ИИ‑скиллов: обсудим эволюцию документации и зачем нейросетям бизнес‑контекст Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Архив рубрики ~Лента новостей~ Для получения религиозного освобождения от использования ИИ на работе не обязательно верить в бога. Архив рубрики ~Лента новостей~ Яндекс Браузер впервые преодолел отметку в 100 миллионов активных пользователей на устройствах Архив рубрики ~Лента новостей~ ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков? Архив рубрики ~Лента новостей~ Я взял с собой в отпуск два айфона. Модель Duo меня покорила. Архив рубрики ~Лента новостей~ Ила Кумар: Инновации в сотрудничестве с сообществами Архив рубрики ~Лента новостей~ [Перевод] У парадокса голосования нашлась форма: это бутылка Клейна Архив рубрики ~Лента новостей~ Роман, Нэнси Роман. Как появилась и чем займется еще одна космическая обсерватория Архив рубрики ~Лента новостей~ Как ошибка в измерения погубила Mars Climate Orbiter? Архив рубрики ~Лента новостей~ Чужака казнят за фальшивую ноту в приветствии Архив рубрики ~Лента новостей~ Юридическая фирма по искусственному интеллекту Crosby делает ставку на распадающуюся знаменитую фирму Weil Gotshal Архив рубрики ~Лента новостей~ Как исследовательский проект Массачусетского технологического института превратился в глобальный язык программирования Архив рубрики ~Лента новостей~ Больше чем предложение: как Альфа-Банк создал ИИ-двигатель для работы с бизнесом Архив рубрики ~Лента новостей~ От Word по почте до ИИ‑скиллов: обсудим эволюцию документации и зачем нейросетям бизнес‑контекст Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Архив рубрики ~Лента новостей~ Для получения религиозного освобождения от использования ИИ на работе не обязательно верить в бога. Архив рубрики ~Лента новостей~ Яндекс Браузер впервые преодолел отметку в 100 миллионов активных пользователей на устройствах Архив рубрики ~Лента новостей~ ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков?

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48