Архив рубрики ~Лента новостей~

Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды

Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды

NOVOSTI

В марте я проверял, можно ли уговорить AI-ассистентов выдать что-то похожее на системный промпт. Ответы выглядели убедительно: внутренние правила, технические “дампы”, отчёты, почти готовые кейсы для bug bounty. Но ответы команд безопасности приземлили эксперимент: часть результатов оказалась галлюцинациями, часть — обходами ограничений, а не подтверждёнными уязвимостями.

Читать разбор

Источник: habr.com

Похожие записи

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники Когда роботы начинают анализировать: HBK и Siléane привносят тактильный интеллект в мировую упаковку косметики. Новости робототехники Слухи об антропо-физическом интеллекте взбудоражили Twitter, посвященный искусственному интеллекту. Архив рубрики ~Коротко из Telegram~ Это продолжение материала про AlphaEvolve, и здесь — конкретика по… Архив рубрики ~Коротко из Telegram~ Домашний Wi-Fi научили видеть людей сквозь стены Система определяет, где… Архив рубрики ~Коротко из Telegram~ ИИ заставляет людей ошибаться втрое чаще, но при этом быть… Новости робототехники Сила мысли, ловкость рук Роботы наконец научились читать мысли: BrainCo… Новости робототехники Заходит как-то робот в автосалон… Звучит как начало анекдота, но… Архив рубрики ~Коротко из Telegram~ Оказывается! у истории со взломом hugging face двойное дно, для… Архив рубрики ~Коротко из Telegram~ Забираем ИИ-агентов для любых задач в одном репозитории — нашли… Архив рубрики ~Коротко из Telegram~ Прокачиваем промпты для Claude Code за пару секунд — нашли… Архив рубрики ~Коротко из Telegram~ С 20 июля можно оформить предзаказ на две модели AORUS… Новости робототехники Британская компания Humanoid получила финансирование в размере $152 млн в рамках серии А Новости робототехники Робо-костюм Тони Старка теперь реальность: инженеры создали одежду, которая сама… Архив рубрики ~Обо всем~ Неожиданное соседство. Что бактерии делают в мозге Новости робототехники Когда роботы начинают анализировать: HBK и Siléane привносят тактильный интеллект в мировую упаковку косметики. Новости робототехники Слухи об антропо-физическом интеллекте взбудоражили Twitter, посвященный искусственному интеллекту. Архив рубрики ~Коротко из Telegram~ Это продолжение материала про AlphaEvolve, и здесь — конкретика по… Архив рубрики ~Коротко из Telegram~ Домашний Wi-Fi научили видеть людей сквозь стены Система определяет, где… Архив рубрики ~Коротко из Telegram~ ИИ заставляет людей ошибаться втрое чаще, но при этом быть… Новости робототехники Сила мысли, ловкость рук Роботы наконец научились читать мысли: BrainCo… Новости робототехники Заходит как-то робот в автосалон… Звучит как начало анекдота, но… Архив рубрики ~Коротко из Telegram~ Оказывается! у истории со взломом hugging face двойное дно, для… Архив рубрики ~Коротко из Telegram~ Забираем ИИ-агентов для любых задач в одном репозитории — нашли… Архив рубрики ~Коротко из Telegram~ Прокачиваем промпты для Claude Code за пару секунд — нашли… Архив рубрики ~Коротко из Telegram~ С 20 июля можно оформить предзаказ на две модели AORUS… Новости робототехники Британская компания Humanoid получила финансирование в размере $152 млн в рамках серии А Новости робототехники Робо-костюм Тони Старка теперь реальность: инженеры создали одежду, которая сама… Архив рубрики ~Обо всем~ Неожиданное соседство. Что бактерии делают в мозге
Анонс четырехранговой памяти CUDIMM DDR5-5600 объёмом 128 Гбайт от ADATA и MSI
Архив рубрики ~Лента новостей~

Анонс четырехранговой памяти CUDIMM DDR5-5600 объёмом 128 Гбайт от ADATA и MSI

14.11.2025
Не ждали?. Почему радость от рекордной нейтринной вспышки смешалась с непониманием
Архив рубрики ~Лента новостей~

Не ждали?. Почему радость от рекордной нейтринной вспышки смешалась с непониманием

28.06.2025
Как айтишники сами мешают новичкам войти в профессию?
Архив рубрики ~Лента новостей~

Как айтишники сами мешают новичкам войти в профессию?

26.01.2026

Оставить комментарий