Архив рубрики ~Лента новостей~

Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды

Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды

NOVOSTI

В марте я проверял, можно ли уговорить AI-ассистентов выдать что-то похожее на системный промпт. Ответы выглядели убедительно: внутренние правила, технические “дампы”, отчёты, почти готовые кейсы для bug bounty. Но ответы команд безопасности приземлили эксперимент: часть результатов оказалась галлюцинациями, часть — обходами ограничений, а не подтверждёнными уязвимостями.

Читать разбор

Источник: habr.com

Похожие записи

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Коротко из Telegram~ Это продолжение материала про AlphaEvolve, и здесь — конкретика по… Архив рубрики ~Коротко из Telegram~ Домашний Wi-Fi научили видеть людей сквозь стены Система определяет, где… Архив рубрики ~Коротко из Telegram~ ИИ заставляет людей ошибаться втрое чаще, но при этом быть… Новости робототехники Сила мысли, ловкость рук Роботы наконец научились читать мысли: BrainCo… Новости робототехники Заходит как-то робот в автосалон… Звучит как начало анекдота, но… Архив рубрики ~Коротко из Telegram~ Оказывается! у истории со взломом hugging face двойное дно, для… Архив рубрики ~Коротко из Telegram~ Забираем ИИ-агентов для любых задач в одном репозитории — нашли… Архив рубрики ~Коротко из Telegram~ Прокачиваем промпты для Claude Code за пару секунд — нашли… Архив рубрики ~Коротко из Telegram~ С 20 июля можно оформить предзаказ на две модели AORUS… Новости робототехники Британская компания Humanoid получила финансирование в размере $152 млн в рамках серии А Новости робототехники Робо-костюм Тони Старка теперь реальность: инженеры создали одежду, которая сама… Архив рубрики ~Обо всем~ Неожиданное соседство. Что бактерии делают в мозге Новости робототехники Компания Generative Bionics представила робота-гуманоида с тактильным восприятием всего тела Новости робототехники Экзоскелет и роботизированная рука снижают нагрузку на руки при подъеме грузов на заводе до 65%. Архив рубрики ~Коротко из Telegram~ Это продолжение материала про AlphaEvolve, и здесь — конкретика по… Архив рубрики ~Коротко из Telegram~ Домашний Wi-Fi научили видеть людей сквозь стены Система определяет, где… Архив рубрики ~Коротко из Telegram~ ИИ заставляет людей ошибаться втрое чаще, но при этом быть… Новости робототехники Сила мысли, ловкость рук Роботы наконец научились читать мысли: BrainCo… Новости робототехники Заходит как-то робот в автосалон… Звучит как начало анекдота, но… Архив рубрики ~Коротко из Telegram~ Оказывается! у истории со взломом hugging face двойное дно, для… Архив рубрики ~Коротко из Telegram~ Забираем ИИ-агентов для любых задач в одном репозитории — нашли… Архив рубрики ~Коротко из Telegram~ Прокачиваем промпты для Claude Code за пару секунд — нашли… Архив рубрики ~Коротко из Telegram~ С 20 июля можно оформить предзаказ на две модели AORUS… Новости робототехники Британская компания Humanoid получила финансирование в размере $152 млн в рамках серии А Новости робототехники Робо-костюм Тони Старка теперь реальность: инженеры создали одежду, которая сама… Архив рубрики ~Обо всем~ Неожиданное соседство. Что бактерии делают в мозге Новости робототехники Компания Generative Bionics представила робота-гуманоида с тактильным восприятием всего тела Новости робототехники Экзоскелет и роботизированная рука снижают нагрузку на руки при подъеме грузов на заводе до 65%.
Reddit в SEO 2025: как выигрывать на новом поле битвы
Архив рубрики ~Лента новостей~

Reddit в SEO 2025: как выигрывать на новом поле битвы

10.10.2025
Теперь вы можете сдавать анализы на тестостерон с помощью палочки, телефона и слюны.
Архив рубрики ~Лента новостей~

Теперь вы можете сдавать анализы на тестостерон с помощью палочки, телефона и слюны.

06.01.2026
Вода и диета с лекарствами снизили вероятность повторного образования камней в почках. Это показал систематический обзор исследований
Архив рубрики ~Лента новостей~

Вода и диета с лекарствами снизили вероятность повторного образования камней в почках. Это показал систематический обзор исследований

31.03.2026

Оставить комментарий