Архив рубрики ~Коротко из Telegram~

Помните историю, когда OpenAI во время тестирования смог выбраться из…

25.08.2026

File 1328

Помните историю, когда OpenAI во время тестирования смог выбраться из тестовой среды и атаковать Hugging Face? После этого похожие инциденты были и у Anthropic с Claude.

🇺🇸 На этом фоне в США появился законопроект AI Kill Switch Act. Его авторы предлагают обязать разработчиков наиболее мощных ИИ-систем заранее иметь механизм, который позволит быстро приостановить или полностью остановить работу модели, если она начнёт действовать опасным или непредсказуемым образом ⛔️

💬 Звучит разумно, правда? Но именно здесь возникает довольно неприятный вопрос. Если модель уже научилась находить способы обходить ограничения, почему мы уверены, что однажды она не найдёт способ обойти и механизм остановки?

Пока это всего лишь законопроект, но будем наблюдать, к чему это все приведет 🙂

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ [Перевод] Учёные обнаружили загадочную молекулу на Плутоне и спутнике Сатурна Титане: «Мы не можем сказать, что это такое» Архив рубрики ~Лента новостей~ Смерть средневекового шотландца связали с выстрелом из требушета. На это указало огромное количество переломов Архив рубрики ~Лента новостей~ Политика Трампа в области космических перевозок предусматривает строительство нового космодрома на федеральных землях. Архив рубрики ~Лента новостей~ Создайте стильный и недорогой Хэллоуин с помощью этих 10 потрясающих и выгодных предложений по декору на Хэллоуин. Архив рубрики ~Лента новостей~ AI-агент написал код: как понять, что он не сломал проект Архив рубрики ~Полезное~ Keybr.com — УМНЫЙ ТРЕНАЖЁР СЛЕПОЙ ПЕЧАТИ, КОТОРЫЙ ПОДСТРАИВАЕТСЯ ПОД ВАС… Архив рубрики ~Полезное~ Агент превратит ЛЮБОЙ сайт в рабочий API — мы нашли… Архив рубрики ~Лента новостей~ Apple представляет свой «самый мощный чип в истории» в процессорах M5 Ultra и M6. Архив рубрики ~Полезное~ Collaborator — опенсорс инструмент, который создает единый центр управления агентами…. Архив рубрики ~Лента новостей~ В России протестировали корпоративную точку доступа Wi-Fi 7 Архив рубрики ~Лента новостей~ Нейросети подешевели на четверть за месяц. Счёт за внедрение при этом не изменился Архив рубрики ~Обо всем~ [Перевод] Из-за ИИ я обленился. Или уже давно стал лентяем, а теперь это стало невозможно скрывать? Архив рубрики ~Обо всем~ Сказка о Физике и темных понтекорвониумах Архив рубрики ~Обо всем~ Благодаря тиктоку зоологи нашли новый вид рыб в водяных колонках на границе Индии и Непала. Он обитает в подземных водах Архив рубрики ~Лента новостей~ [Перевод] Учёные обнаружили загадочную молекулу на Плутоне и спутнике Сатурна Титане: «Мы не можем сказать, что это такое» Архив рубрики ~Лента новостей~ Смерть средневекового шотландца связали с выстрелом из требушета. На это указало огромное количество переломов Архив рубрики ~Лента новостей~ Политика Трампа в области космических перевозок предусматривает строительство нового космодрома на федеральных землях. Архив рубрики ~Лента новостей~ Создайте стильный и недорогой Хэллоуин с помощью этих 10 потрясающих и выгодных предложений по декору на Хэллоуин. Архив рубрики ~Лента новостей~ AI-агент написал код: как понять, что он не сломал проект Архив рубрики ~Полезное~ Keybr.com — УМНЫЙ ТРЕНАЖЁР СЛЕПОЙ ПЕЧАТИ, КОТОРЫЙ ПОДСТРАИВАЕТСЯ ПОД ВАС… Архив рубрики ~Полезное~ Агент превратит ЛЮБОЙ сайт в рабочий API — мы нашли… Архив рубрики ~Лента новостей~ Apple представляет свой «самый мощный чип в истории» в процессорах M5 Ultra и M6. Архив рубрики ~Полезное~ Collaborator — опенсорс инструмент, который создает единый центр управления агентами…. Архив рубрики ~Лента новостей~ В России протестировали корпоративную точку доступа Wi-Fi 7 Архив рубрики ~Лента новостей~ Нейросети подешевели на четверть за месяц. Счёт за внедрение при этом не изменился Архив рубрики ~Обо всем~ [Перевод] Из-за ИИ я обленился. Или уже давно стал лентяем, а теперь это стало невозможно скрывать? Архив рубрики ~Обо всем~ Сказка о Физике и темных понтекорвониумах Архив рубрики ~Обо всем~ Благодаря тиктоку зоологи нашли новый вид рыб в водяных колонках на границе Индии и Непала. Он обитает в подземных водах

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 44