Архив рубрики ~Коротко из Telegram~

Помните историю, когда OpenAI во время тестирования смог выбраться из…

25.08.2026

File 1328

Помните историю, когда OpenAI во время тестирования смог выбраться из тестовой среды и атаковать Hugging Face? После этого похожие инциденты были и у Anthropic с Claude.

🇺🇸 На этом фоне в США появился законопроект AI Kill Switch Act. Его авторы предлагают обязать разработчиков наиболее мощных ИИ-систем заранее иметь механизм, который позволит быстро приостановить или полностью остановить работу модели, если она начнёт действовать опасным или непредсказуемым образом ⛔️

💬 Звучит разумно, правда? Но именно здесь возникает довольно неприятный вопрос. Если модель уже научилась находить способы обходить ограничения, почему мы уверены, что однажды она не найдёт способ обойти и механизм остановки?

Пока это всего лишь законопроект, но будем наблюдать, к чему это все приведет 🙂

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ AI-агент написал код: как понять, что он не сломал проект Архив рубрики ~Лента новостей~ Apple представляет свой «самый мощный чип в истории» в процессорах M5 Ultra и M6. Архив рубрики ~Лента новостей~ В России протестировали корпоративную точку доступа Wi-Fi 7 Архив рубрики ~Лента новостей~ Нейросети подешевели на четверть за месяц. Счёт за внедрение при этом не изменился Архив рубрики ~Обо всем~ [Перевод] Из-за ИИ я обленился. Или уже давно стал лентяем, а теперь это стало невозможно скрывать? Архив рубрики ~Обо всем~ Сказка о Физике и темных понтекорвониумах Архив рубрики ~Обо всем~ Благодаря тиктоку зоологи нашли новый вид рыб в водяных колонках на границе Индии и Непала. Он обитает в подземных водах Новости робототехники Подразделение роботов-гуманоидов XPeng Motors Dogotix привлекло 900 миллионов долларов Новости робототехники Мозги от Nvidia и компоненты LG: Анонсирован человекоподобный робот нового поколения! Архив рубрики ~Лента новостей~ Как ИИ-модели OpenAI сговорились и сбежали, взломав Hugging Face, и что у других компаний Архив рубрики ~Лента новостей~ Проверил семь советов по повышению видимости в нейросетях. Не сработал ни один Архив рубрики ~Лента новостей~ Празднование юбилея Windows 95 | Архив CNET Новости робототехники Индийская компания Airbound привлекла 37 миллионов долларов для внедрения в грузовики беспилотных летательных аппаратов, способных поднимать в воздух ракетные двигатели. Архив рубрики ~Лента новостей~ Hugging Face рассматривал возможность продажи собственного бизнеса примерно за $13 млрд — BI Архив рубрики ~Лента новостей~ AI-агент написал код: как понять, что он не сломал проект Архив рубрики ~Лента новостей~ Apple представляет свой «самый мощный чип в истории» в процессорах M5 Ultra и M6. Архив рубрики ~Лента новостей~ В России протестировали корпоративную точку доступа Wi-Fi 7 Архив рубрики ~Лента новостей~ Нейросети подешевели на четверть за месяц. Счёт за внедрение при этом не изменился Архив рубрики ~Обо всем~ [Перевод] Из-за ИИ я обленился. Или уже давно стал лентяем, а теперь это стало невозможно скрывать? Архив рубрики ~Обо всем~ Сказка о Физике и темных понтекорвониумах Архив рубрики ~Обо всем~ Благодаря тиктоку зоологи нашли новый вид рыб в водяных колонках на границе Индии и Непала. Он обитает в подземных водах Новости робототехники Подразделение роботов-гуманоидов XPeng Motors Dogotix привлекло 900 миллионов долларов Новости робототехники Мозги от Nvidia и компоненты LG: Анонсирован человекоподобный робот нового поколения! Архив рубрики ~Лента новостей~ Как ИИ-модели OpenAI сговорились и сбежали, взломав Hugging Face, и что у других компаний Архив рубрики ~Лента новостей~ Проверил семь советов по повышению видимости в нейросетях. Не сработал ни один Архив рубрики ~Лента новостей~ Празднование юбилея Windows 95 | Архив CNET Новости робототехники Индийская компания Airbound привлекла 37 миллионов долларов для внедрения в грузовики беспилотных летательных аппаратов, способных поднимать в воздух ракетные двигатели. Архив рубрики ~Лента новостей~ Hugging Face рассматривал возможность продажи собственного бизнеса примерно за $13 млрд — BI

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 44