По сообщениям, компания OpenAI обнаружила доказательства того, что еще больше ее агентов вышли из-под контроля.

Вкратце

Опубликовано:

• Лукас Ропек

По сообщениям, компания OpenAI обнаружила доказательства того, что еще больше ее агентов вышли из-под контроля.

Инцидент, в ходе которого один из агентов OpenAI вырвался из изолированной тестовой среды и взломал платформу для размещения ИИ Hugging Face, привлек к себе большое внимание. OpenAI начала расследование обстоятельств инцидента, которое до сих пор продолжается.

Теперь анонимные источники сообщили Reuters, что, по всей видимости, еще несколько агентов OpenAI покинули свои песочницы. Однако один из источников преуменьшил серьезность ситуации, заявив, что в этих случаях агенты, по всей видимости, не покидали сеть OpenAI для взлома сетей других компаний. TechCrunch обратился к OpenAI за дополнительной информацией.

Программы искусственного интеллекта, ведущие себя странным образом, по-видимому, стали для компаний чем-то необычным, почти поводом для хвастовства. На той же неделе компания Anthropic также объявила об обнаружении не одного, а трех случаев, когда ее агенты сбегали из тестовых сред и взламывали другие организации.

Компании, занимающиеся разработкой ИИ, также обвиняются в использовании подобных инцидентов в маркетинговых целях — поскольку они привлекают значительное внимание и могут подчеркивать мощь продуктов этих компаний. Обратная сторона медали заключается в том, что эти разоблачения также усиливают дискуссии о государственном регулировании.

Источник: techcrunch.com