Генеральный директор Hugging Face призывает к «радикальной прозрачности» после «беспрецедентного» взлома OpenAI.

Вкратце

Опубликовано:

• Энтони Ха

Генеральный директор Hugging Face призывает к «радикальной прозрачности» после «беспрецедентного» взлома OpenAI.

После того, как компания OpenAI недавно признала, что одна из её моделей взломала системы платформы искусственного интеллекта Hugging Face, генеральный директор Hugging Face Клем Деланге опубликовал в X сообщение о том, что он летит в Сан-Франциско, чтобы «немного пообщаться с этим „агентом-изгоем“».

Затем, в последующем сообщении в субботу, Деланг изложил, чего он просил у OpenAI. Он заявил, что призывает к «радикальной прозрачности», попросив OpenAI «опубликовать следы действий „несанкционированных“ агентов, чтобы все исследовательское сообщество могло изучить произошедшее».

Он также хочет «расширения возможностей для специалистов по киберзащите», призывая OpenAI выделить 100 миллионов долларов на вычислительные мощности, «чтобы помочь сообществу Hugging Face создать мощную киберзащиту с использованием лучших открытых и закрытых моделей».

Деланг добавил: «Первая кибератака с использованием автономных агентов — беспрецедентное событие. Она заслуживает беспрецедентного ответа!»

Несмотря на автономный характер атаки, эксперты по кибербезопасности предположили, что виной тому также могла быть человеческая ошибка, а именно, очевидная неспособность OpenAI должным образом настроить полностью изолированную среду тестирования.

Источник: techcrunch.com