OpenAI запускает новую инициативу, призванную помочь в поиске и исправлении ошибок в открытом исходном коде.

В понедельник компания OpenAI объявила о новой инициативе, призванной помочь сообществу разработчиков открытого программного обеспечения улучшить свою кибербезопасность и предотвратить появление ошибок.

В рамках проекта «Patch the Planet» (что является недвусмысленной отсылкой к «Hack the Planet», культовой фразе из фильма «Хакеры» 1995 года) компания OpenAI объединит усилия с компанией Trail of Bits, специализирующейся на безопасности, чтобы помочь разработчикам открытого программного обеспечения обеспечить безопасность своих проектов.

В OpenAI заявили, что сотрудники службы безопасности Trail of Bits будут напрямую сотрудничать с разработчиками открытого исходного кода для проверки потенциальных проблем в коде. Для оказания помощи в этом процессе будут использоваться инструменты безопасности OpenAI, такие как Codex Security.

«Многие разработчики и так уже сталкиваются с необходимостью обрабатывать больше отчетов быстрее, при тех же ограниченных временных и ресурсных ресурсах», — заявила компания OpenAI в понедельник. «Patch the Planet создан для того, чтобы уменьшить эту нагрузку, а не увеличить ее: инженеры по безопасности проверяют результаты до того, как они попадут к разработчикам, сотрудничают с проектами для разработки патчей и тестов, а также создают многократно используемые рабочие процессы, которые помогают командам продолжать улучшать безопасность после внедрения первых исправлений».

Другими словами, инженеры Trail of Bits будут функционировать примерно как специалисты по оперативной поддержке кода — помогая сопровождающим проектов с открытым исходным кодом выявлять и устранять потенциальные проблемы, и всё это будет поддерживаться программным обеспечением OpenAI. Звучит как амбициозный проект, и пока не совсем ясно, как он будет функционировать в долгосрочной перспективе или как планируется его масштабирование (если вообще будет).

Проекты с открытым исходным кодом — это цифровая основа, на которой держится коммерческая индустрия программного обеспечения, но, к сожалению, из-за децентрализованной и плохо контролируемой структуры этой экосистемы большая часть программного обеспечения небезопасна. Ошибки в проектах с открытым исходным кодом могут превратиться в серьезные проблемы для коммерческих кодовых баз. Хорошим примером является скандал с log4j несколько лет назад, когда была обнаружена серьезная уязвимость в широко используемой утилите с открытым исходным кодом.

Большая часть опасений, связанных с такими инструментами, как Mythos (широко разрекламированный инструмент безопасности от Anthropic), по-видимому, вызвана тем фактом, что ИИ теперь может автоматически выявлять существующие ошибки в коде и создавать для них эксплойты. Хотя автоматизация киберпреступлений не является чем-то новым, эти инструменты, несомненно, потенциально могут значительно облегчить эту деятельность для злоумышленников.

OpenAI переворачивает эту формулу с ног на голову, используя ИИ, чтобы помочь сообществу открытого исходного кода лучше защитить себя. Трудно не воспринять это как конкурентный выпад в сторону Anthropic, но в то же время признать, что это то, в чем сообщество открытого исходного кода отчаянно нуждается.

Источник: techcrunch.com