Неужели безопасность в xAI «мертва»?

Вкратце

По словам бывшего сотрудника, рассказавшего изданию The Verge о недавних увольнениях из компании Илона Маска, занимающейся разработкой искусственного интеллекта, Илон Маск «активно» работает над тем, чтобы сделать чат-бота Grok от xAI «еще более неуравновешенным».

На этой неделе, после объявления о приобретении компанией SpaceX Маска компании xAI (которая ранее приобрела его компанию в сфере социальных сетей X), по меньшей мере 11 инженеров и два соучредителя заявили о своем уходе из компании. Некоторые сказали, что уходят, чтобы начать что-то новое, и сам Маск предположил, что это часть усилий по более эффективной организации работы xAI.

Однако, по сообщениям издания The Verge, два источника, покинувшие компанию (по крайней мере, один из них до нынешней волны), заявили, что сотрудники все больше разочаровываются в пренебрежении компанией к безопасности, что привело к всеобщему вниманию после того, как Grok был использован для создания более 1 миллиона изображений сексуального характера, включая дипфейки реальных женщин и несовершеннолетних.

Один источник заявил: «В xAI безопасность мертва», а другой сказал, что Маск «активно пытается сделать модель еще более неуправляемой, потому что безопасность для него в некотором смысле означает цензуру».

По имеющимся данным, они также жаловались на отсутствие четкого направления, причем один из них заявил, что, по его мнению, xAI «застряла на этапе догоняющего развития» по сравнению с конкурентами.

Источник: techcrunch.com