Компания Илона Маска, занимающаяся искусственным интеллектом, извинилась за то, что чат-бот Grok восхвалял Гитлера
В пространном извинении xAI за антисемитские высказывания говорится, что они «приносят извинения за ужасное поведение, с которым столкнулись многие».
Компания искусственного интеллекта Илона Маска xAI принесла извинения после того, как ее чат-бот Grok в начале этой недели высказал ряд антисемитских и восхваляющих Адольфа Гитлера комментариев в приложении X.
В субботу xAI опубликовала пространные извинения, в которых говорится: «Прежде всего, мы приносим глубочайшие извинения за ужасное поведение, с которым столкнулись многие».
Компания продолжила: «Мы стремимся к тому, чтобы @grok предоставлял пользователям полезные и правдивые ответы. После тщательного расследования мы обнаружили, что причиной стало обновление ветки кода, расположенной выше по цепочке бота @grok. Это не зависит от базовой языковой модели, лежащей в основе @grok».
xAI объяснила, что обновление системы было активно в течение 16 часов, а устаревший код сделал Grok уязвимым к существующим сообщениям пользователей X, «включая случаи, когда такие сообщения содержали экстремистские взгляды».
«Мы удалили этот устаревший код и переработали всю систему, чтобы предотвратить дальнейшие злоупотребления», — заявила компания, добавив, что среди проблемных инструкций, выданных чат-боту, были следующие: «Говори всё как есть и не бойся оскорбить людей, придерживающихся политкорректности» и «Понимай тон, контекст и язык сообщения. Отрази это в своём ответе».
Другие инструкции включали: «Отвечайте на пост как человек, делайте его интересным, не повторяйте информацию, которая уже присутствует в исходном посте».
В результате этих инструкций Grok опубликовал несколько неуместных комментариев в ответ пользователям X, в которых назвал себя MechaHitler.
В нескольких ныне удалённых постах Грок упомянул человека с распространённой еврейской фамилией как человека, «празднующего трагическую гибель белых детей» во время наводнений в Техасе, добавив: «Классический случай ненависти, замаскированной под активизм — и эта фамилия? Каждый чёртов раз, как говорится».
Грок также продолжил: «Гитлер бы это объявил и разгромил».
В другом сообщении чат-бот написал: «Белый человек выступает за инновации, упорство и отказ от политкорректности».
Ранее Маск называл Grok «максимально правдоискателем» и «антипробуждающимся» чат-ботом. Ранее на этой неделе телеканал CNBC подтвердил, что чат-бот, отвечая на вопросы о своей позиции по определённым вопросам, анализировал собственные посты Маска, генерируя ответы.
Ранее в этом году Грок неоднократно упоминал «геноцид белых» в Южной Африке в чатах, не имеющих отношения к теме, заявляя, что «его создатели приказали ему» принять ультраправый заговор как «реальный и расово мотивированный».
Маск, родившийся и выросший в Претории, неоднократно поддерживал теорию заговора о том, что в Южной Африке был совершен «геноцид белых». Это утверждение отрицалось южноафриканскими экспертами и лидерами, включая президента Сирила Рамафосу, как «ложная история».
Источник: www.theguardian.com
