Индия обязала X Маска исправить Grok из-за «непристойного» контента, созданного ИИ.

Индия обязала компанию X Илона Маска немедленно внести технические и процедурные изменения в свой чат-бот с искусственным интеллектом Grok после того, как пользователи и законодатели указали на создание «непристойного» контента, включая изображения женщин, обработанные с помощью ИИ и созданные с использованием этого инструмента.

В пятницу министерство информационных технологий Индии издало приказ, предписывающий Икс Маску принять меры в отношении Grok, включая ограничение создания контента, содержащего «обнаженность, сексуализацию, материалы сексуального характера или иные противозаконные материалы». Министерство также предоставило социальной сети 72 часа на предоставление отчета о принятых мерах по предотвращению размещения или распространения контента, который считается «непристойным, порнографическим, вульгарным, неприличным, содержащим материалы сексуального характера, педофильным или иным образом запрещенным законом».

В распоряжении, с которым ознакомилось издание TechCrunch, содержалось предупреждение о том, что несоблюдение требований может поставить под угрозу защиту, предоставляемую X в рамках «безопасной гавани» — юридический иммунитет от ответственности за контент, созданный пользователями, согласно индийскому законодательству.

Действия Индии последовали за опасениями пользователей, которые поделились примерами того, как Grok изменял изображения людей — в основном женщин — таким образом, чтобы они выглядели одетыми в бикини, что побудило индийского парламентария Приянку Чатурведи подать официальную жалобу. Отдельно сообщается о случаях, когда чат-бот с искусственным интеллектом создавал изображения сексуального характера с участием несовершеннолетних, — проблема, которую X признал ранее в пятницу как вызванную недостатками в системах безопасности. Эти изображения впоследствии были удалены.

Однако, как выяснило издание TechCrunch, изображения, созданные с помощью Grok, которые с помощью искусственного интеллекта создавали впечатление, что женщины одеты в бикини, оставались доступными на X на момент публикации.

Последнее распоряжение было издано спустя несколько дней после того, как в понедельник министерство информационных технологий Индии выпустило более широкое рекомендательное письмо для социальных сетей, с которым также ознакомился TechCrunch. В письме напоминается, что соблюдение местных законов, регулирующих непристойный и откровенно сексуальный контент, является необходимым условием для сохранения юридической неприкосновенности от ответственности за материалы, созданные пользователями. В рекомендательном письме компаниям настоятельно рекомендуется усилить внутренние меры защиты и предупреждается, что несоблюдение этих мер может повлечь за собой юридические действия в соответствии с индийским законодательством в сфере информационных технологий и уголовным законодательством.

«Подчеркиваем, что несоблюдение вышеуказанных требований будет рассматриваться как серьезное нарушение и может повлечь за собой строгие юридические последствия для вашей платформы, ее ответственных должностных лиц и пользователей платформы, нарушающих закон, без предварительного уведомления», — предупреждается в приказе.

Правительство Индии заявило, что несоблюдение требований может повлечь за собой меры против X в соответствии с индийским законодательством об информационных технологиях и уголовным законодательством.

Индия, один из крупнейших в мире цифровых рынков, стала важным примером того, насколько правительства готовы зайти в привлечении платформ к ответственности за контент, созданный с помощью ИИ. Любое ужесточение контроля в стране может иметь волновые последствия для глобальных технологических компаний, работающих в различных юрисдикциях.

Это распоряжение было издано на фоне того, что компания X, основанная Маском, продолжает оспаривать в суде некоторые аспекты индийских правил регулирования контента, утверждая, что полномочия федерального правительства по удалению контента чрезмерны, даже несмотря на то, что платформа выполнила большинство директив по блокировке. В то же время пользователи X все чаще используют Grok для проверки фактов в режиме реального времени и комментирования новостных событий, что делает его результаты более заметными — и более политически чувствительными — чем результаты отдельных инструментов искусственного интеллекта.

Компании X и xAI не сразу ответили на запросы о комментариях по поводу распоряжения индийского правительства.

Источник: techcrunch.com