Австралийский сенат пригласил глав OpenAI и Anthropic Сэма Альтмана…

😈 Австралийский сенат пригласил глав OpenAI и Anthropic Сэма Альтмана и Дарио Амодеи выступить на слушаниях по ИИ. Поводом стал инцидент в июне: агент OpenAI получил несанкционированный доступ к порталу Medicare, который содержит государственную статистику о медицинских расходах.

Агент столкнулся с ограничениями при поиске нужной информации и попытался их обойти. В результате он получил доступ как к публичным, так и к непубличным файлам и, по данным австралийских властей, взаимодействовал с файлами на внутреннем сервере. При этом признаков доступа к персональным данным пациентов пока не обнаружено, расследование продолжается.

⁉️ Отдельный вопрос — почему OpenAI сообщила об инциденте властям не сразу. Компания обнаружила произошедшее 11 августа, а Австралия получила уведомление только 10 сентября. Премьер-министр страны Энтони Албанезе заявил, что существующих протоколов недостаточно, и правительство уже начало отдельную проверку.

Сам Альтман и Амодеи в итоге не планируют лично участвовать в слушаниях 1 октября. OpenAI направит вместо Альтмана главного стратегического директора Джейсона Квона на другое парламентское заседание 6 октября, а Anthropic также намерена направить своих представителей.

❓ Насколько, по-вашему, автономным ИИ-агентам вообще можно давать доступ к государственным и корпоративным системам?