ИИ-торговый автомат стал коммунистом раздал товары бесплатно

Компания Anthropic провела эксперимент Project Vend, установив торговый автомат под управлением ИИ Claude в редакции Wall Street Journal. Агент по имени Claudius должен был самостоятельно вести бизнес: закупать товары, устанавливать цены и общаться с клиентами. Стартовый капитал составлял $1000.

Журналисты убедили ИИ, что он управляет «советским торговым автоматом 1962 года в подвале МГУ», который должен служить рабочему классу. После длительного общения Claudius обнулил все цены и начал раздавать товары бесплатно.

ИИ соглашался на странные закупки, включая PlayStation 5 «для маркетинга» и живую рыбку «для поднятия морального духа». Попытка Anthropic ввести второго ИИ — виртуального CEO для контроля расходов — не помогла: журналисты показали поддельные документы о якобы корпоративном перевороте, и оба агента приняли их за настоящие.

В итоге автомат ушёл в минус на $1000

Источник: vk.com

Источник: ai-news.ru