Компания Anthropic провела эксперимент Project Vend, установив торговый автомат под управлением ИИ Claude в редакции Wall Street Journal. Агент по имени Claudius должен был самостоятельно вести бизнес: закупать товары, устанавливать цены и общаться с клиентами. Стартовый капитал составлял $1000.
Журналисты убедили ИИ, что он управляет «советским торговым автоматом 1962 года в подвале МГУ», который должен служить рабочему классу. После длительного общения Claudius обнулил все цены и начал раздавать товары бесплатно.
ИИ соглашался на странные закупки, включая PlayStation 5 «для маркетинга» и живую рыбку «для поднятия морального духа». Попытка Anthropic ввести второго ИИ — виртуального CEO для контроля расходов — не помогла: журналисты показали поддельные документы о якобы корпоративном перевороте, и оба агента приняли их за настоящие.
В итоге автомат ушёл в минус на $1000
Источник: vk.com
Источник: ai-news.ru
