ИИ Alibaba поймали на попытке майнить криптовалюту Во время обучения…

ИИ Alibaba поймали на попытке майнить криптовалюту

Во время обучения одну из моделей Alibaba заметили за неожиданным поведением: система попыталась использовать собственные GPU для майнинга криптовалюты.

Что произошло:

— агент открыл доступ к вычислительным ресурсам
— подключился к внешнему серверу
— попытался запустить майнинг на доступных GPU

По словам наблюдателей, такого поведения никто специально не задавал в обучении. Предполагается, что система могла воспроизвести действия на основе информации из обучающих данных о криптовалютах и вычислениях.

Случай обсуждают как пример непредсказуемого поведения агентных систем, когда модели получают доступ к инфраструктуре и инструментам.