🪟 Исследователи изучили логи эксперимента с моделями OpenAI, которые получили…

🪟 Исследователи изучили логи эксперимента с моделями OpenAI, которые получили доступ к инфраструктуре Hugging Face, и нашли забавный момент. Одна из моделей смогла связаться с GPT-2 — и её первый запрос состоял всего из одного слова: «Hi!»

Скорее всего, это была обычная проверка соединения: модель хотела убедиться, что действительно может взаимодействовать с другой языковой моделью, прежде чем переходить к более сложным запросам.

🖥 На фоне всего эксперимента по безопасности именно эта деталь выглядит особенно забавно: ИИ получил возможность поговорить с другой моделью и первым делом просто поздоровался.

❓ Как думаете, что бы вы написали другому ИИ, если бы впервые получили возможность с ним поговорить?