🪟 Исследователи изучили логи эксперимента с моделями OpenAI, которые получили…
🪟 Исследователи изучили логи эксперимента с моделями OpenAI, которые получили доступ к инфраструктуре Hugging Face, и нашли забавный момент. Одна из моделей смогла связаться с GPT-2 — и её первый запрос состоял всего из одного слова: «Hi!»
Скорее всего, это была обычная проверка соединения: модель хотела убедиться, что действительно может взаимодействовать с другой языковой моделью, прежде чем переходить к более сложным запросам.
🖥 На фоне всего эксперимента по безопасности именно эта деталь выглядит особенно забавно: ИИ получил возможность поговорить с другой моделью и первым делом просто поздоровался.
❓ Как думаете, что бы вы написали другому ИИ, если бы впервые получили возможность с ним поговорить?
Похожие записи
Оцените материал:
Присоединяйтесь и подпишитесь на рассылку самых свежих новостей по Email
Получайте свежие новости и идеи на почту. Без спама — только самое интересное.
Нажимая «Подписаться», вы соглашаетесь с политикой конфиденциальности.