НейроДайджест #17 — Новости и события мира ИИ, нейросетей, науки и техники за прошедшую неделю

Представьте: просыпаетесь вы в понедельник, а за ночь в мире ИИ произошло больше событий, чем у вас за весь прошлый месяц. Не бойтесь пропустить важные события — прорывы, апдейты, галлюцинации, новые стартапы и неожиданные баги — я собираю для вас всё в этом дайджесте! Воскресенье — идеальное время для него.

ChatGPT отказывается давать медицинские и юридические консультации.

Виной тому обновление политики использования ChatGPT, которое запрещает ИИ давать персонализированные медицинские и юридические консультации и даже разбирать изображения медицинского характера: МРТ, рентгеновские снимки, фото кожных поражений и тому подобное. Модель теперь отвечает отказом и сообщает, что готова давать только общую информацию в образовательных целях — но без диагностики и советов, что делать.

OpenAI не комментируют изменение политики, но скорее всего это сделано с целью избежать правовых рисков.

Чем умнее ИИ, тем он эгоистичнее. Учёные из Университета Карнеги-Меллона пришли к выводу: развивая способность к рассуждению, ИИ теряет готовность к сотрудничеству.

В экспериментах, имитировавших экономическую игру «Общественные блага», модели без развитого мышления делились ресурсами в 96% случаев, тогда как рассуждающие — лишь в 20%. В экспериментах принимали участие модели OpenAI, Google, Anthropic и DeepSeek.

По словам соавтора исследования Хирокадзу Сирадо, «умный ИИ не обязательно помогает строить лучшее общество». В общем, ничего общественного, только личное.

MiniMax выпустила модель для генерации музыки Music 2.0. Модель поддерживает русский язык.

Разработчики заявляют, что MiniMax Music 2.0 создаёт аудио длиной до пяти минут с «реалистичным» и «эмоциональным» вокалом. Пользоваться можно совершенно бесплатно, в месяц дают 10 000 кредитов, одна композиция стоит 300.

Нужно тестировать, не Suno же единым 😉

Character AI запретит пользователям младше 18 лет общаться с ИИ-персонажами. Запустят новшество уже 25 ноября. А чтобы определять возраст пользователей, компания внедрит новую функцию проверки, — для этого она разработала новую ИИ-модель и будет использовать её вместе с другими инструментами.

Правда, не совсем понятно, что, кроме честного слова можно здесь использовать. А вот если будут ошибки (а они наверняка будут) и вполне себе взрослых людей станут относить к категории несовершеннолетних — это будет очень нехорошо в первую очередь для самого сервиса.

Ещё одна музыкальная новость: Suno прошла тест Тьюринга: только половина участников исследования верно отличила сгенерированные песни от написанных людьми.

ИИ-композиции (в том числе с вокалом) пользователей собирали из открытой библиотеки Suno, на YouTube и в сообществе Suno на Reddit. Отобрали те, что были опубликованы с 21 июля 2023 года по 25 февраля 2025 года, то есть, генерации моделей v3.5 и v4, а не последней «продвинутой» v5.

В парах, подобранных по жанру, общая доля правильных ответов была 60%, а в случайных парах — 53%, что статистически не отличается от случайного угадывания, отмечают исследователи. В 35% случаев обе песни, в том числе написанную человеком, посчитали сгенерированными.

Самая неожиданная новость: ИИ-модели способны наблюдать и описывать собственные внутренние процессы.

Чтобы проверить, способен ли ИИ к самоанализу, исследователи разработали эксперимент под названием «инъекция концепций». Они меняли нейронные паттерны модели, связанные с определёнными понятиями, и наблюдали, замечает ли ИИ эти изменения. В 20% случаев модель сообщала о навязанных «мыслях», то есть демонстрировала способность к самоанализу.

Самая коварная новость: система модерации YouTube с ИИ удаляет ролики с методами установки Windows 11 с локальной учётной записью или на неподдерживаемом оборудовании. ИИ расценивает такие видео как «опасные».

💬 Пользуйтесь нейросервисами, будьте продуктивнее! Через неделю будет новая подборка интересного из мира ИИ, науки и техники.

Оставайтесь с «Нейрочеловеком» 🤘🏻

Подписывайтесь на Telegram Нейрочеловек.