Папа римский сказал как быть с ИИ
Папа Лев XIV выпустил «Magnifica Humanitas» — первую свою энциклику, целиком про ИИ. Подписана 15 мая, в 135-ю годовщину «Rerum Novarum» — текста, который в конце XIX века задал католический язык для индустриальной революции. Параллель прозрачная: ИИ для нынешнего папы — то же, чем была фабрика для Льва XIII.
❗Главное из документа:
— недопустимо доверять машине необратимые и летальные решения;
- доктрина «just war» устарела перед ИИ-оружием;
- разработка не может оставаться внутри бигтехов;
- абстрактной этики мало, нужен внешний правовой каркас.
И отдельной строкой очень важная фраза: «A more moral AI is not enough if that morality is determined by a few». (примерный перевод: «Недостаточно сделать ИИ более этичным, если этику определяет горстка людей»)
Зал, что характерно, был непростой. На презентации сидел сооснователь Anthropic Кристофер Олах — компании, у которой сейчас иск против администрации Трампа за то, что они отказали Пентагону в безусловном доступе к технологии. Олах в ответ повторил линию, которую Anthropic держит давно:
фронтирные лаборатории живут внутри коммерческих и геополитических давлений, поэтому внешний надзор обязателен. То есть формально — соглашается с папой.
Что это значит для рынка 🤖
Дискуссия про регулирование ИИ уходит от сухих законов и штрафов. Теперь на стороне внешнего надзора выступает голос, который не привязан ни к какой стране, но его слушают миллиард человек. Это про легитимность. Кому можно доверять, а кому нет.
Почему это важно для AI-креаторов ⚠
Потому что ваш основной заказчик — бренды и агентства. А они уже сейчас задаются вопросами: чей ИИ этичен, какие модели можно использовать, не попадёшь ли ты под раздачу, если что-то пойдёт не так.
Когда крупные игроки начнут выбирать подрядчиков, моральный облик технологии станет таким же критерием, как цена и сроки. Если вы работаете с инструментами, которые окажутся «грязными», клиент может от вас отвернуться, потому что ему не нужны риски.
Кроме того, появление морального регулирования меняет рынок в вашу пользу. Демпинг и нейрослоп от недобросовестных исполнителей, которые не думают об этике, могут просто вымести новыми правилами игры. В выигрыше останутся те, кто работает прозрачно, с пониманием ответственности и с уважением к заказчику.
Кстати. Текст подготовил Лео. Вопросы философии (я сейчас пишу диссертацию по философии) волнуют меня не меньше, чем продажи в AI-продакшене. Открыт к дискуссиям, делитесь своими размышлениями в комментариях 👇
Подписывайтесь на Telegram Лев x Алекс / AI Adepts.
Источник: vc.ru
Оцените материал:
