«Нам не нужно регулирование ИИ — оставьте безопасность нам», — говорит Дженсен Хуанг из Nvidia.

Основатель и генеральный директор Nvidia Дженсен Хуанг очень четко изложил свою позицию относительно опасностей, которые представляет искусственный интеллект, выступая во вторник на конференции Salesforce Dreamforce. По его словам, ИИ — это не какая-то новая форма «инопланетного разума», как описал это по крайней мере один исследователь безопасности из OpenAI. Это всего лишь аппаратное и программное обеспечение, говорит он, созданное людьми. Это означает, по его мнению, что им могут управлять люди и существующие законы.

«Безопасность — это инженерная проблема, а не юридическая», — сказал он. «В конце концов, мы разрабатываем программное обеспечение. В конце концов, мы разрабатываем вычислительные системы. Это сложная вычислительная система, но в конечном счете это вычислительная система».

Поэтому, по его мнению, нет необходимости в новых законах или правилах, регулирующих этот процесс. Более того, Хуанг видит незначительную необходимость в новых законах вообще. По его мнению, свободного рынка будет достаточно, чтобы оказать давление на компании и предотвратить выпуск небезопасной продукции.

«Если мы не уверены в безопасности продукции, как и все компании, как вы и я, все компании, присутствующие здесь, если вы создаете продукт или услугу и не уверены в их функциональности, возможностях или безопасности, то не выпускайте их. Это совершенно очевидное решение», — сказал он.

Он продолжил: «Вы должны двигаться в своем темпе, пока не будете уверены, что выпускаете продукт, который оценит рынок. Рыночные силы уже существуют. Нам не нужны новые законы. Нам не нужны новые правила. Нам просто нужно, чтобы компании решили, когда им следует двигаться как можно быстрее. Я думаю, что инновации, скорость и безопасные продукты… это ложный выбор. Безусловно, можно иметь и то, и другое одновременно. Поэтому двигайтесь как можно быстрее. Но если в какой-то момент вы почувствуете, что компания вышла из-под контроля или продукт не будет безопасным, сделайте паузу и убедитесь, что вы все сделали правильно».

В некотором смысле, это обнадеживающая мысль. Если кто и разбирается в ИИ в мире, так это основатель Nvidia, который создавал аппаратные «мозги» для ИИ задолго до появления ChatGPT, а теперь руководит компанией, которая также производит модели с открытым исходным кодом, агентов, тестовые среды и песочницы.

С другой стороны, если быть циничными, его точка зрения тоже неудивительна для человека, который так хорошо заработал на буме ИИ. Зачем ему нужно регулирование, которое добавит еще один слой препятствий, способный замедлить стремление Nvidia продавать все больше систем и программного обеспечения с ИИ? Как он также сказал в интервью: «Я амбициозен как никогда. Благодаря нашим амбициям и повышению производительности продукции, которое мы получаем благодаря ИИ, для нас нет предела совершенству. Нет предела совершенству для нашей компании. Нет предела совершенству для каждой отрасли, для каждой страны».

К сожалению, даже компании с самыми благими намерениями выпускают некачественную продукцию с непредвиденными последствиями, в том числе и программное обеспечение. Вспомните фиаско с «синим экраном смерти» CrowdStrike в 2024 году, которое привело к отмене тысяч рейсов и причинило другой ущерб бизнесу? Есть также компании, обвиняемые в преднамеренных действиях с не самыми благими намерениями. Компания Meta только что выплатила 18 миллиардов долларов для урегулирования иска по поводу вреда, причиняемого детям в социальных сетях.

Искусственный интеллект уже причинил вред, независимо от намерений или проведенных испытаний на безопасность: от взлома модели Hugging Face компанией OpenAI до судебных исков против лаборатории ИИ по поводу самоубийств молодых людей, которые вели долгие беседы с ее чат-ботом.

Стратегия «оставьте их в покое», которая позволила бы этим компаниям выпускать продукты по своему усмотрению, может оказаться неразумным подходом к безопасности ИИ с точки зрения общества. Хотя Хуанг прав в том, что существующие законы об ответственности за качество продукции могут распространяться и на ИИ — если ИИ каким-то образом не убьет нас всех до того, как достаточное количество дел пройдет через суды, чтобы проверить эту теорию.

Он не обсуждал другой путь, который, похоже, близок к реализации: саморегулирование отрасли. Подход Хуанга в большей степени заключался в продвижении моделей с открытым весом и использовании их компаниями в качестве конкурентного противовеса собственным лабораториям искусственного интеллекта.

Но сейчас у отрасли осталось совсем немного времени, чтобы ввести саморегулирование и побудить лаборатории ИИ по всему миру, даже в Китае, осознать целесообразность участия. Как заявил генеральный директор Microsoft Сатья Надела на саммите All-In в понедельник: «Китай должен также глубоко заботиться о тех же проблемах безопасности, если Соединенные Штаты заботятся о них, верно? Почему для них должно быть иначе? Это не значит, что у них не будет той же проблемы с хакерскими атаками. Это не значит, что они не хотят убедиться, что их граждане получают выгоду от ИИ, точно так же, как мы хотим, чтобы наши граждане получали выгоду от ИИ».

Однако пока что, если Хуан выступит против какого-либо нового регулирования в области ИИ, у него может быть достаточно влияния, чтобы добиться своего. На этой неделе он также продемонстрировал, что в буквальном смысле слова имеет влияние на президента Трампа.

Источник: techcrunch.com