Генеральный директор компании Anthropic заявил, что негативная реакция на ИИ — это «по сути, кризис доверия».

Генеральный директор Anthropic Дарио Амодей недавно опроверг предположение, что он рисует чрезмерно пессимистичную картину искусственного интеллекта и того, как он может повлиять на будущее.

Комментарии Амодеи прозвучали в ответ на заявление инвестора Гэвина Бейкера, который утверждал — как в подкасте All-In, так и на X — что предупреждения Амодеи об опасностях ИИ способствовали усилению негативной реакции в Соединенных Штатах, особенно в отношении центров обработки данных.

Утверждая, что Амодей «проиграл спор» в вопросе регулирования ИИ (Anthropic выступала за некоторые виды регулирования, включая калифорнийский законопроект, который вводит требования прозрачности для крупных компаний, занимающихся ИИ), и учитывая, что «он вот-вот станет генеральным директором одной из важнейших компаний в мире», Бейкер написал: «Я с уважением считаю, что ему следует приложить усилия, чтобы стать более позитивным защитником своей собственной отрасли».

Бейкер далеко не единственный, кто утверждает, что скептицизм в отношении ИИ и даже правительственные меры по его пресечению отчасти проистекают из того, что люди просто воспринимают всерьез мрачные предупреждения некоторых руководителей компаний, занимающихся ИИ. Но в своем ответе Амодей не согласился с утверждением, что его «послания были непропорционально негативными». Вместо этого он сказал, что его работы «примерно сбалансированы между рисками и преимуществами», и что он написал эссе «Машины любящей благодати», потому что «считал, что индустрия ИИ недостаточно вдохновляет тем, как эта технология может радикально изменить мир к лучшему».

Тем не менее, Амодей признал, что «общественность негативно относится к ИИ», и согласился с тем, что «это большая проблема». Он не согласился с утверждением, что это «в первую очередь вызвано» предупреждениями Амодея «или любого другого лидера в области ИИ о рисках, связанных с ИИ».

«Я думаю, что это, по сути, кризис доверия, — сказал Амодей. — Мне кажется, что обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы замышляем какой-то новый способ их обмануть».

Действительно, слово «доверие» часто всплывает в дискуссиях об индустрии ИИ, особенно в отношении генерального директора OpenAI (и соперника Амодеи) Сэма Альтмана. Однако, по словам Амодеи, этот кризис назревал десятилетиями, а негативная реакция на ИИ — «лишь последняя его итерация».

«Я думаю, что наиболее точная критика в адрес компаний, занимающихся искусственным интеллектом, включая Anthropic, заключается в том, что мы еще не выполнили свои грандиозные обещания принести пользу миру», — сказал Амодей. «Это полностью наша вина, и я думаю, что именно эту критику следует высказывать, а не заниматься всеми этими разговорами о маркетинге и коммуникациях». (Естественно, он также добавил, что Anthropic «делает все возможное, чтобы это исправить».)

Что касается регулирования, Амодей утверждал, что Бейкер рисует «ложный выбор» между широким распространением ИИ без регулирования или концентрацией технологии в руках нескольких компаний посредством регулирования.

«Я знаю, что в Силиконовой долине существует некий упрощенный способ обозначения регулирования: регулирование = захват регулирующих органов = концентрация власти, но я всегда считал это чрезмерно упрощенной картиной мира», — сказал Амодей. «Многие люди за пределами этого круга считают регулирование чем-то, что ограничивает власть корпораций и приносит пользу обычным людям».

Амодей добавил, что он «не обязательно согласен и с этой точкой зрения», но сказал, что именно поэтому «Anthropic всегда очень тщательно разрабатывала свои политические предложения».

«Мы прилагаем все усилия, чтобы вносить предложения, которые ставят в невыгодное положение (замедляют развитие) передовые компании в области искусственного интеллекта, одновременно предоставляя *преимущество* более мелким конкурентам», — сказал он.

Источник: techcrunch.com