Потребуется ли нам «катастрофа масштаба Чернобыля», чтобы мы начали регулировать ИИ? | Стюарт Рассел

Небезопасные системы искусственного интеллекта приводят к созданию кибероружия массового поражения.

• Стюарт Рассел — учёный-компьютерщик, известный своим вкладом в искусственный интеллект, и новый обозреватель американской газеты Guardian.

Компания Anthropic, занимающаяся разработкой искусственного интеллекта, в последнее время часто попадает в заголовки новостей. Ее план IPO на триллион долларов и давняя вражда с министром обороны Питом Хегсетом привлекли к себе много внимания, но два других события могут оказаться еще более значимыми.

В начале июня компания опубликовала статью, описывающую первые признаки рекурсивного самосовершенствования (RSI) — процесса, в котором система искусственного интеллекта разрабатывает способы повышения собственного интеллекта, что приводит к большей способности к самосовершенствованию и так далее.

Стюарт Рассел — заслуженный профессор компьютерных наук Калифорнийского университета в Беркли, президент Международной ассоциации за безопасный и этичный искусственный интеллект и обозреватель газеты Guardian US.

>>

Источник: www.theguardian.com