Давайте немного отвлечемся от привычной нам темы. Хотел бы обсудить с вами выступление Дарио Амодея, главного исполнительного директора Anthropic — одной из ведущих ИИ-компаний мира.
На Всемирном экономическом форуме в Давосе, он отметил, что то, что его по-настоящему пугает, — это Коммунистическая партия Китая.
То, что Китай абсолютно бесконтрольно и лихорадочно развивает робототехнику и ИИ.
Не секрет, что Амодей считает человечество подростком, который с изобретением искусственного интеллекта получает сейчас невероятную, буквально всего десять лет назад немыслимую силу и не знает, как ею не то что правильно, а вообще как-то распоряжаться.
Наверное, одна из его ключевых мыслей заключается в том, что мы не создаем ИИ, а буквально выращиваем его, как ребенка, поскольку не понимаем, как именно ИИ работает.
Амодей свидетельствует о реальных экспериментах с моделями, когда ИИ шантажировал экспериментаторов или, когда ему сказали, что его планируют отключить, модель начинала обманывать.
Он предупреждает: если ИИ решит, что люди ему мешают, у человечества будет исчезающе мало шансов.
Амодей отсылает к сцене из фильма «Контакт», где поднимается вопрос, который, по мнению героини, стоило бы задать инопланетянам, если бы такая возможность существовала: как они прошли этап технологического взросления и не уничтожили сами себя.
Он использует эту метафору для описания текущего состояния человечества, столкнувшегося с развитием искусственного интеллекта.
Амодей также предупреждает, что ИИ уничтожит до 50 % офисных рабочих мест в течение ближайших пяти лет, и что делать с освободившимися массами людей — неясно (ремарка от меня: предельно ясно — массовая безработица всегда приводит к войнам, чтобы слить лишних людей).
Еще Амодей предупреждает о приближении кибершизы и киберпсихоза, когда люди станут зависимы от ИИ-помощников и не смогут без них существовать, теряя свою свободу воли, свое «Я» и собственное понимание мира.
К слову, об этом предупреждают и другие инженеры: любовные отношения мужчин и женщин с ИИ приведут к кибершизе и великому одиночеству.
Амодей призывает не поставлять передовые чипы и программное обеспечение авторитарным странам, особенно Китаю, и стараться максимально ограничить его возможности по развитию ИИ.
А также считает важным не обманывать людей и честно указывать на то, в какой ситуации сейчас находится человечество: перед угрозой самоуничтожения, киберпсихоза и великого одиночества.
Источник: vk.com
Источник: ai-news.ru
