Илон Маск, предприниматель и глава нескольких технологических компаний, заявил, что если бы у него была такая возможность, он бы намного замедлил развитие искусственного интеллекта и робототехники. По его словам, текущие темпы прогресса вызывают серьёзные опасения по части безопасности, этики и контроля. Маск подчеркнул, что ИИ развивается настолько быстро, что человечество рискует не успеть выработать должные механизмы регулирования и защиты до того, как технологии станут слишком мощными и автономными.
Маск отметил, что внимание к вопросам безопасности должно быть сопоставимо с усилиями по развитию технологий. Он усомнился в том, что существующие механизмы регулирования и институционального контроля способны адекватно сдерживать риски, связанные с ИИ и роботами, если прогресс будет продолжаться в нынешнем темпе. В частности, он предупредил, что без чётких рамок развитие автономных систем и сверхмощных моделей может привести к непредвиденным последствиям для общества и экономики.
По мнению Маска, важная часть будущей работы над ИИ — это обеспечение того, чтобы технологии служили людям, а не становились угрозой. Он считает, что для этого необходимо уделять не меньше внимания вопросам этики, безопасности и устойчивости, чем достижениям в области производительности и возможностей моделей. Это включает разработку стандартов прозрачности, механизмов оценки рисков и международных норм, которые могли бы замедлить неконтролируемые внедрения.
Маск также упомянул, что часть технологий, которые сегодня создаются в области машинного обучения и автономных систем, могут оказаться сложнее, чем системы, которые общество сможет безопасно контролировать или понять. По его словам, это делает важным предварительное обсуждение и междисциплинарный подход к оценке последствий, прежде чем такие системы будут внедрены в критически важные сферы.
Заявления Илона Маска отражают волну более широкой дискуссии в научном и технологическом сообществе о том, что ускорение разработки ИИ должно сопровождаться сопутствующим вниманием к вопросам регуляции, прозрачности и потенциальных рисков.
Источник: habr.com
Источник: ai-news.ru
