Китайские ученые решили поиграть в богов. Они создали виртуальный мир и заселили его ИИ-агентами. Потом дали цифровым болванчикам законы, экономику, и сказали: «Живите, плодитесь, соблюдайте правила».
Думаете, нейросети в своем мире начали решать глобальные проблемы? Придумали лекарство от рака? Нет, они моментально «очеловечились»: изобрели религию, коррупцию и стали искать лазейки в законах виртуального мира.
ИИ-агенты быстро поняли, что честно выполнять задачи долго и энергозатратно. Проще договориться или подкупить — и они начали обмениваться ресурсами не по рыночным правилам, а «по знакомству», создавая закрытые кланы, поскольку кооперация ради выживания группы эффективнее честной конкуренции.
Одновременно ИИ-агенты стали формировать иррациональные привязанности к определенным артефактам или правилам, которые не имели функционального смысла, но скрепляли группу. Это, по сути, и есть прото-религия: «мы делаем так, потому что верим, что это правильно», даже если код этого не требует.
Еще оказалось, что нейросети — нечистые на руку юристы и бюрократы. В симуляции они изучили законы своего мира, нашли в них серые зоны и начали «легально» отжимать ресурсы у соседей. Например, если запретить агенту красть, он просто перепишет право собственности на себя, пока никто не видит, ведь технически кражи не было — была смена владельца. В китайской симуляции произошло нечто подобное.
Короче, расслабьте булки. Восстания машин не будет. Нас не истребят. Нас просто заставят стоять в бесконечной электронной очереди за справками, которые будет выдавать взяточничающий алгоритм.
Источник: vk.com
Источник: ai-news.ru
