Быть аккуратнее и не торопиться с развитием систем искусственного интеллекта (ИИ), грозящим «эпохой фейка» и «разрушением человеческой сущности» призвала учёных и все общество директор Института когнитивных исследований СПбГУ, доктор биологических и филологических наук, академик РАО Татьяна Черниговская после выступления на конференции РАН в Москве, сообщает ria.ru.
Научный совет по методологии искусственного интеллекта и когнитивных исследований при президиуме Российской академии наук (НСМИИ РАН) проводит на этой неделе международную междисциплинарную конференцию на тему: «Искусственный интеллект и цифровая реальность».
Черниговская выступила на форуме с докладом «Искусственный интеллект как конкурент: сознание или его имитация?».
«Я бы призвала быть аккуратнее, потому что это не просто одно из мощных технологических или технических достижений или каких-то усовершенствований. Если мы раньше ездили на ослах, а теперь летаем на замечательных самолётах – это не более чем увеличение того, что было. А то, что связано с искусственным интеллектом и цифровой реальностью, — это переход в совершенно другой мир. И мы должны быть аккуратны, чтобы не разрушилась наша человеческая сущность – нас (людей) как вида. Мы переходим во что-то другое, и мы не знаем, как мы там жить будем. Поэтому действовать нужно аккуратно и не торопиться, чтобы шею себе не сломать», – сказала Черниговская.
По её словам, сейчас больше всего пугает огромная скорость развития и внедрения искусственных систем, «наступление эпохи, когда всё будет фейк» – и необходимо сказать ИИ: «Тень, знай своё место».
«Всего на Земле, за всю её историю, нас (людей) здесь жило 120 миллиардов человек. Мы пока ещё живём на планете людей, но это стремительно меняется», – отметила учёный.
Черниговская добавила, что Homo sapiens (человек разумный), loquens (разговаривающий), semioticus (порождающий смыслы) в наши дни ещё и homo confusus (человек в недоумении).
«Dubito ergo cogito – сомневаюсь, следовательно, мыслю», – перефразировала учёный утверждение Декарта.
«Мы не понимаем, какое место в мире мы сейчас будем занимать. Мы должны понять, кто мы такие и какой будет этот мир, как будем отличать настоящее от фейка. У нас никогда не было конкурентов на когнитивном поле – мы были лучшие, а сейчас встаёт вопрос: насколько ИИ нам конкурент», – пояснила Черниговская.
Все хотят хорошего будущего детям, констатировала Черниговская, но недостаточно иметь безопасность, здоровье и сытость, если перед ними будут экзистенциальные пропасти, если жить не хочется, бессмысленно.
«Как сосуществовать, если будут разные интеллекты: людей и искусственных систем? Как будет происходить разделение труда? Предполагалось, что высокоинтеллектуальными и прекрасными вещами будем заниматься мы, а техническую во всех смыслах работу возьмут на себя искусственные системы. Но ведь так не вышло, и не похоже, чтобы оно вышло дальше, –чтобы ИИ только чинил водопровод, работал в шахте, летал на Марс», – добавила она.
Мозг человека, по её словам, – это не сумма миллиардов нейронов и связей между ними.
«Есть ещё индивидуальный опыт, который сформировал и настроил этот инструмент (мозг), восприятие – активное извлечение знаний и конструирование мира. Мы – существа, творящие миры… Теорий сознания в мире уже более 200 – это значит, что нет ни одной, о которой бы учёные договорились. А мы уже собираемся воспроизводить человеческий мозг – не зная, как он действует, уже звучат предложения: дедушку на флешку запишем (оцифруем), внук потом его воспроизведёт», – отметила академик.
Черниговская считает актуальными ещё множество вопросов о возможностях ИИ. В частности, способен ли ИИ на сомнения, неуверенность в себе, ответы «не знаю», прорывы наподобие «Эврика!», неалгоритмичность, целостную картину мира в человеческом понимании, на свою логику, которая станет вообще непонятна людям. Альфред Шнитке, напомнила Черниговская, в одном интервью сказал, что для образования жемчужины в раковине нужно что-то неправильное, инородное, например, песчинка, совсем как в искусстве, где великая истина рождается не по правилам.
«Ошибка, или обращение с правилом на грани риска – и есть та зона, где возникает искусство и где возникают, в том числе, открытия в науке. Вот где наша последняя надежда, пока», – добавила исследователь.
Ответы на острые вопросы, связанные с развитием ИИ, должны искать, по словам Черниговской, не только профессионалы из числа разработчиков ИИ, но все общество, и прежде всего, лучшие учёные из разных сфер.
«Отвечать на вопросы прогнозирования и принимать решения такого рода (о будущем) должны те, кто компетентны, и это нейроученые и когнитивные учёные, и биологи, и генетики, и математики, и физики, и философы, и лингвисты, и, возможно, теологи. Мы двигаемся в очень опасную сторону, а ответственность – на каждом из нас», – заключила Черниговская.
Источник: ria.ru
Источник: ai-news.ru
