Anthropic и DeepMind теперь активно исследуют ИИ-сознание

Сознательны ли модели ИИ, а если нет, то могут ли они быть в ближайшем будущем? Такая возможность надумана, но компании, занимающиеся ИИ, похоже, считают, что в их интересах оставить этот вопрос как можно более открытым.

Теперь газета Financial Times сообщает, что три лидера отрасли — Anthropic, лаборатория искусственного интеллекта Google DeepMind и Meta — наняли экспертов в таких областях, как психология, философия и этика, для проведения исследований в области машинного сознания и благосостояния искусственного интеллекта. 

Anthropic, которая, возможно, сделала все возможное, чтобы антропоморфизировать свои модели и подчеркнуть точку зрения искусственного интеллекта — ее чат-бот носит человеческое имя “Claude,” в конце концов — тестировал свои модели на предмет поведения, напоминающего “панику” и “тревога,” согласно отчету, и проводит “модельное исследование благосостояния” чтобы выяснить, может ли модель ИИ иметь морально важный опыт.

“Мы по-прежнему глубоко не уверены в этом, но считаем, что вопрос достаточно серьезен, чтобы его тщательно изучить по мере того, как системы искусственного интеллекта становятся все более способными,” говорится в заявлении компании.

Тем временем DeepMind наняла исследователя из Кембриджского университета Генри Шевлина в качестве философа, занимающегося машинным сознанием, отношениями человека и ИИ и готовностью AGI, согласно отчету. (Ранее в этом году Шевлин вызвал волну дискуссий в онлайн-кругах ИИ после того, как поделился своей ошеломленной реакцией на электронное письмо, которое он получил от агента ИИ.)

Этик по этике DeepMind Ясон Габриэль, возглавляющий команду лаборатории по искусственному интеллекту и обществу, назвал вопрос о сознании ИИ «очень сложным» и «очень сложным». и описал ИИ как «высокоспособные когнитивные агенты, которые к тому же очень сильно отличаются от человеческого существа и даже от сознания животных».

Эти веские утверждения оспариваются многими учёными и исследователями ИИ. Но FT, ища контраргументы для завершения своего репортажа, цитирует эксперта, который делает заявления, приписывающие чат-ботам сомнительную степень человеческой активности. “[ИИ-модели] имеют цели, они могут обманывать, они могут скрывать свои истинные интересы,” Об этом газете рассказала Сьюзан Шнайдер, директор Центра будущего искусственного интеллекта, разума и общества. Но она добавила, что вполне научно возможно, что они делают это, не обладая ощущаемым качеством опыта, которым и является сознание.

Конечно, возможность сознания ИИ не следует полностью сбрасывать со счетов. Но не следует этого делать и с инопланетными цивилизациями, которые обычно рассматриваются скорее как научно-фантастические размышления, чем как насущная экзистенциальная проблема. п>

Более того, нам следует скептически относиться к тому, что большая часть шума по этой теме исходит от самой отрасли. Генеральный директор Anthropic Дарио Амодей неоднократно подчеркивал в интервью возможность существования ИИ-сознания. И исследования его компании часто делают смелые заявления об их моделях, демонстрирующих человеческое поведение, например, предположительно скрывающих «эмоции». Просто помните, что компаниям, занимающимся искусственным интеллектом, проще втянуть нас в безумные сценарии конца света Скайнета, вместо того, чтобы противостоять далеко обыденным последствиям технологий, которые сейчас разыгрываются на наших глазах.

Подробнее об ИИ: Был ли это момент, когда начался психоз ИИ?

Пост «Антропик и DeepMind теперь активно исследуют сознание ИИ» впервые появился на сайте Futurism.

Источник: futurism.com