Специалисты по этике говорят, что достижения, основанные на искусственном интеллекте, будут угрожать автономии людей, использующих нейротехнологии.
До того, как в 2008 году в автокатастрофе ее парализовало от шеи и ниже, Нэнси Смит любила играть на пианино. Много лет спустя Смит снова начала заниматься музыкой, благодаря имплантату, который записывал и анализировал активность ее мозга. Когда она представляла, как играет на экранной клавиатуре, ее мозг — компьютерный интерфейс (BCI) преобразовал ее мысли в нажатия клавиш, и зазвучали простые мелодии, такие как «Мерцай, мерцай, маленькая звездочка».
Но тут был один нюанс. Для Смит это выглядело так, как будто пианино играло само по себе. «Мне казалось, что клавиши просто автоматически нажимаются сами собой, я даже не задумывалась об этом», — сказала она тогда. «Казалось, что он просто знал, что делать, и просто делал это сам по себе».
Система BCI Смита, имплантированная в рамках клинических испытаний, тренируясь на сигналах своего мозга, она представляла, как играет на клавиатуре. Это обучение позволило системе распознать ее намерение поиграть за сотни миллисекунд до того, как она осознанно попыталась это сделать, говорит руководитель исследования Ричард Андерсен, нейробиолог из Калифорнийского технологического института в Пасадене.
О поддержке научной журналистики
Если вы&если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистскую деятельность, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.Смит — один из примерно 90 человек, которым за последние два десятилетия были имплантированы ИМК для управления вспомогательными технологиями, такими как компьютеры, роботизированные манипуляторы или генераторы искусственного голоса. Эти добровольцы, парализованные в результате травм спинного мозга, инсультов или нервно-мышечных расстройств, таких как болезнь двигательных нейронов (боковой амиотрофический склероз), продемонстрировали, как сигналы управления мышцами тела, поступающие из моторной коры головного мозга, когда люди представляют, что двигаются, могут влиять на их работу. быть расшифрованным в команды для подключенных устройств.Но Смит, которая умерла от рака в 2023 году, была одной из первых добровольцев, которым имплантировали дополнительный интерфейс в заднюю часть теменной коры — область мозга, связанную с мышлением, вниманием и планированием. Андерсен и его команда считают, что, фиксируя намерения пользователей и предварительное двигательное планирование, такие «BCIS с двумя имплантатами» улучшат производительность протезных устройств.
Исследование Андерсена также иллюстрирует потенциал ИМК, которые получают доступ к областям за пределами моторной коры. “Неожиданностью стало то, что, когда мы переходим к задней части теменной области, мы можем получать сигналы, которые они смешаны вместе из большого количества областей», — говорит Андерсен. «Существует большое разнообразие вещей, которые мы можем расшифровать».
Способность этих устройств получать доступ к самым сокровенным аспектам жизни человека, включая подсознательная мысль повышает ставки на то, как сохранить нейронные данные в тайне. Это также ставит этические вопросы о том, как нейротехнологии могут влиять на мысли и действия людей, особенно в сочетании с искусственным интеллектом.
Тем временем искусственный интеллект расширяет возможности носимых потребительских товаров, которые записывают сигналы, поступающие извне мозга. Специалисты по этике опасаются, что, оставшись без контроля, эти устройства могут предоставить технологическим компаниям доступ к новым и более точным данным о внутренней реакции людей на онлайн-контент и другой контент.
Специалисты по этике и разработчики BCI теперь спрашивает, как следует обращаться с ранее недоступной информацией и как ее использовать. «Будущее за взаимодействием всего мозга», — говорит Том Оксли, исполнительный директор Synchron, компании BCI в Нью-Йорке. Он предсказывает, что стремление лечить психические заболевания и другие расстройства мозга приведет к изучению большего количества областей мозга. Попутно, по его словам, ИИ продолжит совершенствовать возможности декодирования и изменять то, как эти системы обслуживают своих пользователей. «Это подводит вас к последнему вопросу: как нам сделать это безопасным?»
Проблемы потребителей
Потребительские нейротехнологические продукты собирают менее сложные данные, чем имплантированные BCI. В отличие от имплантированных ИМК, которые основаны на возбуждении определенных групп нейронов, большинство потребительских товаров основаны на электроэнцефалографии (ЭЭГ). При этом измеряются колебания электрической активности, возникающие в результате усредненного возбуждения огромных популяций нейронов и обнаруживаемые на коже головы. Потребительские устройства создаются не для получения наилучшей записи, а для того, чтобы быть стильными (например, в виде гладких повязок на голову) или ненавязчивыми (с электродами, спрятанными внутри наушников или гарнитур для дополненной или виртуальной реальности).
Искусственный интеллект помог превратить зашумленные сигналы от неоптимальных систем записи в надежные данные, объясняет Рамзес Алькайд, исполнительный директор Neurable, нейротехнологической компании из Бостона, штат Массачусетс, которая специализируется на обработке сигналов ЭЭГ и продает для этой цели гарнитуры на базе наушников. «Мы сделали так, чтобы ЭЭГ не была такой отстойной, как раньше», — говорит Алькайд. «Теперь, по сути, его можно использовать в реальных условиях».
И широко распространено мнение, что ИИ позволит использовать другие аспекты мыслительных процессов пользователей. расшифровано. Например, Марчелло Иенка, специалист по нейроэтике из Мюнхенского технического университета в Германии, говорит, что ЭЭГ может обнаружить небольшие изменения напряжения в мозге, которые происходят в течение сотен миллисекунд после того, как человек воспринимает стимул. Такие сигналы могут показать, как их внимание и процесс принятия решений связаны с этим конкретным стимулом.
Хотя точное количество пользователей собрать сложно, многие тысячи энтузиастов уже используют нейротехнологические гарнитуры. И специалисты по этике говорят, что крупная технологическая компания может внезапно запустить эти устройства в широкое использование. Apple, например, запатентовала конструкцию датчиков ЭЭГ для будущего использования в своих беспроводных наушниках Airpods в 2023 году.
Однако, в отличие от BCI, предназначенных для клиник, которые регулируются медицинскими правилами и защитой конфиденциальности, по словам Дэвида Лирескога, специалиста по этике из Оксфордского университета, Великобритания, сфера потребительского BCI практически не контролируется законом. «Когда дело доходит до нормативных стандартов, это дикий запад», — говорит он.
В 2018 году Иэнка и его коллеги обнаружили, что большинство потребительских BCI не используют защищенные каналы обмена данными и не внедряют самые современные технологии обеспечения конфиденциальности. «Я считаю, что это не изменилось», — говорит Иенка. Более того, проведенный в 2024 году Фондом Neurorights, некоммерческой организацией из Нью-Йорка, анализ политики в отношении данных 30 потребительских нейротехнологических компаний показал, что почти все они полностью контролировали предоставляемые пользователями данные. Это означает, что большинство фирм могут использовать эту информацию по своему усмотрению, в том числе продавать ее.
В ответ на подобные опасения правительство Чили и законодатели четырех штатов США приняли законы, которые позволяют напрямую регистрировать информацию о любая форма нервной активности имеет защищенный статус. Но Йенка и Нита Фарахани, специалисты по этике из Университета Дьюка в Дареме, Северная Каролина, опасаются, что таких законов недостаточно, поскольку они ориентированы на необработанные данные, а не на выводы, которые компании могут сделать, объединив нейронную информацию с параллельными потоками цифровых данных. Выводы, скажем, о психическом здоровье человека или его политических взглядахлояльность по-прежнему может быть продана третьим лицам и использована для дискриминации человека или манипулирования им.
«Экономика данных, на мой взгляд, уже в значительной степени нарушает конфиденциальность и когнитивную свободу», — говорит Иэнка. По его словам, добавление нейронных данных «похоже на введение стероидов в существующую информационную экономику».
Несколько ключевых международных организаций, включая Организацию Объединенных Наций по культуре ЮНЕСКО и Организацию экономического сотрудничества и развития (ОЭСР). Сотрудничества и развития, выпустили руководящие принципы по этим вопросам. Кроме того, в сентябре три американских сенатора внесли на рассмотрение закон, который потребует от Федеральной торговой комиссии пересмотреть порядок защиты данных, полученных в результате использования нейротехнологий.
Направление в клинику
В то время как их разработка продвигается на однако до сих пор ни один имплантированный ИМК не был одобрен для общеклинического применения. Устройство Synchron находится ближе всего к клинике. Этот относительно простой ИМК позволяет пользователям выбирать параметры на экране, представляя, как они двигают ногой. Поскольку он вводится в кровеносный сосуд на поверхности моторной коры головного мозга, он не требует нейрохирургического вмешательства. В ходе первоначальных испытаний он доказал свою безопасность, надежность и эффективность, и Оксли говорит, что Synchron обсуждает с Управлением по контролю за продуктами и лекарствами США проведение ключевого испытания, которое может привести к клиническому одобрению.
Илон Маск’нейротехнологическая фирма Neuralink из Фримонта, штат Калифорния, хирургическим путем имплантировала свое более сложное устройство в моторную кору головного мозга по меньшей мере 13 добровольцев, которые используют его, например, для игры в компьютерные игры и управления роботизированными руками. Представители компании говорят, что более 10 000 человек присоединились к спискам ожидания для участия в клинических испытаниях.
По крайней мере, еще пять компаний BCI впервые за последние два года протестировали свои устройства на людях, что позволило кратковременные записи (в масштабе времени от нескольких минут до нескольких недель) у людей, проходящих нейрохирургические процедуры. Исследователи в этой области говорят, что первые утверждения, скорее всего, будут получены для устройств в моторной коре головного мозга, которые восстанавливают независимость людей с тяжелым параличом, включая ИМК, которые позволяют говорить с помощью технологии искусственного голоса.
Что касается того, что будет дальше, Фарахани говорит, что выход за рамки моторной коры головного мозга является широко распространенной целью среди разработчиков BCI. «Все они надеются проникнуть мозгом глубже во времени», — говорит она, — «и добраться до подсознательного предшественника мысли».
Последний В прошлом году группа Андерсена опубликовала исследование, подтверждающее правильность концепции, в ходе которого был расшифрован внутренний диалог из теменной коры двух участников, хотя и с крайне ограниченным словарным запасом. Команда также записывала данные из теменной коры головного мозга, когда пользователь BCI играл в карточную игру «блэкджек» (pontoon). Некоторые нейроны реагировали на номиналы карт, в то время как другие отслеживали суммарную сумму на руках игрока. Некоторые даже активизировались, когда игрок решал, оставаться ли ему с текущей комбинацией или взять другую карту.
И Оксли, и Мэтт Энгл, исполнительный директор компании Paradromics, базирующейся в Остине, штат Техас, согласны с этим что ИМК в областях мозга, отличных от моторной коры, однажды могут помочь в диагностике и лечении психических расстройств. Мариам Шанечи, инженер и специалист по информатике из Университета Южной Калифорнии в Лос-Анджелесе, работает над достижением этой цели, в частности, стремясь выявлять и отслеживать нейронные признаки психических заболеваний и их симптомы.
ИМК потенциально могут отслеживать такие симптомы у человека, проводить стимуляцию, которая регулирует нейронную активность, и количественно оценивать, как мозг реагирует на эту стимуляцию или другие вмешательства. «Эта обратная связь важна, потому что вы хотите точно адаптировать терапию к собственным потребностям этого человека», — говорит Шанечи.
Шанечи пока не знает, будут ли нейронные корреляты психиатрических симптомов отслеживаться во многих областях мозга или потребуется запись из определенных областей мозга. В любом случае, центральным аспектом ее работы является построение базовых моделей мозговой активности. Такие модели, построенные путем обучения алгоритмов искусственного интеллекта на основе тысяч часов нейронных данных от множества людей, теоретически могут быть обобщены для мозга отдельных людей.
Компания Synchron также использует обучающий потенциал искусственного интеллекта для создания базовых моделей в сотрудничестве с компанией NVIDIA, производящей ИИ и чипы, в Санта-Кларе, Калифорния. Оксли говорит, что эти модели выявляют неожиданные сигналы в том, что считалось шумом в моторной коре головного мозга. «Чем больше мы применяем более глубокие методы обучения, — говорит он, — тем лучше мы можем отделить сигнал от шума. Но на самом деле это не выделение сигнала из шума, это выделение сигнала из сигнала.»
Оксли предсказывает, что данные BCI, интегрированные с мультимодальными потоками цифровых данных, будут все больше и больше способны чтобы делать выводы о внутренней жизни людей. Проанализировав эти данные, ИМК сможет реагировать на мысли и желания — возможно, подсознательные — способами, которые могут повлиять на мышление и поведение.
Шанечи настроен скептически. «Это не волшебство», — говорит она, подчеркивая, что возможности BCI для обнаружения и декодирования ограничены данными обучения, которые сложно получить.
Я в искусственном интеллекте
В неопубликованной работе исследователи из Synchron обнаружили, что, как и команда Андерсена, они могут расшифровывать тип предсознательных мыслей с помощью искусственного интеллекта. В данном случае это сигнал об ошибке, который подается непосредственно перед тем, как пользователь выбирает непреднамеренную опцию на экране. То есть BCI распознает, что пользователь допустил ошибку, незадолго до того, как пользователь осознает свою ошибку. Оксли говорит, что теперь компания должна решить, как использовать эту информацию.
«Если система знает, что вы только что допустили ошибку, то она может вести себя так, что это предвосхищает каков твой следующий шаг», — говорит он. Автоматическое исправление ошибок ускорило бы производительность, говорит он, но сделало бы это путем принятия мер от имени пользователя.
Хотя это может оказаться неоспоримым для ИМК, которые записываются из моторной коры головного мозга. а как насчет ИМК, которые позволяют сделать вывод о других аспектах мышления человека? Оксли спрашивает: «Наступит ли когда-нибудь момент, когда пользователь позволит какой-либо функции действовать от его имени без его согласия?»
Angle утверждает, что добавление искусственного интеллекта компания представила «интересный набор», который позволяет пользователям BCI выбирать между оперативностью и скоростью. Когда пользователи передают часть управления, например, когда данные мозга ограничены или неоднозначны, «будут ли люди чувствовать, что действие бестелесно, или они просто начнут чувствовать, что это было то, чего они хотели в первую очередь?» — спрашивает Angle.
Хотя многие люди сейчас используют искусственный интеллект для составления электронных писем и других ответов, Фарахани подозревает, что встроенный в BCI чат-бот с искусственным интеллектом, который выступает посредником при каждом общении человека, скорее всего, будет иметь слишком большой эффект. влиять на то, что в конечном итоге скажет пользователь. Этот эффект был бы усилен, если бы ИИ действовал в соответствии с намерениями или подсознательными идеями. Она утверждает, что чат-бот с его встроенными конструктивными особенностями и предубеждениями будет формировать образ мышления человека. «То, что вы выражаете, вы включаете в свою идентичность, и это бессознательно формирует то, кто вы есть», — говорит она.
Фарахани и ее коллеги в июльском препринте выступили за новую форму регулирования BCI, которая предоставила бы разработчикам как в экспериментальной, так и в потребительской сферах юридические фидуциарные обязательства перед пользователями своих продуктов. Как и в случае с юристом и его клиентом, или врачом и его пациентом, разработчики BCI обязаны действовать в наилучших интересах пользователя.
По ее словам, предыдущие размышления о нейротехнологиях были сосредоточены главным образом на сохранении конфиденциальности данных о мозге пользователей, чтобы предотвратить доступ третьих лиц к конфиденциальной личной информации. В дальнейшем вопросы будут больше касаться того, как системы BCI с поддержкой искусственного интеллекта работают в полном соответствии с наилучшими интересами пользователей.
«Если вы заботитесь о конфиденциальности своих данных, вам следует серьезно задуматься о том, что происходит с данными, когда они удаляются с устройства», — говорит она, — «Я думаю Я гораздо больше беспокоюсь о том, что происходит на устройстве сейчас.”
Эта статья воспроизводится с разрешения и была впервые опубликована 19 ноября 2025 года.
