Архив рубрики ~Лента новостей~

Эксперты предупреждают: практически каждый в сфере ИИ сейчас уязвим для мошеннических схем с использованием «медовой ловушки».

Эксперты предупреждают: практически каждый в сфере ИИ сейчас уязвим для мошеннических схем с использованием «медовой ловушки».
Эксперты предупреждают: практически каждый в сфере ИИ сейчас уязвим для мошеннических схем с использованием «медовой ловушки».

В то время как последствия скандала с предполагаемой «медовой ловушкой» Дженсена Хуанга для Nvidia все еще разворачиваются, Кремниевой долине еще предстоит столкнуться с новой реальностью: гораздо больше людей среди них находятся в опасности.

«Никто не проводит инструктажи для основателей компаний по контрразведке», — заявил TechCrunch Аарон Браун, бывший высокопоставленный сотрудник ЦРУ и нынешний основатель софтверной компании Lumbra.

Это объясняется тем, что исторически «медовые ловушки» ассоциировались с политиками, военными и национальной разведкой — людьми, «стоящими за обеспечением доступа и обученными ожидать нападения», со стороны шпионов и других злоумышленников.

Но теперь многие из самых ценных секретов «находятся внутри компаний, разрабатывающих микросхемы, модели и инфраструктуру», — говорит Браун, добавляя, что шпион «хочет того, к чему может прикоснуться генеральный директор. План развития, решения об экспорте, список клиентов, кто получит технологии. Генеральный директор — это кратчайший путь ко всему этому».

Хуан обвиняется в том, что попалась именно в такую «медовую ловушку», завязав роман с Алисой Хуан. Она — бывший руководитель сингапурской неооблачной компании, которую обвиняют в шпионаже в пользу Китая и в контрабанде в Китай запрещенных к обороту чипов Nvidia на миллиарды долларов.

После того, как разразился скандал с обвинениями в адрес Хуанга, интернет наводнили шутки о том, какой генеральный директор технологической компании станет следующим, но риску подвергаются не только руководители и основатели компаний. Wall Street Journal сообщила, что OpenAI начала предупреждать своих сотрудников о попытках посторонних сблизиться с ними в поисках секретов компании. Любой, кто имеет доступ к конфиденциальной информации — от членов совета директоров до помощников руководителей — может стать мишенью для «медовой ловушки».

И, как правило, нападающими оказываются не любовники. Дружба — это, по сути, самая старая и честная ловушка, — сказал Браун.

«Медовые ловушки» получают доступ к своим жертвам в качестве инвесторов, клиентов, рекрутеров и консалтинговых компаний. Их запросы выглядят законными на бумаге и не требуют от жертв влюбленности. «Им нужно, чтобы вы чувствовали себя комфортно во время разговора», — сказал Браун. «Они действуют дольше, потому что никто не наблюдает».

Интересно также отметить иронию. Многие основатели технологических компаний стремятся автоматизировать и оцифровать значительную часть человеческой жизни, но при этом остаются уязвимыми перед самой старой заразой — человеком, который пользуется человеческой потребностью быть понятым другими.

«Зачем пробиваться сквозь брандмауэр, когда можно приблизиться к человеку, способному открывать двери, влиять на решения или отдавать распоряжения, которые никто не захочет оспаривать?» — сказал TechCrunch Перри Карпентер, киберкриминолог и главный стратег по борьбе с обманом в компании KnowBe4.

Как только жертвы понимают, что их система скомпрометирована, угроза может усилиться: у злоумышленников появляется возможность шантажа.

Ещё одна ирония: ИИ значительно упростил и удешевил практику «медовой ловушки». Раньше на планирование схемы уходили месяцы или годы исследований, создания образа жертвы, знания её целей и выполнения плана. Сегодня же легко использовать ИИ для исследования цели, создания поддельных профилей в социальных сетях, поддельных биографий и даже поддельных голосовых звонков.

«Искусственный интеллект может помочь создать целую вымышленную предысторию, — сказал Карпентер. — Технология помогает подготовить почву, но обман в конечном итоге проявляется через человеческие отношения».

«Индустрия искусственного интеллекта превратилась в индустрию национальной безопасности быстрее, чем это отразилось на ее корпоративной культуре», — сказал Браун.

«Часть того, что значит попасть в ловушку, — это неизвестность, — добавил он. — Это не похоже на манипуляцию. Это кажется искренним, даже удачным».

Карпентер сказал, что хорошим первым шагом является поиск необычных закономерностей. Обратите внимание, например, на «случайные встречи, которые происходят слишком часто», — сказал он. Есть также очевидные признаки, такие как постоянное любопытство к работе и коллегам, или просьба сохранить в тайне информацию о встречах, а также настойчивые требования представиться или получить информацию.

К более серьезным тревожным сигналам относится ситуация, когда чьи-то просьбы становятся все более масштабными, выходя за рамки того, что обычно вызывает у вас дискомфорт. «Простая проверка интуиции, — говорит Браун. — Останется ли этот человек на своем месте, если вы завтра потеряете работу?»

Также полезно попытаться понять, когда эмоции могут влиять на принятие решения. Карпентер предлагает установить четкую границу между личной и профессиональной жизнью. Внутри компаний это также помогает «искоренить „исключительность руководителей“», — сказал он, — идею о том, что правила не распространяются на людей, занимающих руководящие должности в компании.

Браун добавил, что корпоративная культура также играет свою роль: комфортно ли сотрудникам высказывать свои опасения, оспаривать необычные запросы и сообщать о возможных угрозах? «Одна из самых опасных культур безопасности — это та, где никто не чувствует себя комфортно, задавая вопросы генеральному директору», — сказал Карпентер.

«Основателям компаний нужно рисковать и изучать новые возможности для бизнеса», — сказал Браун. «Паранойя не помогает. Помогает осознание того, что ты — мишень».

Источник: techcrunch.com

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники Оптимизированный контроллер на основе нечеткой логики снижает среднюю ошибку отслеживания роботизированной руки на 89% в ходе моделирования. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений. Новости робототехники Оптимизированный контроллер на основе нечеткой логики снижает среднюю ошибку отслеживания роботизированной руки на 89% в ходе моделирования. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений.

Оставить комментарий