Теневой ИИ и пути развития современного труда
Делиться
Прогуляйтесь по любому городскому парку, и вы заметите узкие грунтовые тропинки, пересекающие траву. Они встречаются между тротуарами, через газоны и в тех местах, где, по замыслу градостроителей, людям никогда не предназначалось переходить дорогу.
Градостроители называют их « путями желания» .
Они образуются, когда люди выбирают собственные маршруты, а не официальные пешеходные дорожки. Со временем трава исчезает, и неформальная тропа становится наглядным свидетельством того, как люди на самом деле передвигаются по этому пространству.
На протяжении десятилетий градостроители считали эти тропы ошибкой. Сегодня многие смотрят на них иначе. Тропы, призванные пробуждать желание, раскрывают нечто ценное. Они показывают, где первоначальный проект не соответствовал поведению человека.
Нечто подобное происходит и внутри современных организаций.
Сотрудники уже используют искусственный интеллект для составления электронных писем, анализа данных, обобщения документов и генерации идей. Менеджер по маркетингу может использовать языковую модель для подготовки текстов рекламных кампаний. Финансовый аналитик может составлять резюме отчетов с помощью ИИ-помощника. Менеджер по продукту может тестировать идеи с помощью генеративных инструментов.
Зачастую такие эксперименты проводятся незаметно, вне рамок официальных систем или правил.
У этого явления есть название: Теневой ИИ.
Этот термин перекликается со старой концепцией теневых ИТ, когда сотрудники устанавливали программное обеспечение без одобрения корпоративных ИТ-отделов. Сегодня эта схема повторяется с искусственным интеллектом. Работники внедряют генеративные инструменты в свою повседневную работу задолго до того, как организации создают структуры управления или утверждают платформы.
Это вызывает очевидные опасения. Конфиденциальная корпоративная информация может попадать во внешние системы без четкого понимания того, как эти данные обрабатываются или хранятся. Нормативно-правовые рамки, такие как GDPR или Закон ЕС об искусственном интеллекте, могут быть нарушены непреднамеренно. Группы безопасности теряют контроль над тем, как информация перемещается внутри организации.
Однако, сосредотачиваясь только на риске, упускается из виду нечто важное.
Теневой ИИ часто выявляет области, где существующие системы перестали соответствовать потребностям людей в работе. Подобно дорожкам в парке, теневой ИИ показывает, где сотрудники ищут более быстрые и интеллектуальные способы выполнения повседневных задач.
Если бы такое поведение было редким, с ним можно было бы справиться. Но статистика говорит об обратном.
Опросы показывают, что почти четыре из пяти человек, использующих ИИ на работе, приносят свои собственные инструменты, а не полагаются на системы, предоставляемые работодателем. Многие взаимодействуют с этими инструментами через личные учетные записи, а не через корпоративные платформы, предназначенные для защиты конфиденциальных данных.
Последствия начинают проявляться. Исследования показывают, что более половины сотрудников признаются во внесении конфиденциальной информации в системы искусственного интеллекта. Организации, столкнувшиеся с широким распространением теневого ИИ, сообщают о более высоких затратах, связанных с утечками данных, и большей подверженности регуляторным рискам.
Иными словами, искусственный интеллект уже широко распространяется на рабочих местах. Системы управления, обучения и безопасности появятся позже.
Этот разрыв создает реальные риски. Он также раскрывает некоторые аспекты того, как технологические изменения на самом деле происходят внутри организаций.
Теневой ИИ как организационный сигнал
Существует и другой способ интерпретации теневого ИИ.
Когда сотрудники внедряют новые инструменты вне официальных каналов, они не только обходят структуры управления, но и выявляют недостатки существующих рабочих процессов.
Во многих организациях генеративный ИИ сначала появляется на периферии повседневной работы. Сотрудники экспериментируют с более быстрым составлением электронных писем, обобщением документов, анализом электронных таблиц, подготовкой презентаций или изучением идей. Эти эксперименты происходят незаметно, поскольку доступные им официальные системы пока не поддерживают эти возможности.
Таким образом, то, что команды безопасности рассматривают как несанкционированное использование, может служить формой организационной диагностики. Теневой ИИ выявляет места, куда люди пытаются переместиться быстрее, чем это позволяют окружающие их системы.
Градостроители давно наблюдают подобную закономерность в городах. Джейн Джейкобс утверждала, что города следует проектировать, исходя из того, как люди фактически в них перемещаются, а не из того, как планировщики себе их представляют. Неформальные тропинки через парки и университетские кампусы служат своего рода картой реального поведения.
Организациям, столкнувшимся с ростом теневого ИИ, возможно, потребуется перенять аналогичный подход.
Вместо того чтобы рассматривать теневой ИИ только как провал управления, руководители могут воспринимать его как ранний сигнал о том, где искусственный интеллект может принести наибольшую пользу. Неформальные эксперименты, проводимые в разных командах, часто указывают на рабочие процессы, где автоматизация, расширение возможностей или улучшенный доступ к информации могут значительно повысить производительность.
Когда организации подходят к этим закономерностям с любопытством, а не со страхом, разрозненные эксперименты начинают выявлять нечто ценное. Они показывают повторяющиеся задачи, которые сотрудники уже пытаются ускорить, и выявляют процессы, в которых более совершенные инструменты могли бы обеспечить существенное повышение эффективности.
То, что на первый взгляд кажется хаотичным, часто указывает на возможности для консолидации. Вместо десятков разрозненных экспериментов в разных отделах организации могут выявлять общие потребности и создавать на их основе управляемые, масштабируемые решения.
При грамотном подходе этот переход не только снижает риски, но и предоставляет сотрудникам безопасные инструменты, поддерживающие их существующий стиль работы, превращая искусственный интеллект из инструмента, требующего постоянного контроля, в множитель творчества и инноваций. Игнорирование теневого ИИ означает упущение этих сигналов. Это позволяет дорогостоящим и нескоординированным экспериментам продолжаться в тени, в то время как организации упускают из виду информацию, которая могла бы способствовать более разумному внедрению.
Учимся на примере следов, проложенных искусственным интеллектом.
Организации, стремящиеся эффективно управлять искусственным интеллектом, должны сначала понять, как он уже используется.
Теневой ИИ следует рассматривать не только как проблему соблюдения нормативных требований. Его следует анализировать как индикатор того, где сотрудники пытаются двигаться быстрее, чем позволяют окружающие их системы. Первый шаг — это прозрачность. Руководителям необходимо понимать, какие инструменты сотрудники уже используют и почему. Опросы сотрудников, технические аудиты и открытые обсуждения между отделами часто показывают, где эксперименты начинаются первыми. Отделы маркетинга, продаж, финансов, кадров и разработки продуктов часто оказываются первыми пользователями.
Как только эти закономерности становятся очевидными, задача смещается от подавления к структурированию. Организации должны определить, какие инструменты подходят, разработать политику управления, соответствующую требованиям к конфиденциальности данных и регулированию, а также спроектировать процессы, отражающие реальный ход работы внутри организации.
Культура имеет такое же значение, как и политика. Сотрудники должны чувствовать себя в безопасности, обсуждая, как они экспериментируют с искусственным интеллектом, а не скрывая это. Когда люди боятся наказания или дополнительной нагрузки за внедрение новых инструментов, эксперименты не исчезают. Они просто уходят в тень.
Таким образом, эффективное управление требует большего, чем просто правила. Оно требует среды, в которой поощряются и направляются ответственные эксперименты. Обучение, доступ к утвержденным инструментам и четкие ограничения позволяют организациям превращать разрозненные эксперименты в скоординированный прогресс.
Понимание того, что уже существует в тени, часто является первым шагом к построению устойчивой и интеллектуальной стратегии в области искусственного интеллекта.
И напоследок
На практике теневой ИИ редко является результатом злого умысла. Чаще всего он отражает несогласованность и недостаток коммуникации внутри организации. Когда сотрудники чувствуют себя небезопасно, делясь результатами своих экспериментов, когда любопытство встречает в основном критику, предсказуемым результатом становится молчание.
Люди не перестают экспериментировать. Они просто перестают делиться результатами.
Если организации хотят эффективно управлять ИИ, им необходимо начать с создания среды, в которой возможно вдумчивое исследование. Обучение, практические примеры и четкие ограничения делают ответственные эксперименты видимыми, а не скрытыми.
Но культура имеет первостепенное значение. Когда любопытство вытесняет подозрения, эксперименты выходят из тени на открытую арену.
Первый шаг к управлению теневым ИИ прост: понять, где люди уже находятся.
Об Александре Осиповой
Александра Осипова — основательница Apricity Lab, где она работает с лидерами и организациями, осуществляющими переход к системам на основе искусственного интеллекта.
Она пишет об искусственном интеллекте, системном мышлении и будущем рынка труда. Больше её работ и идей можно найти на её странице в LinkedIn.
Александра Осипова Посмотреть все от Александры Осиповой
Источник: towardsdatascience.com
