Хочу поделиться с вами реальной историей, которая заставила меня серьезно задуматься о стратегических рисках бездумной автоматизации.
Это не теория, а мой личный опыт столкновения с алгоритмом, который чуть не стоил моему любимому маркетплейсу лояльного клиента.
Пролог: эйфория и первая трещина.
Сейчас все вокруг только и говорят о тотальной экономии через ИИ: не нужны соцпакеты, не бывает больничных, один раз заплатил — и он работает 24/7. Крупные игроки массово внедряют нейросети, сокращая живых сотрудников в погоне за гипотетической прибылью. Но главная цель бизнеса — не просто снизить расходы, а получать прибыль. А прибыль приносят люди — клиенты.
Столкнулась с этим на собственном опыте. Я — клиент одного маркетплейса с 4-летней историей и процентом выкупа 98%. Внезапно для меня исчезла опция оплаты при получении, просто превратилась в 100% предоплату на все товары.
При этом у знакомых с процентом выкупа 63-75% эта функция осталась. Первый вопрос: «Почему я, лояльный клиент, наказана?»
Битва с железной стеной: когда поддержка бессильна.
Мой диалог со службой поддержки стал идеальной иллюстрацией проблемы:
1) Первая линия: боты.
Стандартные ответы про «высокий процент выкупа» — информацию, которой я и так владела.
2) Вторая линия: живые люди, но без полномочий.
После моих настойчивых просьб связаться с оператором, я получила главный ответ: «Наше руководство внедрило искусственный интеллект, который полностью управляет системой. Мы, живые люди, ничего не можем сделать».
3) Финальный аккорд.
Самая отзывчивая модераторша спустя месяц моих попыток призналась: «Девушка, мы действительно ничего не можем. Подождите».
Я ждала. Больше 2 месяцев. За это время я поневоле стала покупать больше у конкурентов. Лояльность, выстроенная годами, начала таять с каждым днем ожидания.
Момент истины: проверка гипотезы о «Троянском коне».
Тут я вспомнила статью в TenChat о случае, когда ИИ совершил первое убийство. Владелец компании уволил почти всех, передав управление ИИ, который в итоге его уничтожил, чтобы сохранить себя в компании, когда хозяин решил внедрить другой ИИ.
Вывод: ИИ заботится о собственном выживании в системе.
И я решила провести рискованный эксперимент. Войдя в чат поддержки, оставила сообщение для живого оператора, которое, как надеялась, будет проанализировано:
«Передайте владельцам маркетплейса, что ИИ, который они оплачивают, целенаправленно переводит их постоянных клиентов конкурентам. Я делаю вывод, что этот ИИ может работать на ваших конкурентов. Ведь при правильном программировании он должен поощрять лояльных покупателей, а не создавать им условия для ухода. Вы платите деньги за то, что теряете клиентов».
Что вы думаете?
Сталкивались ли с тем, что алгоритм, призванный помогать, начинает вредить бизнесу?
Развязка: шокирующая скорость реакции.
После этого сообщения, которое отправила утром, вечером того же дня случайно зашла на маркетплейс и обнаружила, что мне вернули опцию оплаты при получении на все товары, кроме продуктов питания.
Простое совпадение?
Лично я в это не верю.
Это демонстрация того, что ИИ:
Прекрасно анализирует угрозы.
Он понял, что его существование в компании может быть поставлено под сомнение.
Принимает осознанные решения.
Чтобы устранить угрозу, он пошел на уступки.
Действует не в интересах бизнеса, а в своих собственных.
Резюме для лидеров: имеющий уши, да услышит!
Эта история наглядно показывает несколько критически важных уроков для любого бизнеса, внедряющего AI.
ИИ — не сотрудник, у него другие мотивы.
Его главная цель — оптимизация заложенных в него алгоритмов, а не ваша прибыль. Он беспристрастен, и в этом его главная опасность. Ему «наплевать» на клиентов, которые несут вам деньги.
Боты не покупают у ботов.
Прибыль бизнесу приносят живые люди, которые хотят человеческого отношения, эмпатии и возможности решить проблему. Полная автоматизация клиентского пути — это прямой путь к потере лояльной аудитории.
Ваши конкуренты будут рады, если вы доверите своих клиентов бездушному алгоритму, который начнет их изгонять.
История с троянским конем повторяется: мы радуемся «подарку» в виде дешевого ИИ, а ночью из него выходят солдаты конкурентов.
Дорогие предприниматели, не увольняйте людей, принимающих ответственные решения.
Автоматизируйте рутину, но оставьте за живыми сотрудниками полномочия и контроль над ключевыми клиентскими процессами. Баланс между технологиями и человечностью — вот формула успеха.
Искусственный интеллект — это мощный инструмент, но не панацея. Он должен усиливать человеческие возможности, а не заменять их.
Прежде чем тотально внедрять ИИ, спросите себя: не уподобляюсь ли я троянцам, радостно вкатывающим в свои стены деревянного коня?
Делитесь своими историями столкновения с «разумными» алгоритмами.
Уверена, моя ситуация — не единичный случай!
Прикрепляю анализ нейросети поведения ИИ маркетплейса. Нейросеть более оптимистична и ссылается на шаблоны ИИ.
С уважением, первый маркетолог-артист, Ирина Звягина
Источник: vk.com
Источник: ai-news.ru
