ИИ в IT: как пользоваться ChatGPT и не слить конфиденциальные данные

ИИ помогает инженеру. Но готов ли инженер безопасно его использовать?

ИИ действительно здорово изменил жизнь инженера. Айтишники сейчас постоянно используют нейросети будь ты сетевой инженер, безопасник, админ, DevOps или SOC-аналитик. У меня, например, ChatGPT и ему подобные давно уже не игрушка, а настоящая рабочая лошадка. Распутать конфиг, найти кривую строку, понять, почему что-то вдруг сломалось, сгенерировать скриптвсё это с ИИ делается в разы быстрее, чем вручную. Нет смысла тратить часы на то, что машина разберёт за секунды.

Но есть момент, о котором почти никто не думает, когда открывает чат и вставляет туда текст: а что именно ты туда отправляешь.

Дело не в том, что кто-то «не подумал»

Часто после инцидентов начинают ворчать: “Вот стажёры не подумали и слили всё.” Но тут вообще не в опыте дело. Любой, хоть джун, хоть зрелый сеньор, хочет побыстрее решить задачу. Это нормально. Всё наше ИБ на самом деле регулярно ломается не от гениев-хакеров, а потому что люди просто ищут лёгких путей. И вот тут уже не ИИ сам по себе виноват, а мы. Инженер зачем-то кидает в нейросеть то, что вообще нельзя показывать никому вне компании—только чтобы не тратить время на ручную работу.

Как это выглядит на практике

Возьмём обычную рабочую ситуацию. SOC-аналитику прилетает лог на несколько тысяч строк наадо быстро найти, где там подозрительная активность. Руками это часы работы. Логичное и понятное решение скопировать весь лог и кинуть в ИИ: «найди аномалии, покажи, где успешные логины, а где нет».

Задача решена за пару секунд. Только вместе с решением в облако ушли внутренние IP-адреса, имена серверов, домены, почты сотрудников, токены и прочая служебная информация, которая в этом логе находилась.

С сетевыми конфигами ровно то же самое. Инженер берёт running-config с Cisco, FortiGate, Palo Alto не важно какого устройства и отправляет в ИИ, чтобы быстро найти косяк в ACL или в маршрутизации. Да, пароли в конфиге могут быть зашифрованы, но по одному такому файлу можно собрать всю картину сети:

• Внутреннюю и внешнюю IP-адресацию;

• Структуру VLAN и DMZ;

• VPN-пиры и параметры шифрования;

• Имена хостов и описания интерфейсов;

• Названия филиалов, SNMP-community, адреса LDAP-серверов.

Для госструктур, банков, медицины и вообще любой организации с чувствительными данными это уже не мелкая помарка, а прямой вектор для разведки (Reconnaissance Phase).

«Да кому я вообще нужен?»
Многие до сих пор думают, что чат с нейросетью это типа личный блокнот, и никто его не увидит. Но никто со стороны не скажет точно, как эти данные хранятся, кто имеет к ним доступ, где они всплывут потом. Риски есть всегда.

И это не гипотетические страшилки. 28 июля 2026 года исследовательская команда Malwarebytes выпустила разбор реального инцидента: из-за того, как работала функция «Share» (поделиться чатом) в Claude от Anthropic, часть публично расшаренных чатов оказалась проиндексирована Google и Bing.

Люди находили в поиске ключи от криптокошельков, персональные данные, личные рабочие заметки и куски корпоративной информации. И это не первый такой случай  похожие истории уже были с Grok, Meta AI и ChatGPT.

Человек просто делился ссылкой на чат с коллегой, а эта ссылка со временем всплывала в обычном выдаче Яндекса или Google. Теперь представьте, что в таком чате висел лог SOC-аналитика или running-config с маршрутизатора банка или госоргана.

Вывод простой: ссылка на чат с ИИ  это потенциально публичная страница, и рассчитывать на её вечную приватность нельзя.

Что с этим делать

Вырубить нейросети прокси-серверами не получится. Люди всё равно обойдут запрет с личного телефона, через мобильный инет, через домашний ноутбук. Это лишь запускает лавину теневого Shadow IT.

Адекватных путей тут два: либо компания поднимает свой локальный ИИ на мощном On-Premise сервере (или использует Enterprise-контур), либо инженеры сами контролируют то, что отправляют во внешние сервисы.

Но даже если у вас поднята своя локальная нейросеть, привычка вычищать чувствительные данные никуда не девается. Главное правило остаётся прежним убирать всё лишнее ЕЩЁ ДО ТОГО, как текст ушел в окно чата.

Руками каждый раз вычищать IP-адреса, имена хостов и токены долго и муторно. На этом теряется весь смысл экономии времени. Поэтому я написал локальный инструмент на Python — Config Anonymizer.

Что он делает:

• Работает 100% офлайн: Запускается строго на вашей машине, без вызовов API. Данные физически не покидают ПК.

• Понимает конфиги разных вендоров: Корректно разбирает синтаксис Cisco, Fortinet и большинства других сетевых устройств.

• Сохраняет логику: Не просто тупо вырезает IP и имена, а заменяет их так, чтобы структура осталась рабочей. ИИ по-прежнему находит ошибки в ACL или в OSPF, но уже не видит за этим реальную сеть.

• Гибкие режимы: Есть стандартная замена IP/hostname/хешей, и есть MAX-режим — где перемешиваются интерфейсы, ACL и добавляется соль (—salt), чтобы конфиги из разных проектов или смен невозможно было связать между собой.

вывод таков;

Искусственный интеллект должен экономить время инженера, а не создавать работу для отдела ИБ. И тут вопрос не в том, чтобы отказаться от нейросетей — это уже нереально и не нужно. Вопрос в том, чтобы понимать, что именно ты в него отправляешь, и вычищать лишнее до того, как нажал Enter.

Код проекта открыт, берите и пользуйтесь:

https://github.com/DarkOnTheWeb/Cisco_Config_Anonimyzer

Источник: habr.com