Настройка Microsoft Purview для защиты данных в сторонних LLM

18 февраля 2026 г.

Введение: проблемы управления данными в эпоху внешних программ LLM

К 2026 году внедрение моделей большого языка (LLM) и инструментов генеративного искусственного интеллекта (ИИ) станет реальностью во многих организациях. Хотя собственные решения, такие как Microsoft 365 Copilot, предлагают безопасную интеграцию и управление данными, многие компании также используют множество других сторонних LLM, доступных через Интернет или API. Такое распространение внешних инструментов искусственного интеллекта, хотя и полезно для инноваций и производительности, создает значительный риск: непреднамеренное или злонамеренное раскрытие конфиденциальных данных [1].

Сотрудники в погоне за эффективностью или любопытством могут непреднамеренно вставлять коммерческую тайну, информацию о клиентах, финансовые данные или интеллектуальную собственность в общедоступные интерфейсы чата AI или сторонние LLM, которые не имеют таких же гарантий безопасности и конфиденциальности, как корпоративные решения. Такое поведение может привести к массовой утечке данных, нарушениям нормативных требований и серьезному репутационному ущербу. Риск того, что сотрудники «обучают» общедоступные модели ИИ с использованием конфиденциальных данных компании, является одной из крупнейших проблем безопасности и управления данными в 2026 году [2].

Чтобы решить эту проблему, Microsoft Purview в 2026 году значительно расширила возможности предотвращения потери данных (DLP). Purview теперь действует как «шлюз безопасности ИИ», отслеживая и блокируя отправку конфиденциальных данных неавторизованным внешним инструментам ИИ в режиме реального времени. Он проверяет исходящий трафик, выявляет шаблоны конфиденциальных данных и применяет политики для предотвращения кражи, гарантируя, что инновации ИИ не поставят под угрозу безопасность данных и соответствие требованиям [3].

Эта техническая и образовательная статья призвана помочь администраторам соответствия, аналитикам безопасности и ИТ-руководителям понять риски, связанные со сторонними LLM, и настроить защиту Microsoft Purview для защиты конфиденциальных данных. Мы рассмотрим основополагающие принципы, предварительные условия и подробное пошаговое руководство по реализации конкретных политик DLP для служб ИИ.

Риски сторонних программ LLM и необходимость управления

Легкость доступа и мощь сторонних LLM могут оказаться палкой о двух концах. Хотя они предлагают преимущества, они также представляют существенные риски для безопасности корпоративных данных:

Непреднамеренная утечка данных. Сотрудники могут без злого умысла копировать и вставлять конфиденциальные данные во внешние запросы LLM для обобщения, анализа или создания контента, не осознавая, что эти данные могут храниться или использоваться для обучения модели ИИ, делая их общедоступными или доступными для третьих лиц.
Кража вредоносных данных. Злоумышленник может использовать сторонний LLM в качестве канала для кражи конфиденциальных данных в обход традиционных мер безопасности.
Нарушения соответствия. Отправка регулируемых данных (таких как PII, PHI, PCI) внешним компаниям LLM может нарушить законы о конфиденциальности данных (GDPR, LGPD) и отраслевые правила, что приведет к крупным штрафам и репутационному ущербу.
Интеллектуальная собственность: Коммерческие тайны, собственные исходные коды и бизнес-планы могут быть раскрыты, если они будут включены в сторонние LLM.
Отсутствие прозрачности и контроля. Без соответствующих инструментов организациям не хватает информации о том, какие сторонние LLM используются, какие данные передаются и соответствуют ли эти службы внутренним политикам безопасности.

Microsoft Purview устраняет эти риски, расширяя свои возможности DLP на сферу услуг искусственного интеллекта. Это позволяет организациям выявлять, отслеживать и контролировать поток конфиденциальных данных в эти службы, обеспечивая последовательное применение политик управления данными во всей цифровой экосистеме [4].

Принципы защиты данных для искусственного интеллекта в компетенции Microsoft

Эффективная защита конфиденциальных данных в сторонних LLM в Microsoft Purview основана на следующих принципах:

Обнаружение и классификация ИИ. Определите, к каким сторонним ИИ-сервисам осуществляется доступ в сети, и классифицируйте их уровень.риска. Это позволяет политикам DLP быть целенаправленными и эффективными.
Обнаружение конфиденциальных данных в режиме реального времени. Проверяйте исходящий трафик в режиме реального времени, чтобы определить наличие конфиденциальной информации (например, номеров кредитных карт, номеров социального страхования, данных о состоянии здоровья) до того, как она достигнет внешнего LLM.
Контроль доступа и блокировка: применяйте политики для блокировки или оповещения о попытках передачи конфиденциальных данных неавторизованным LLM, гарантируя использование только утвержденных каналов.
Информированность пользователей. Немедленно предоставляйте пользователям обратную связь о нарушениях политики, рассказывая им о безопасном использовании инструментов искусственного интеллекта и рисках, связанных с обменом конфиденциальными данными.
Аудит и отчетность. Ведите подробный учет всех попыток нарушения политики и предоставляйте отчеты для анализа и постоянного улучшения состояния безопасности.

Предварительные условия для реализации

Чтобы настроить защиту Microsoft Purview для сторонних LLM, вам потребуются следующие элементы:

Лицензирование Microsoft 365 E5 или Microsoft Purview Compliance Suite: эти планы включают необходимые расширенные возможности управления DLP и ИИ.
Административный доступ: учетные записи с разрешениями администратора соответствия, администратора безопасности или глобального администратора на портале соответствия требованиям Microsoft Purview (compliance.microsoft.com).
Знание политик обработки данных: знание типов конфиденциальных данных вашей организации и внутренних политик соответствия.
Развертывание агента DLP: для мониторинга конечных точек на устройствах пользователей необходимо развернуть агенты Microsoft Purview DLP.

Пошаговое руководство: настройка политик DLP для ИИ в Microsoft Purview

Настройка защиты от отправки конфиденциальных данных сторонним LLM предполагает выявление рискованных приложений искусственного интеллекта и создание целевых политик DLP.

Шаг 1. Выявление рискованных приложений ИИ

Первый шаг — получить представление о том, к каким сторонним службам искусственного интеллекта осуществляется доступ в вашей сети, и оценить их риски.

Войдите на портал соответствия требованиям Microsoft Purview: откройте браузер и перейдите по адресу compliance.microsoft.com. Войдите в систему с учетной записью, имеющей необходимые административные разрешения.
Перейдите к AI Hub. На левой панели навигации выберите AI Hub > Discovery. AI Hub — это новый раздел, представленный в 2026 году для управления безопасностью и соответствием требованиям ИИ.
Просмотр обнаруженных служб ИИ: Purview выведет список всех сторонних веб-сайтов и служб ИИ, к которым осуществлялся доступ в вашей сети. Каждой услуге присваивается "Оценка риска" на основе таких факторов, как репутация поставщика, известная политика конфиденциальности, расположение данных и тип данных, которые обрабатывает служба. Это поможет вам определить, какие сторонние LLM представляют наибольший риск для вашей организации.
Классификация приложений. На основании оценки риска и внутренней политики классифицируйте приложения ИИ как «Одобренные», «Отслеживаемые» или «Несанкционированные».

Шаг 2. Создание политик блокировки DLP для сторонних LLM

Выявив опасные приложения ИИ, вы можете создать политики DLP для контроля потока конфиденциальных данных.

Создайте новую политику защиты от потери данных. На портале соответствия требованиям Microsoft Purview выберите Предотвращение потери данных > Политики. Нажмите + Создать политику.
Выберите шаблон или настройте. Вы можете начать с уже существующего шаблона (например, «Финансовые данные», «Данные о состоянии здоровья») или создать собственную политику. Для сторонних LLM специальная политика обеспечивает большую гибкость.
Установите местоположения. В разделе «Местоположения» выберите «Службы искусственного интеллекта и чат-боты». Это новая опция, представленная в 2026 году, которая позволяет настраивать политики специально для взаимодействия со сторонними LLM. Вы также можете включить другие местоположения, например конечные точки, для мониторинга копирования и вставки.
Определить условия. Настройте условия, при которых будет активироваться политика. Это часто включает в себя обнаружение конкретных типов конфиденциальной информации (SIT), таких как:
Финансовые данные: номера кредитных карт.сказали, банковские счета.
Личные данные: CPF, идентификационные номера, корпоративные адреса электронной почты.
Интеллектуальная собственность: исходный код, документы с особыми метками конфиденциальности (например, «Конфиденциально»).
Вы можете уточнить условия, включив в них ключевые слова или регулярные выражения, обозначающие конфиденциальные данные.
Настройте действия. Для неавторизованных сторонних LLM или сторонних LLM с высоким уровнем риска установите действие ** «Блокировать с помощью подсказки политики»**. Подсказка политики сообщит пользователю, что действие было заблокировано и почему, а также ознакомит его с политикой безопасности. Для отслеживаемых LLM вы можете выбрать «Аудит» или «Блокировать с переопределением пользователя» (что позволяет пользователю обосновать и продолжить).
Сохранить и активировать политику: просмотрите политику и активируйте ее. Полное применение политик DLP во всей вашей среде может занять некоторое время.

Шаг 3: Мониторинг и непрерывное образование

Мониторинг необходим для обеспечения эффективности политик DLP и выявления областей, требующих дополнительного обучения.

Используйте отчеты AI Hub. В Microsoft Purview AI Hub вы найдете подробные отчеты о нарушениях политики DLP, связанных со сторонними LLM. Эти отчеты покажут:
Какие сторонние LLM используются: Определите наиболее популярные услуги и те, которые представляют наибольший риск.
Какие конфиденциальные данные передаются. Узнайте, какие типы информации пользователи пытаются отправить внешним LLM.
Какие пользователи/отделы нарушают правила: определите области, которые требуют дополнительного обучения или повышения осведомленности.
Расследование инцидентов. Используйте Activity Explorer в Purview для подробного расследования инцидентов DLP, включая пользователя, файл, задействованную службу AI и заблокированный контент.
Образование и повышение осведомленности. Используйте данные отчетов для проведения обучения по вопросам безопасности ИИ. Объясните сотрудникам риски, связанные с передачей конфиденциальных данных сторонним LLM, и поощряйте использование одобренных компанией инструментов искусственного интеллекта.
Периодический обзор политики. Сфера искусственного интеллекта постоянно развивается. Регулярно пересматривайте свои политики DLP для сторонних LLM, чтобы гарантировать, что они остаются актуальными и эффективными против новых угроз и новых услуг искусственного интеллекта.

Дополнительные соображения и лучшие практики

Классификация данных. Надежная классификация данных является основой эффективных политик DLP. Используйте метки конфиденциальности, чтобы автоматически или вручную классифицировать конфиденциальные данные.
Четкая коммуникация. Четко донесите до сотрудников политику использования ИИ. Объясните, что разрешено, а что нет, а также риски, связанные с использованием неавторизованных LLM.
Поэтапный подход. Рассмотрите возможность поэтапного внедрения политик DLP, начиная с режима аудита, чтобы понять поведение пользователей, прежде чем применять жесткие блокировки.
Интеграция SIEM/SOAR: интегрируйте оповещения Microsoft Purview DLP с вашей системой SIEM (например, Microsoft Sentinel) для централизованного просмотра инцидентов безопасности и организации автоматического реагирования.
Оценка поставщиков искусственного интеллекта. При рассмотрении вопроса об использовании сторонних LLM проведите тщательную оценку безопасности и конфиденциальности поставщиков, чтобы убедиться, что они соответствуют вашим требованиям.

Заключение

Защита конфиденциальных данных в мире, где сторонние LLM широко доступны, является критической задачей информационной безопасности в 2026 году. Microsoft Purview с расширенными возможностями DLP и управления искусственным интеллектом предлагает надежное решение для снижения рисков кражи данных и нарушений нормативных требований. Внедряя целевые политики DLP, выявляя рискованные приложения ИИ и обучая пользователей, организации могут реализовать преимущества искусственного интеллекта, не ставя под угрозу безопасность своих наиболее ценных активов. Эффективная настройка Microsoft Purview для защиты данных в сторонних LLM — это не просто техническая мера, а фундаментальная основа комплексной и проактивной стратегии безопасности ИИ.

Ссылки

[1] Индекс безопасности данных Microsoft за 2026 год».будущее безопасности данных, включая новые инновации и стратегии, а также рекомендации и передовой опыт». [2] Блог Microsoft по безопасности. «Четыре приоритета в области идентификации и безопасности доступа к сети на основе искусственного интеллекта в 2026 году». Доступно по адресу: [https://www.microsoft.com/en-us/security/blog/2026/01/20/four-priorities-for-ai-powered-identity-and-network-access-security-in-2026/] (https://www.microsoft.com/en-us/security/blog/2026/01/20/four-priorities-for-ai-powered-identity-and-network-access-security-in-2026/) [3] План развития Microsoft 365. «В дорожной карте Microsoft 365 указаны предполагаемые даты выпуска и описания коммерческих функций». Доступно по адресу: https://www.microsoft.com/microsoft-365/roadmap?featureid=109581. [4] Безопасность Microsoft. «Повысьте безопасность личных данных с помощью ИИ». Доступно по адресу: https://www.microsoft.com/en-us/security/business/identity-access/microsoft-entra-id