Opstel van Microsoft Purview vir databeskerming in derdeparty-LLM's

Opstel van Microsoft Purview vir databeskerming in derdeparty-LLM's

18 Februarie 2026

Inleiding: Die uitdaging van databestuur in die era van eksterne LLM's

Teen 2026 het die aanvaarding van groottaalmodelle (LLM's) en generatiewe kunsmatige intelligensie-instrumente (KI) 'n werklikheid geword in baie organisasies. Terwyl inheemse oplossings soos Microsoft 365 Copilot veilige integrasies en databestuur bied, gebruik baie maatskappye ook 'n verskeidenheid ander derdeparty-LLM's, toeganklik via die web of API's. Hierdie verspreiding van eksterne KI-instrumente, hoewel voordelig vir innovasie en produktiwiteit, stel 'n beduidende risiko in: die onopsetlike of kwaadwillige blootstelling van sensitiewe data [1].

Werknemers, in die strewe na doeltreffendheid of nuuskierigheid, kan per ongeluk handelsgeheime, klante-inligting, finansiële data of intellektuele eiendom in publieke KI-kletskoppelvlakke of derdeparty-LLM'e plak wat nie dieselfde sekuriteit- en privaatheidswaarborge as ondernemingsoplossings het nie. Hierdie gedrag kan lei tot massiewe datalekkasies, voldoeningsoortredings en ernstige reputasieskade. Die risiko dat werknemers openbare KI-modelle met sensitiewe maatskappydata "oplei" is een van die grootste bekommernisse oor datasekuriteit en -bestuur in 2026 [2].

Om hierdie uitdaging aan te spreek, het Microsoft Purview in 2026 sy Data Loss Prevention (DLP)-vermoëns aansienlik uitgebrei. Purview tree nou op as 'n "KI-sekuriteitspoort", wat die versending van sensitiewe data na ongemagtigde eksterne KI-nutsmiddels intyds monitor en blokkeer. Dit inspekteer uitgaande verkeer, identifiseer sensitiewe datapatrone, en dwing beleide af om uitfiltrering te voorkom, om te verseker dat KI-innovasie nie datasekuriteit en -nakoming in die gedrang bring nie [3].

Hierdie tegniese en opvoedkundige artikel is bedoel om nakomingsadministrateurs, sekuriteitsontleders en IT-leiers te lei om die risiko's wat met derdeparty-LLM'e geassosieer word te verstaan ​​en om Microsoft Purview-verdediging op te stel om sensitiewe data te beskerm. Ons sal die onderliggende beginsels, voorvereistes en 'n gedetailleerde stap-vir-stap-gids vir die implementering van spesifieke DLP-beleide vir KI-dienste dek.

Die risiko's van derdeparty-LLM'e en die behoefte aan bestuur

Die gemak van toegang en krag van derdeparty-LLM's kan 'n tweesnydende swaard wees. Alhoewel dit voordele bied, hou dit ook aansienlike risiko's vir korporatiewe datasekuriteit in:

  • Onbedoelde data-eksfiltrering: Werknemers mag sonder opset sensitiewe data in eksterne LLM-aansporings kopieer en plak om inhoud op te som, te ontleed of te genereer, sonder om te besef dat hierdie data gestoor of gebruik kan word om die KI-model op te lei, om dit publiek of toeganklik vir derde partye te maak.

  • Kwaadwillige data-eksfiltrasie: 'n Kwaadwillige werknemer kan 'n derdeparty-LLM as 'n kanaal gebruik om sensitiewe data te eksfiltreer, wat tradisionele sekuriteitskontroles omseil.

  • Voldoeningsoortredings: Die stuur van gereguleerde data (soos PII, PHI, PCI) na eksterne LLM's kan dataprivaatheidswette (GDPR, LGPD) en industriespesifieke regulasies oortree, wat swaar boetes en reputasieskade tot gevolg het.

  • Intellektuele Eiendom: Handelsgeheime, eie bronkodes en sakeplanne kan blootgelê word as dit in derdeparty-LLM'e ingevoeg word.

  • Gebrek aan sigbaarheid en beheer: Sonder die toepaslike gereedskap het organisasies nie sigbaarheid in watter derdeparty-LLM's gebruik word, watter data gedeel word en of hierdie dienste aan interne sekuriteitsbeleide voldoen nie.

Microsoft Purview spreek hierdie risiko's aan deur sy DLP-vermoëns uit te brei na die KI-dienstedomein. Dit stel organisasies in staat om die vloei van sensitiewe data na hierdie dienste te identifiseer, te monitor en te beheer, om te verseker dat databestuursbeleide konsekwent oor die digitale ekosisteem toegepas word [4].

Databeskermingsbeginsels vir KI in Microsoft Purview

Effektiewe beskerming van sensitiewe data in derdeparty-LLM'e in Microsoft Purview is gebaseer op die volgende beginsels:

  1. KI-ontdekking en -klassifikasie: Identifiseer tot watter derdeparty-KI-dienste toegang verkry word op die netwerk en klassifiseer hul vlakvan risiko. Dit laat DLP-beleide toe om geteiken en doeltreffend te wees.

  2. Intydse sensitiewe dataopsporing: Inspekteer uitgaande verkeer intyds om die teenwoordigheid van sensitiewe inligting (soos kredietkaartnommers, sosiale sekerheidsnommers, gesondheidsdata) te identifiseer voordat dit 'n eksterne LLM bereik.

  3. Toegangsbeheer en -blokkering: Pas beleide toe om te blokkeer of te waarsku oor pogings om sensitiewe data met ongemagtigde LLM's te deel, om te verseker dat slegs goedgekeurde kanale gebruik word.

  4. Gebruikersbewustheid: Verskaf onmiddellike terugvoer aan gebruikers oor beleidsoortredings, om hulle op te voed oor die veilige gebruik van KI-nutsgoed en die risiko's verbonde aan die deel van sensitiewe data.

  5. Oudit en verslagdoening: Hou 'n gedetailleerde rekord van alle pogings tot beleidsoortredings en verskaf verslae vir ontleding en voortdurende verbetering van sekuriteitsposisie.

Voorvereistes vir Implementering

Om Microsoft Purview-beskerming vir derdeparty-LLM's op te stel, benodig u die volgende elemente:

  • Microsoft 365 E5 of Microsoft Purview Compliance Suite-lisensiëring: Hierdie planne sluit die vereiste gevorderde DLP- en KI-bestuursvermoëns in.

  • Administratiewe toegang: Rekeninge met nakomingsadministrateur-, sekuriteitsadministrateur- of globale administrateur-toestemmings op die Microsoft Purview-nakomingsportaal (compliance.microsoft.com).

  • Kennis van databeleide: Vertroudheid met jou organisasie se sensitiewe datatipes en interne voldoeningsbeleide.

  • DLP Agent-ontplooiing: Vir eindpuntmonitering moet Microsoft Purview DLP-agente op gebruikers se toestelle ontplooi word.

Stap-vir-stap-gids: Konfigurasie van DLP-beleide vir KI in Microsoft Purview

Die opstel van beskerming teen die stuur van sensitiewe data na derdeparty-LLM's behels die identifisering van riskante KI-toepassings en die skep van geteikende DLP-beleide.

Stap 1: Identifisering van riskante KI-toepassings

Die eerste stap is om sigbaarheid te kry in watter derdeparty-KI-dienste op jou netwerk toegang verkry word en die risiko daarvan te evalueer.

  1. Gaan toegang tot die Microsoft Purview Compliance Portal: Maak jou blaaier oop en navigeer na compliance.microsoft.com. Meld aan met 'n rekening wat die nodige administratiewe toestemmings het.

  2. Navigeer na AI Hub: Gaan in die linkernavigasiepaneel na AI Hub > Discovery. AI Hub is die nuwe afdeling wat in 2026 bekendgestel is om KI-sekuriteit en -nakoming te bestuur.

  3. Review Discovered AI Services: Purview sal alle derdeparty-webwerwe en KI-dienste wat op jou netwerk verkry is, lys. Vir elke diens sal dit 'n "Risikotelling" toeken gebaseer op faktore soos die verskaffer se reputasie, bekende privaatheidsbeleide, die ligging van die data en die tipe data wat die diens verwerk. Dit help jou om te identifiseer watter derdeparty-LLM's die grootste risiko vir jou organisasie inhou.

  4. Klassifiseer toepassings: Op grond van die risikotelling en interne beleide, klassifiseer KI-toepassings as "Goedgekeur", "Gemonitor" of "Ongemagtig".

Stap 2: Skep DLP-blokkeerbeleide vir derdeparty-LLM's

Met riskante KI-toepassings wat geïdentifiseer is, kan jy DLP-beleide skep om die vloei van sensitiewe data te beheer.

  1. Skep 'n nuwe DLP-beleid: Gaan in die Microsoft Purview-nakomingsportaal na Dataverliesvoorkoming > Beleide. Klik + Skep beleid.

  2. Kies 'n sjabloon of pasmaak: Jy kan begin met 'n voorafbestaande sjabloon (bv. "Finansiële Data", "Gesondheidsdata") of 'n pasgemaakte beleid skep. Vir derdeparty-LLM's bied 'n pasgemaakte beleid groter buigsaamheid.

  3. Stel liggings: In die liggings-afdeling, kies "KI-dienste en kletsbotte". Dit is 'n nuwe opsie wat in 2026 bekendgestel is wat jou toelaat om beleide spesifiek te teiken vir interaksies met derdeparty-LLM's. Jy kan ook ander liggings, soos eindpunte, insluit om kopieer/plak te monitor.

  4. Definieer voorwaardes: Stel die voorwaardes op wat die polis sal aktiveer. Dit behels dikwels die opsporing van spesifieke sensitiewe inligtingtipes (SIT's), soos:

Finansiële data: Kredietkaartnommersgesê, bankrekeninge.

  • Persoonlike Data: GPF'e, identiteitsnommers, korporatiewe e-posadresse.

  • Intellektuele Eiendom: Bronkode, dokumente met spesifieke sensitiwiteitsetikette (bv. "Vertroulik").

  • Jy kan voorwaardes verfyn om sleutelwoorde of gereelde uitdrukkings in te sluit wat eie data aandui.

  • Stel die aksies: Vir ongemagtigde of hoërisiko-derdeparty-LLM's, stel die aksie op "Blokkeer met beleidwenk". Die beleidswenk sal die gebruiker inlig dat die aksie geblokkeer is en hoekom, en hulle inlig oor die sekuriteitsbeleid. Vir gemonitorde LLM'e, kan jy kies om te "Ouditeer" of "Blokkeer met gebruiker-oorslaan" (wat die gebruiker toelaat om te regverdig en voort te gaan).

  • Stoor en aktiveer die beleid: Hersien die beleid en aktiveer dit. DLP-beleide kan 'n rukkie neem om ten volle in jou hele omgewing toegepas te word.

Stap 3: Monitering en Deurlopende Opvoeding

Monitering is noodsaaklik om die doeltreffendheid van DLP-beleide te verseker en om areas te identifiseer wat bykomende onderwys benodig.

  1. Gebruik AI Hub-verslae: In Microsoft Purview AI Hub sal jy gedetailleerde verslae vind oor DLP-beleidsoortredings wat met derdeparty-LLM'e verband hou. Hierdie verslae sal wys:

  2. Watter derdeparty-LLM'e word gebruik: Identifiseer die gewildste dienste en dié wat die grootste risiko inhou.

  3. Watter sensitiewe data word gedeel: Verstaan ​​die tipe inligting wat gebruikers na eksterne LLM's probeer stuur.

  4. Watter gebruikers/departemente oortree beleide: Identifiseer areas wat bykomende opleiding of bewustheid benodig.

  5. Insident Ondersoek: Gebruik Activity Explorer in Purview om DLP-voorvalle in detail te ondersoek, insluitend die gebruiker, lêer, KI-diens betrokke en inhoud wat geblokkeer is.

  6. Opvoeding en bewustheid: Gebruik verslaggewingdata om KI-sekuriteitbewustheidsopleiding aan te dryf. Verduidelik aan werknemers die risiko's om sensitiewe data met derdeparty-LLM's te deel en bevorder die gebruik van maatskappy-goedgekeurde KI-nutsgoed.

  7. Periodiese beleidoorsig: Die KI-landskap ontwikkel voortdurend. Hersien gereeld jou DLP-beleide vir derdeparty-LLM's om te verseker dat hulle relevant en doeltreffend bly teen nuwe bedreigings en opkomende KI-dienste.

Bykomende oorwegings en beste praktyke

  • Dataklassifikasie: Robuuste dataklassifikasie is die grondslag vir effektiewe DLP-beleide. Gebruik sensitiwiteitsetikette om sensitiewe data outomaties of met die hand te klassifiseer.

  • Duidelike kommunikasie: Kommunikeer KI-gebruikbeleide duidelik aan werknemers. Verduidelik wat toegelaat word en wat nie, en die risiko's verbonde aan die gebruik van ongemagtigde LLM's.

  • Gefaseerde benadering: Oorweeg die implementering van DLP-beleide in fases, begin met ouditmodus om gebruikersgedrag te verstaan ​​voordat harde blokke toegepas word.

  • SIEM/SOAR-integrasie: Integreer Microsoft Purview DLP-waarskuwings met jou SIEM-stelsel (soos Microsoft Sentinel) vir 'n gesentraliseerde siening van sekuriteitsinsidente en om outomatiese antwoorde te orkestreer.

  • AI-verkoper-evaluering: Wanneer u die gebruik van derdeparty-LLM's oorweeg, voer 'n streng sekuriteit- en privaatheidsbeoordeling van die verskaffers uit om te verseker dat hulle aan u voldoeningsvereistes voldoen.

Gevolgtrekking

Die beskerming van sensitiewe data in 'n wêreld waar derdeparty-LLM's wyd toeganklik is, is 'n kritieke inligtingsekuriteitsuitdaging in 2026. Microsoft Purview, met sy verbeterde DLP- en KI-bestuursvermoëns, bied 'n robuuste oplossing om die risiko's van data-eksfiltrasie en voldoeningsoortredings te versag. Deur geteikende DLP-beleide te implementeer, riskante KI-toepassings te identifiseer en gebruikers op te voed, kan organisasies die voordele van kunsmatige intelligensie besef sonder om die sekuriteit van hul waardevolste bates in gevaar te stel. Om Microsoft Purview effektief op te stel vir databeskerming in derdeparty-LLM's is nie net 'n tegniese maatreël nie, maar 'n fundamentele pilaar van 'n omvattende en proaktiewe KI-sekuriteitstrategie.

Verwysings

[1] Microsoft Data Security Index 2026." Verkendie toekoms van datasekuriteit, insluitend opkomende innovasies en strategieë, plus aanbevelings en beste praktyke." Beskikbaar by: https://info.microsoft.com/ww-landing-data-security-index-2026.html?lcid=en-usl [2] Microsoft Security Blog. "Vier prioriteite vir KI-aangedrewe identiteit en netwerktoegangssekuriteit in 2026." Beskikbaar by: [https://www.microsoft.com/en-us/security/blog/2026/01/20/four-priorities-for-ai-powered-identity-and-network-access-security-in-2026/] (https://www.microsoft.com/en-us/security/blog/2026/01/20/four-priorities-for-ai-powered-identity-and-network-access-security-in-2026/) [3] Microsoft 365 Padkaart. "Die Microsoft 365-padkaart verskaf beraamde vrystellingdatums en beskrywings vir kommersiële kenmerke." Beskikbaar by: https://www.microsoft.com/microsoft-365/roadmap?featureid=109581 [4] Microsoft Sekuriteit. "Versterk identiteitsekuriteit met KI." Beskikbaar by: https://www.microsoft.com/en-us/security/business/identity-access/microsoft-entra-id