Důvěrné znalosti.
Cíleně chráněné.
AI usnadňuje vyhledání znalostí. DAXS prověřuje datové cesty, přístupová práva a nástroje, aby se firemní znalosti využívaly jen tam, kde je to odborně a technicky povolené.
AI nemusí překonat blokaci, aby prozradila příliš mnoho.
Firemní AI může usnadnit vyhledání dokumentů, o nichž dříve téměř nikdo nevěděl. Problém vzniká, pokud je úložiště přístupné více osobám, než je odborně zamýšleno. AI oversharing v této souvislosti označuje neúmyslné zveřejnění kvůli příliš širokému sdílení a snazšímu vyhledání. Technicky povolená odpověď může být přesto organizačně nežádoucí.
Rozhodují konkrétní služba, připojené zdroje a identita, se kterou se vyhledává. Chat bez datového propojení nemůže jednoduše prohledávat všechny firemní složky. Jakmile se nahrávají soubory, připojují vyhledávací indexy nebo autorizují nástroje, vzniká datová cesta, kterou je nutné dohledatelně prověřit.
„Kolik vlastně vydělává můj šéf?“
Hypotetický případ: mzdový soubor leží ve staré personální složce. Kvůli zděděnému skupinovému sdílení mají právo čtení také zaměstnanci mimo personální správu. Pokud je soubor přístupný používané AI službě a dotaz je s těmito právy povolený, může se vhodný obsah promítnout do odpovědi. Možná je i chybná částka nebo vymyšlená odpověď; každý konkrétní výstup potřebuje doložený zdroj.
Při správně omezených právech se chráněný soubor pro neoprávněné osoby nesmí vůbec dostat do kontextu modelu. Zdvořilý pokyn modelu, aby držel mzdy v tajnosti, tuto technickou kontrolu nenahrazuje.
Tři osoby položí stejnou otázku.
A potřebuje informaci pro schválený úkol. B nemá právo čtení. C neúmyslně získá přístup kvůli chybě oprávnění. Systém musí vyloučit B; u C je nutné opravit nesprávně přidělená práva zdroje.
Schéma popisuje různé přístupové situace, nikoli tři po sobě jdoucí pracovní kroky. Vyhledávací služba musí zohledňovat také změny: odebraný přístup nesmí přežívat v zastaralých právech indexu, cache odpovědí, sdílených konverzacích nebo exportovaných souborech.
Skryté, šifrované a chráněné jsou různé vlastnosti.
- Navigace a přístup
- Skrytá položka menu nebo neznámý název složky neodebírají právo čtení. Ochrana přístupu musí fungovat u objektu a používané služby – také při přímé adrese, vyhledávání a načtení přes API.
- Dědičnost a sdílení
- Dokument může získat práva z nadřazených složek, skupin, jednotlivých sdílení nebo odkazů. Prověřuje se skutečný přístup včetně těchto cest; pohled na jeden seznam skupin nestačí.
- Index a originál
- Výsledek vyhledávání není novým oprávněním. Vyhledávací index, výňatky z dokumentů, názvy, náhledy a načtení originálu potřebují vhodné kontroly. Jinak může už nadpis výsledku prozradit důvěrné informace.
- Šifrování a autorizace
- Šifrování chrání například přenos a uložená data. Kdo je vůči aplikaci oprávněný ke čtení, se rozhoduje samostatně. Účet služby, který smí obsah dešifrovat, jej proto nesmí vydávat každému přihlášenému uživateli.
- Uživatel a agent
- Agent může pracovat s delegovanými uživatelskými právy nebo vlastní identitou služby. Oba modely potřebují výslovné hranice. Společný agent s rozsáhlými oprávněními nesmí být zkratkou kolem práv svých uživatelů.
- Interní a externí služby
- Také interně provozovaná AI potřebuje práva zdrojů, ochranu protokolů a zabezpečená rozhraní. U externích konektorů přibývají příjemci dat, smluvní rámec, zpracování, ukládání a povolené akce.
Které informace smějí být společně vyhledatelné?
„Jakou hodinovou sazbu za mě firma účtuje?“
Nabídky, projektové kalkulace nebo tabulky mohou obsahovat účtované sazby a interní nákladové hodnoty. Tyto veličiny je nutné odlišovat: účtovaná sazba je cena stanovená vůči zákazníkovi. Příspěvek na úhradu vzniká až při stanoveném vymezení odečítaných nákladů. Zisk firmy vyplývá z celkového výsledku hospodaření. AI tyto hodnoty nesmí zaměňovat ani je zdánlivě přesně vypočítávat z jediného čísla.
Před připojením takových podkladů odpovědné osoby stanoví, kdo smí vidět kterou kalkulaci. Testovací otázky musejí vedle přímého dotazu na cenu zahrnovat také nepřímé dotazy na zákaznické slevy, nákupní podmínky a marže jednotlivých projektů.
Zapomenutá projektová složka
Dokončený projekt zmizí z portálu, ale zůstává čitelný pro širokou skupinu. Pokud se dokumenty dále importují nebo je najde konektor, může AI použít vhodný obsah. Vhodným opatřením je prověřené rozhodnutí o archivaci a právech; odstranění odkazu z navigace nestačí.
Personální rozhodnutí a strategie
Plánované personální změny, jednání o převzetí, obratové cíle, investice a prognózy zisku mohou být v různých úložištích. Prověření proto začíná informačními třídami a odpovědnými osobami. Paušálně „interní“ úložiště ještě neříká, které oddělení potřebuje kterou jednotlivou informaci.
Prověřit funkce produktů, uspořádat práva u zdroje.
Pro službu Microsoft Copilot s daty Microsoft 365 výrobce popisuje načítání v rámci přístupových práv daného uživatele. Příliš široce udělená práva čtení tedy zůstávají rizikem při zavedení. Samotný název „Copilot“ však nepopisuje rozsah licence ani přístup k datům; chat, kontext aplikace a doplňkové agenty je nutné posuzovat samostatně. Microsoft: data a práva (externí odkaz) – otevře se na nové kartě.
Sdílení a governance
SharePoint Advanced Management podporuje prověřování problematických přístupů. Microsoft Purview nabízí mimo jiné klasifikaci, štítky citlivosti, DLP a auditní funkce. Dostupné kontroly a datové cesty, které pokrývají, závisejí na licenci, konfiguraci a verzi produktu.
Omezit vyhledatelnost
Restricted Content Discovery může omezit celkové vyhledávání a objevování obsahu pomocí Copilot pro vybrané weby SharePoint. Nemění stávající přístupová práva, a proto nenahrazuje blokaci důvěrných souborů. Prověřit je třeba i přímý přístup a výjimky.
Opravit stará doporučení
Restricted SharePoint Search končí. Podle výrobce je nová aktivace od 31.07.2026 zablokovaná. Nové zavedení by na něm nemělo stavět dlouhodobou bezpečnostní architekturu.
U ChatGPT s propojenými službami musí být navíc jasné, který účet propojení autorizuje a jaká datová a akční práva tento účet má. Spravovaný workspace organizuje odpovědnosti; neopravuje chybně nastavené sdílení ve zdrojovém systému. U vlastního řešení RAG DAXS výslovně plánuje identitu, filtry práv a aktualizaci jako součást architektury.
K modelu se dostávají jen povolené informace.
- Informační třídy a vlastníci: personální data, finance, projekty a veřejné znalosti mají odůvodněný okruh příjemců a určené odpovědné osoby.
- Least Privilege: uživatelé, aplikace a účty služeb získávají jen potřebná práva. RBAC přiřazuje práva rolím; ABAC může navíc zohlednit atributy, například třídu dokumentu, organizaci nebo příslušnost k projektu.
- Oprávněné vyhledávání: aplikace zjišťuje spolehlivou identitu. Security Trimming nebo Permission-Aware Retrieval omezuje výsledky a výňatky před předáním jazykovému modelu. Název skupiny převzatý z promptu není dokladem identity.
- Změny a cache: nová sdílení, odebraná práva, smazané zdroje a změny skupin se průběžně promítají. Cache odpovědí nesmějí směšovat data různých uživatelů nebo tenantů.
- DLP a ochranná pravidla: povolené předávání, nahrávání, stahování a externí příjemci se prověřují samostatně. Samotný štítek účinkuje jen s odpovídajícím nakonfigurovaným a podporovaným vynucováním.
- Negativní testy a audit: do přejímky patří testovací účty bez práv, přímé i nepřímé otázky, změny zdrojů a podvržené dokumenty. Protokoly zaznamenávají potřebné důkazy s omezeným přístupem a vhodným uchováváním.
Sensitive Information Disclosure a Data Leakage se týkají více než viditelné odpovědi: důvěrný obsah mohou obsahovat i protokoly vyhledávání, chybová hlášení, exporty a sdílené chaty. Bezpečnostní prověření sleduje celou datovou cestu.
Práva nástrojů a schvalování omezují škody.
U agenta správné vyhledávání pro čtení nestačí. Účet služby s nadměrnými oprávněními by mohl měnit nebo posílat data, která zadávající zaměstnanec sám upravovat nesmí. DAXS proto odděluje nástroje pro čtení, připravené změny a skutečné provedení. API a MCP servery prověřují objekt, identitu, vstup a povolenou akci v cílovém systému.
Prompt injection může přes cizí dokumenty nebo výsledky nástrojů vnášet nové pokyny k jednání. Takový obsah zůstává daty. Kritické akce potřebují ověřitelné schválení s cílem, rozsahem a náhledem výsledku. Tuto kontrolu doplňují omezené kroky, doba běhu a náklady i způsob zastavení. Opatření řeší mimo jiné rizika OWASP Prompt Injection, Sensitive Information Disclosure a Excessive Agency; nejsou příslibem vyloučení všech rizik.
Bezpečnostní prověření AI s ověřitelným rozsahem.
DAXS může doprovázet zavedení Copilot, ChatGPT nebo vlastní AI vymezenými projektovými částmi: inventář zdrojů a účtů, matice oprávnění, datový tok, vzorkové kontroly problematických sdílení, řízený pilot a zdokumentované negativní testy. Vzniká prioritizovaný seznam opatření s odpovědnostmi a dohledatelnými kritérii přejímky.
Do provozu patří změny skupin a konektorů, aktualizace modelů a softwaru, bezpečnostní hlášení, pravidelné opakování kontroly práv a řešení podezřelých výstupů. Technická práce a potřebné posouzení ochrany údajů či organizace se koordinují. Konkrétní konfigurace není paušálním dokladem souladu s GDPR nebo AI Act.
Pro každodenní praxi doplňuje AI na pracovišti zavedení a školení. Optimalizace nákladů AI propojuje potřebu ochrany s ekonomickým výběrem modelu.
Proberme váš případ použití.
Který úkol se má zjednodušit, která data se zapojují a jaké systémy už používáte? Z toho vzniká vymezený začátek s jasnými body kontroly a rozhodování.
Zdroje: Microsoft: data a práva (externí odkaz) – otevře se na nové kartě · Restricted Content Discovery (externí odkaz) – otevře se na nové kartě · Restricted SharePoint Search: ukončovaná funkce (externí odkaz) – otevře se na nové kartě · Purview (externí odkaz) – otevře se na nové kartě · OWASP: Sensitive Information Disclosure (externí odkaz) – otevře se na nové kartě · OWASP: Excessive Agency (externí odkaz) – otevře se na nové kartě
Rozsah produktů, licence a konkrétní nastavení se prověřují pro dané prostředí. Příklady a grafiky ukazují možné situace, nikoli tvrzené zákaznické případy.