Bezpečnost AI agentů
Technologie, která pracuje podle jasných pravidel a pod kontrolou firmy
Lyndcorp navrhuje AI agenty pro praktické firemní použití. Každý agent má přesně určené zdroje, oprávnění a kroky, které může provádět. Citlivé nebo důležité situace mohou vždy vyžadovat potvrzení člověka.
01 · Přístupy a data
Agent vidí pouze to, co skutečně potřebuje ke své práci
Přístup k e-mailu, CRM, dokumentům nebo interním nástrojům se nastavuje podle konkrétní role. Agent nemusí získat úplný přístup k celé firmě, aby dokázal vyřešit jeden přesně definovaný proces.
- 01Oprávnění se omezují na konkrétní systémy a úkoly
- 02Každý zdroj dat se připojuje samostatně a vědomě
- 03Citlivé údaje lze z workflow úplně vyloučit
- 04Přístupy lze kdykoliv změnit, omezit nebo odebrat
Princip návrhu
Agent dostává nejmenší potřebný rozsah oprávnění, nikoliv automaticky přístup ke všemu.
Probrat bezpečné nasazení
02 · Kontrola a dohled
Důležité kroky mohou zůstat pod lidským schválením
AI agent nemusí rozhodovat bez omezení. U citlivých procesů může připravit návrh, shromáždit podklady a počkat na potvrzení zaměstnance. Firma zároveň získává přehled o tom, co agent provedl a proč workflow pokračovalo.
- 01Vybrané akce se provedou až po potvrzení člověkem
- 02Neobvyklé případy se automaticky předají zaměstnanci
- 03Jednotlivé kroky workflow lze zpětně dohledat
- 04Procesy se nejprve testují na omezeném rozsahu
Praktický přístup
Automatizujeme rutinu, ale důležité rozhodnutí může vždy zůstat v rukou člověka.
Navrhnout bezpečný workflow