Finalista AI Awards: Evolveum a AI pre bezpečnú správu identít

Medzi tohtoročnými finalistami AI Awards je aj Evolveum, slovenská spoločnosť, ktorá vyvíja a udržiava midPoint, popredné open source riešenie v oblasti riadenia a správy identít. Spoločnosť stavia na princípoch otvorenej spolupráce, technologickej nezávislosti a 100% európskej vlastníckej štruktúre bez externých investorov. Vypočuli sme si Martina Mareša, Senior produktového manažéra, a Antona Tkáčika, Backend technického lídra a vývojára spoločnosti Evolveum.

V dnešnej dobe až 80% kybernetických útokov zneužíva zraniteľnosti spojené s identitami užívateľov. Naše open source riešenie midPoint tento problém prirodzene rieši ako platforma pre správu identít a prístupov (IGA – Identity Governance and Administration). Jedným z najkritickejších úzkych miest pri nasadení IGA riešení však zostáva onboarding firemných systémov. Organizácie často potrebujú pripojiť stovky aplikácií a pre časť z nich dokonca vyvinúť vlastné komunikačné rozhrania – takzvané konektory. Tento proces býva časovo aj finančne náročný a môže výrazne predĺžiť implementáciu celého projektu.

MidPilot, AI asistent midPointu, prináša do tohto procesu výrazné zrýchlenie a zároveň znižuje potrebu hlbokých technických znalostí. Organizácie tak získavajú väčšiu šancu na úspešnú implementáciu IGA riešenia, efektívnejšiu správu identít a celkové posilnenie bezpečnosti. Potenciál našej AI iniciatívy potvrdzuje aj podpora Európskej únie prostredníctvom Plánu obnovy a odolnosti Slovenskej republiky.

Jednou z hlavných výziev nášho riešenia je dôveryhodnosť poskytovateľa AI služieb. Aké dáta sa zdieľajú? Čo sa s nimi deje po spracovaní? Kde celý systém beží? Pôsobíme v oblasti kybernetickej bezpečnosti, kde sú tieto otázky ešte citlivejšie a dôležitejšie než v bežnom IT prostredí. Preto sme už od začiatku projektu do procesov zapojili nášho Chief Information Security Officera (CISO), ako aj compliance oddelenie.

Zamerali sme sa na tri kľúčové piliere. Prvým je úplná transparentnosť, celé riešenie vrátane predvolenej konfigurácie, promptov, dokumentácie aj návodov publikujeme verejne ako open source. Nič neskrývame a zákazník má plný prehľad o fungovaní systému. Druhým je kontrola nad dátami, užívateľské rozhranie pred každým využitím AI jasne zobrazuje, aký typ dát bude odoslaný na spracovanie, užívateľ má možnosť AI funkcionalitu nepoužiť a zároveň je k dispozícii kompletný audit odoslaných dát, uchovávaný lokálne na strane midPointu. Tretím pilierom je geopolitická a technologická nezávislosť, zákazník si sám vyberá architektúru aj používané LLM modely. Riešenie môže bežať plne on-premise, je možné využiť nami poskytovanú AI službu na privátnych serveroch v EÚ, alebo integrovať iné platformy a cloudové služby podľa bezpečnostných požiadaviek organizácie. Neexistuje žiadny vendor lock-in, ktorý by zákazníka obmedzoval. Samotná spoločnosť Evolveum je plne európska firma, vybudovaná a vlastnená v EÚ, čo podporuje dodržiavanie európskych štandardov, etických princípov a posilňuje technologickú suverenitu.

Slepá dôvera v AI model nefunguje, hrozia halucinácie alebo dokonca cielené útoky, napríklad remote code poisoning. Aby sme týmto rizikám predišli, postavili sme generovanie konektorov na troch bezpečnostných princípoch.

Prvým sú prísne mantinely, umelú inteligenciu nenechávame generovať ľubovoľný spustiteľný kód. Namiesto toho sme vytvorili špeciálny konektorový framework, pevne definovaný a ručne navrhnutý základ, do ktorého AI iba dopĺňa špecifikácie pripojovaného systému. Druhým je deklaratívny výstup a výsledkom nie je nepredvídateľný skript, ale čisto deklaratívny konektor. Model nevytvára programovú logiku, iba popisuje parametre a to, čo sa má vykonať. Tým výrazne znižujeme priestor pre zavedenie zraniteľností. Tretím princípom je ľudská kontrola. Celý proces je navrhnutý ako iteratívny a interaktívny. AI asistent postupne generuje jednotlivé časti od vyhľadania dokumentácie až po návrh testov, pričom administrátor každý krok okamžite kontroluje, upravuje alebo zamieta. Tým sa znižuje kognitívna záťaž, a zároveň zostáva plná kontrola vždy na strane človeka. Z nepredvídateľného generovania kódu sme tak vytvorili bezpečnú, riadenú a auditovateľnú asistenciu, kde je človek vždy v kontrolnej slučke.

Najväčšou celospoločenskou výzvou v oblasti AI vnímame otázku dôvery, kontroly a zodpovednosti za rozhodnutia, ktoré AI systémy ovplyvňujú. AI dnes čoraz viac zasahuje do citlivých oblastí ako je správa identít, bezpečnosť či prístup k systémom, a preto je kľúčové, aby tieto technológie zostali transparentné, auditovateľné a pod plnou kontrolou človeka. V Evolveum chceme zohrávať rolu poskytovateľa otvorených a dôveryhodných riešení, ktoré AI nenasadzujú ako „čiernu skrinku“, ale ako kontrolovaného asistenta v rámci správy identít. S naším AI asistentom midPilot prinášame prístup, kde AI pomáha zrýchliť a zjednodušiť komplexné procesy, no rozhodnutia, kontrola aj zodpovednosť ostávajú vždy na strane človeka. Zároveň staviame na princípoch open source, transparentnosti a technologickej suverenity EÚ, aby organizácie neboli závislé od uzavretých ekosystémov a mali plnú kontrolu nad svojimi dátami aj infraštruktúrou.

Budúcnosť nášho AI asistenta midPilot vnímame nie ako náhradu ľudí, ale ako prirodzené rozšírenie ich schopností a možností v oblasti správy a riadenia identít naprieč systémami. Vývoj vidíme smerom k ešte tesnejšej spolupráci medzi človekom a technológiou, kde AI bude pôsobiť ako inteligentný sprievodca v komplexných procesoch: pomôže s analýzou, návrhmi konfigurácií, onboardingom systémov či interpretáciou dát, ale vždy v režime, kde človek zostáva v rozhodovacej a kontrolnej pozícii. Zároveň očakávame posun od jednorazových „AI funkcií“ k kontinuálnej asistencii priamo v rámci životného cyklu procesov. Vznikne teda umelá inteligencia, ktorá rozumie kontextu organizácie, jej politikám a histórii rozhodnutí, a dokáže na ich základe navrhovať konzistentné a bezpečné kroky.

Kľúčové však pre nás zostáva, aby takéto riešenie nebolo založené na slepej automatizácii, ale na transparentnosti, vysvetliteľnosti a auditovateľnosti. Budúcnosť vidíme v modeli „human-in-the-loop by design“, kde AI zrýchľuje a zjednodušuje prácu, avšak človek si zachováva plnú kontrolu a zodpovednosť. Naším cieľom je, aby sa technológia stala dôveryhodným partnerom, ktorý znižuje komplexitu bezpečne a transparentne.