KInIT predstavuje svoje stanovisko ku generatívnej umelej inteligencii

Na jar 2021 predstavila Európska komisia tzv. AI Act alebo AIA –  prvý komplexný právny rámec Európskej únie týkajúci sa umelej inteligencie. V nasledujúcich rokoch zverejnili Rada EÚ a Európsky parlament svoje stanoviská k pôvodnému návrhu. Napriek tomu však zostáva základná filozofia AIA nezmenená.

Základnou myšlienkou AIA je prístup založený na analýze rizika, ktorý kategorizuje AI systémy podľa ich potenciálneho vplyvu na zdravie, bezpečnosť, základné práva a slobody. Poskytovatelia AI systémov, ktoré sú považované za rizikové, sú povinní implementovať opatrenia na zmiernenie potenciálnych skreslení, zabezpečiť ľudský dohľad a udržiavať vysokú kvalitu dát a správy údajov. Tieto povinnosti sa musia zdokumentovať ako súčasť procesu posúdenia zhody.

V pôvodnom návrhu neboli generatívne AI systémy predmetom regulácie, pretože neboli explicitne kategorizované ako vysokorizikové. Avšak s ohľadom na ich širokú verejnú dostupnosť sa zákonodarcovia prirodzene zaujímajú o vytvorenie pravidiel, ktoré by upravovali ich prevádzku. V tejto súvislosti prezentujeme naše stanovisko k špecifickým aspektom regulácie všeobecnej umelej inteligencie, základných modelov a generatívnych AI systémov, v súlade s návrhmi Európskeho parlamentu a Rady ohľadom aktu o umelej inteligencii.

Naše hlavné obavy sa týkajú presnej definície všeobecných systémov AI, základných modelov a generatívnych modelov umelej inteligencie. Okrem toho prezentujeme aj ďalšie odporúčania, ako znížiť krátkodobé riziká, zlepšiť transparentnosť, chrániť súkromie a údaje, zaistiť možnosť ex-ante kontroly a efektívny dohľad. Taktiež navrhujeme implementáciu kontrolného mechanizmu pre posúdenie spoľahlivosti zákazníka (know-your-customer checks).

Plné znenie nášho stanoviska nájdete tu.