Kronika Aktu o umelej inteligencii: Čo pre vás znamená prijatie AIA?

V dobe, keď umelá inteligencia (AI) preniká do rôznych aspektov nášho života, Európska únia (EÚ) urobila významný krok k zaisteniu bezpečnosti jej používania prijatím Aktu o umelej inteligencii (AI Act, ďalej tiež “Nariadenie“). Komisia EÚ podala návrh Aktu už v apríli 2021 a po mesiacoch neľahkých rokovaní bol nakoniec 13. marca tohto roku schválený Európskym Parlamentom. Ako tvrdí v preambule aj samotné Nariadenie, jeho cieľom je poskytnúť rámec, ktorý nielen zabezpečí konzistentnosť pre poskytovateľov a nasadzujúce subjekty, ale tiež uprednostní ochranu bezpečnosti, zdravia a práv občanov EÚ.

Preambula aktu tiež výstižne uznáva dvojakú povahu umelej inteligencie. Na jednej strane hovorí o jej potenciálnom prínose no zároveň tiež o potrebe riešiť súvisiace riziká pre základné práva, životné prostredie a demokratické procesy s AI nevyhnutne spojené. Rôzne prípady neobjektívnych systémov porušujúcich práva občanov alebo deepfakeov vytvorených umelou inteligenciou, ktoré ovplyvňujú voľby, v tomto smere slúžia ako vztýčený varovný prst pripomínajúci dôležitosti regulačných opatrení.

Ústredným prvkom Nariadenia je jeho prístup založený na riziku, ktorý kategorizuje systémy AI do rôznych rizikových skupín, pričom na každú z nich sa vzťahujú určité povinnosti. Zvyčajne platí formula: čím vyššie riziko, tým sú povinnosti a opatrenia prísnejšie. Tieto skupiny zahŕňajú zakázané praktiky, vysoko-rizikové systémy, systémy s obmedzeným rizikom a nízko-rizikové systémy alebo systémy bez rizika, pričom ďalšie špeciálne povinnosti sa vzťahujú na poskytovateľov modelov AI na všeobecné účely.

Príklady zakázaných postupov v rámci Aktu o umelej inteligencii zahŕňajú okrem iného systémy na rozpoznávanie emócií na pracoviskách a vo vzdelávacích zariadeniach, systémy na sociálne skórovanie na verejné a súkromné účely a systémy na biometrickú kategorizáciu osôb v reálnom čase. 

Ústredným záujmom tohto Nariadenia sú vysoko-rizikové systémy umelej inteligencie. Tieto aplikácie AI zahŕňajú široké spektrum, od biometrie až po kritickú infraštruktúru, vzdelávanie a odbornú prípravu, riadenie zamestnanosti a pracovníkov, základné súkromné a verejné služby (napr. zdravotníctvo, bankovníctvo a poisťovníctvo), určité systémy v oblasti presadzovania práva, migrácie a riadenia hraníc alebo súdnictva a demokratických procesov. Medzi požiadavky na tieto systémy patrí posudzovanie a znižovanie rizík, vedenie záznamov (logov), určité povinnosti týkajúce sa transparentnosti a zabezpečenie ľudského dohľadu. Rozsiahle povinnosti ukladá Nariadenie regulovaným subjektom aj v súvislosti s vhodnou správou údajov a postupmi ich spracúvania vrátane zabezpečenia dostatočne reprezentatívnych tréningových, testovacích a validačných súborov údajov (datasetov). Pred uvedením vysokorizikových systémov umelej inteligencie na európsky trh podliehajú poskytovatelia aj procesu posudzovania zhody. Pre nasadzujúce subjekty sú navyše stanovené ďalšie špecifické požiadavky (vrátane povinnosti vykonať v určitých prípadoch posúdenie dopadu ich systému na ľudské práva). 

Nariadenie nadobudne účinnosť dvadsať dní po jeho uverejnení v úradnom vestníku EÚ. Plne uplatniteľné však bude až dvadsaťštyri mesiacov od jeho účinnosti, pričom určité ustanovenia sa budú uplatňovať už o čosi skôr. Do šiestich mesiacov od účinnosti musia byť zakázané systémy vyradené z prevádzky a po dvanástich mesiacoch sa začnú uplatňovať povinnosti týkajúce sa modelov AI na všeobecné účely. Vysoko rizikové systémy explicitne vymedzené v Prílohe III Nariadenia začnú podliehať všetkým jeho pravidlám do dvadsiatich štyroch mesiacov, pričom povinnosti pre vysoko rizikové systémy, ktoré spadajú aj pod inú harmonizovanú reguláciu EÚ sa začnú uplatňovať po tridsiatich šiestich mesiacoch.

Pre správny výkon Nariadenia je však nepochybne nevyhnutný aj účinný dohľad. V prípade Aku o umelej inteligencii majú členské štáty za úlohu určiť príslušné vnútroštátne orgány, ktoré budú dohliadať na jeho uplatňovanie a vykonávanie, ako aj vykonávať dohľad nad samotným trhom. Okrem toho musí každý členský štát vymenovať vnútroštátny dozorný orgán ako oficiálne kontaktné miesto pre verejnosť, ktoré bude zastupovať krajinu v Európskej rade pre umelú inteligenciu. Túto radu bude podporovať poradné fórum, ktoré by malo zahŕňať rôzne zainteresované strany vrátane priemyslu, startupov, malých a stredných podnikov, občianskej spoločnosti a akademickej obce. Okrem toho bol v rámci Komisie tiež zriadený Európsky úrad pre umelú inteligenciu. Medzi jeho povinnosti by mal patriť dohľad nad modelmi všeobecnej umelej inteligencie, spolupráca s Európskou radou pre umelú inteligenciu a mal by ho podporovať vedecký panel nezávislých odborníkov.

Celkovo možno konštatovať, že Akt EÚ o umelej inteligencii predstavuje významný míľnik pri zabezpečovaní zodpovedného vývoja dôveryhodnej umelej inteligencie a zároveň pri dodržiavaní základných práv a demokratických hodnôt. Pomocou prístupu založenom na riziku spolu s komplexným mechanizmom dohľadu sa EÚ snaží dosiahnuť rovnováhu medzi podporou inovácií a ochranou záujmov svojich občanov.

Tento krátky blog môžete považovať za úvod k sérii blogov, v ktorých sa budeme hlbšie venovať špecifikám Aktu o umelej inteligencii. V tomto príspevku sme sa pokúsili stručne objasniť pozadie Aktu o umelej inteligencii, jeho ciele a základnú filozofiu. V ďalších častiach sa zas budeme podrobnejšie venovať témam ako sú rozsah pôsobnosti Nariadenia, zakázané postupy, vysoko rizikové systémy AI, povinnosti v oblasti transparentnosti, požiadavky na modely AI na všeobecné účely, posúdenia vplyvu na základné práva alebo regulačné sandboxy a čo znamenajú pre malé a stredné podniky.