KInIT predstavuje svoj postoj k návrhu EK na reguláciu umelej inteligencie (AIA)

Európska komisia predstavila v apríli 2021 návrh nariadenia, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie, tzv. Akt o umelej inteligencii (AIA) ako dlho očakávaný a vôbec prvý pokus o horizontálnu reguláciu umelej inteligencie. Odvtedy je návrh otvorený na verejné pripomienkovanie, ktoré má za cieľ zlepšiť a ujasniť jeho súčasnú podobu. Kempelenov inštitút inteligentných technológií (KInIT) tiež využil túto príležitosť a pripravil svoje vlastné stanovisko¹, v ktorom pomenúva desať zásadných pripomienok k budúcej regulácii AI. 

Náš postoj je jedinečný v tom, že spája poznatky a odborné znalosti výskumníkov expertov v umelej inteligencii KInITu a súčasne kladie do centra pozornosti rovnako etickú rovinu ako aj pragmatickú implementáciu systémov AI v reálnom živote. Našim cieľom je nielen vymedziť sa k témam, ktoré považujeme za diskutabilné, ale ponúknuť aj konkrétne návrhy pre efektívnejšiu a primeranejšiu reguláciu umelej inteligencie.

Ponúkame predovšetkým upravenú, konkrétnejšiu definíciu AI, aby sa minimalizovali potenciálne rôzne interpretácie, ktoré by mohli viesť k nejasnostiam. Naše ďalšie návrhy smerujú k zakázaným a vysoko rizikovým systémom, s dôrazom na procesné a hmotnoprávne aspekty, ktoré je potrebné doplniť do Prílohy III. návrhu alebo záväzného textu AIA. 

Chápeme, že návrh EK na reguláciu umelej inteligencie čiastočne nadväzuje na prácu expertnej skupiny na vysokej úrovni pre AI, pokiaľ ide o etické dôsledky umelej inteligencie a otázku dôveryhodnosti..

Náš postoj preto zdôrazňuje dôležitosť etických otázoktak, aby sa etika a etické dôsledky stali súčasťou záväzného textu nariadenia a aby dôveryhodnosť AI bola jadrom regulácie.

V ostatných častiach Stanoviska uprednostňujeme vyváženejší regulačný prístup k systémom, ktoré sa majú zaviesť a k tým, ktoré už sú na trhu. Upozorňujeme na riziko dvojkoľajnosti, keďže AIA by sa pri súčasnom znení s určitými výnimkami nemala aplikovať na systémy AI, ktoré sú aktuálne na trhu. .

Spochybňujeme zákaz vzdialenej biometrie a tvrdíme, že akákoľvek forma úplného zákazu tejto technológie môže predstavovať premárnenú príležitosť a bude brániť mnohým užitočným inováciám. Na druhej strane navrhujeme kategorizovať deep-fake ako vysoko rizikové systémy AI a kritizujeme nedostatočnú definíciu nevhodného používania deep-fake v AIA.

Plne podporujeme potrebu zriadenia nadnárodého orgánu EÚ na posilnenie dohľadu v Únií. Žiadame, aby v návrhu bolo upravené ukladanie správnych sankcií orgánom verejnej moci tak, aby sa zrovnoprávnili požiadavky súladu s danými pravidlami medzi súkromnými firmami a orgánmi verejnej moci.

Postoj KInITu k AIA celkovo odzrkadľuje naše spoločné odhodlanie zlepšiť konečné znenie tejto legislatívy a ponúknuť kritiku, ktorej cieľom je pomôcť zintenzívniť úsilie o efektívnu reguláciu umelej inteligencie. V konečnom dôsledku, dúfame, že navrhovaná legislatíva bude úspešná pri dosahovaní svojich cieľov a bude ťažiť z rozvoja a nasadenia dôveryhodných systémov umelej inteligencie v našich životoch.

¹ Mesarčík Matúš, Soľárová Sára, Podroužek Juraj, Bieliková Mária. 2021. Stance on the Proposal for a Regulation of the European Parliament and of the Council Laying down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts