Kronika Aktu o umelej inteligencii: Pozor na rozsah pôsobnosti

V našom predchádzajúcom blogu sme sa venovali základom Aktu EÚ o umelej inteligencii (AIA, Nariadenie). Predstavili sme myšlienky, ktoré za ním stoja, načasovanie implementácie a to kto bude zodpovedný za dohľad nad jeho výkonom. V tomto a nasledujúcich blogoch už ale prejdeme ku konkrétnym častiam a postupne si ich predstavíme. 

Tento blog sa konkrétne zaoberá kľúčovým aspektom Aktu o umelej inteligencii, a to jeho rozsahom pôsobnosti. Rozoberieme si, aké druhy systémov umelej inteligencie spadajú pod Nariadenie (pozitívna pôsobnosť) a ktoré sú vyňaté (negatívna pôsobnosť). Pozrieme sa aj na definície niektorých kľúčových aktérov v oblasti AI, ktorí sa budú zodpovedať podľa ustanovení Nariadenia.

Dúfame, že na konci tohto blogu budete mať jasnejšiu predstavu o tom, ktoré systémy AI musia spĺňať požiadavky zákona a kto sú aktéri, ktorí nesú zodpovednosť za zabezpečenie tohto súladu. 

Pokiaľ hovoríme o rozsahu pôsobnosti Aktu o umelej inteligencii, je v prvom rade dôležité pozrieť sa na definíciu systému umelej inteligencie, ktorú zaviedlo Nariadenie v článku 3. Tá bola takmer doslovne prevzatá z definície uvedenej v odporúčaní Rady OECD o umelej inteligencii a znie nasledovne: „Systém AI je strojový systém dizajnovaný na prevádzku s rôznymi úrovňami samostatnosti, ktorý môže po nasadení prejavovať adaptabilitu a ktorý pre explicitné alebo implicitné ciele odvodzuje zo vstupov, ktoré dostáva, spôsob generovania výstupov, ako sú predpovede, obsah, odporúčania alebo rozhodnutia, ktoré môžu ovplyvniť fyzické alebo virtuálne prostredie“. Hoci v súčasnosti neexistuje zo strany regulačných orgánov žiadne bližšie vysvetlenie toho čo presne znamenajú pojmy ako „samostatnosť“ alebo „explicitné“ a „implicitné“ ciele, OECD zverejnila vysvetľujúce memorandum, ktoré obsahuje dôkladné usmernenia, ako ich interpretovať. Táto definícia je tiež súčasťou vecnej pôsobnosti zákona.

Rozsah pôsobnosti Nariadenia sa nachádza v článku 2. Tam je tiež uvedený zoznam osôb, ktorým ďalej text Nariadenia ukladá isté povinnosti alebo ktoré sú Nariadením inak dotknuté, čo predstavuje osobnú pôsobnosť AIA. Medzi tieto osoby patria: 

Väčšina povinností v Nariadení je však predpísaná poskytovateľom a nasadzujúcim subjektom, preto je ďalej vhodné uviesť ich definície. Poskytovateľ je fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, ktorý vyvíja alebo si dáva vyvinúť systém AI alebo model AI na všeobecné účely a uvádza ho na trh alebo uvádza systém AI do prevádzky pod svojím vlastným menom alebo ochrannou známkou, či už za odplatu alebo bezodplatne. Na druhej strane nasadzujúci subjekt je osoba alebo akýkoľvek verejný orgán, ktorý používa systém AI v rámci svojej právomoci, okrem prípadov, keď systém AI používa v rámci osobnej neprofesionálnej činnosti, čo znamená, že nie je vlastníkom systému AI a systém AI, ktorý už vyvinul a uviedol na trh niekto iný na profesionálne účely len používa.

Územná pôsobnosť Nariadenia sa vzťahuje na systémy AI a modely AI na všeobecné účely uvedené na trh EÚ subjektmi usadenými v EÚ aj mimo EÚ a tiež na systémy AI, ktorých poskytovatelia alebo nasadzovatelia sú usadení v tretej krajine, ale výstupy ich systému sa používajú v EÚ. Na lepšie pochopenie posledného prípadu si predstavte situáciu, keď nemocnica v Berlíne uzavrie zmluvu s indickým med-tech startupom, ktorých systém analyzuje RTG snímky pomocou AI, spracuje ich a poskytne diagnostické správy, ktoré následne zašle späť do nemocnice. V tomto scenári indický systém umelej inteligencie spracúva údaje EÚ a poskytuje výsledky subjektu EÚ, ale nie je uvedený na trhu EÚ ani uvedený do prevádzky v EÚ. Nariadenie sa však aj v tejto situácii stále uplatňuje, čo predpokladá aj recitál 22. 

Stručne povedané, nezáleží na tom, či je poskytovateľ alebo nasadzujúci subjekt z EÚ, USA alebo z Austrálie, pokiaľ je systém AI uvedený na trh v EÚ alebo jeho výstupy ovplyvňujú osoby nachádzajúce sa v EÚ, AIA sa bude na tento systém uplatňovať. 

Ako už bolo uvedené, v Nariadení sa uvádzajú aj určité výnimky z jeho uplatňovania. Tu je stručný prehľad toho, na čo sa výnimka vzťahuje:

Bezplatné licencie s otvoreným zdrojovým kódom (odôvodnenia 89, 102 a 103): Systémy a modely AI sprístupnené na základe bezplatnej licencie s otvoreným zdrojovým kódom sú z pôsobnosti Nariadenia vyňaté z dôvodu, že môžu prispieť k slobodnému výskumu a inováciám na trhu a môžu poskytnúť významné príležitosti na rast hospodárstva Únie (požiadavky transparentnosti sa na ne však stále uplatňujú). Táto výnimka sa nevzťahuje na systémy AI, ktoré patria medzi zakázané praktiky alebo sa považujú za vysoko rizikové.