Kroniky AI Aktu: Červené čiary (časť 2)

V predchádzajúcich blogoch sme sa venovali základom a pôsobnosti AI Aktu. V poslednom príspevku sme diskutovali o prvej sade zakázaných praktík. V tejto časti sa bližšie pozrieme na zostávajúce zakázané praktiky, vrátane prediktívneho policajného sledovania, extrakciu podôb tvárí, odvodzovania emócií a využívania biometrie.

Pokiaľ ide o prediktívne policajné sledovanie, AIA obsahuje nasledujúcu definíciu takýchto zakázaných systémov:

Tento zákaz pripomína známe sci-fi scenáre, ktoré môžeme poznať z kníh alebo filmov, ako je Minority Report. Keďže právo EÚ je založené na prezumpcií neviny, jednotlivci by nikdy nemali byť hodnotení výlučne na základe správania predpovedaného umelou inteligenciou, vychádzajúceho z ich profilovania, osobnostných rysov alebo charakteristík, ako sú národnosť, miesto narodenia, miesto bydliska, počet detí, úroveň zadlženia alebo dokonca typ auta, na ktorom jazdia. Tento zákaz sa nevzťahuje na systémy umelej inteligencie, ktoré pomáhajú človeku pri hodnotení zapojenia jednotlivca do trestnej činnosti, za predpokladu, že tieto hodnotenia sú už založené na objektívnych, overiteľných faktoch priamo súvisiacich s trestným činom.

Odvodzovanie emócií systémami umelej inteligencie je taktiež zakázané, AIA zakazuje:

Systémy na rozpoznávanie emócií sú predmetom intenzívnej debaty týkajúcej sa ich regulácie a zákazov. Obavy týkajúce sa tejto technológie sa prevažne týkajú rizík pre ľudskú dôstojnosť a diskrimináciu. Termín „rozpoznávanie emócií“ je v AIA legálne definovaný ako „identifikácia alebo odvodenie emócií alebo úmyslov fyzických osôb na základe ich biometrických údajov.“ V literatúre sa tento pojem definuje všeobecnejšie ako technológie, ktoré sa snažia odhaliť emocionálny stav osoby na základe údajov, ktoré o nej boli zhromaždené. To môže zahŕňať interpretáciu emócií na základe výrazov tváre alebo konfigurácií, hlasových vzorcov, podrobných údajov z nositeľných zariadení alebo dokonca neurologických informácií z rozhraní mozog-počítač. Právna definícia je teda užšia ako interpretácia tohto pojmu v praxi. Je dôležité zdôrazniť, že zákaz sa uplatňuje iba v oblastiach vzdelávania a pracoviska. Tento zákaz sa nevzťahuje na prípady, kde je použitie systému umelej inteligencie zamýšľané na medicínske alebo bezpečnostné účely, napríklad na terapeutické využitie.

Dva posledné zákazy a jedno obmedzenie sa týkajú biometrie. Po prvé, AI Akt zavádza úplný zákaz na získavanie obrázkov z internetu:

Dôvodom tohto zákazu sú obavy z masového sledovania a možného porušovania základných práv a slobôd, najmä práva na súkromie. Tento zákaz je priamym dôsledkom škandálu okolo spoločnosti Clearview AI.

Ďalší zákaz sa týka biometrickej kategorizácie:

Systém biometrickej kategorizácie je podľa AI Aktu definovaný ako “systém AI na účely zaraďovania fyzických osôb do špecifických kategórií na základe ich biometrických údajov, pokiaľ to nie je pomocný úkon pre inú komerčnú službu a nevyhnutne potrebné z objektívnych technických dôvodov.” Zákaz používania týchto systémov bol tiež podporený Európskym dozorným úradníkom pre ochranu údajov a Európskou radou pre ochranu údajov kvôli ich rizikám prameniacich z potenciálnej diskriminácie. Podľa AI Aktu tento zákaz nezahŕňa žiadne označovanie ani filtrovanie zákonne získaných biometrických dátových súborov, ako sú obrázky, na základe biometrických údajov alebo kategorizáciu biometrických údajov v oblasti presadzovania práva.

Napokon, AIA obsahuje obmedzenia týkajúce sa používania systémov na „priamu“ diaľkovú biometrickú identifikáciu vo verejne prístupných priestoroch na účely presadzovania práva. Tento zákaz je označený ako obmedzenie, pretože AI Akt obsahuje presné požiadavky, ktoré musia byť splnené na to, aby bolo takéto použitie povolené. Systém diaľkovej biometrickej identifikácie je v zmysle AIA “systém AI na účely identifikácie fyzických osôb bez ich aktívneho zapojenia, zvyčajne na diaľku prostredníctvom porovnania biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze.” Zároveň, systém diaľkovej biometrickej identifikácie v reálnom čase je legálne definovaný ako systém diaľkovej biometrickej identifikácie, v ktorom zachytávanie biometrických údajov, ich porovnávanie a identifikácia prebiehajú bez výrazného oneskorenia, pričom zahŕňa nielen okamžitú identifikáciu, ale aj identifikáciu s limitovanými menšími oneskoreniami, aby sa zabránilo obchádzaniu pravidiel. AIA obsahuje aj definíciu verejne prístupného priestoru, za ktorý možno považovať “akékoľvek fyzické miesto vo verejnom alebo v súkromnom vlastníctve prístupné neurčenému počtu fyzických osôb bez ohľadu na to, či možno uplatniť určité podmienky prístupu, a bez ohľadu na možné obmedzenia kapacity.”

Orgány presadzovania práva môžu používať takéto systémy v úzko definovaných prípadoch cieleného vyhľadávania konkrétnych obetí konkrétnych trestných činov, prevencie špeficickej, závažnej a bezprostrednej hrozby pre život alebo fyzickú bezpečnosť jednotlivcov, skutočnej a aktuálnej alebo skutočne predpokladanej hrozby teroristického útoku, lokalizácie alebo identifikácie osoby podozrivej z trestného činu, na účely vykonávania trestného vyšetrovania alebo stíhania, alebo vykonávanie trestnej sankcie za trestné činy uvedené v AI Akte. Takéto použitie by malo byť proporcionálne a odrážať špecifické okolnosti a následky použitia. Tieto systémy sú taktiež povinné prejsť posúdením vplyvu na základné ľudské práva a slobody a podliehajú predchádzajúcemu súdnemu preskúmaniu alebo preskúmaniu iným nezávislým orgánom. Členské štáty EÚ môžu vo svojej národnej legislatíve špecifikovať podmienky pre používanie týchto systémov.

Záverom môžeme konštatovať, že obmedzenia určitých praktík v rámci AIA zdôrazňujú záväzok EÚ chrániť práva jednotlivcov a demokratické hodnoty. Je jasné, že akékoľvek použitie AI, ktoré invazívne zasahuje do ľudskej dôstojnosti, autonómie alebo základných slobôd, je prísne zakázané. V našom ďalšom príspevku sa bližšie pozrieme na vysokorizikové systémy AI a na to, ako ich identifikovať.