Matúš Mesarčík: Umelá inteligencia pomáha predvídať trestné činy

Prezident Argentíny tento týždeň oznámil vytvorenie novej bezpečnostnej jednotky, ktorá bude využívať AI na predvídanie a zasahovanie pri trestných činoch ešte pred ich spáchaním. Tento ambiciózny projekt má za cieľ zvýšiť bezpečnosť občanov tým, že bude analyzovať údaje v reálnom čase a identifikovať potenciálne hrozby.

Podľa argentínskeho Ministerstva bezpečnosti bude nová jednotka schopná odhaliť pohyb zločineckých skupín, predvídať výtržnosti a identifikovať oblasti so zvýšeným rizikom kriminality. Tento koncept, známy ako „predictive policing“, je založený na dvoch hlavných fázach: zber údajov a ich následná analýza pomocou umelej inteligencie. V prvej fáze budú zozbierané obrovské množstvá dát z rôznych zdrojov, ako sú trestné registre, historické údaje, sociálne siete a kamerové systémy na verejných miestach. V druhej fáze bude umelá inteligencia analyzovať tieto údaje, aby identifikovala vzorce správania, ktoré môžu naznačovať potenciálnu trestnú činnosť.

Náš výskumník, Matúš Mesarčík, pre STVR vysvetľuje, že hoci podobné systémy fungujú aj v iných krajinách, argentínsky projekt je nastavený skôr na predvídanie budúcich trestných činov než na priamu kontrolu občanov, ako je to v prípade Číny. Napriek tomu, projekt vyvolal obavy medzinárodných organizácií, ktoré varujú pred možným porušovaním ľudských práv. Upozorňujú na riziká spojené so zberom osobných údajov a ich potenciálnym zneužitím. Náš výskumník tiež varuje pred takzvaným „chilling effectom“, keď ľudia môžu zmeniť svoje správanie zo strachu pred sledovaním. To môže mať negatívny dopad na slobodu prejavu a právo na informácie. Ďalším problémom je otázka ochrany údajov a bezpečnosti. Nie je jasné, kde budú tieto údaje ukladané a kto k nim bude mať prístup. Je dôležité, aby takéto systémy boli transparentné a aby verejnosť rozumela ich fungovaniu a dôsledkom.

Európska únia nedávno prijala Akt o regulácii umelej inteligencie, ktorý obsahuje komplexné pravidlá pre nasadzovanie takýchto systémov. Tento akt zakazuje určité praktiky, ktoré môžu ohrozovať ľudské práva a vyžaduje, aby systémy vysokého rizika prešli prísnym hodnotením. Matúš Mesarčík dodáva, že hoci legislatíva často zaostáva za technologickým vývojom, európsky akt o umelej inteligencii je navrhnutý tak, aby bol dynamický a flexibilný. To umožní rýchlejšie reagovať na nové výzvy a riziká spojené s umelou inteligenciou.

Zavedenie prediktívnych bezpečnostných jednotiek v Argentíne teda otvára dôležitú diskusiu o rovnováhe medzi bezpečnosťou a ochranou ľudských práv. Je jasné, že podobné iniciatívy budú aj naďalej polarizovať verejnú mienku a vyžadovať dôkladné zvažovanie etických a právnych aspektov.

Kompletný rozhovor nájdete v archíve.