Vytvárame AI technológie pre policajné orgány EÚ na boj proti dezinformáciám

KInIT je zapojený do nového, 36-mesačného projektu s rozpočtom 4 milióny EUR. Projekt poskytne európskym policajným orgánom pokročilé technológie z akademického prostredia. Tieto technológie budú neskôr využívané na odhaľovanie a analýzu dezinformácií vedúcich k trestnej činnosti. Projekt VIGILANT spája 17 popredných európskych partnerov z akademickej oblasti, priemyslu, verejného sektora a národných výskumných centier s piatimi policajnými orgánmi v jednom interdisciplinárnom združení.

Mária Bieliková, zakladateľka KInITu, sa k dôležitosti projektu vyjadrila nasledovne: „V Európe je potrebné zabezpečiť ochranu pred dezinformáciami. Obzvlášť to platí pre rozvojové krajiny, ktoré sa často stávajú terčom zahraničných pokusov o získanie mocenského vplyvu. Tieto krajiny taktiež často trpia dlhodobo zníženou dôverou vo verejné inštitúcie a spoločnosť vo všeobecnosti. Projekty ako VIGILANT môžu pomôcť vyvážiť súčasné nepriaznivé technologické podmienky, ktoré pravidelne zneužívajú rôzni činitelia s nekalými úmyslami.“ 

Podľa Joachima Fassbendera z Nemeckej policajnej univerzity, ktorá je jedným z partnerov projektu VIGILANT, predstavujú dezinformácie čoraz väčšie výzvy pre policajné zložky a spoločnosť. Obzvlášť veľkú hrozbu predstavujú, ak sa šíria v rámci kampaní. V časoch politickej, hospodárskej a sociálnej nestability sú dezinformácie schopné diskreditovať štátne inštitúcie, šíriť nenávisť a podnietiť určité skupiny obyvateľstva, aby nezákonným spôsobom sledovali svoje vlastné politické, sociálne alebo hospodárske ciele. Dôsledkom takéhoto jednania je destabilizácia spoločnosti a verejného poriadku. Preto je dôležité včas odhaľovať a overovať dezinformácie a vytvoriť vhodné možnosti reakcie.

Profesor Brendan Spillane, ktorý je koordinátorom projektu VIGILANT a výskumným pracovníkom centra ADAPT na UCD, povedal: „Projekt VIGILANT vytvorí v rámci akademického prostredia integrovanú platformu nástrojov a technológií na identifikáciu a analýzu dezinformácií. Tieto nástroje budú prispôsobené potrebám policajných orgánov, využívajúc prístup “ethical-by-design” s cieľom pomôcť v boji proti hrozbám pre demokraciu a súdržnú spoločnosť.“

Projekt VIGILANT pomôže policajným orgánom odhaľovať a analyzovať dezinformácie z najväčších online zdrojov, vo všetkých formách (text, obraz, video) a vo viacerých jazykoch. Platforma tiež pomôže policajným orgánom odhaľovať a vyšetrovať nenávistné prejavy, násilné nacionalistické alebo separatistické hnutia, radikalizačné a extrémistické skupiny,osamelých vlkov a iné titeroristické hrozby.

Úlohou KInITu je vyvinúť funkcionalitu získavania dát a automatizovanú analýzu online obsahu. Podieľame sa aj na vypracovaní etického rámca pre používanie technológií pri vyšetrovaní trestných činov súvisiacich s dezinformáciami a pre platformu VIGILANT.

Jakub Šimko, vedúci projektu v KInITe, si veľmi cení príležitosť zdieľať lokálne odborné znalosti z oblasti dezinformácií: 

„Sme radi, že konzorcium projektu VIGILANT má silné slovenské zastúpenie. Spolu s KInITom sú v ňom zapojené aj spoločnosti Gerulata Technologies a GLOBSEC. Obe tieto organizácie majú za sebou dlhoročné skúsenosti v boji proti dezinformáciám. Vďaka tomuto projektu sa prenesie veľa slovenského know-how v oblasti vytvárania zdravej infosféry aj do ďalších európskych krajín.“

V dňoch 9. – 10. novembra 2022 sa konzorcium VIGILANT zišlo v priestoroch Trinity College v Dubline na úvodnom stretnutí. Prebehli detailné diskusie s piatimi policajnými autoritami o ich požiadavkách týkajúcich sa projektu. Taktiež sa diskutovalo o pracovných okruhoch projektu, ich kľúčových cieľoch a technickej realizácii.

Dr. Tom Clonan, írsky senátor, bezpečnostný analytik a kapitán Írskej armády vo výslužbe, na úvod stretnutia povedal:

„Veľmi sa teším, že sa môžem podieľať na spustení podnetného, aktuálneho a ambiciózneho projektu VIGILANT. Táto európska spolupráca je dôležitým krokom k zachovaniu slobody slova a zároveň nastoleniu krehkej rovnováhy s dezinformáciami.“

V priebehu troch rokov sa bude projekt VIGILANT prostredníctvom otvorených diskusných podujatí zapájať do debát s verejnosťou po celej Európe. Ich cieľom bude predstaviť projektové aktivity a získať spätnú väzbu. Odborníci z oblasti informatiky a etiky budú počas celého trvania projektu dohliadať na to, aby boli dodržané najvyššie etické štandardy. Zaväzujú sa aj k zabezpečeniu ochrany osobných údajov. Elisa Orru, docentka filozofie na Albert-Ludwigs-Universität vo Freiburgu, v súvislosti s projektom Vigilant uviedla:  „VIGILANT vyvíja výkonné nástroje na podporu policajnej práce. Etické aspekty projektu majú zabezpečiť, aby sa uplatňovali v rámci stanovených hraníc spôsobom, ktorý maximalizuje prínos pre jednotlivcov, spoločnosť a demokraciu.„

Partneri: