Cesta k umelej inteligencii budúcnosti je dláždená dôverou

TAILOR je jednou zo šiestich výskumných sietí, ktoré zriadila EÚ s cieľom posilniť výskumné kapacity a vyvinúť umelú inteligenciu budúcnosti. Základy dôveryhodnej umelej inteligencie položil TAILOR tým, že vypracoval koncept, smernice a špecifikácie potrieb výskumnej komunity v oblasti AI. „TAILOR“ je skratka pre “Foundations of Trustworthy AI –  integrating, learning, optimisation and reasoning”. V preklade to znamená integrácia, učenie, optimalizácia a zdôvodnenie.

Sieť TAILOR sa skladá z 55 partnerov v rámci celej Európy. „Snažíme sa o excelentný a zodpovedný výskum inteligentných technológií. Na to, aby sme boli zodpovední vo výskume umelej inteligencie, si však musíme byť vedomí možných rizík, ktoré takýto výskum prináša. Je nevyhnutné, aby sme na ne boli pripravení ešte predtým, ako sa naplnia,“ hovorí Mária Bieliková, vedúca výskumníčka projektu slovak.ai, ktorý je slovenským partnerom projektu TAILOR. Podieľajú sa na ňom výskumníci z Fakulty matematiky, fyziky a informatiky Univerzity Komenského a z Kempelenovho inštitútu inteligentných technológií. 

„Vývoj umelej inteligencie je len vo svojom počiatočnom štádiu. Keď sa o 50 rokov pozrieme späť na to, čo robíme dnes, bude nám to pripadať dosť primitívne.Väčšina tejto oblasti ešte stále nebola objavená. Je preto nesmierne dôležité položiť základy dôveryhodnej umelej inteligencie už teraz,“ hovorí Fredrik Heintz, profesor umelej inteligencie na Univerzite v Linköpingu a koordinátor projektu TAILOR.

Plán, ktorý vznikol v rámci projektu TAILOR, je prvým krokom na ceste k štandardizácii. Rozhodovacie orgány a inštitúcie financujúce výskum vďaka tomuto plánu získajú prehľad o tom, čo je potrebné na vývoj dôveryhodnej umelej inteligencie. Musíme však zdôrazniť, že je potrebné najprv vyriešiť mnohé výskumné otázky, aby sa toto podarilo. 

Výskumníci definovali tri kritériá pre dôveryhodnú umelú inteligenciu: 

Tieto kritériá však predstavujú veľké výzvy, obzvlášť keď sa jedná o implementáciu etických zásad.

Mnohé z právnych návrhov, ktoré boli napísané v EÚ a členských štátov, píšu odborníci z oblastí práva. Týmto ľuďom však často chýbajú odborné znalosti z oblasti umelej inteligencie, čo môže predstavovať problém. Právne predpisy a normy musia vychádzať zo znalostí. Práve tu môžu prispieť výskumníci tým, že poskytnú informácie o súčasnom výskume a tým umožnia prijímanie dobre podložených rozhodnutí. Je veľmi dôležité, aby odborníci dostali možnosť ovplyvňovať otázky právnej povahy.

„Koncept dôveryhodnej umelej inteligencie je založený na etických zásadách a právnych predpisoch. Nesmieme však zabúdať na to, že dôveru si treba zaslúžiť. Do výskumu, vývoja a  zavádzania systémov umelej inteligencie je zainteresovaných mnoho subjektov. Ich zodpovednosť by sa mala odvodzovať na základe ich schopností minimalizovať škody a maximalizovať prínosy, ktoré môžu prostredníctvom umelej inteligencie priniesť spoločnosti. Je dôležité, aby sa angažovali vo vývoji takej umelej inteligencie, ktorá bude prospešná pre spoločnosť,“ hovorí Mária Bieliková.

Ľudia často považujú umelú inteligenciu za čisto technologickú záležitosť. V skutočnosti je však dôležité to, či z nej dokážeme vyťažiť spoločenský prospech. Ak chceme dosiahnuť umelú inteligenciu, ktorá je dôveryhodná a dobre funguje v spoločnosti, musíme sa uistiť, že je zameraná na ľudí. 

Projekt sa zameriava na veľké komplexné výskumné otázky a má za cieľ definovať štandardy, ktoré si môžu osvojiť všetci, čo pracujú s umelou inteligenciou. Toto sa však dá dosiahnuť len vtedy, ak sa základný výskum umelej inteligencie stane prioritou. 

Kompletný plán je k dispozícii tu: Strategický plán výskumu a inovácií dôveryhodnej umelej inteligencie.