Umelá inteligencia a interdisciplinarita

O umelej inteligencii (AI) počujeme v týchto dňoch veľa. Informácie o tom, čo systémy AI dnes dokážu nás na jednej strane neprestávajú udivovať. Zároveň rastú obavy z toho, kam nás vývoj AI zavedie, a čo to urobí s nami – so spoločnosťou a svetom, v ktorom žijeme. Niektorí experti už prejavili svoje obavy pokiaľ ide o dlhodobé dôsledky. Tie je však možné len čiastočne predvídať. Čo nemusíme špekulatívne odhadovať sú problémy a výzvy, ktorým v súvislosti s AI čelíme už dnes, a tým by sme sa mali neodkladne venovať.

Problémy späté s umelou inteligenciou nie sú vždy iba technického charakteru, ale majú aj omnoho širší spoločenský rozmer. Nie vždy im dokážeme porozumieť len za pomoci technických znalostí. Každá technológia je totižto situovaná v určitom sociokultúrnom kontexte, ktorý ju rôznymi spôsobmi tvaruje i problematizuje.

V Kempelenovom inštitúte inteligentných technológií (KInIT) si uvedomujeme, že systémy AI vyvolávajú stále viac a viac otázok, ako usmerniť ich výskum a vývoj spoločensky zodpovedným smerom, a to aj za prispenia odborníkov a odborníčok netechnických odborov. V kontexte nášho výskumu a priemyselných spoluprác máme skúsenosť, že bez interdisciplinárneho prístupu je veľmi náročné správne uchopiť a adresovať širšie súvislosti inteligentných technológií, ako aj problémy, ktoré sú zo svojej podstaty netechnického charakteru.

Interdisciplinárny prístup znamená, že ľudia z rôznych vedných oblastí spoja svoje sily v záujme riešenia jedného konkrétneho problému. Tvorivé spájanie pri skúmaní a vyvíjaní umelej inteligencie sa bežne deje medzi technickými a prírodnými vedami. V biochémii pomáha AI pri mapovaní 3D tvarov ľudských bielkovín, ktoré môžu pomôcť pri výskume chorôb či navrhovaní nových liekov. V astronómii je AI užitočná pri hľadaní nových objektov vo vesmíre. V meteorológii sa používa na stanovenie presnejšej predpovedi počasia.

Prieniky umelej inteligencie s humanitnými a spoločenskovednými odbormi sú však zriedkavejšie a menej známe. A to je škoda, keďže sa ukazuje, že práve v takýchto podobách spolupráce spočíva významná pridaná hodnota. Aj tu AI pomáha výskumníkom a výskumníčkam, napríklad pri analýze a rekonštrukcii historických textov, či pri spracovaní záznamov z terapeutických sedení. Odbory, akými sú psychológia, sociológia, filozofia, etika a iné, nám taktiež môžu výrazne pomôcť pri aktívnom riešení problémov s umelou inteligenciou. Obzvlášť takých, ktoré sa týkajú ľudských hodnôt, dobrého fungovania spoločnosti, či ochrany životného prostredia. Vďaka nim si lepšie uvedomujeme, že technológie umelej inteligencie majú slúžiť ľuďom, a nie naopak.

Jedným z mnohých príkladov interdisciplinárnej spolupráce, kedy humanitné a spoločenskovedné odbory aktívne ovplyvňujú technický výskum, je aj aktuálne prebiehajúci projekt v KInITe s názvom Spoločenské predsudky v slovenskej AI. Projekt sa zameriava na problematiku rodových predsudkov v systémoch AI pracujúcich so slovenčinou. Ide o systémy, ktoré sú napríklad súčasťou jazykových prekladačov ako Google Translate, DeepL, Microsoft Translator či rôznych nástrojov prediktívneho písania, s ktorými sa stretávame bežne v našich počítačoch, telefónoch a tabletoch.

Prečo má štúdium rodových predsudkov vo vzťahu k podobným systémom AI zmysel? Rodové predsudky sa v oblasti jazyka týkajú výpovedí o mužoch a ženách, ktorým sa na základe mylného zovšeobecnenia pripisujú určité predpokladané vlastnosti, charakterové črty, vhodné profesie, miesta v živote, a podobne. Príkladmi takýchto predsudkov môžu byť nasledujúce tvrdenia typu „ženy sú hysterické a emocionálne“ alebo „muži sú disciplinovaní a rozumní“.

Zo skúseností vieme, že takéto tvrdenia vo všeobecnosti jednoducho neplatia. Ak sa však objavujú v jazyku pričasto, tak sa tým posilňujú klamlivé predstavy o tom, akí muži a ženy údajne sú, prípadne akí by mali byť. A nielen to. Pretože máme sklon rozhodovať sa a konať na základe našich predstáv, rodové predsudky môžu viesť ku konaniu, ktoré bude ovplyvnené vžitými predstavami o ženách a mužoch, bez ohľadu na to či správnymi alebo nesprávnymi. Problémom je to hlavne vtedy, ak tieto predstavy a na nich založené konanie nezodpovedajú realite. Rodové predsudky tak prispievajú k formovaniu skreslených pohľadov na svet, ktoré životy mužov a žien nerobia ani lepšími, ani šťastnejšími a už vôbec nie pravdivými a autentickými.

Systémy umelej inteligencie, ktoré spracúvajú jazyk, sa zvyčajne „učia“ vykonávať zadané úlohy na veľkom množstve dát. Z toho, čo sme povedali, vyplýva, že dáta od ľudí úplne prirodzene obsahujú rôzne predsudky. Tie sa potom prenesú do daných systémov, kde sa môžu pri ich používaní pomerne ľahko ďalej šíriť, a tým aj posilňovať už existujúce predsudky o mužoch a ženách v spoločnosti. Ak chceme, aby systémy AI spĺňali naše požiadavky nielen na úrovni matematicko-štatickej presnosti, ale aj na základe spoločensky uznávaných hodnôt spravodlivosti a férovosti, tak potom popri matematike a štatistike nesmie byť zanedbaná ani etika.

K hlbšiemu porozumeniu samotného problému rodových predsudkov a stereotypov v AI sa ako veľmi žiaduca ukázala spolupráca s ľuďmi, ktorí sa tejto téme odborne venujú z viacerých hľadísk, pričom pohľad informatika predstavuje len jeden z nich. V KInITe sme napríklad zrealizovali expertný workshop, ktorého sa zúčastnili profesionáli zaoberajúci sa témami spracovania prirodzeného jazyka či etiky, ako aj expertky na rodovú rovnosť (rodovo citlivý jazyk). V takýchto interdisciplinárnych rozhovoroch potom prebieha výmena znalostí a skúseností v zaujímavých a neobvyklých kombináciách. Výsledkom môžu byť rôzne interdisciplinárne motivované usmernenia, ako metodicky správne pristúpiť k skúmaniu daného problému, na čo sa zamerať a čomu sa vyhnúť, či rôzne inšpiratívne vhľady.

V našom prípade sme v spolupráci s expertkami na rodovú rovnosť napríklad vytvorili základ zoznamu rodových stereotypov, ktorý v spolupráci s prekladateľkami z akademickej sféry a ďalšími prispievateľmi dát ďalej rozširujeme o nové varianty a formulácie. Takýto zoznam bude obsahovať tisícky rôznych príkladov problematických viet, voči ktorým potom vieme testovať systémy AI, pri ktorých máme podozrenie, že môžu pri prekladoch prejavovať stereotypné fungovanie. Nejde však iba o identifikáciu stereotypov. Podobný zoznam sa rovnako dá v budúcnosti použiť aj pri odstraňovaní rodových predsudkov zo systémov AI, ktoré pracujú so slovenčinou, a na ktoré bežné metódy odstraňovania predsudkov orientované na veľké svetové jazyky nemusia byť citlivé.

Možno sa vám podobné snahy zdajú byť malé v porovnaní s problémami, ako je dopad umelej inteligencie na trh práce, či jej vplyv na životné prostredie, ľudskú tvorivosť alebo funkčnosť demokratických systémov. Ako spoločnosť potrebujeme samozrejme zvažovať aj rôzne strednodobé a dlhodobé dôsledky vývoja a používania inteligentných technológií v našej spoločnosti. Preto venujeme energiu a čas napríklad aj výskumom dôsledkov generatívnej AI, najmä v súvislosti s tvorbou a šírením dezinformačného obsahu. Aj v tejto oblasti má interdisciplinarita svoje neoceniteľné miesto. To je však téma na ďalší článok. Každopádne, aj v prípade AI systémov platí (tak ako kdekoľvek inde), že naša budúcnosť s nimi bude taká, akú si ju pripravíme už dnes.