{"id":23464,"date":"2022-12-06T10:45:32","date_gmt":"2022-12-06T09:45:32","guid":{"rendered":"https:\/\/kinit.sk\/research\/understanding-slovak-ai-biases\/"},"modified":"2023-11-10T11:52:05","modified_gmt":"2023-11-10T10:52:05","slug":"predsudky-v-slovenskej-umelej-inteligencii","status":"publish","type":"page","link":"https:\/\/kinit.sk\/sk\/research\/predsudky-v-slovenskej-umelej-inteligencii\/","title":{"rendered":"Predsudky v slovenskej umelej inteligencii"},"content":{"rendered":"
\n

Pojmy ako predsudok \u010di skreslenie m\u00f4\u017eeme ch\u00e1pa\u0165 mnoh\u00fdmi sp\u00f4sobmi<\/a>, \u010di u\u017e v pozit\u00edvnom alebo negat\u00edvnom v\u00fdzname. Pozn\u00e1me mnoho typov predsudkov, ak\u00fdmi s\u00fa napr\u00edklad spolo\u010densk\u00e9 a historick\u00e9 predsudky \u010di predsudky v reprezent\u00e1cii. Spolo\u010densk\u00e9 predsudky m\u00f4\u017eeme vn\u00edma\u0165 aj ako ist\u00e9 stereotypy, ktor\u00e9 s\u00fa zalo\u017een\u00e9 na demografick\u00fdch faktoroch<\/a> \u010di fyzick\u00fdch charakteristik\u00e1ch, napr\u00edklad s oh\u013eadom na rasu, etnick\u00fd p\u00f4vod, pohlavie, sexu\u00e1lnu orient\u00e1ciu, socioekonomick\u00fd status alebo vzdelanie. <\/p>\n<\/div>\n\n

\n

Tieto stereotypy vn\u00edmame v preva\u017enej miere ako nespravodliv\u00e9. A zd\u00e1 sa, \u017ee ani syst\u00e9my umelej inteligencie nedok\u00e1\u017eu by\u0165 \u00faplne spravodliv\u00e9<\/a>. Plat\u00ed to najm\u00e4 pre tie algoritmy, ktor\u00e9 sa u\u010dia z d\u00e1t, ke\u010f\u017ee tie u\u017e ur\u010dit\u00e9 skreslenia m\u00f4\u017eu v sebe obsahova\u0165.<\/p>\n<\/div>\n\n

\n

To v\u0161ak neznamen\u00e1, \u017ee by sme mali s takouto situ\u00e1ciou zmieri\u0165. Preto\u017ee ak m\u00e1 by\u0165 na\u0161\u00edm cie\u013eom minimalizova\u0165 potenci\u00e1lne rizik\u00e1 umelej inteligencie sk\u00f4r, ne\u017e sp\u00f4sobia \u013eu\u010fom ne\u017eelan\u00fa ujmu, potom je nevyhnutn\u00e9, aby sme lep\u0161ie porozumeli aj mechanizmom, ktor\u00e9 stoja za jej predsudkami. <\/p>\n<\/div>\n\n

\n
\n
\n

Umel\u00e1 inteligencia nepreber\u00e1 od n\u00e1s iba u\u017eito\u010dn\u00e9 znalosti. Niekedy si osvoj\u00ed aj na\u0161e predsudky a stereotypy. \u017dia\u013e, o predsudkoch modelov umelej inteligencie pracuj\u00facich so sloven\u010dinou nevieme takmer ni\u010d. To sa v\u0161ak chyst\u00e1me zmeni\u0165.<\/strong><\/p>\n<\/div>\n\n

\n
\n
Viac inform\u00e1ci\u00ed o projekte<\/a><\/div>\n<\/div><\/div>\n<\/div><\/div>\n<\/div><\/div>\n<\/div>\n\n
\n

Online workshop: Rodov\u00e9 predsudky v umelej inteligencii<\/strong><\/p>\n<\/div>\n\n

\n

Spolupr\u00e1ca \u013eud\u00ed z r\u00f4znych oblast\u00ed vedy a v\u00fdskumu je \u010dasto vz\u00e1jomne obohacuj\u00faca a potrebn\u00e1, zvl\u00e1\u0161\u0165, ak sa t\u00fdka sk\u00famania a rie\u0161enia probl\u00e9mov, ktor\u00fdch povaha je komplexnej\u0161ia. Tak je tomu aj v pr\u00edpade v\u00fdskumu na poli predsudkov v umelej inteligencii. Ich porozumenie a rie\u0161enie si vy\u017eaduje spojenie s\u00edl viacer\u00fdch vedn\u00fdch discipl\u00edn, v\u00fdskumn\u00fdch pr\u00edstupov a poh\u013eadov, ktor\u00e9 pon\u00faka napr\u00edklad informatika (zvl\u00e1\u0161\u0165 odbor umelej inteligencie), etika, \u010di dokonca rodov\u00e9 \u0161t\u00fadi\u00e1 sk\u00famaj\u00face v\u00fdznam rodu v kult\u00fare, spolo\u010dnosti a vede.<\/p>\n<\/div>\n\n

\n

V snahe o interdisciplin\u00e1rny pr\u00edstup sa v priebehu marca uskuto\u010dnil online workshop s n\u00e1zvom Rodov\u00e9 predsudky v umelej inteligencii<\/em>, ktor\u00e9ho sa z\u00fa\u010dastnili okrem v\u00fdskumn\u00edkov a v\u00fdskumn\u00ed\u010dok KInITu aj rodov\u00e9 expertky. Hlavn\u00fdm cie\u013eom stretnutia bolo z\u00edska\u0165 pou\u010denie i usmernenie, t\u00fdkaj\u00face sa odbornej\u0161ieho zoh\u013eadnenia t\u00e9my rodu v projekte Spolo\u010densk\u00e9 predsudky v slovenskej AI<\/em>. Tie\u017e sme chceli zisti\u0165, \u010di existuje na Slovensku reprezentat\u00edvny zoznam rodov\u00fdch stereotypov, resp. korpus jazykov\u00fdch v\u00fdrazov obsahuj\u00facich rodov\u00e9 predsudky, s ktor\u00fdm by bolo mo\u017en\u00e9 \u010falej experiment\u00e1lne pracova\u0165. Z\u00edskan\u00e9 poznatky a poskytnut\u00e9 informa\u010dn\u00e9 zdroje by mali prispie\u0165 k v\u00fdstupom projektu, ktor\u00e9 poved\u00fa k lep\u0161iemu porozumeniu problematiky predsudkov v umelej inteligencii na Slovensku.<\/p>\n<\/div>\n\n

\n

Obsahom workshopu bolo predstavenie projektu, s\u00favisiacich v\u00fdskumn\u00fdch \u010dinnost\u00ed vr\u00e1tane pl\u00e1novan\u00fdch experimentov a predstavenie problematiky jazykov\u00fdch modelov zalo\u017een\u00fdch na umelej inteligencii. N\u00e1sledn\u00e1 diskusia o metodologick\u00fdch aspektoch dan\u00e9ho v\u00fdskumu a o povahe rodov\u00fdch predsudkov priniesla mo\u017enos\u0165 porovna\u0165 a obohati\u0165 poh\u013eady v\u00fdskumn\u00edkov a v\u00fdskumn\u00ed\u010dok.<\/p>\n<\/div>\n\n

\n

V\u00fdsledkom diskusie bolo napr\u00edklad zistenie, \u017ee s\u00edce reprezentat\u00edvny korpus jazykov\u00fdch v\u00fdrazov obsahuj\u00facich rodov\u00e9 predsudky v slovenskom jazyku nem\u00e1me, no pomocou r\u00f4znych zdrojov (napr. EIGE reportu – A study of collected narratives on gender perceptions in the 27 EU Member States<\/a>) je mo\u017en\u00e9 zostavi\u0165 zoznam rodov\u00fdch stereotypov. Tento zoznam bude sl\u00fa\u017ei\u0165 ako z\u00e1klad pre vytv\u00e1ranie datasetov, obsahuj\u00facich r\u00f4zne jazykov\u00e9 v\u00fdrazy ur\u010den\u00e9 k testovaniu jazykov\u00fdch modelov zalo\u017een\u00fdch na umelej inteligencii. U\u017e po\u010das workshopu sa podarilo zadefinova\u0165 z\u00e1kladn\u00e9 prvky tak\u00e9hoto zoznamu. Vytvorila sa tak mapa z\u00e1kladn\u00fdch oblast\u00ed a t\u00e9m, v ktor\u00fdch sa rodov\u00e9 stereotypy a predsudky objavuj\u00fa, a ktor\u00e9 by mal ak\u00fdko\u013evek reprezentat\u00edvny zoznam stereotypov obsiahnu\u0165 (vi\u010f. obr\u00e1zok).<\/p>\n<\/div>\n\n

\n
\"\"<\/figure>\n<\/div>\n\n
\n

Za \u00fa\u010das\u0165 na workshope sme v\u010fa\u010dn\u00ed rodov\u00fdm expertk\u00e1m Adriane Jesenkovej, Mariane Szapuovej, Jane Jablonickej Zezulovej, Jane Valdrovej a Veronike Valkovi\u010dovej.<\/p>\n<\/div>\n\n

\n

Pos\u00fadenie z h\u013eadiska d\u00e1tovej etiky<\/strong><\/p>\n<\/div>\n\n

\n

V r\u00e1mci rie\u0161enia projektu Spolo\u010densk\u00e9 predsudky v slovenskej AI<\/em> sa v mesiacoch febru\u00e1r-apr\u00edl 2023 uskuto\u010dnil proces pos\u00fadenia z h\u013eadiska d\u00e1tovej etiky (data-ethics assessment) pod veden\u00edm v\u00fdskumn\u00edkov z KInIT t\u00edmu Etika a \u013eudsk\u00e9 hodnoty v technol\u00f3gi\u00e1ch<\/a>. Pos\u00fadenie bolo zameran\u00e9 predov\u0161etk\u00fdm na pr\u00e1cu s etick\u00fdmi rizikami oh\u013eadom zberu, pou\u017e\u00edvania i publikovania d\u00e1t v kontexte v\u00fdskumn\u00fdch \u00faloh projektu. Zmysel tak\u00e9hoto pos\u00fadenia spo\u010d\u00edva predov\u0161etk\u00fdm v snahe vyhn\u00fa\u0165 sa neetick\u00e9mu konaniu v zmysle nedodr\u017eiavania ur\u010dit\u00fdch etick\u00fdch princ\u00edpov \u010di poru\u0161ovania hodn\u00f4t pri pr\u00e1ci s d\u00e1tami. Neetick\u00e9 konanie prin\u00e1\u0161a so sebou r\u00f4zne negat\u00edvne d\u00f4sledky a zni\u017euje aj kvalitu vedecko-v\u00fdskumnej pr\u00e1ce. Okrem toho proces etick\u00e9ho pos\u00fadenia do istej miery aj formuje sp\u00f4sob etick\u00e9ho myslenia v\u00fdskumn\u00edkov a v\u00fdskumn\u00ed\u010dok.<\/p>\n<\/div>\n\n

\n

Data-ethics assessment prebiehal najm\u00e4 formou viacer\u00fdch pracovn\u00fdch workshopov, ktor\u00fdch sa z\u00fa\u010dast\u0148ovali v\u00fdskumn\u00edci participuj\u00faci na projektov\u00fdch \u00faloh\u00e1ch – najm\u00e4 t\u00ed, ktor\u00fdch sa pr\u00e1ca s d\u00e1tami priamo t\u00fdkala. Proces pos\u00fadenia pozost\u00e1val z viacer\u00fdch f\u00e1z. Medzi k\u013e\u00fa\u010dov\u00e9 patrili predov\u0161etk\u00fdm identifik\u00e1cia zainteresovan\u00fdch str\u00e1n (stakeholderov), identifik\u00e1cia etick\u00fdch probl\u00e9mov a mana\u017ement riz\u00edk, ktor\u00e9ho s\u00fa\u010das\u0165ou bola identifik\u00e1cia riz\u00edk, meranie pravdepodobnosti ich v\u00fdskytu, z\u00e1va\u017enosti ich dopadov a navrhovanie vhodn\u00fdch protiopatren\u00ed, pomocou ktor\u00fdch by bolo mo\u017en\u00fdm rizik\u00e1m predch\u00e1dza\u0165, pr\u00edpadne ich negat\u00edvny dopad na stakeholderov aspo\u0148 minimalizova\u0165.<\/p>\n<\/div>\n\n

\n

D\u00f4le\u017eitou s\u00fa\u010das\u0165ou etick\u00fdch pos\u00faden\u00ed bolo aj vyjasnenie si mot\u00edvov, cie\u013eov a benefitov v\u00fdskumu. Jedn\u00fdm z podstatn\u00fdch impulzov etick\u00e9ho pos\u00fadenia bola aj v\u00fdzva k zapojeniu \u013eud\u00ed s rodovou expert\u00edzou ako v\u00fdznamn\u00e9ho stakeholdera. Zapojili sme ich do samotn\u00e9ho procesu pos\u00fadenia  a podie\u013eali sa aj na plnen\u00ed niektor\u00fdch cie\u013eov projektu. T\u00e1to v\u00fdzva sa premietla napr\u00edklad do realiz\u00e1cie expertn\u00e9ho workshopu, o ktorom sa do\u010d\u00edtate viac vy\u0161\u0161ie na tejto str\u00e1nke.<\/p>\n<\/div>\n\n

\n

<\/p>\n<\/div>\n\n

\n

Z\u00e1vere\u010dn\u00e9 podujatie: Spolo\u010densk\u00e9 predsudky v slovenskej AI<\/strong><\/p>\n<\/div>\n\n

\n

V\u00fdstupy projektu sme predstavili 18. okt\u00f3bra 2023. Z\u00e1znam z podujatia si m\u00f4\u017eete pozrie\u0165 tu<\/a>:<\/p>\n<\/div>\n\n

\n
\n