Ako rozmýšľa umelá inteligencia?

Môže umelá inteligencia rozhodovať o tom, kto bude prepustený z väzenia, alebo kto postúpi do ďalšieho kola pracovných pohovorov? Môže odporúčať preventívne vyšetrenia na rôzne choroby alebo úplne prevziať zodpovednosť za riadenie vozidla v snehovej búrke? 

Nie ste si istí, ako odpovedať na takéto otázky? Ak by ste vedeli, že umelá inteligencia svoje rozhodnutie detailne zdôvodnila a každý človek by si mohol overiť, či sa rozhodovala správne – zmenilo by to váš názor? 

Prinášame vám prvý diel série článkov na tému vysvetliteľnej a transparentnej umelej inteligencie. 

V tejto časti sa dočítate:

Aj keď neurónové siete poznáme už od roku 1943 (McCulloch a Pitts), najnovší boom okolo nich, po ktorých neurónové siete získali dominanciu v rámci strojového učenia, začal až v roku 2012 výskumom Alexa Krizhevského, Ilyu Sutskevera a Geoffreyho Hintona¹, ktorí sú priekopníci hlbokého učenia ako súčasnej dominantnej vetvy umelej inteligencie (AI). Vo svojej práci ukázali, že aj pomerne jednoduchá hlboká neurónová sieť, ktorá sa skladala z ôsmich vrstiev (v porovnaní s dnešnými sieťami, ktoré môžu obsahovať aj viac ako tisíc skrytých vrstiev, ide o pomerne jednoduchú sieť), výrazným spôsobom prekonala vtedajšie prístupy pri klasifikácii obrázkov do tisícky rôznych tried.

Typická jednoduchá neurónová sieť (na obrázku) sa skladá zo vstupnej vrstvy, viacerých skrytých vrstiev a jednej výstupnej vrstvy. Vstupná vrstva predstavuje dáta, s ktorými neurónová sieť pracuje – môže sa jednať o hodnoty pixelov obrázka, číselnú reprezentáciu slov alebo hodnoty namerané nejakým senzorom. Skryté vrstvy následne tieto vstupy postupne transformujú na takzvanú skrytú (alebo latentnú) reprezentáciu – v prípade obrázkov si takúto reprezentáciu môžeme predstaviť ako výsledok filtrovania obrázka v grafickom editore (“fotošop”). Neuróný na výstupnej vrstve predstavujú finálnu predikciu neurónovej siete.

Na tomto obrázku má neurónová sieť práve jeden výstupný neurón. Ak je jeho hodnota pre vstup X napríklad blízka hodnote 1, môže to znamenať, že vstupný obrázok obsahuje auto. Naopak, hodnota blízka 0 môže indikovať, že sa na obrázku auto nenachádza. V tomto prípade neurónová sieť predikuje, že na obrázku sa auto s veľkou pravdepodobnosťou nachádza, keďže výstupný neurón nadobudol hodnotu 0,93. 

Princíp fungovania moderných neurónových sietí je, zjednodušene povedané, založený na postupnom filtrovaní a transformovaní vstupných dát, až pokiaľ takto zmenená informácia nedá odpoveď na nejakú otázku, ktorú má model zodpovedať. Ak má napríklad model klasifikovať obrázky, tak v prvej skrytej vrstve môže napríklad vyfiltrovať či zvýrazniť hrany, rozmazať obrázok alebo zvýrazniť v ňom nejakú farbu – alebo všetko naraz! Druhá vrstva už nepracuje priamo s pixelmi pôvodného obrázka, ale s výstupom prvej vrstvy.

Pracuje teda už s abstraktnejšími konceptmi, než sú pôvodné pixely. Ukazuje sa pritom, že čím viac skrytých vrstiev model obsahuje, t.j. čím je hlbší, tým lepší výkon typicky model dosahuje (samozrejme, ani toto pravidlo neplatí vždy a záleží to od kontextu a riešenej úlohy).

Od prielomu Alexa Krizhevského a kol. sa hlboké neurónové siete využívajú stále častejšie a neustále sa zlepšujú. Môžu nám pomáhať pri analýze a získavaní znalostí zo snímok z kamier, vďaka čomu sa napríklad autonómne autá môžu rozhodnúť, či má auto odbočiť alebo pridať plyn, alebo pri analýze sentimentu a tónu diskusie na sociálnych sieťach, čo môže prispieť k jej kultivovaniu a zníženiu množstva nenávistných príspevkov.

Neurónové siete a ich aplikácie už dnes prekonávajú ľudí vo viacerých individuálnych činnostiach. No aj tu platí výrok: “Obed zadarmo neexistuje.”. A cenou za narastajúcu využiteľnosť neurónových sietí  je okrem iného aj ich komplexita.

Je pravda, že pri niektorých typoch aplikácií nie je nutné takýmto modelom detailne rozumieť. Napríklad, nie je až taký veľký problém, ak nám umelá inteligencia v e-shope neodporučí najlepší telefón. Potom sú tu však regulované odvetvia a oblasti ako medicína, bezpečnosť, energetika, financie, či už spomínané autonómne vozidlá. Oblasti, ktoré majú priamy dosah na naše životy, a v ktorých sú pochopenie a schopnosť vysvetliť to, ako umelá inteligencia “premýšľa”, rovnako dôležité ako to, aké sú jej výsledky.

Hoci systémy umelej inteligencie a ich využitie sú na vzostupe, dnes ešte nerozhodujú vo väčšine citlivých prípadov. Kým sa tak stane, budeme musieť byť schopní v dostatočnej miere vedieť odpovedať na otázky ako:

V rámci nášho výskumu sa zaoberáme otázkami vysvetliteľnej a interpretovateľnej umelej inteligencie (AI). Vysvetliteľnosť a interpretovateľnosť sú veľmi dôležité pojmy, ktoré však ani vo vedeckej literatúre ešte nemajú úplne ustálený význam. Chápeme ich takto:

Schopnosť vysvetliť, ako AI dospela ku konkrétnej predpovedi, poskytuje nové možnosti na zlepšenie modelov, objavenie skrytých skreslení, zakódovanej diskriminácie a interpretovanie vedomostí vo vnútri modelu.

Výkonnosť neurónových sietí neprichádza zadarmo. Na to, aby siete dosiahli s pomerne malou námahou (v porovnaní s inými prístupmi) vysokú presnosť, musia byť komplexné. A podobne ako v iných sférach života, aj tu platí, že rozumieť zložitým veciam je oveľa ťažšie ako rozumieť tým jednoduchým.

Na diagrame nižšie vidíme známe modely, ktoré sú na osi X zoradené podľa miery ich interpretovateľnosti a na osi Y podľa toho, akú relatívnu presnosť v porovnaní s inými prístupmi vedia tieto modely dosiahnuť. Pri pohľade na extrémy, na jednom konci sú hlboké neurónové siete, ktoré dosahujú najvyššiu presnosť, ale zároveň im najmenej rozumieme, a na druhom konci vpravo nájdeme modely umelej inteligencie, v ktorých je znalosť reprezentovaná najviac explicitne (a najviac intuitívne pre človeka).

Typicky platí, že čím explicitnejšie je znalosť uchovávaná v modeli a čím viac je tento model interpretovateľný pre človeka, tým menšiu má modelovaciu kapacitu (okrem iného preto, že takéto kódovanie znalostí je náročné na prácu človeka) a dosahuje menšiu presnosť. Napríklad v pravidlových systémoch alebo jednoduchých rozhodovacích stromoch sú “myšlienkové pochody” modelu v procese rozhodovania krásne jednoduché: “AK má zviera perie A nelieta A žije v chladných oblastiach, TAK je to tučniak”.

Takéto modely sú ale veľmi ťažko použiteľné pri riešení komplikovaných úloh, kde okrem toho môžu ľahko stratiť svoju interpretovateľnosť. Ak by sme rovnaký model chceli použiť napríklad na rozpoznanie jazyka, v ktorom je písaný text, počet podmienok v pravidle “AK … A … TAK” by sa mohol veľmi rýchlo vyšplhať na stovky až stovky tisícov.

V rámci prvej časti seriálu o vysvetliteľnej umelej inteligencii sme si povedali o presnosti a vysvetliteľnosti, o ich vzťahu a o tom, na čo vlastne vysvetliteľnosť potrebujeme. 

Napriek tomu, že v súčasnosti sa vo výskume aj v priemysle skloňujú najmä komplexné modely ako hlboké neurónové siete, treba mať na pamäti, že ich bezprecedentná výkonnosť má svoju cenu. 

Proces rozhodovania zložitých modelov je vysoko netransparentný a človek nemusí byť schopný porozumieť, ako takéto modely dospeli k predpovedi. V kritických doménach ako zdravotníctvo či finančný sektor to môže mať vážne dôsledky, alebo úplne zabrániť použitiu komplexných modelov. 

Výskum v oblasti vysvetliteľnej umelej inteligencie (XAI) sa snaží poskytnúť metódy a techniky, aby bolo možné dosiahnuť to najlepšie z oboch svetov. Teda zrozumiteľnosť jednoduchých modelov a výkonnosť tých zložitých, ktoré sa často označujú aj ako čierne skrinky. Preto sa výskumu XAI venujeme v KInITe aj my.

Ak vás problematika vysvetliteľnej umelej inteligencie zaujala, môžete sa tešiť na ďalšie časti seriálu. Budeme sa venovať transparentným a tzv. modelom typu čierna skrinka, či metódam na vysvetľovanie a interpretovanie modelov umelej inteligencie. Ukážeme si tiež, že nám nestačí len jedna metóda vysvetliteľnosti a prečo je to tak.

Zdroje:

[1] Alex Krizhevsky, Ilya Sutskever, and Geoffrey E. Hinton. 2012. ImageNet classification with deep convolutional neural networks. In Proceedings of the 25th International Conference on Neural Information Processing Systems – Volume 1 (NIPS’12). Curran Associates Inc., Red Hook, NY, USA, 1097–1105.

[2] ARRIETA, Alejandro Barredo, et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 2020, 58: 82-115.