dec 13. 2022

TAILOR Handbook: encyklopédia pojmov dôveryhodnej umelej inteligencie

Príručka TAILOR Handbook of Trustworthy AI obsahuje najdôležitejšie vedecké a technologické termíny súvisiace s dôveryhodnou umelou inteligenciou. Jej hlavným cieľom je priblížiť výskumníkom, študentom aj laickej verejnosti problematiku súvisiacu s vývojom etických a spoľahlivých systémov umelej inteligencie.

Tvorba príručky bola koordinovaná Umbertom Straccia a Francescou Pratesi z Ústavu informačných vied a technológií talianskej Národnej rady pre výskum. V rozhovore uviedli, že dôveryhodná umelá inteligencia je pojem, ktorý má viacero rozmerov. S niektorými z týchto rozmerov (napríklad bezpečnosť a ochrana súkromia) sa vedci zaoberajú už dlho, iné sa stali témou až v posledných rokoch (napríklad vysvetliteľnosť a udržateľnosť). Všeobecne nám však chýba spoločný základ pre termíny a definície spojené s dôveryhodnou umelou inteligenciou.

Nápad vytvoriť príručku TAILOR vznikol z ambície vytvoriť spoločný jazyk pre oblasť umelej inteligencie. Príručka má štruktúru podobnú encyklopédii. Štruktúra bola vytvorená na základe už existujúcich taxonómií a definícií a postupovaním v konceptuálnej hierarchii rôznych myšlienok.

Táto publikácia bude užitočná pre odborníkov aj začiatočníkov v tejto problematike. Príručka poskytuje aj odporúčania na čítanie, praktické príklady, odkazy na iné publikácie a prehľady, ktoré môžu čitateľovi pomôcť lepšie pochopiť problematiku umelej inteligencie a tiež prehĺbiť vedomosti.

Koncept dôveryhodnej umelej inteligencie pozostáva z mnohých aspektov, vrátane vysvetliteľnosti, bezpečnosti, spravodlivosti, zodpovednosti, súkromia a udržateľnosti.

Táto príručka obsahuje definície súvisiace s nasledujúcimi pojmami:

Vysvetliteľná umelá inteligencia: Jedným z etických rozmerov, ktoré sú skúmané v rámci projektu TAILOR je vysvetliteľná umelá inteligencia. V tejto kapitole nájdete informácie o hlavných prvkoch, ktoré definujú vysvetliteľnosť systémov umelej inteligencie. Tiež tu nájdete prehľad niekoľkých metód na poskytovanie multimodálnych vysvetlení.
Bezpečnosť a spoľahlivosť: Umelá inteligencia sa čoraz viac dostáva do popredia. S tým sú spojené rastúce obavy z možných rizík, ktoré so sebou prináša. Táto kapitola príručky sa zaoberá hlavnými aspektmi, ktoré vysvetľujú bezpečnosť a spoľahlivosť systémov umelej inteligencie.
Férovosť, rovnosť a spravodlivosť: V tejto kapitole sa autori venujú možným príčinám diskriminácie a vysvetľujú pojmy predsudij a segregácia. Zaoberajú sa aj tým, aké spravodlivé môže byť strojové učenie a aké metriky možno použiť na meranie (ne)spravodlivosti.
Zodpovednosť a reprodukovateľnosť: Táto kapitola sa zameriava na kľúčové aspekty dôveryhodnej umelej inteligencie. Zodpovednosť a reprodukovateľnosť sú vzájomne prepojené pojmy, pričom prvý z nich poukazuje na zodpovednosť a prevenciu zneužitia. Reprodukovateľnosť sa týka skôr metrík, kvalitatívnych štandardov a postupov na modelovanie vývoja metód učenia v umelej inteligencii.
Rešpektovanie súkromia: Táto kapitola poskytuje stručný prehľad kľúčových modelov ochrany súkromia spolu s ich atribútmi. Autori sa v nej tiež venujú primárnym metódam na dosiahnutie potrebnej úrovne ochrany súkromia. Popísané sú aj metódy na zabezpečenie dostatočných záruk ochrany pred útokmi.
Udržateľnosť: Posledná kapitola poukazuje na najnovšie výzvy, ktorým čelí naša spoločnosť. Zahŕňa kľúčové komponenty, ktoré tvoria udržateľnosť v systémoch umelej inteligencie. Niektoré z nich sa vzťahujú na počítačové systémy vo všeobecnosti, iné sa týkajú priamo udržateľnosti modelov umelej inteligencie.

Príručku uzatvára index s abecedným zoznamom všetkých hesiel spolu s krátkou definíciou, mapou na vyhľadanie termínu v príručke a odkazom, kde si o ňom môžete prečítať viac.

Celá príručka v angličtine je k dispozícii vo forme verejne prístupnej Wiki na tomto odkaze: http://tailor.isti.cnr.it/handbookTAI/TAILOR.html

TAILOR je projekt programu Horizont Európa, ktorého cieľom je vybudovať kapacity na zabezpečenie vedeckých základov pre dôveryhodnú umelú inteligenciu v Európe. TAILOR rozvíja sieť výskumných centier excelentnosti zameraných na zodpovedný výskum umelej inteligencie. Viac informácií o našom zapojení do projektu nájdete tu. Môžete si tiež prečítať o strategickom pláne projektu TAILOR pre dôveryhodnú umelú inteligenciu.