Čo je
aug 25. 2025
Meet Juraj Podroužek
Séria Gamechangers predstavuje príbehy ľudí, ktorí stáli pri zrode Kempelenovho inštitútu inteligentných technológií. Svojou víziou a odhodlaním pretvorili odvážny nápad na realitu a vytvorili nové miesto pre excelentnú vedu na Slovensku. V rozhovoroch sa dozviete, aké výzvy museli prekonať, aké hodnoty ich spájajú a čo ich motivuje neustále posúvať hranice výskumu a inovácií.
Tretí diel predstaví Juraja Podroužka, ktorý v Kempelenovom inštitúte založil a vedie výskumný tím pre etiku a reguláciu umelej inteligencie. Juraj je spoluzakladateľom iniciatívy E-tika, členom Stálej komisie pre etiku a reguláciu umelej inteligencie a autorom viacerých projektov o spoločenskom dopade technológií. Je garantom témy etiky vo výskume a vývoji AI, ktorá je dnes jednou z nosných výskumných tém Kempelenovho inštitútu.
Juraj, zober nás na začiatok. Ako sa v KInITe zrodila téma etiky?
O etike sme vlastne rozmýšľali hneď od začiatku. Respektíve, vedeli sme, že už v ranných fázach by nemali výskumné činnosti a transfer smerovať len k technickým riešeniam. Mali by sa zamýšľať aj nad niektorými širšími etickými a spoločenskými otázkami. Tie otázky sa týkali buď výskumu, ktorý v KInITe robíme, alebo aj priamo aplikácie výskumných tém do praxe, napríklad pri spolupráci s priemyselnými partnermi. Bolo to niečo, čo sme chceli mať už na začiatku a premýšľali sme nad tým, akým spôsobom to spraviť.
Relatívne rýchlo sme prišli na to, že najlepšie bude mať na to samostatný výskumný tím, ktorý by tvorili ľudia, ktorí by nemali primárne technický background, ale boli by práve zo spoločenských a humanitných odborov. Takže to bol začiatok. Myšlienka za tým bola pomôcť našim vlastným výskumníkom, ale aj firmám – pomôcť im preniesť veľmi abstraktné otázky etiky a regulácie do každodenného života. Do toho, čo ako výskumné tímy robíme, ale aj priamo do toho, keď vznikajú systémy s umelou inteligenciou.
Naším cieľom teda nebolo byť len akýmisi filozofmi, ktorí budú niekde v rohu ostatných kritizovať, ale stať sa integrálnou súčasťou výskumných alebo vývojových AI tímov.
Bolo v rámci tej témy od začiatku vnímané ako dôležitá súčasť aj AI právo alebo sa k etike neskôr prirodzene pripojilo?
Určite bolo vnímané ako dôležitá súčasť. Lenže etiku som na začiatku do veľkej miery niesol len ja spolu s Majkou Bielikovou, takže sme zatiaľ iba hľadali vhodných ľudí, ktorí by postupne mohli riešiť aj tému regulácie. Takže na začiatku to boli skôr téma etiky a premýšľanie nad tým, ako našu misiu prinášať etiku do dizajnu AI postupne obohatiť aj o regulačný rámec. Podarilo sa to práve vďaka ľuďom ako Matúš Mesarčík, ktorý sa k nám po istom čase pridal a dnes je v KInITe garantom tej témy regulácií a práva.
Čo je najväčšou výzvou, keď sa taká tá logika algoritmov stretne s otázkami hodnôt a princípov?
Ja si pamätám niekoľko takých výziev. Jednou je, že potrebujeme nájsť spoločný jazyk. Potrebujeme to urobiť tak, aby si navzájom tí filozofi alebo právnici rozumeli s informatikmi.
Takže na jednej strane si to vyžaduje aj z našej strany, zo strany etického tímu, aspoň v základných rysoch chápať aj technické parametre AI riešení, jazyk, ktorý sa používa a čo je pre výskumníka alebo firmu dôležité… A na druhej strane zase musíme vedieť vysvetliť, aký má pre nich etická stránka prínos a ako sa ich dotýka. Takže musíme si najskôr vyjasniť očakávania. A s tým sa stretávame doteraz.
„A toto je vlastne niečo, čo je pre mňa možno najpodstatnejšie, lebo to považujem za najtrvácnejšie. Pristupujeme k ľuďom tak, aby to, čo im rozprávame, vzali za svoje a tak sa to stáva integrálnou súčasťou ich premýšľania o svojej práci.„
Veľa energie dávame práve do úvodných stretnutí s tímami. Rozprávame sa o tom, ako bude proces posúdenia z pohľadu etiky prebiehať a čo je na jeho konci. Vysvetľujeme, že to nie je tvorba kódexov, ale že sa budeme veľa rozprávať o rôznych etických, spoločenských a legálnych rizikách. Na konci môže vzniknúť napríklad nejaký risk register, podobne ako keď si firma tvorí bezpečnostné alebo biznisové riziká. Môže tak vzniknúť zoznam rizík etického a spoločenského charakteru, s ktorým vedia ďalej pracovať.
To sú vlastne aj tie najväčšie výzvy – hľadanie spoločnej reči a platformy, na ktorej sa môžeme stretnúť a kde im vieme odovzdať naše know-how tak, aby ho tímy prijali a vedeli s ním pracovať ďalej. Chceme, aby to pre nich nebolo iba rozprávanie plné pojmov, ktorým nerozumejú alebo si ich vykladajú inak, ale aby to bol dialóg. A to je pre nás vlastne ten najväčší challenge – robiť to tak, aby to nebolo jednostranné. Nechceme im my niečo rozprávať, kým oni počúvajú a potom niečo spravia, ale aby to bol živý dialóg medzi oboma stranami.
Tak plynulo prechádzame do ďalšej otázky – etika a právo sú často vnímané ako veľmi abstraktné témy. Ako sa KInITu podarilo dostať ich do praxe?
Pochopili sme, že to potrebujeme urobiť práve vo forme, ktorá bude veľmi interaktívna. Aspoň zo začiatku sme sa chceli vyhnúť tomu, že budeme mať nejaké checklisty alebo zoznam otázok, ktoré partneri vyplnia a potom im povieme, čo robia zle a čo dobre. Skôr sme to potrebovali dostať do formy, kedy im dáme nejaké témy a vysvetlíme prečo sú dôležité. Potom im na konkrétnych príkladoch ukážeme ako sa to môže dotýkať ich systému alebo výskumu a následne o tom debatujeme.
Vlajková loď toho, čo robíme, sú posúdenia z pohľadu etiky. Ich veľkou časťou sú facilitované workshopy. Tie idú veľmi do hĺbky a snažia sa, aby sa všetci účastníci zo strany partnera – alebo napríklad aj nášho výskumného tímu – zapájali. Cieľom je, aby tam len tak nesedeli a nepočúvali, ale aby priamo oni budovali argumenty, dávali nám spätnú väzbu a povedali, čo oni vnímajú ako podstatné.
My potom vidíme ich učiaci sa proces, lebo za tými workshopmi je niečo, čo nás veľmi zaujíma. Nazývame to morálna citlivosť a je to schopnosť uvedomiť si, že riešia morálnu dilemu alebo problém, ale aj pochopiť prečo sú pre nich dôležité. Taktiež je to schopnosť pochopiť, že sa dotýka nielen ich, ale aj iných – či už užívateľov, alebo aj ďalších typov stakeholderov. A rovnako je to dôležité aj z toho pohľadu, že sú schopní povedať si „OK, a čo s tým teraz ideme robiť?“. To znamená urobiť krok správnym smerom a to riziko nielen identifikovať, ale aj mitigovať.
Fotografia © Marek Mucha
A toto je vlastne niečo, čo je pre mňa možno najpodstatnejšie, lebo to považujem za najtrvácnejšie. Keď pristupujeme k ľuďom tak, aby to, čo im rozprávame, vzali za svoje a prijali to, tak sa to vlastne stáva integrálnou súčasťou ich premýšľania o svojej práci. Tým pádom dokážu nad týmito témami premýšľať a skôr si všimnúť veci, ktoré tam nevideli predtým, a to aj neskôr, keď tam my už nie sme.
Vplýva táto interakcia na formovanie toho, ako k tomu pristupujete v rámci tímu? Posúvajú vás, alebo možno menia vašu zvolenú cestu, feedbacky, ktoré od firiem dostávate?
Určite áno. Aj metodika, ktorú sme si postupne vyvinuli napríklad pre posúdenie z pohľadu etiky, sa časom menila. Zistili sme, že niektoré veci fungujú a niektoré nie úplne. Napríklad teraz veľa energie vkladáme do toho prvotného vysvetľovania prečo to robíme a prečo je to dôležité, nastavenia si očakávaní, čo firma alebo tím na konci dostane…
Ďalšia vec, ktorá sa dosť menila, bol pomer medzi teoretickou a praktickou časťou workshopov. Najskôr mali na začiatku pomerne silnú teoretickú časť. Veľa sme pracovali s filozofickými konceptami ako sú férovosť, spravodlivosť, transparentnosť, ľudská dôstojnosť a podobne. Ale zistili sme, že sú rôzne typológie tímov. S niektorými môžeme ísť do teórie hlbšie, ale iné ju nedokážu úplne spracovať. A s nimi sa musíme baviť veľmi konkrétne, všetko vysvetľovať na konkrétnych situáciách.
Bolo pre nás výzvou naučiť sa prispôsobiť rôznym partnerom, alebo rôznym tímom, a vedieť vycítiť, do akej hĺbky teórie potrebujeme zájsť, a kedy prejsť na praktické ukážky alebo úlohy. Takže dôsledkom bolo aj to, že sme si postupne vyvinuli rôzne cvičenia, ktoré účastníkov aktivujú. Sú to napríklad interaktívne tabule alebo brainstormingové aktivity. Vlastne sme museli hľadať formy, pri ktorých by to bolo čo najviac interaktívne.
Bol nejaký zlomový bod, v ktorom si si povedal „toto má zmysel“ alebo „wow, až sem sme to dotiahli“?
Veľkým zážitkom boli prvé workshopy s partnermi. Vtedy sme to prvýkrát zažili v praxi. Je niečo iné, keď nad tými otázkami iba premýšľame alebo robíme prednášku, ako keď už sme priamo v interakcii.
Ale silným momentom bolo aj to, keď sme začali dostávať spätnú väzbu. Napríklad, keď nám firma povie, že to pre nich bolo podstatné a teraz na základe nášho workshopu menia proces alebo spôsob, akým sa na veci pozerajú. Alebo si začali dávať väčší pozor na niečo, na čo sme ich my upozornili.
Spomínam si, napríklad, na jeden prípad, kedy nám jeden z partnerov povedal, že pre nich naše workshopy boli možno najdôležitejším eventom toho roku. Že na nich mali možnosť sa porozprávať aj medzi sebou, lepšie pochopiť svoj produkt a ujasniť si mnohé veci. Takže ten workshop je pre tých ľudí častokrát aj takouto príležitosťou, keďže sa snažíme, aby na ňom za obe strany boli ľudia z rôznych backgroundov.
Na workshopoch totiž nie sú len core informatici AI tímu. Sú tam aj ľudia, ktorí majú na starosti predaj alebo kontakt s užívateľom, prípadne aj priamo ľudia z vedenia firmy. Rôzne pozície tak dostávajú možnosť navzájom sa konfrontovať a rozprávať sa o tom, čo je pre koho dôležité. Toto boli veľmi silné momenty, keď sme vlastne videli tie „aha momenty“, kedy si zrazu uvedomili, že niečo je fakt dôležité. Niečo, nad čím doteraz nepremýšľali, a čo výrazným spôsobom mení ich nazeranie na to, čo chcú robiť.
A ako ty vidíš budúcnosť KInITu – všeobecne i z pohľadu etickej témy?
V KInITe sme začali stavať nielen na myšlienke prepájania excelentného výskumu a praxe, ale aj na myšlienke multidisciplinarity. Myslím si, že práve prepájanie rôznych odborov a pohľadov, technických aj netechnických, to je budúcnosť KInITu. Mal by sa stať moderným inštitútom, ktorý bude excelentný rovnako v technických otázkach ako aj v otázkach spoločenských a humanitných vied v súvislosti s umelou inteligenciou.
Takže pre mňa je toto budúcnosť KInITu – aby sme boli schopní komplexne sa pozerať na otázky inteligentných technológií a ponúkať expertízu z viacerých oblastí a uhlov pohľadu. Byť melting pot, v ktorom môžu rôzne myšlienky prebublávať a navzájom sa ovplyvňovať. To je silná a dobrá ambícia, ktorú si so sebou nesiem ďalej.
