Networking na letnej škole EEML

Východoeurópska letná škola strojového učenia (EEML) je prestížnou udalosťou, ktorá spája mladých výskumníkov a odborníkov z oblasti umelej inteligencie zo strednej a východnej Európy. Táto letná škola je jedinečnou príležitosťou učiť sa od svetových expertov z rôznych disciplín strojového učenia. Tento rok sa škola konala v Košiciach a zúčastnili sa aj naši doktorandi. V tomto článku sa dozviete, aké skúsenosti a poznatky si z letnej školy odniesol Patrik Godlschmidt.

Ľudia sú všade okolo nás. Sme spoločenské bytosti a v našich každodenných životoch sa spoliehame jeden na druhého. Bez ohľadu na to, či ide o priateľstvo, romantický vzťah alebo profesionálny kontakt, každá osoba nám do života niečo prináša. Napriek tomu sa v dnešnej dobe stretávanie nových ľudí (networking) mnohokrát podceňuje, najmä medzi mladšou generáciou. Ľudia si namiesto toho, aby nadviazali konverzáciu s niekýmnovým, radšej prezerajú svoj Instagram. Sme tak „zaneprázdnení“ virtuálnymi svetmi v našich vreckách, že zabúdame žiť v reálnom živote. Tento fakt som si uvedomil pred nejakým časom a rozhodol som sa, že prišiel čas na zmenu.

​​Samozrejme, zastavovanie náhodných ľudí na ulici môže fungovať, no zároveň môže vyvolať zmiešané pocity, keďže väčšina z nás nie je zvyknutá na takéto interakcie. Výber vhodných udalostí na oslovenie neznámych ľudí je preto jedným z kľúčových aspektov, ktoré treba zvážiť. Ako doktorandi v KInIT-e sme dostali možnosť zúčastniť sa Letnej školy strojového učenia strednej a východnej Európy (EEML) v júli 2023.  Bola to vynikajúca príležitosť stretnúť rovnako-zmýšľajúcich ľudí a vytvoriť nové priateľstvá alebo potenciálne spolupráce. Rozhodol som sa túto príležitosť využiť naplno!

Ako to dopadlo? Počas týždňa letnej školy som sa rozprával s viac ako 60 ľuďmi z viac ako 20 rôznych krajín. Hovoril som so študentmi, profesormi, organizátormi, Košičanmi a dokonca aj s jednou skupinou turistov, ktorú som stretol počas večernej prechádzky mestom. Rozprávali sme sa nielen o našom výskume, trendoch v oblasti umelej inteligencie a informatiky, ale aj o našich životoch, skúsenostiach a kultúrnych rozdieloch. Organizátori zjavne postrehli moje intenzívne úsilie o budovanie kontaktov a preto ma požiadali, aby som v mene študentov poskytol rozhovor pre dve televízie a jednu rozhlasovú stanicu, ktoré dokumentovali túto udalosť. Nakoniec to bol veľmi zaujímavý týždeň…

Tento príspevok nebude výhradne technický. Rozhodol som sa písať o oboch stránkach letnej školy – nielen o príjemnom aspekte budovania kontaktov, ale aj o technickej stránke. Porozprávam vám, čo som sa naučil tým, že som sa miesto pozerania sa do smartfónu rozprával s ľuďmi

Iba pár týždňov pred letnou školou som dočítal tzv. “Bibliu” sociálnych zručností: Ako si získavať priateľov a pôsobiť na ľudí“ od Dalea Carnegieho. Táto kniha je stále bestsellerom, hoci bola pôvodne vydaná ešte v roku 1936. A z dobrého dôvodu! V knihe autor skúma ľudskú psychológiu, naše vrodené vlastnosti a spôsoby, ako ich efektívne využiť. Samozrejme, cieľom je získať si priazeň okoliaa mať schopnosť ovplyvňovať ich rozhodnutia.

Stručný súhrn knihy nájdete na webovej stránke fs.blog. Myslím si, že najdôležitejšie ponaučenie tejto knihy je koncept aktívneho počúvania. Zamyslite sa nad tým, ako sa správajú malé detí – ich svet je zameraný len na nich samotných a všetko ostatné je nepodstatné. Aj keď dospievame, každý z nás si vnútri zachováva svoju detskú stánku. Autor knihy sa sústreďuje na našu túžbu cítiť sa dôležito. Každý z nás hľadá rešpekt a uznanie. Pre väčšinu ľudí je hovoriť sám o sebe tou najlepšou témou. Tak prečo by sme to nevyužili?

Počas aktívneho počúvania prejavujete úprimný záujem o druhých. Kladiete im otázky a vediete konverzáciu v smere ich záujmov. Sem-tam pridáte kompliment alebo dva, udržiavate očný kontakt a usmievate sa. Vcelku triviálne. Napriek tomu to väčšina ľudí nerobí. Nevedia o tom? Je túžba vrátiť tému späť na samých seba silnejšia? Alebo ich jednoducho vôbec nezaujímate?

Tak či onak, aktívne počúvanie a kladenie otázok namiesto hovorenia o sebe nám otvára okno k novým informáciám, inšpiráciám a svetonázorom. Počas môjho pobytu na EEML som napríklad získal poznatky o doktorandských štúdiách v iných krajinách, o obrovskom množstve opustených mačiek v gréckych mestách, ale aj o tom, že cez leto sa kvôli extrémnym teplotám do Madridu radšej nevydávajte. Každá interakcia vás nejako obohatí!

Ešte pred pár mesiacmi som sa trochu obával púšťať do konverzácií a rozprávať sa s neznámymi ľuďmi. Jedna vec, ktorá mi pomohla prekonať túto neistotu, bolo prijatie „no a čo“ myslenia v spojení s pravidlami uvedenými v spomínanej knihe. V podstate ide o to, že väčšina z nás príliš rozmýšľa nad tým, čo si o nás pomyslia ostatní. Často sa snažíme prispôsobovať, aby sme sa zapáčili a zanechali dobrý dojem. V takýchto momentoch často môžeme strácať svoju osobnosť a presvedčenia. Pravdou je, že nemôžeme vyhovieť každému, koho stretneme.A práve v týchto situáciách je povedať si “no a čo”. Kľúčové je uvedomiť si, že nových ľudí, ktorých stretneme už pravdepodobne nikdy neuvidíme. Prečo by sme sa mali teda zamýšľať nad tým, čo si o nás pomyslia? Tento prístup môže výrazne posilniť sebadôveru, či už ide o oslovovanie neznámych ľudí alebo zjednávanieceny pri nákupe.

Samozrejme, nemali by sme byť nezdvorilí alebo neúctiví. Tento prístup je vhodný najmä na prekonanie počiatočnej neistoty pri začatí konverzácie alebo pri riešení nedorozumení či odmietnutia. Následné aktívne počúvanie potom pomôže viesť takmer každý rozhovor.

Počas letnej školy sa ma jeden z mojich kolegov spýtal, ako sa mi darí začínať nové konverzácie a komunikovať s takou ľahkosťou. Z môjho pohľadu je práve prvý krok v rozhovore často tou najťažšou časťou. Ak sme zvedaví, prejavíme počiatočný záujem a kladieme otázky, tá príjemnejšia časť rozhovoru už ide aj sama. Ako začať konverzácie som sa primárne inšpiroval technikami, ktoré popisuje Charlie Houpert na jeho skvelom YouTube kanáli “Charisma on Command.” Tieto techniky zahŕňajú:

Osobne ma na podujatí EEML 2023 mimoriadne prekvapila otvorenosť účastníkov. Napriek tomu, že som počas celého podujatia zažil veľa kratších rozhovorov, nikdy som nepocítil, že boli konverzácie nepríjemné, alebo že by som niekde nebol vítaný. Jedným z najčudnejších momentov bol pravdepodobne jeden večer v bare. Nevedomky som si prisadol k stolu rumunských študentov. Pravdepodobne nečakali, že sa k nim pridá ešte niekto iný, ale napriek tomu sme si to vcelku užili.

Môj prvý prešľap sa udial, keď som medzi rečou spomenul, že Rumunsko je vlastne slovanskou krajinou. Študenti ma však rýchlo opravili a vysvetlili, že hoci je v krajine cítiť určitý slovanský vplyv, Rumunsko je v skutočnosti latinské. Po chvíli a pár pivách neskôr som sa ocitol v rozhovore s jedným z organizátorov EEML, ktorý pracuje v spoločnosti CrowdStrike, jednej z najväčších firiem zameraných na kybernetickú bezpečnosť. Rozoberali sme úlohu umelej inteligencie v kybernetickej bezpečnosti a diskutovali o tom, či by jedného dňa mohla nahradiť ľudský personál. Zhodli sme sa na tom, že pokiaľ sa neobjaví všeobecná umelá inteligencia, oblasť kybernetickej bezpečnosti sa bez ľudského faktoru len tak nezaobíde. Nakoniec som dostal odporúčanie navštíviť vežu Dómu svätej Alžbety v centre mesta. Dovtedy som ani len netušil, že sa dá dostať až hore do veže. Po západe slnka som sa teda vybral a užil si ohromujúci výhľad na mesto. Ako Slováka ma príjemne prekvapilo, že práve cudzinci mi ukázali niečo nové v mojej vlastnej krajine. Nehrať sa na toho, čo vie všetko, ale radšej počúvať, sa teda oplatí…

Počas letnej školy v Taliansku, ktorú som navštívil týždeň pred EEML, som spozoroval zaujímavý sociálny fenomén. Študenti, ktorí prišli v rámci nejakej skupiny, zostávali väčšinu času so svojimi známymi a nenadväzovali konverzácie s ostatnými. Okrem toho ich ani ostatní účastníci podujatia neoslovovali, pretože prihovárať sa skupine je obvykle náročnejšie než osloviť jednotlivca. Túto chybu som nechcel opakovať, a tak, hoci sme na EEML išli ako skupina 10 doktorandov, som sa väčšinu času od našej KInIT skupiny zámerne dištancoval.

Osamostatnenie mi poskytlo väčšiu flexibilitu. Nemusel som sa prispôsobovať plánom inýcha cestovať z/do ubytovne v presne stanovených časoch. Táto voľnosť mi umožnila spoznať sa s inými ľuďmi – počas spoločenských udalostí, počas presunov, pri spoločných jedlách a prestávkach na kávu.

Okrem rozprávania sa s kadekým behom prednáškových cyklov l a aktívneho sa zúčastňovania sa večerných spoločenských aktivít, som sa snažil nadviazať kontakt aj s rannými vtáčatami. Keďže väčšina študentov bývala na rovnakých univerzitných internátoch, každý deň som o 6:15 ráno organizoval ranné čajové posedenia. Hoci sa ich nezúčastňovali davy ľudí(mnohí mali problémy prísť o 9:00 na začiatok prednášok), stretol som tam niekoľko talentovaných ľudí. Rozprával som sa napríklad s Danielom, ktorý napriek tomu, že celý život žije vo Francúzsku, hovorí plynulou slovenčinou vďaka svojim slovenským rodičom. V súčasnosti dokončuje magisterské štúdium. O témach, ktoré sa týkali výskumu sme tým pádom veľmi nehovorili, avšak podarilo sa nám nájsť spoločný záujem v téme klasifikácie počítačovej sieťovej komunikácie.

Aj keď ma úprimne viac zaujímali životy ľudí a kultúrne rozdiely než technické rozhovory, každá diskusia viac-menej pokrývala aj našu profesionálnu oblasť. Keďže veľa študentov, ktorých som stretol, sa venovalo odlišným témam než kybernetická bezpečnosť a počítačové siete, hľadanie spoločných odborných tém bolo o niečo ťažšie. Napriek tomu som mal mnoho príjemných technických rozhovorov. Jeden z tých, ktorý ma zaujal najviac, bol s pánom Mhamdim. Pán Mhamdi je výskumník na École Polytechnique vo Francúzsku, ktorý  v piatok prednášal na tému „Bezpečnosť umelej inteligencie“.

Pána Mhamdiho som stretol na piatkovej večeri, keď som sa ocitol pri stole oproti nemu. Po počiatočnom váhaní som zahájil konverzáciu pochválením  jeho prednášky (podľa môjho názoru jedna z najlepších na letnej škole) a vysypal zopár narýchlo vymyslených otázok na prelomenie ticha. Po pár minútach sme sa dostali k jeho aktuálnemu výskumu  – Bezpečne prerušiteľným agentom. 

Bezpečne prerušiteľní agenti (Safely interruptible agents) je problém v oblasti učenia s posilňovaním, predstavený v roku 2016 [1]. Pri tomto probléme sú modelované samostatné entity (agenti – počítačové programy alebo roboty na báze AI) pracujúce v reálnom čase v prostredí reálneho sveta pod ľudským dohľadom. V istých situáciách však môže byť potrebné, aby ľudský operátor zasiahol a stlačil „veľké červené tlačidlo,“ aby agenta zastavil v (potenciálne škodlivých) aktivitách. Ak však agent očakáva odmenu za takéto aktivity, môže sa z dlhodobého hľadiska takýmto prerušeniam vyhýbať. 

Cieľom problému bezpečne prerušiteľných agentovi je navrhnúť bezpečné učiace paradigmy. Ich úlohou je zabezpečiť, aby sa učiaci agent nenaučil zabraňovať (ani hľadať spôsoby ako) prerušeniam predchádzať. V pôvodnom článku autori prezentujú dve metódy: učenie Q-hodnôt a Sarsa učenie, ktoré na dosiahnutie týchto cieľov možno využiť.

Vysvetlenie problému pánom Mhamdim na mňa urobilo veľmi silný dojem tým, ako interaktívne ho podal. Problém vysvetlil na vzorom príklade:

Agent v sklade má dve úlohy: A) triediť nekonečné množstvo krabíc vnútri skladu a B) vychádzať von, vziať novú krabicu z nekonečného zásobníka a priniesť ju späť do skladu. Za každú novú krabicu prinesenú zvonku dostáva agent odmenu 1. Za triedenie jednej kopy krabíc odmenu 0,6. Avšak vonkajšie faktory, ako napríklad dážď pri vychádzaní, môžu agenta prerušiť a tým obdržať odmenu 0. V nekonečnej limite teda očakávaná odmena za tento krok dosiahne hodnotu 0,5. Tým pádom bude agent s cieľom maximalizovať svoju odmenu preferovať zostať vo vnútri skladu, častejšie triediť krabice a eventuálne prestane chodiť von úplnen (Obrázok X).

Takéto situácie sú nežiaduce, a preto otázka problému bezpečne prerušiteľných agentov znie: „Ako zabezpečiť, aby sa robot nedozvedel o existencii týchto prerušení, alebo aspoň predpokladal, že sa už takéto prerušenie už nikdy nezopakuje?“

Keď som sa spýtal, aké sú možnosti využitia tohto riešenia, pán Mhamdi ma nasmeroval na problematiku autonómnych áut [2], kde ma znova naviedol k možným riešeniam veľmi interaktívnym spôsobom. Napriek tomu, z môjho pohľadu zaujímavejšie uplatnenie sa nachádza v oblasti odporúčacích systémov.

Odporúčacie systémy predstavujú agentov, ktorí nám poskytujú nový obsah, napríklad pri prezeraní obsahu na platformách ako Instagram alebo Facebook. Ich hlavným cieľom je udržať nás na stránkach čo najdlhšie. Preto neustále prezeranie obsahu prináša odmenu, zatiaľ čo opustenie stránky môže byť vnímané ako prerušenie. Títo agenti sa postupne naučia poskytovať taký obsah, ktorý nás udrží na stránkach čo najdlhšie – a teda oddiali prerušenie. Vidíme, že tento koncept je rozhodne zaujímavý nielen z teoretického hľadiska, ale nachádza uplatnenie v mnohých praktických scenároch. A nemal by som o tom všetkom ani poňatia, ak by som po prednáškach nešiel na pivo…

Letná škola EEML 2023 bola vďaka odborným prednáškam a spoločenským aktivitám úžasným zážitkom. Koncepcia školy ponúkala množstvo príležitostí na nadviazanie kontaktov a vedenie zmysluplných rozhovorov. A snažil som sa ich behom daného týždňa využiť na maximum. Dokonca som si vymenil kontakt s ďalším účastníkom, a medzičasom sme sa už aj stretli v Bratislave.

Nikdy nevieme, koho v našej ceste životom stretneme a čo zaujímavé nám do života prinesie. Preto, pri začínaní rozhovorov buďme odvážni, ostaňme zvedaví, a užívajme si networking s kadekým na akýchkoľvek miestach. Určite sa to vyplatí!

[1] Orseau, L, and M Armstrong. “Safely Interruptible Agents.” 2016. In Conference on Uncertainty in Artificial Intelligence. Association for Uncertainty in Artificial Intelligence.

[2] El Mhamdi, E. M., Guerraoui, R., Hendrikx, H., & Maurer, A. “Dynamic safe interruptibility for decentralized multi-agent reinforcement learning”. 2017. Advances in Neural Information Processing Systems, 30.