{"id":27713,"date":"2023-08-02T14:33:33","date_gmt":"2023-08-02T12:33:33","guid":{"rendered":"https:\/\/kinit.sk\/eastern-european-machine-learning-summer-school-a-week-of-enriching-insights-and-networking-opportunities\/"},"modified":"2023-08-03T15:53:26","modified_gmt":"2023-08-03T13:53:26","slug":"letna-skola-strojoveho-ucenia-v-kosiciach-tyzden-obohacujucich-poznatkov-a-networkingu","status":"publish","type":"post","link":"https:\/\/kinit.sk\/sk\/letna-skola-strojoveho-ucenia-v-kosiciach-tyzden-obohacujucich-poznatkov-a-networkingu\/","title":{"rendered":"Letn\u00e1 \u0161kola strojov\u00e9ho u\u010denia v Ko\u0161iciach: T\u00fd\u017ede\u0148 obohacuj\u00facich poznatkov a networkingu"},"content":{"rendered":"
\n

V\u00fdchodoeur\u00f3pska letn\u00e1 \u0161kola strojov\u00e9ho u\u010denia (EEML)<\/a> je prest\u00ed\u017enym podujat\u00edm, ktor\u00e9 l\u00e1ka mlad\u00fdch v\u00fdskumn\u00edkov a odborn\u00edkov z oblasti umelej inteligencie z celej strednej a v\u00fdchodnej Eur\u00f3py. T\u00e1to intenz\u00edvna a interakt\u00edvna letn\u00e1 \u0161kola poskytuje \u00fa\u010dastn\u00edkom jedine\u010dn\u00fa pr\u00edle\u017eitos\u0165 u\u010di\u0165 sa od svetov\u00fdch expertov v r\u00f4znych discipl\u00ednach strojov\u00e9ho u\u010denia. Tento rok sa jej v Ko\u0161iciach z\u00fa\u010dastnili aj na\u0161i PhD \u0161tudenti. V tomto \u010dl\u00e1nku si m\u00f4\u017eete pre\u010d\u00edta\u0165 ich postrehy a z\u00e1\u017eitky z tohto unik\u00e1tneho podujatia.<\/p>\n<\/div>\n\n

\n

Letn\u00e1 \u0161kola od\u0161tartovala p\u00fatavou predn\u00e1\u0161kou o hlbokom u\u010den\u00ed, ktor\u00fa prezentoval v\u00fdskumn\u00edk spolo\u010dnosti DeepMind<\/a>, Razvan Pascanu<\/a>. Matej \u010cief<\/a> ocenil, \u017ee predn\u00e1\u0161ka si u\u017eili nov\u00e1\u010dikovia aj experti, ale venoval by viac \u010dasu na detailnej\u0161ie presk\u00famanie tejto t\u00e9my. <\/p>\n<\/div>\n\n

\n

Patrik Goldschmidt<\/a> vyzdvihol vynikaj\u00facu prezent\u00e1ciu Jany Kosecke<\/a>j o po\u010d\u00edta\u010dovom viden\u00ed, ktor\u00e1 zahrnula v\u0161etko od z\u00e1kladov a\u017e po najmodernej\u0161ie techniky. <\/p>\n<\/div>\n\n

\n

<\/p>\n<\/div>\n\n

\n

Popoludn\u00ed sa \u00fa\u010dastn\u00edci zapojili do cvi\u010den\u00ed, v ktor\u00fdch prakticky vyu\u017eili framework JAX a tie\u017e absolvovali \u00favod do grafov\u00fdch neur\u00f3nov\u00fdch siet\u00ed. Prest\u00e1vky na k\u00e1vu a obed poskytli dostatok pr\u00edle\u017eitost\u00ed na nadviazanie kontaktov medzi doktorandmi a odborn\u00edkmi z praxe, ktor\u00ed h\u013eadali pr\u00edle\u017eitosti na spolupr\u00e1cu v oblasti v\u00fdskumu. <\/p>\n<\/div>\n\n

\n

Na z\u00e1ver d\u0148a sa \u00fa\u010dastn\u00edci mohli z\u00fa\u010dastni\u0165 ve\u010dere s welcome drinkom v miestnom bare a budova\u0165 tak vz\u0165ahy pred prvou poster session napl\u00e1novanou na \u010fal\u0161\u00ed de\u0148.<\/p>\n<\/div>\n\n

\n
\"\"<\/figure>\n<\/div><\/div>\n\n
\n

Druh\u00fd de\u0148 vyzdvihol Branislav Pecher<\/a> in\u0161pirat\u00edvnu a podnetn\u00fa predn\u00e1\u0161ku o federat\u00edvnom u\u010den\u00ed od Petra Richt\u00e1rika<\/a>. \u00da\u010dastn\u00edci sa akt\u00edvne zap\u00e1jali do diskusi\u00ed o najnov\u0161om v\u00fdvoji v oblasti lok\u00e1lneho tr\u00e9novania a jeho potenci\u00e1lnych aplik\u00e1ci\u00e1ch. Popolud\u0148aj\u0161\u00ed program sa venoval u\u010deniu posil\u0148ovan\u00edm s predn\u00e1\u0161kou Michala Valka<\/a> o sebakontrole v obrazov\u00fdch d\u00e1tach pomocou met\u00f3dy BYOL. T\u00e1to jednoduch\u00e1 met\u00f3da nevy\u017eaduje \u017eiadne negat\u00edvne vzorky (preto\u017ee definovanie opaku „pes“ \u010di „antipes“ m\u00f4\u017ee by\u0165 n\u00e1ro\u010dn\u00e9) a operuje na \u00farovni vlo\u017eenia. V kontexte u\u010denia posil\u0148ovan\u00edm umo\u017e\u0148uje t\u00e1to met\u00f3da zvedav\u00fdm agentom efekt\u00edvne presk\u00fama\u0165 r\u00f4zne oblasti a \u00falohy, \u010do sa vyu\u017e\u00edva najm\u00e4 v hr\u00e1ch ATARI.<\/p>\n<\/div>\n\n

\n
\"\"<\/figure>\n<\/div><\/div>\n\n
\n

Ve\u010der sa konala prv\u00e1 poster session, na ktorej mohli \u00fa\u010dastn\u00edci letnej \u0161koly prezentova\u0165 a diskutova\u0165 o svojej pr\u00e1ci. Tento bod programu bol ve\u013emi podnetn\u00fd, najm\u00e4 v\u010faka networkingov\u00fdm mo\u017enostiam s ostatn\u00fdmi \u00fa\u010dastn\u00edkmi a \u0161tudentmi.<\/p>\n<\/div>\n\n

\n

Tret\u00ed de\u0148 zaujala Ivanu Be\u0148ov\u00fa<\/a> prezent\u00e1cia od Orhana Firata<\/a>, jedn\u00e9ho z autorov najmodernej\u0161ieho jazykov\u00e9ho modelu od Google, PaLM 2. Po\u010das tejto predn\u00e1\u0161ky sa \u00fa\u010dastn\u00edci venovali procesu predtr\u00e9novania modelu a jeho v\u00fdnimo\u010dn\u00e9mu v\u00fdkonu vo viacjazy\u010dnom od\u00f4vod\u0148ovan\u00ed vo viac ako 100 jazykoch alebo k\u00f3dovan\u00ed. Zaujalo ju zistenie, \u017ee model dosiahol lep\u0161ie v\u00fdsledky napriek tomu, \u017ee mal v\u00fdrazne menej parametrov ne\u017e predch\u00e1dzaj\u00face modely. To bolo mo\u017en\u00e9 v\u010faka starostliv\u00e9mu vyberu ve\u013ekosti a zmie\u0161aniu d\u00e1tov\u00e9ho s\u00faboru, \u010do ho efekt\u00edvne \u0161k\u00e1lovalo na ve\u013ekos\u0165 modelu. <\/p>\n<\/div>\n\n

\n

Rastislav Pap\u0161o<\/a> zd\u00f4raznil k\u013e\u00fa\u010dov\u00fd okamih popolud\u0148aj\u0161ieho programu – predn\u00e1\u0161ku Yoshuu Bengia<\/a> o bud\u00facnosti umelej inteligencie. Predn\u00e1\u0161aj\u00faci hovoril o obrovskom potenci\u00e1li umelej inteligencie. Nezabudol zmieni\u0165 aj kritick\u00e9 hrozby, ktor\u00e9 so sebou t\u00e1to technol\u00f3gia prin\u00e1\u0161a, \u010do prim\u00e4lo \u00fa\u010dastn\u00edkov zamyslie\u0165 sa a vyvolalo podnetn\u00fa diskusiu. <\/p>\n<\/div>\n\n

\n

De\u0148 sa skon\u010dil druhou poster session, kde mali \u00fa\u010dastn\u00edci \u010fal\u0161iu pr\u00edle\u017eitos\u0165 prezentova\u0165 svoju pr\u00e1cu, zapoji\u0165 sa do zmyslupln\u00fdch diskusi\u00ed a nadviaza\u0165 spolupr\u00e1ce do bud\u00facnosti.<\/p>\n<\/div>\n\n

\n
\"\"<\/figure>\n<\/div><\/div>\n\n
\n

\u0160tvrt\u00fd de\u0148 za\u010dal s\u00e9riou diskusi\u00ed o startupoch, nasledovala predn\u00e1\u0161ka od spolo\u010dnosti ESET a diskusia na t\u00e9mu bezpe\u010dnosti, ktor\u00e1 zahr\u0148ovala t\u00e9matick\u00e9 okruhy ako bud\u00facnos\u0165 bezpe\u010dnosti a strojov\u00e9 u\u010denie v bezpe\u010dnosti. Santiaga de Leona<\/a> a Ivana Agarsk\u00e9ho<\/a> oslovila predn\u00e1\u0161ka Ferenca Husz\u00e1ra<\/a> o hlbokom u\u010den\u00ed, ktor\u00e1 poskytla komplexn\u00fd preh\u013ead o neur\u00f3nov\u00fdch sie\u0165ach a optimaliza\u010dnom procese s vyu\u017eit\u00edm stochastick\u00e9ho gradientov\u00e9ho zostupu. Obaja ocenili, ako predn\u00e1\u0161aj\u00faci \u0161ikovne viedol \u00fa\u010dastn\u00edkov a tie\u017e jeho n\u00e1zory na generalizovate\u013enos\u0165 neur\u00f3nov\u00fdch siet\u00ed a to, ako zd\u00f4raznil potreby \u00faplne nov\u00fdch te\u00f3ri\u00ed a n\u00e1padov na rie\u0161enie tohto probl\u00e9mu. Santiagovi sa p\u00e1\u010dila aj aktivita na konci d\u0148a, ke\u010f sa \u00fa\u010dastn\u00edci rozdelili do skup\u00edn a spolo\u010dne sa z\u00fa\u010dastnili hry „escape-room,“ \u010do im poskytlo mo\u017enos\u0165 posilni\u0165 vz\u00e1jomn\u00e9 vz\u0165ahy.<\/p>\n<\/div>\n\n

\n

Piaty de\u0148 EEML za\u010dal t\u00e9mou tenzorov\u00e9ho paralelizmu pod veden\u00edm Wojciecha Stokowieca<\/a>. Martin Mocko<\/a> ocenil, ako ich predn\u00e1\u0161aj\u00faci obozn\u00e1mil s met\u00f3dou rozde\u013eovania d\u00e1t a parametrov modelu medzi viacero spracovate\u013esk\u00fdch jednotiek, \u010do umo\u017enilo efekt\u00edvne paraleln\u00e9 v\u00fdpo\u010dty. <\/p>\n<\/div>\n\n

\n

Nesk\u00f4r oslovila \u00fa\u010dastnikov predn\u00e1\u0161ka Andriya Mniha<\/a> o generat\u00edvnych modeloch, konkr\u00e9tne o dif\u00faznych modeloch. <\/p>\n<\/div>\n\n

\n

Petrovi Pavl\u00edkovi <\/a>sa p\u00e1\u010dila predn\u00e1\u0161ka o robotike od Ankura Handu. Ocenil, ako predn\u00e1\u0161ka upriamila pozornos\u0165 na v\u00fdzvy ktor\u00e9 so sebou prin\u00e1\u0161a tr\u00e9novanie umelej inteligencie na interakciu s fyzick\u00fdm svetom. Pozit\u00edvne hodnotil aj Iru Korshunov\u00fa za jej hodnotn\u00fd \u00favod do t\u00e9my dif\u00fazie. <\/p>\n<\/div>\n\n

\n

Na z\u00e1ver d\u0148a sa konala sl\u00e1vnostn\u00e1 ve\u010dera v ko\u0161ickom Kulturparku, kde dostala Ivana Be\u0148ov\u00e1 jedno z ocenen\u00ed Najlep\u0161\u00ed poster za vynikaj\u00facu posterov\u00fa prezent\u00e1ciu. <\/p>\n<\/div>\n\n

\n

\u0160iesty de\u0148 sa Martinovi<\/a> ve\u013emi p\u00e1\u010dila predn\u00e1\u0161ka El Mahdiho El Mhamdiho<\/a> o bezpe\u010dnosti umelej inteligencie. Vyzdvihol, ako predn\u00e1\u0161aj\u00faci jasne vysvetlil, \u017ee v\u00fdskum \u00fatokov na modely m\u00e1 v\u00fdznamn\u00fd pr\u00ednos a m\u00f4\u017ee sa realizova\u0165 hne\u010f teraz, napr\u00edklad pomocou „byzantsk\u00fdch \u00fatokov“ na odpor\u00fa\u010dacie modely, ktor\u00e9 sa be\u017ene pou\u017e\u00edvaj\u00fa v popul\u00e1rnych soci\u00e1lnych m\u00e9di\u00e1ch. <\/p>\n<\/div>\n\n

\n

N\u00e1sledne Viorica Patraucean<\/a> predstavila publiku nieko\u013eko \u00faspe\u0161n\u00fdch projektov umelej inteligencie od DeepMind, ktor\u00e9 sa t\u00fdkaj\u00fa napr\u00edklad skladania prote\u00ednov a hodnotenia multimod\u00e1lnych \u00faloh. Virginia Aglietti nesk\u00f4r pribl\u00ed\u017eila koncept kauz\u00e1lneho rozhodovania, ktor\u00fd podnecuje inteligentn\u00fdch agentov k tomu, aby sa u\u010dili zmyslupln\u00e9 akcie a z\u00e1rove\u0148 zva\u017eovali kauz\u00e1lne vz\u0165ahy vo svojom prostred\u00ed. Prezent\u00e1cie \u0161tudentsk\u00fdch projektov vyvolali diskusiu a podnietili kreativitu a spolupr\u00e1cu medzi \u00fa\u010dastn\u00edkmi. Z\u00e1vere\u010dn\u00e1 re\u010d od Razvana Pascanua urobila dojem na v\u0161etk\u00fdch \u00fa\u010dastn\u00edkov a ukon\u010dila bohat\u00fd a nezabudnute\u013en\u00fd t\u00fd\u017ede\u0148 na Letnej \u0161kole EEML.<\/p>\n<\/div>\n\n

\n

V\u00fdchodoeur\u00f3pska letn\u00e1 \u0161kola strojov\u00e9ho u\u010denia bola t\u00fd\u017ed\u0148om pln\u00fdm cenn\u00fdch poznatkov a pr\u00edle\u017eitost\u00ed na nadviazanie kontaktov. Branislav Pecher<\/a> ocenil pr\u00edspevky renomovan\u00fdch odborn\u00edkov ako Razvan Pascanu, Jana Kosecka, Peter Richt\u00e1rik, Michal Valko a Yoshua Bengio, ktor\u00ed zdie\u013eali svoje r\u00f4znorod\u00e9 vedomosti. P\u00e1\u010dilo sa mu, \u017ee predn\u00e1\u0161aj\u00faci pokryli \u0161irok\u00e9 spektrum t\u00e9m, \u010do roz\u0161\u00edrio znalosti \u00fa\u010dastn\u00edkov v r\u00f4znych oblastiach. \u0160tudenti sa zaoberali z\u00e1kladmi hlbok\u00e9ho u\u010denia, spracovania prirodzen\u00e9ho jazyka a u\u010denia posil\u0148ovan\u00edm, no s\u00fa\u010dasne sa venovali aj pokro\u010dilej\u0161\u00edm t\u00e9mam, ako je vn\u00fatorn\u00e9 fungovanie hlbok\u00fdch neur\u00f3nov\u00fdch siet\u00ed, etick\u00e9 a bezpe\u010dnostn\u00e9 aspekty neur\u00f3nov\u00fdch siet\u00ed a mo\u017en\u00e9 bud\u00face v\u00fdvoje v t\u00fdchto oblastiach. <\/p>\n<\/div>\n\n

\n

Branislav vyzdvihol aj networkingov\u00e9 pr\u00edle\u017eitosti, na ktor\u00fdch mohli \u00fa\u010dastn\u00edci diskutova\u0165 po\u010das posterov\u00fdch prezent\u00e1ci\u00ed a prest\u00e1vok medzi predn\u00e1\u0161kami s predn\u00e1\u0161aj\u00facimi a kolegami o svojich my\u0161lienkach a n\u00e1padoch. Tieto interakcie poskytli nov\u00e9 poh\u013eady na s\u00fa\u010dasn\u00e9 v\u00fdzvy a posl\u00fa\u017eili dokonca ako in\u0161pir\u00e1cia pre nov\u00e9 pr\u00edstupy ich rie\u0161en\u00ed.<\/p>\n<\/div>\n\n

\n

V\u0161etci \u00fa\u010dastn\u00edci sa zhodli, \u017ee letn\u00e1 \u0161kola bola vynikaj\u00facim podujat\u00edm a cennou pr\u00edle\u017eitos\u0165ou a d\u00fafaj\u00fa, \u017ee sa z\u00fa\u010dastnia aj v bud\u00facnosti.\u00a0<\/p>\n<\/div>\n\n

\n

<\/p>\n<\/div>\n\n

\n

Sme ve\u013emi v\u010fa\u010dn\u00ed EEML<\/a> za zorganizovanie tohto fantastick\u00e9ho podujatia. Bol to skuto\u010dne v\u00fdnimo\u010dn\u00fd z\u00e1\u017eitok, ktor\u00fd n\u00e1m priniesol neocenite\u013en\u00e9 poznatky a mnoho nov\u00fdch kontaktov. \u010eakujeme organiz\u00e1torom za to, \u017ee na Slovensko priviedli \u0161pi\u010dkov\u00fdch expertov na umel\u00fa inteligenciu svetovej \u00farovne, chceli by sme sa po\u010fakova\u0165 najm\u00e4:<\/p>\n<\/div>\n\n

\n