Od virtuálnych strojov po Memorandum o porozumení s AWS

Výskum v oblasti umelej inteligencie si vyžaduje značný výpočtový výkon, ktorý často závisí od špecializovaných hardvérových komponentov. Keď sme pred viac ako tromi rokmi zakladali KInIT, našu infraštruktúru tvorilo len niekoľko notebookov a zopár darovaných monitorov. Od samotného začiatku sme čelili jednej dôležitej otázke – na čom budeme počítať?

Bolo jasné, že sa nemôžeme spoľahnúť výlučne na vlastný hardvér. Škálovanie vlastného hardvéru tak, aby obslúžil niekoľko desiatok výskumníkov a prispôsobil sa nerovnomernému vyťaženiu je náročné, preto sme sa rozhodli hľadať riešenie v cloude. Okrem toho v cloude nehrozí, že sa vám chladiaca kvapalina roztečie po serveri plnom grafických kariet – ale to už je iný príbeh.

Preskúmali sme možnosti a zistili sme, že jeden z popredných poskytovateľov cloudových služieb, AWS, ponúka program AWS Activate, ktorý je určený pre startupy. Prostredníctvom tohto programu sme získali kredity, ktoré nám pomohli pokryť veľkú časť našich výpočtových nákladov na takmer dva roky. Týmto sa začala naša spolupráca s AWS.

Od začiatku, keď sme využívali predovšetkým štandardné (aj keď veľmi výkonné) virtuálne stroje, sme sa postupne posunuli k experimentovaniu so špecializovanými službami, ako je napríklad Amazon SageMaker, ktorý do veľkej miery pomáha napríklad pri experimentovaní s veľkými jazykovými modelmi.  

Nemenej zaujímavé boli viaceré spoločné diskusie s pražským AWS tímom, v rámci ktorých sme si vymieňali skúsenosti a diskutovali o budúcich možnostiach využitia a rozvoja umelej inteligencie. Veríme, že aj na základe týchto diskusií sa nám tento tím po skončení programu Activate rozhodol poskytnúť ďalšie kredity na prvý tzv. „výskumný proof of concept“, pričom momentálne pracujeme na ďalšom, ktorý má za cieľ posunúť slovenské NLP (spracovanie prirodzeného jazyka) o ďalší krôčik vpred. Určite o ňom ešte budeme hovoriť!

Vážime si podporu, ktorú zo strany AWS cítime a sme hrdí, že sme koncom roka 2023 podpísali Memorandum o porozumení, týkajúce sa spolupráce na poli umelej inteligencie a strojového učenia. Poskytnutím expertízy, ako aj prístupu k špecializovaným programom ako je AWS Cloud Credit for Research, AWS podporí naše úsilie o napredovanie slovenského AI ekosystému, ako aj náš prebiehajúci výskum v oblasti umelej inteligencie a strojového učenia.  Sme presvedčení, že nám táto spolupráca pomôže prinášať inovácie v oblasti umelej inteligencie.