PhD Témy 2024: Strojové učenie zohľadňujúce doménovo špecifické vedecké poznatky

Školiteľ: Viera Rozinajová (UIFS Ústav informačních systémů, KInIT)

Po desaťročia bolo správanie systémov vo fyzickom svete modelované numerickými modelmi založenými na rozsiahlych vedeckých poznatkoch o základných prírodných zákonoch. Rastúce schopnosti algoritmov strojového učenia však začínajú tieto zaužívané postupy meniť. Pri použití dostatočne veľkých datasetov sú tieto algoritmy schopné objaviť opakujúce sa vzory v dátach.

Modely strojového učenia majú však zvyčajne slabú interpretovateľnosť a potrebujú veľké datasety na trénovanie, čo môže byť v mnohých oblastiach problém. Tieto nevýhody sa snaží odstrániť “strojové učenie zohľadňujúce doménovo špecifické vedecké poznatky” (Scientific Machine Learning – SciML) – rozvíjajúca sa disciplína v rámci komunity dátových vedcov. Ide o snahu zahrnúť vedecké poznatky z danej oblasti do procesu učenia. Cieľom SciML je vyvinúť nové metódy pre škálovateľné, robustné, interpretovateľné a spoľahlivé učenie.

Neurónové siete zohľadňujúce fyzikálne poznatky sú súčasťou SciML učenia, kde do modelu zahŕňame fyzikálne obmedzenia prostredníctvom vhodných účelových funkcií alebo úprav architektúry modelu. Prostredníctvom tohto prístupu môžeme vytvárať modely neurónových sietí, ktoré sú fyzikálne konzistentné, efektívne a dôveryhodné.

Cieľom výskumu je preskúmať, ako začleniť vedecké poznatky do modelov strojového učenia vytváraním hybridných modelov založených na SciML princípoch, ktoré obsahujú komponenty založené na dátach aj na znalostiach z domény. Výskum je možné orientovať aj na kombináciu SciML a transfer learning (ktoré opätovne využíva vopred natrénovaný model na riešenie nového podobného problému) – cieľom takejto kombinácie je využiť výhody oboch prístupov.

SciML je možné aplikovať v mnohých doménach – zameriavame sa najmä na energetiku (napr. podporu širšieho zavedenia obnoviteľných zdrojov) alebo geovedy (s dôrazom na pozitívny vplyv na životné prostredie, zlepšujúci odolnosť voči zmene klímy), ale výsledky výskumu je možné aplikovať v ľubovoľnej inej oblasti.

Súvisiace publikácie: 

  • Kloska, M., Rozinajova, V., Grmanova, G. Expert Enhanced Dynamic Time Warping Based Anomaly Detection. Expert Systems with Applications (2023) https://arxiv.org/pdf/2310.02280.pdf
  • Pavlik, P., Rozinajova, V., Bou Ezzeddine, A. Radar-Based Volumetric Precipitation Nowcasting: A 3D Convolutional Neural Network with UNet Architecture. Workshop on Complex Data Challenges in Earth Observation 2022 at CAI-ECAI (2022) https://ceur-ws.org/Vol-3207/paper10.pdf

Výskum bude doktorand vykonávať v rámci Kempelenovho inštitútu inteligentných technológií (KInIT, https://kinit.sk) v Bratislave pod vedením výskumníkov zo svetovo uznávaných výskumných skupín. Predpokladá sa kombinovaná (externá) forma štúdia a pracovný pomer na plný úväzok v KInIT.

Tím školiteľov

Anna Bou Ezzeddine Senior researcher, KInIT Viac info
Close Anna Bou Ezzeddine Senior researcher, KInIT

Anna Bou Ezzeddine is an expert researcher at KInIT focusing on artificial intelligence, machine learning and probabilistic modeling.  She has rich experience in nature-inspired computing. In particular, she used nature-inspired computing to help develop a forecasting system that could predict a country’s macroeconomic development. Before her employment at KInIT, she worked in the Faculty of Informatics and Information Technologies at the Slovak University of Technology in Bratislava as an associate professor, where she supervised more than 80 successful Bachelor’s and Master’s theses.

Viera Rozinajová Lead researcher, KInIT Viac info
Close Viera Rozinajová Lead researcher, KInIT

Viera Rozinajová is an expert researcher at KInIT. She is focusing on intelligent data analysis, particularly predictive modeling, cluster analysis, anomaly detection and optimization. Before her employment at KInIT, she worked as an associate professor at the Faculty of Informatics and Information Technologies at the Slovak University of Technology in Bratislava, where she headed up the Big Data Analysis group. She has authored/co-authored more than 70 publications in scientific journals and conferences and has participated in more than 25 national and international research projects and has led several of them. 

Gabriela Grmanová Senior researcher, KInIT Viac info
Close Gabriela Grmanová Senior researcher, KInIT

Gabriela is a senior researcher focusing on artificial intelligence, machine learning, data mining and probabilistic modeling. She has applied her research to energy production and consumption forecasting, microgrid optimization and flow cytometry data analysis.