Opcije pristupačnosti Pristupačnost

26/08/2024

Objavljen rad izv. prof. dr. sc. Sandra Skansija "Chrono Initialized LSTM Networks with Layer Normalization“ u važnom međunarodnom časopisu

Rad je napisan u koatorstvu s profesoricom Biljanom Boskoskom s Instituta Jožef Stefan i s Fakulteta informacijskih studija iz Ljubljane i doktoranda Antonija Tolića. U radu se prezentiraju rezultati istraživanja u kojem su korištene tehnike u transformerima poput GPT-a, a primijenili su ih na rudimentarnije umjetne neuronske mreže, čime se značajno poboljšala njihova točnost, a zadržala relativno visoka brzina konvergencije. Pokazano je da su ključni elementi transformera optimizacijske procedure, a ne arhitektura sustava.

Časopis IEEE Access je jedan od najvažnijih časopisa u računarstvu, gdje se objavljuju brzo i u otvorenom pristupu svi ključni istraživački rezultati u svijetu. IEEE drži tu politiku za IEEE Access usprkos tome što ona narušava značajno impact factor jer je časopis zamišljen kao platforma za brzu distribuciju svih važnih tehničkih inovacija. Impact Factor časopisa je 3.4 a Cite Score 9.8.
 

Rad je dostupan na poveznici https://ieeexplore.ieee.org/document/10638053.

Popis obavijesti