ASEF štipendist Gal Gantar na raziskovalnem obisku na UC Berkeley v ZDA
Gal Gantar, študent interdisciplinarnega študija računalništva in informatike na Fakulteti za računalništvo in informatiko Univerze v Ljubljani je letos izvedel raziskovalni obisk pri profesorici Dawn Song na univerzi UC Berkeley. Laboratorij profesorice Song se ukvarja s kriptografijo, učenjem z okrepitvijo velikih jezikovnih modelov in varnostjo umetnointeligenčnih agentov.
Galovo delo je obsegalo analizo varnosti avtonomnih UI agentov in je bilo del večje platforme za evalvacijo agentov AgentBeats in varnostnega testa ASSERT-I. ASSERT-I (Agent System Security Evaluation using Realistic Threat Intelligence) je platforma za testiranje varnosti UI agentov v realističnih scenarijih. Glavni namen platforme je poenotiti format komunikacije agentov z okoljem in drugimi agenti ter ustvariti dinamičen varnostni test, ki agenta izpostavi vrsti relevantnim napadom, prilagojenim njegovi funkcionalnosti. Platforma je namenjena vsem agentom, njen glavni fokus pa so agenti za programiranje, agenti za uporabo namiznega okolja, agenti za interakcije s spletnimi stranmi in agenti ki komunicirajo z operacijskim sistemom. Gal z raziskovalnim delom nadaljuje tudi po povratku z raziskovalnega obiska.
Med obiska je imel Gal možnost vpogleda v delovanje večjega laboratorija, sestavljenega iz pripravnikov, raziskovalcev, doktorskih študentov in postdoktorskih študentov. Udeležil se je dnevnih sestankov s svojo raziskovalno ekipo in na tedenski ravni pripravljal predstavitve svojega dela drugim članom laboratorija. Sodeloval je tudi v internih dogodkih namenjenih povezovanju svojega laboratorija z drugimi laboratoriji iz univerz UC Berkeley, Stanford, Caltech, MIT in Washington university ter z industrijskimi partnerji kot so OpenAI, Google DeepMind, z.ai in Virtue AI.
Kot eden izmed govorcev na dogodku Summit on decentralization and AI je Gal imel priložnost predstaviti svoje dosedanje delo. Prav tako je kot prostovoljec sodeloval pri izvedbi dogodka Agentic AI summit, kjer je imel priložnost poslušati vodilne strokovnjake iz organizacij kot so Nvidia, Google Deepmind, Khosla Ventures, Anthropic in Perplexity. Udeležil se je tudi dogodka Proofs na Simons institute of Technology ter več dogodkov fundacje MATHS (ML alignment & theory scholars).
V prostem času se je Gal s kolegi iz laboratorija ukvarjal s tekom, plavanjem in pohodništvom. Med celotnim obiskom je živel v hiši Tonyja Hansena, s katerim je odšel na izlete po okolici Berkeleyja in San Francisca. Poleg tega ga je gospod Hansen povezal z vrsto zanimivih ljudi, ki so mu bili pripravljeni predati izkušnje o delu v tehnološkem sektorju v ZDA. Zadnja dva tedna obiska je Tony Hansen velikodušno ponudil prenočišče trem Galovim prijateljem. Julija se je skupaj z vodjo in člani laboratorija sprehodil čez Golden Gate Bridge in nadaljeval s pohodom skozi Marin Headlines. V času obiska je opravil tudi nekaj krajših izletov v Marin County, Tennessee Valley, Mount Tamalpais State Park in Stinson Beach. V avgustu je s prijatelji za tri dni odšel na izlet v nacionalni park v okolici jezera Tahoe. Konec avgusta se je Gal skupaj z ostalimi ASEF štipendisti udeležil srečanja Slovencev v ZDA, ki ga je organiziral častni konzul Republike Slovenije v Kaliforniji Thomas Brandi.
Raziskovalni obisk je dal Galu priložnost za strokovno in osebnostno rast ter razširil njegova obzorja. Gal je ASEF-u izjemno hvaležen za to priložnost in se veseli nadaljnjega sodelovanja v ASEF skupnosti.
