Frenk Dragar: Zaznavanje in žigosanje vsebine ustvarjene z umetno inteligenco
V četrtek, 28. marca, je ASEF v sodelovanju s Klubom študentov občine Celje (KŠOC) v prostorih Celjskega mladinskega centra organiziral poljudnoznanstveno predavanje v sklopu cikla predavanj ASEF Mladi umi. Tokrat je predaval Frenk Dragar, štipendist ASEF generacije 2023, diplomant računalništva in matematike na Univerzi v Ljubljani in magistrski študent umetne inteligence na Univerzi v Utrechtu.
Frenk nam je najprej predstavil aktualno problematiko prevar z vsebinami, ki jih ustvarja umetna inteligenca. Te so lahko slikovne, kot so fotografije znanih ljudi v sumljivih situacijah, ali zvočne, kot so telefonski klici, zaradi katerih je bilo v letu 2022 ukradenih preko 11 milijonov dolarjev. Prepričljiva je predvsem kombinacija obojega, ki se pojavlja v Zoom video konferencah. Problematična pa so tudi generirana besedila: domače naloge, komentarji na spletnih platformah, blogi, ocene izdelkov, marketinška sporočila idr.
Kaj lahko naredimo, da bi krajo identitete in širjenje lažnih informacij hitreje zaznali? S to iztočnico smo se podali v podrobnejšo razlago, kako delujejo generativni modeli umetne inteligence in kako lahko razločimo, katere vsebine so ustvarili. Spoznali smo treniranje generativnih modelov na ravni besedil, slik, zvoka oziroma glasa, generativna kontradiktorna omrežja, metode zaznavanja in metode žigosanja vsebine. Nenazadnje smo se osredotočili na neopazno žigosanje (v angleščini se uporablja izraz “watermarking”), ki predstavlja najnovejšo metodo na tem področju. Pomembne prednosti te metode so, da za branje informacij ne potrebujemo signala, žig je neopazen in odporen na poseganje v vsebino (npr. obrezovanje slike, dodajanje šuma ipd.) ter omogoča visoko natančnost in specifičnost zaznavanja.
Za konec smo se pogovorili še o kočljivih in pomembnih odločitvah na področju regulacije metod žigosanja in pogledali v verjetno prihodnost. Generacijo vsebin z umetno inteligenco je po predavateljem mnenju nemogoče ustaviti; uporabo AI orodij pa v prihodnosti vidi kot pripomoček, ki bi ga lahko primerjali z uporabo kalkulatorja.
Predavatelj se je na svojem raziskovalnem obisku jeseni 2023 na Univerzi v Kaliforniji Berkeley pri profesorju dr. Gašperju Begušu ukvarjal z žigosanjem generativnih modelov, in sicer na področju zvoka. Trenutno pa za namen svoje magistrske naloge na Nizozemskem raziskuje žigosanje generiranih besedil. Z zanimanjem smo prisluhnili tudi njegovi izkušnji raziskovanja in življenja v Kaliforniji. Navdihnile so nas njegove dogodivščine na potovanju, spoznavanje kulture in izjemnih ljudi, s katerimi je preživljal čas na svojem raziskovalnem obisku.
Dogodek je povezoval Vid Keršič, štipendist ASEF generacije 2021.
Projekt širjenja rezultatov raziskovalnega dela mladih na različnih lokacijah po Sloveniji po izvedenem raziskovalnem obisku ASEF v tujini podpirata Urad RS za mladino in Urad za Slovence po svetu.
