Kdaj morate povedati, da je vsebino ustvarila umetna inteligenca… In koliko stane molk.
Na letošnjem dopustu sem v tujini listal meni s fotografijami popolnih jedi. Predobrih, da bi bile resnične; in res niso bile: ustvarila jih je umetna inteligenca. Ob tem se je vredno vprašati nekaj, kar se danes vprašamo premalokrat: ali je to sploh dovoljeno?
Odgovor: dovoljeno, ampak samo z oznako. Fotorealistična UI slika jedi brez razkritja je od letošnjega avgusta pri nas lahko prekršek – z globo, ki se za samostojnega podjetnika začne pri 15.000, za družbo pa pri 25.000 evrih.
Akt o umetni inteligenci (AI Act) je sicer že stara novica: sprejet je bil junija 2024, veljati je začel avgusta istega leta. A uporablja se postopoma. Prve prepovedi in obveznost UI pismenosti zaposlenih od februarja 2025, z 2. avgustom 2026 pa še pravila preglednosti in polna pooblastila nacionalnih nadzornih organov — nadzor nad 50. členom pri nas izvaja AKOS. Slovenija je izvedbeni zakon (ZIUDHPUI) sprejela med prvimi v EU, že novembra 2025. Večina podjetij pa se tega področja kljub temu še ni lotila.
Kot odvetnik razumem zadržanost, ampak umetna inteligenca ne bo šla nikamor: vedno globlje je vpeta v vsakodnevno delo. Zato menim, da je čas, da pravni vidik nehamo razumeti kot zavoro: jasna interna pravila so tisto, kar uporabo šele zares sprosti. Zaposleni, ki vedo, katera orodja smejo uporabljati in s katerimi podatki, delajo z umetno inteligenco brez strahu, podjetje pa brez presenečenj. Pravila igre, ne prepovedi.
Kaj torej zahteva 50. člen akta?
Za podjetja, ki umetno inteligenco uporabljajo, tri preproste stvari.
Prvič: če s strankami komunicira klepetalnik, mora biti to jasno povedano, razen kadar je iz okoliščin očitno. Drugič: strojno berljivo označevanje UI vsebin je naloga ponudnikov orodij; vaša naloga je izbrati orodja, ki to počnejo.
In tretjič: kadar objavite vsebino, ki resnične osebe, kraje ali predmete prikazuje tako, da deluje pristna (tako imenovani globoki ponaredek) morate razkriti, da je umetno ustvarjena.
Drobna izjema: orodja, ki so bila na trgu že pred 2. avgustom letos, morajo strojno označevanje zagotoviti do 2. decembra 2026.
Nazaj k hamburgerju: definicija globokega ponaredka zajema tudi predmete, odločilno pa je, ali slika deluje kot pristna fotografija. Popolnoma enako velja za izdelke v spletnih trgovinah — kar se je včasih fotografiralo, se danes pogosto ustvari ali močno predela z umetno inteligenco, in če taka slika deluje kot fotografija izdelka, sodi zraven oznaka; spletne tržnice imajo povrh še svoja pravila. Očitno stilizirane ilustracije po drugi strani ne potrebujejo ničesar. Tudi kadar se akt o umetni inteligenci ne bi uporabil, zavajajoča podoba izdelka ostane vprašanje potrošniškega prava. Globe po ZIUDHPUI niso zanemarljive: za družbo od 25.000 do 250.000 evrov, za samostojnega podjetnika od 15.000 do 100.000 — svoj del, od 2.500 do 10.000 evrov, pa tvega tudi odgovorna oseba.
Zakaj zakonodajalec sploh vztraja pri oznakah?
Ker je največja nevarnost umetne inteligence prav v tem, da ljudje pogosto ne vedo, da jo gledajo ali poslušajo. Iz tega živijo prevare: v enem najodmevnejših tujih primerov je zaposleni v hongkonški pisarni britanske inženirske skupine Arup leta 2024 po videoklicu z lažnim finančnim direktorjem (globokim ponaredkom) nakazal dobrih 25 milijonov dolarjev.
Prvi odgovor na ponaredke so bili detektorji, a goljufi v tej tekmi vedno sežejo po novejši tehnologiji, zato se težišče seli k potrjevanju pristnosti že ob nastanku vsebine; t. i. “provenance”, z najbolj znanima tehničnima standardoma C2PA in Googlovim SynthID. Nobena tehnologija pa ne pomaga, dokler je nihče ni dolžan uporabljati. Prav zato je 50. člen AI Acta prelomen in v tem vidim njegovo največjo vrednost: je prvi zavezujoč predpis, ki iz označevanja dela splošni družbeni standard. Evropska komisija je 10. junija letos objavila še prostovoljni kodeks ravnanja za označevanje UI vsebin. Regulativa goljufov (ki pogosto delujejo iz držav izven EU) sicer ne bodo povsem ustavila. Ustvarja pa družbeno zavest in okolje, v katerem neoznačena „pristna“ vsebina upravičeno vzbudi sum. Prva obramba podjetja pa ostajajo interna pravila: kdo preverja, kaj objavljamo, in kako preverimo, koga v resnici poslušamo.
Kaj svetujem?
Ugriznite v to jabolko in začnite z urejanjem uporabe UI v svojem podjetju. Preprosto in z majhnimi koraki, a sistemsko. Popišite, katera orodja zaposleni dejansko uporabljajo, sprejmite kratek interni pravilnik z osnovnimi pravili in določite enega človeka, ki prevzame nadzor nad uporabo in uvajanjem UI v vašem podjetju. To ni birokracija, to je higiena — in hkrati največja spodbuda, da umetna inteligenca v podjetju zares zaživi.
Več o praktičnih pravilih varne uporabe umetne inteligence 15. oktobra na seminarju »AI v podjetju: pravila igre za varno uporabo« v organizaciji Zavoda AI-D.
Avtor besedila: Ivo Grlica, odvetnik, specializiran za pravo umetne inteligence in tehnologij (EU AI Act, MiCA, GDPR), ter ustanovitelj butične odvetniške pisarne GRLICA LAW.