22. 9. 2025
Odziv Ministrstva za kulturo
Ministrstvo za kulturo v zvezi s predmetnim predlogom navaja, da je vprašanje označevanja programskih vsebin, narejenih s pomočjo uporabe sistemov umetne inteligence urejeno v novem Zakonu o medijih (v nadaljnjem besedilu: ZMed-1), ki ga je Državni zbor sprejel dne 3. 9. 2025.
ZMed-1 v 66. členu določa naslednje:
- Vsaka programska vsebina, ki je bila delno ali v celoti ustvarjena s sistemi generativne umetne inteligence, se mora povsem jasno prepoznati in se posebej ločiti od drugih programskih vsebin medija.
- Vsaka programska vsebina, ki je bila delno ali v celoti ustvarjena s sistemi generativne umetne inteligence, mora biti označena z jasnimi in sistematiziranimi oznakami, in sicer na začetku in koncu programske vsebine.
- Izdajatelji morajo uporabnike seznaniti, na kakšen način uporabljajo sisteme umetne inteligence, posebej tam, kjer lahko uporaba takšnih sistemov vsebinsko vpliva na uporabo in razumevanje programskih vsebin, ali pri uporabi sistemov umetne inteligence, ki omogočajo avtomatizirano prilagajanje in ustvarjanje vsebin, ki ustrezajo različnim ciljnim skupinam.
- Informacije in oznake o uporabi sistemov umetne inteligence morajo biti v slovenščini oziroma jeziku, ki je uporabnikom na območju Republike Slovenije zlahka razumljiv. Poleg besednega jezika lahko medij pri označevanju vsebin uporablja tudi splošno razumljive simbole in slike ter digitalne kode, ki omogočajo strojno branje.
- Uporaba sistemov umetne inteligence, ki so namenjeni uporabnikom, se šteje kot zavajajoča, če na katerikoli način, vključno s predstavitvijo, zavaja uporabnike ali bi jih utegnila zavajati in bi zaradi zavajajoče narave verjetno vplivala na obnašanje ali mnenje uporabnikov.
67. člen ZMed-1 pa določa, da za pravilnost navedb oziroma podatkov v programskih vsebinah, generiranih ali delno generiranih s sistemi umetne inteligence, in za skladnost takšnih programskih vsebin s tem zakonom in drugimi zakoni je odgovoren izdajatelj. Izdajatelj mora v primeru ugotovljenih kršitev takšno programsko vsebino umakniti v najkrajšem možnem času oziroma najpozneje v enem delovnem dnevu po prijavi.
Nadzor nad izvajanjem predmetnih določb ZMed-1 je v pristojnosti Agencije za komunikacijska omrežja in storitve RS.
Glede na navedeno je po mnenju ministrstva uporaba sistemov umetne inteligence pri nastajanju programskih vsebin medijev ustrezno urejena v novem ZMed-1, ki je bil sprejet v Državnem zboru 3. 9. 2025. Zakon bo začel veljati petnajsti dan po objavi v Uradnem listu Republike Slovenije (116. člen ZMed-1).
Odziv Ministrstva za digitalno preobrazbo
Državljan predlaga, da se mora označiti vsa vsebina npr oglasi, slike, članki, blogi, dopisi, ipd., ki je bila ustvarjena z AI. Po njegovem predlogu se mora ta vsebina označiti kjerkoli, ne samo na spletu, ampak tudi v fizičnih verzijah.
Akt o umetni inteligenci (Uredba (EU) 2024/1689, v nadaljevanju: Akt o UI), ki je začel veljati 1. avgusta 2024, v 50. členu določa posebne obveznosti glede transparentnosti in označevanja vsebin, ustvarjenih z umetno inteligenco. Te obveznosti se bodo začele uporabljati 2. avgusta 2026.
Določila 50. člena Akta o UI tako med drugim določajo:
- da morajo ponudniki generativnih UI sistemov zagotoviti označevanje umetno ustvarjene ali spremenjene vsebine v strojno berljivi obliki ter omogočiti mehanizme za njeno zaznavo,
- da je treba pri uporabi sistemov za ustvarjanje globokih ponaredkov (t. i. deepfake) jasno navesti, da je bila vsebina umetno ustvarjena ali prirejena, razen v izjemnih primerih,
- da morajo biti vse informacije podane jasno, nedvoumno in skladno z zahtevami dostopnosti.
Akt o UI tako uvajalce kot tudi ponudnike generativne UI zavezuje, da so uporabniki – kadar komunicirajo s sistemom UI in kadar so izpostavljeni sistemom za prepoznavanje čustev ali biometrično kategorizacijo - o tem obveščeni oziroma, da so obveščeni o vsebini, ki jo ustvari ali z njo manipulira sistem UI.
Evropska komisija v sodelovanju z neodvisnimi strokovnjaki in Skupnim raziskovalnim središčem (JRC) trenutno pripravlja Smernice in Kodeks ravnanja o preglednosti generativne UI. V osnutkih študij je bila opravljena analiza obstoječih tehničnih rešitev za označevanje in zaznavo umetno ustvarjenih vsebin na področju besedila, zvoka ter slike/videa. Ugotovitve kažejo, da so metode (npr. vodni žigi, metapodatki, kriptografski podpisi) še v razvoju in imajo posamezne omejitve glede robustnosti in zanesljivosti. Evropska komisija bo do začetka uporabe 50. člena Akta o UI sprejela Smernice ter spodbudila pripravo Kodeksa ravnanja, ki bosta določila praktične standarde in tehnične rešitve za učinkovito izvajanje obveznosti.
Obvezno označevanje vsebin, ustvarjenih ali obdelanih z UI (tudi retuširane fotografije ipd.), je tako že regulirano z Aktom o UI, ki neposredno velja v vseh državah članicah. Nacionalna ureditev na tem področju posledično ni potrebna niti ni smiselna, saj bi pomenila odstopanje od enotnega evropskega pristopa in bi pomenila tveganje za pravno neenotnost.
Slovenija kot članica EU bo skladno s svojimi pristojnostmi sodelovala pri oblikovanju Smernic in Kodeksa ravnanja ter zagotovila, da bo implementacija 50. člena Akta o UI izvedena na učinkovit, sorazmeren in tehnološko izvedljiv način.
Na podlagi navedenega ocenjujemo, da je predlog za nacionalno uvedbo obveznega označevanja v tej fazi neprimeren za nadaljnjo obravnavo, saj je področje že celovito urejeno z že veljavnim Aktom o UI, katerega 50. člen se bo začel uporabljati 2. avgusta 2026.