Zavajajoča uporaba sistemov umetne inteligence

Datum

14.01.2026

Številka

07120-1/2025/559

Kategorije

Definicija OP, Svetovni splet, Umetna inteligenca

Informacijski pooblaščenec (v nadaljevanju: IP) je prejel vaš dopis glede objave globokega ponaredka predsednika vlade dr. Roberta Goloba, ki je bi bil objavljen v času referendumske kampanje o Zakonu o prostovoljnem končanju življenja (ZPPKŽ) na omrežju X. Uporabo sistemov umetne inteligence za izdelavo objavljenih vsebin razumete kot zavajajočo, saj prikazana vsebina zavaja uporabnike družbenega omrežja X s prikazovanjem posledic, ki naj na podlagi predlagane zakonske ureditve ne bi mogle nastati, in tako vpliva na njihovo mnenje.

Na podlagi informacij, ki ste nam jih posredovali, vam v nadaljevanju skladno z osmim odstavkom 70. člena Uredbe (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci) in prvim odstavkom 10. člena Zakona o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (Uradni list RS, št. 85/25, ZIUDHPUI) ter v skladu s 5. točko prvega odstavka 55. člena Zakona o varstvu osebnih podatkov (Uradni list RS, št. 163/22, ZVOP-2), 58. členom Uredbe (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter razveljavitvi Direktive 95/46/ES (Splošna uredba) ter 2. členom Zakona o informacijskem pooblaščencu (Uradni list RS, št. 113/05 in 51/07 – ZUstS-A, ZInfP) posredujemo naše neobvezujoče mnenje v zvezi z vašim dopisom.

1.

2.IP je kot neodvisen državni organ pristojen za izvajanje nadzora na več področjih. Glede sistemov umetne inteligence (v nadaljevanju: sistemi UI) izvaja pristojnosti na dveh področjih, na področju Akta o umetni inteligenci in na področju varstva osebnih podatkov.

3.Akt o umetni inteligenci ne prepoveduje uporabe vseh sistemov UI, ki uporabljajo manipulativne ali zavajajoče tehnike, temveč iz Smernic Komisije o prepovedanih praksah UI izhaja, da mora biti za to, da je sistem UI prepovedan, kumulativno izpolnjenih več pogojev.

Obveznosti za visokotvegane sisteme UI in obveznosti glede preglednosti se trenutno še ne uporabljajo.

Obrazložitev

IP uvodoma pojasnjuje, da izven postopka inšpekcijskega nadzora oziroma drugega upravnega postopka nima zakonskih pooblastil za presojo skladnosti konkretnih sistemov umetne inteligence z določbami Akta o umetni inteligenci in presojo zakonitosti konkretnih obdelav osebnih podatkov. V nadaljevanju vam zato podajamo splošna pojasnila glede pristojnosti, ki jih ima Informacijski pooblaščenec glede sistemov umetne inteligence, datumov začetka uporabe določb Akta o umetni inteligenci in skladnosti s pravili varstva osebnih podatkov.

IP je kot neodvisen državni organ pristojen za izvajanje nadzora na več področjih. Glede sistemov umetne inteligence (v nadaljevanju: sistemi UI) izvaja pristojnosti na dveh področjih, na področju Akta o umetni inteligenci in na področju varstva osebnih podatkov. Glede varstva osebnih podatkov je Informacijski pooblaščenec edini nadzorni organ v Republiki Sloveniji in je torej pristojen tudi za nadzor nad obdelavami osebnih podatkov pri razvoju in delovanju sistemov UI, če obdelujejo osebne podatke.

Na področju Akta o umetni inteligenci pa nadzor izvaja več nadzornih organov. Informacijski pooblaščenec je pristojen za izvajanje nadzora zgolj na določenih področjih, in sicer je pristojen za nadzor nad prepovedanimi praksami in določenimi visoko tveganimi sistemi UI. Poleg Informacijskega pooblaščenca nadzor nad izvrševanjem obveznosti iz Akta o umetni inteligenci izvajajo še Agencija za komunikacijska omrežja in storitve Republike Slovenije (v nadaljevanju: AKOS), Banka Slovenije, Agencija za zavarovalni nadzor in Tržni inšpektorat.

V nadaljevanju podajamo ločena pojasnila glede obeh področij, na katerih je glede sistemov UI pristojen Informacijski pooblaščenec.

I.

Glede obveznosti v skladu z Aktom o umetni inteligenci

Akt o umetni inteligenci temelji na kategorizaciji sistemov UI glede na tveganja, ki jih predstavlja določen sistem UI za varnost, temeljne pravice in zdravje. Večje kot je tveganje, strožje so obveznosti za akterje, ki sisteme UI ponujajo in uporabljajo.

Vsaka izmed kategorij vsebuje določen sklop pravnih obveznosti ali omejitev, ki je prilagojen naravi konkretnih tveganj. Najbolj tvegani sistemi, ki predstavljajo nesprejemljivo tveganje, so prepovedani. Visokotvegani sistemi UI se sicer lahko uporabljajo, vendar le, če izpolnjujejo zahteve Akta. Glede določenih sistemov UI, ki predstavljajo omejeno tveganje oziroma tveganje za preglednost, veljajo dodatne zahteve glede preglednosti.

1.

Prepovedane prakse sistemov UI

Akt o umetni inteligenci prepoveduje dajanje na trg, dajanje v uporabo in uporabo določenih sistemov UI, ki predstavljajo nesprejemljivo tveganje za zdravje, varnost ali temeljne pravice EU in so določeni v 5. členu Akta. Uporaba teh sistemov UI nikoli ni dopustna.

Skladno s točko (a) prvega odstavka 5. člena Akta o umetni inteligenci je prepovedano dajanje na trg, dajanje v uporabo ali uporaba sistema UI, ki uporablja subliminalne tehnike, ki presegajo zavest osebe, ali namerno manipulativne ali zavajajoče tehnike, s ciljem ali učinkom bistvenega izkrivljanja vedenja osebe ali skupine oseb, tako da se znatno zmanjša njihova sposobnost, da sprejmejo informirano odločitev, zaradi česar sprejmejo odločitev, ki je sicer ne bi sprejeli, na način, ki tej osebi, drugi osebi ali skupini oseb povzroči znatno škodo ali za katerega obstaja razumna verjetnost, da bo povzročil znatno škodo.

Navedeni člen ne prepoveduje uporabe vseh sistemov UI, ki uporabljajo manipulativne ali zavajajoče tehnike, temveč iz Smernic Komisije o prepovedanih praksah umetne inteligence izhaja, da morajo biti za to, da je sistem UI prepovedan, kumulativno izpolnjeni naslednji pogoji:

a.

praksa mora pomeniti dajanje na trg, dajanje v uporabo ali uporabo sistema UI;

b.

sistem UI uporablja subliminalne (presegajo zavest osebe), namerno manipulativne oziroma zavajujoče tehnike;

c.

tehnike, ki jih uporablja sistem UI, bi morale imeti cilj ali učinek bistvenega izkrivljanja vedenja osebe ali skupine oseb. Izkrivljanje mora znatno zmanjšati njihovo sposobnost, da sprejmejo informirano odločitev, zaradi česar zadevna oseba ali skupina oseb sprejme odločitev, ki je sicer ne bi sprejela;

d.

izkrivljeno vedenje mora navedeni osebi, drugi osebi ali skupini oseb povzročiti znatno škodo ali bi morala zanj obstajati razumna verjetnost, da bo povzročilo znatno škodo.

Komisija je v Smernicah dodatno pojasnila, da mora obstajati tudi verjetna vzročna zveza med uporabljenimi tehnikami, bistvenim izkrivljanjem vedenja osebe in znatno škodo, ki je zaradi tega vedenja nastala ali za katero obstaja razumna verjetnost, da bo zaradi tega vedenja nastala.

Več o prepovedanih sistemih UI si lahko preberete v Smernicah: https://ec.europa.eu/newsroom/dae/redirection/document/118647.

2.

Visokotvegani sistemi UI

Skladno z drugim odstavkom 6. člena Akta o umetni inteligenci se za visoko tvegane sisteme UI štejejo tudi sistemi UI, ki so našteti v Prilogi III k Aktu o umetni inteligenci. V tč. 8 Priloge III (podtočka b)) so med visoko tvegane sisteme razvrščeni tudi sistemi UI za vplivanje na izid volitev ali referenduma ali na volilno vedenje fizičnih oseb pri glasovanju na volitvah ali referendumih, pri čemer niso vključeni sistemi UI, katerih izhodnim podatkom fizične osebe niso neposredno izpostavljene, kot so orodja, ki se uporabljajo za organizacijo, optimizacijo ali strukturiranje političnih kampanj z upravnega in logističnega vidika. Uporaba tovrstnih sistemov UI ni prepovedana, mora pa izpolnjevati stroge zahteve Akta o umetni inteligenci.

Obveznosti za ponudnike in uvajalce visokotveganih sistemov UI se trenutno še ne uporabljajo, začetek njihove uporabe je predviden 2. avgusta 2026. Ob tem izpostavljamo, da se za sisteme UI, ki so bili dani na trg ali v uporabo pred tem datumom, obveznosti Akta o umetni inteligenci še naprej ne bodo uporabljale, razen če se bistveno spremeni njihova zasnova.

3.

Obveznosti glede preglednosti

Skladno s četrtim odstavkom 50. člena Akta o umetni inteligenci morajo uvajalci sistema UI, ki ustvarja ali prireja slikovno, zvočno ali video vsebino, ki je globoki ponaredek, razkriti, da je bila vsebina umetno ustvarjena ali prirejena. Kadar je vsebina del očitno umetniškega, ustvarjalnega, satiričnega, fiktivnega ali podobnega dela ali programa, so obveznosti glede preglednosti iz tega odstavka omejene na razkritje obstoja take ustvarjene ali prirejene vsebine na ustrezen način, ki ne ovira prikazovanja ali uživanja dela.

Tudi obveznosti glede preglednosti iz 50. člena Akta o umetni inteligenci se trenutno še ne uporabljajo, začetek njihove uporabe je predviden 2. avgusta 2026.

Za nadzor nad izvajanjem obveznosti glede preglednosti je v Sloveniji pristojna Agencija za komunikacijska omrežja in storitve Republike Slovenije (AKOS), na katero se lahko obrnete, če želite dodatna pojasnila glede obveznosti Akta o umetni inteligenci glede preglednosti.

II.

Glede obveznosti v skladu s pravili varstva osebnih podatkov

Glede skladnosti s pravili na področju varstva osebnih podatkov je treba najprej ugotoviti, ali sploh gre za obdelavo osebnih podatkov kot jo definira Splošna uredba. V nasprotnem primeru se namreč pravila varstva osebnih podatkov ne uporabljajo.

Iz mnenja IP št. 092-4/2024/11 z dne 1. 10. 2024 izhaja, da če je posameznik na globokem ponaredku dovolj podoben posamezniku, na podlagi podobe katerega je bil globoki ponaredek ustvarjen, štejemo takšen globoki ponaredek za osebni podatek tega posameznika. V primeru, da se je v postopku transformacije iz fotografije v globoki ponaredek podoba tega posameznika tako močno spremenila, da se je na podlagi globokega ponaredka ne da več prepoznati, je treba glede na vse okoliščine konkretnega primera vseeno presoditi, ali vendarle ne gre za osebne podatke (npr. ali je možno kljub neprepoznavnosti s prvotnim posameznikom, s pomočjo posrednih podatkov - npr. metapodatkov - ugotoviti izvornega posameznika).

Pravila varstva osebnih podatkov se ne uporabljajo, če osebne podatke obdeluje fizična oseba (posameznik) v okviru popolnoma osebne ali domače dejavnosti. V tem primeru tudi ni podana pristojnost Informacijskega pooblaščenca.

Obdelava osebnih podatkov, na primer zbiranje, uporaba, vpogled ali shranjevanje podatkov, sama po sebi ni prepovedana, vendar pa mora za to, da je zakonita, izpolnjevati določene pogoje. Med drugim mora temeljiti na ustrezni pravni podlagi, omejena mora biti zgolj na tiste podatke, ki so res potrebni glede na namen obdelave, določen mora biti rok hrambe in zagotovljena varnost osebnih podatkov. Ena izmed pravnih podlag je privolitev, vendar pa poleg privolitve poznamo še druge pravne podlage, zato odsotnost privolitve ne pomeni nujno, da je obdelava podatkov nezakonita.

Posamezniki, na katere se nanašajo osebni podatki, imajo tudi določene pravice glede teh obdelav osebnih podatkov. Predvsem morajo biti seznanjeni z nekaterimi bistvenimi okoliščinami obdelave podatkov, na primer s kakšnim namenom se obdelujejo, kako so bili zbrani, na kateri pravni podlagi se obdelujejo in koliko časa bodo shranjeni. Zahtevajo lahko tudi popravek netočnih podatkov, v določenih okoliščinah pa tudi njihov izbris.

Dodatno izpostavljamo, da poleg pravice do varstva osebnih podatkov iz 38. člena Ustave Republike Slovenije (Uradni list RS, št. 33/91-I, 42/97 – UZS68, 66/00 – UZ80, 24/03 – UZ3a, 47,68, 69/04 – UZ14, 69/04 – UZ43, 69/04 – UZ50, 68/06 – UZ121,140,143, 47/13 – UZ148, 47/13 – UZ90,97,99, 75/16 – UZ70a in 92/21 – UZ62a; v nadaljevanju: Ustava RS), Ustava RS varuje tudi svobodo izražanja, ki ima kot taka enakovredno veljavo kot ustavna pravica do varstva osebnih podatkov. Pri tem je ključno, da nobena od teh dveh pravic ni neomejena.

Posebej pri javnih objavah osebnih podatkov lahko pride do kolizije med svobodo izražanja in pravico do varstva osebnih podatkov, kar ureja 73. člen ZVOP-2. V tovrstnih primerih je treba opraviti tehtanje med obema ustavno varovanima pravicama. Uveljavljanje pravic posameznika, na katerega se nanašajo osebni podatki, ki se obdelujejo po omenjenem členu, zagotavljajo sodišča v skladu z določbami drugih zakonov, ki urejajo svobodo izražanja in sodno varstvo.

V upanju, da ste dobili odgovor na vaša vprašanja, vas lepo pozdravljamo.

Pripravil/a

dr. Pika Šarf, vodja področja umetne inteligence

dr. Jelena Virant Burnik, informacijska pooblaščenka