Prepovedi Akta o umetni inteligenci za določene UI sisteme

Akt o umetni inteligenci[1], ki je začel veljati 1. 8. 2024 določa, da je od 2. februarja 2025 potrebno upoštevati prepovedi Akta o umetni inteligenci glede določenih UI sistemov.[2]

Prepovedane prakse UI sistemov

Potrebno je upoštevati 5. člen Akta o umetni inteligenci, ki ureja prepovedane prakse umetnointeligenčnih sistemov (UI). Gre za sisteme UI, ki so zaradi tveganj za človekove pravice in temeljne svoboščine ter nastanek drugih oblik škod, v EU v celoti prepovedani, in jih ni nikoli dopustno uporabljati ali dati na trg. Prepovedane so naslednje prakse uporabe umetne inteligence (UI), in sicer:

• Manipulacija z vedenjem: Prepovedano je dajanje na trg ali uporaba sistemov UI, ki uporabljajo subliminalne tehnike ali manipulacije za izkrivljanje vedenja oseb, da sprejmejo informirano odločitev, zaradi česar sprejmejo odločitev, ki je sicer ne bi sprejeli, na način, ki tej osebi, drugi osebi ali skupini oseb povzroči znatno škodo ali za katerega obstaja razumna verjetnost, da bo povzročil znatno škodo;
• Izkoriščanje šibkosti: Prepovedano je dajanje na trg ali uporaba UI, ki izkorišča šibke točke posameznikov ali skupin (npr. zaradi starosti, invalidnosti ali socialnega položaja), da bi izkrivili njihovo vedenje in jim povzročili škodo;
• Socialno ocenjevanje: Prepovedano je dajanje na trg ali uporaba UI za ocenjevanje ljudi na podlagi njihovega družbenega vedenja ali osebnostnih značilnosti, kar lahko vodi v nepravično obravnavo, ki ni sorazmerna z njihovim vedenjem;
• Napovedovanje kaznivih dejanj: Prepovedano je dajanje na trg ali uporaba sistemov UI za napovedovanje tveganja, da bo oseba storila kaznivo dejanje, zgolj na podlagi profila ali osebnostnih lastnosti;
• Nezakonito zbiranje biometričnih podatkov: Prepovedano je dajanje na trg ali uporaba sistemov UI, ki z neciljnim odvzemom podob obraza z interneta ali s posnetkov kamer CCTV ustvarjajo ali širijo podatkovne zbirke za prepoznavanje obraza;
• Sklepanje o čustvih na delovnem mestu ali v šolah: Prepovedano je dajanje na trg ali uporaba sistemov UI za sklepanje o čustvih posameznikov na delovnem mestu ali v izobraževalnih ustanovah, razen iz zdravstvenih ali varnostnih razlogov;
• Biometrična kategorizacija: Prepovedano je dajanje na trg ali uporaba sistemov UI za razvrščanje posameznikov na podlagi biometričnih podatkov, da bi sklepali o njihovih osebnih značilnostih, kot so rasa, verska prepričanja ali spolna usmerjenost, razen v primerih, ki vključujejo preprečevanje ali preiskovanje kaznivih dejanj;
• Biometrična identifikacija na daljavo: Prepovedano je dajanje na trg ali uporaba sistemov UI za biometrično identifikacijo na daljavo v javno dostopnih prostorih, razen v nujnih primerih, kot so iskanje žrtev ugrabitev ali preprečevanje groženj terorističnega napada razen v zakonsko določenih primerih.

Smernice o prepovedanih praksah UI

Evropska komisija je pripravila in sprejela Smernice o prepovedanih praksah umetne inteligence, kot so opredeljene v aktu o umetni inteligenci, ki vsebujejo pojasnila prepovedanih praks in praktične primere.

[1] UREDBA (EU) 2024/1689 EVROPSKEGA PARLAMENTA IN SVETA z dne 13. junija 2024o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828

[2] Prav tam, Preambula, uvodna izvaja (179).