Razvrstitev sistema
Ugotovimo, ali gre za prepovedano prakso, sistem visokega tveganja ali sistem z omejenimi obveznostmi – in v kateri vlogi ste. Od tega je odvisno vse ostalo.
Tehnologija in pravo
Umetna inteligenca in Akt o UI
Vprašanje ni več, ali boste umetno inteligenco uporabljali, ampak v kateri vlogi jo uporabljate in kaj ta vloga od vas zahteva. Ponudnik sistema, uporabnik sistema in distributer imajo po evropski ureditvi bistveno različne obveznosti – in podjetje je pogosto v več vlogah hkrati, ne da bi to vedelo.
Pogodbe z dobavitelji modelov
Kdo jamči za skladnost modela, kdo odgovarja za izhod sistema, kaj se sme z vašimi podatki pri učenju in kaj ostane vaše, ko pogodba preneha.
Notranja pravila uporabe
Kaj zaposleni smejo vnašati v javno dostopna orodja in kaj ne. To je najhitrejša pot do uhajanja poslovnih skrivnosti in hkrati najlažje rešljiva.
S čim pomagamo
- razvrstitev sistemov in ugotovitev vaše vloge (ponudnik, uporabnik, distributer, uvoznik)
- presoja, katere obveznosti iz tega izhajajo in v kakšnem zaporedju jih je smiselno urediti
- pogodbe z dobavitelji modelov in integratorji – jamstva, odgovornost, pravice na podatkih in izhodih
- notranja pravila uporabe umetne inteligence in usposabljanje vodstva ter zaposlenih
- povezava z varstvom osebnih podatkov: pravna podlaga, ocena učinka, obveščanje posameznikov
- avtorskopravna vprašanja: kdo je imetnik pravic na gradivu, ki nastane s pomočjo umetne inteligence, in kaj to pomeni za vaše pogodbe s strankami
Kje podjetja najpogosteje zgrešijo
Prva napaka je predpostavka, da se ureditev tiče le podjetij, ki umetno inteligenco razvijajo. Obveznosti nastanejo tudi za podjetje, ki tuj sistem samo uporablja – zlasti če ga uporablja pri zaposlovanju, ocenjevanju zaposlenih, odobravanju kreditov ali drugih odločitvah, ki neposredno zadevajo posameznike.
Druga napaka je, da se vprašanje obravnava ločeno od varstva osebnih podatkov. Sistem umetne inteligence, ki obdeluje osebne podatke, mora izpolniti oboje: zahteve akta o umetni inteligenci in zahteve splošne uredbe o varstvu podatkov. Ti dve plasti se v praksi srečata pri oceni učinka, pri pravni podlagi za obdelavo in pri pravici posameznika do pojasnila odločitve.
Tretja napaka je najbolj tiha: podjetje uvede orodje brez zapisa o tem, kdo je uvedbo odobril in na kateri podlagi. Ko nadzornik vpraša, zakaj je bil sistem ocenjen kot nizko tvegan, ni nikogar, ki bi to presojo lahko pojasnil.
Kaj prevzamemo
- Razvrstitev sistemov UI in ugotovitev vaše vloge (ponudnik, uporabnik, distributer)
- Presoja, katere obveznosti iz tega izhajajo in v kakšnem zaporedju
- Pogodbe z dobavitelji modelov in integratorji: jamstva, odgovornost, pravice na izhodih
- Notranja pravila uporabe umetne inteligence in usposabljanje vodstva
- Povezava z varstvom podatkov: pravna podlaga, ocena učinka, obveščanje posameznikov
- Avtorskopravna vprašanja gradiva, ki nastane s pomočjo umetne inteligence
Pogosta vprašanja
Uporabljamo ChatGPT in podobna orodja. Ali potrebujemo pravila?
Da, in to je najcenejši ukrep na tem področju. Brez pravil zaposleni v tuje orodje vnašajo osnutke pogodb, podatke strank in interne izračune. To ni le vprašanje skladnosti – je vprašanje poslovne skrivnosti, ki jo je po razkritju nemogoče vrniti.
Dobavitelj trdi, da je njegov sistem skladen. Ali to zadošča?
Ne. Izjava dobavitelja je izhodišče, ne dokaz. Vaše obveznosti kot uporabnika sistema ostanejo vaše, ne glede na to, kaj je zagotovil dobavitelj – zlasti glede nadzora nad uporabo, obveščanja posameznikov in hrambe zapisov o delovanju.
Ali lahko z umetno inteligenco ocenjujemo kandidate za zaposlitev?
Uporaba na tem področju sodi med najbolj nadzorovane, ker gre za odločitve, ki neposredno vplivajo na posameznika. Praviloma je mogoča, a zahteva pravno podlago, obveščanje kandidatov, človeški nadzor nad odločitvijo in zapis o tem, kako je bil sistem preverjen.
