Ali je razvoj AI rešitve varen za podatke našega podjetja

Najpogostejši zadržek, ki ga slišimo, ni cena. Je vprašanje, kam gredo podatki.

Podatki ostanejo tvoji.

Vsa intelektualna lastnina, ki nastane v projektu, in vsi podatki, ki jih obdelujemo, so tvoji. To je zapisano v pogodbi, ne v zaupanju.

Obdelava tam, kjer je smiselno.

Kjer to zahteva narava podatkov, tečeta obdelava in model znotraj tvoje infrastrukture ali v EU regiji ponudnika. Kje točno, določimo v fazi analize, ni enotnega odgovora za vse projekte.

Nič treninga na tvojih podatkih brez privolitve.

Tvojih podatkov ne uporabljamo za učenje modelov, ki bi jih uporabili drugje. Pri komercialnih modelih uporabljamo poslovne pogoje, ki treniranje na vhodnih podatkih izključujejo.

Dostop po načelu najmanjših pravic.

Do produkcijskih podatkov dostopa samo tisti del ekipe, ki ga mora. Dostopi se ob zaključku projekta ukinejo.

Kaj zahteva GDPR

Če rešitev obdeluje osebne podatke, sklenemo pogodbo o obdelavi osebnih podatkov (DPA), v kateri je zapisano, katere podatke obdelujemo, za kakšen namen, kje in kako dolgo. Pri projektih z večjim tveganjem pripravimo oceno učinka (DPIA).

Praktično to pomeni tri stvari, ki jih zgradimo v rešitev:

Sledljivost

Zapis, kateri podatki so šli v katero odločitev

Pravica do izbrisa

Rešitev mora znati podatke posameznika odstraniti, tudi iz izvedenih struktur

Minimizacija

V model gre samo tisto, kar je za nalogo res potrebno

Kaj prinaša EU Akt o umetni inteligenci

Za večino slovenskih podjetij velja: AI rešitev, ki jo uporabljaš interno za avtomatizacijo procesov, najverjetneje ni „visoko tvegana” in nima težkih obveznosti. Pomembno pa je vedeti, kje si.

Trenutno stanje rokov:

Obveznost	Velja od
Prepovedane prakse + zahteva po AI pismenosti zaposlenih	v veljavi od 2. 2. 2025
Obveznosti za splošnonamenske modele (GPAI)	v veljavi od 2. 8. 2025
Označevanje sintetične vsebine v strojno berljivi obliki	2. 12. 2026
Visoko tvegani sistemi po Prilogi III (npr. zaposlovanje, kreditiranje)	2. 12. 2027 (prestavljeno z avgusta 2026)
Visoko tvegani sistemi po Prilogi I (medicinski pripomočki, stroji)	2. 8. 2028

Kaj to pomeni zate danes: zahteva po AI pismenosti zaposlenih že velja. Če v podjetju uporabljate AI orodja, morate poskrbeti, da ljudje, ki jih uporabljajo, razumejo, kaj počnejo. To ni odloženo.

Pri vsakem projektu naredimo klasifikacijo tveganja ugotovimo, v katero kategorijo rešitev spada, in kaj to pomeni za dokumentacijo. Če se izkaže, da rešitev pade v visoko tvegano kategorijo, ti to povemo na začetku, ne na koncu.

Vsebina na tej strani je informativne narave in ne predstavlja pravnega nasveta. Za pravno presojo, skladnost ali obveznosti v tvojem konkretnem primeru se obrni na ustreznega strokovnjaka.