Sigurnost AI-ja: koje podatke ne smijete dijeliti s umjetnom inteligencijom?

Što ne smijete unositi u AI?

U javno dostupne modele ne smijete unositi sljedeće kategorije podataka:

• osobne podatke – imena, prezimena, adrese, osobne identifikacijske brojeve (OIB), telefonske brojeve ili adrese e-pošte klijenata, zaposlenika i vlastite podatke;
• medicinsku dokumentaciju – povijesti bolesti, nalaze i dijagnoze pacijenata, koji podliježu strogim propisima o zaštiti podataka, poput GDPR-a ili HIPAA-e;
• povjerljive poslovne informacije – neobjavljena financijska izvješća, marketinške strategije, baze klijenata te planove spajanja, preuzimanja ili otpuštanja;
• poslovne tajne – izvorni kod softvera, proizvodne recepture, jedinstvene algoritme ili internu tehničku dokumentaciju tvrtke;
• lozinke i pristupne podatke – API ključeve, podatke za prijavu, autorizacijske tokene, podatke s platnih kartica i ključeve za šifriranje;
• materijale zaštićene autorskim pravom – cjelovite tekstove knjiga, znanstvenih članaka koji se plaćaju ili skripti za koje nemate odgovarajuću licenciju;
• nezakonit sadržaj – materijale koji promiču nasilje ili mržnju te upute za postupke protivne važećim zakonima.

Što se događa s podacima koje unosite u AI?

Podaci poslani pružateljima usluga u oblaku prolaze kroz više faza obrade i analize. Njihov životni ciklus ne završava generiranjem odgovora.

Treniranje modela

Podaci uneseni u standardne potrošačke verzije generativnih alata često se koriste za daljnje treniranje modela. To znači da unesene informacije mogu utjecati na parametre neuronske mreže i, barem teoretski, u budućnosti se pojaviti u odgovoru drugom korisniku.

Ručni pregled i moderiranje

Osim automatizirane obrade, AI sustavi imaju sigurnosne filtre. Ako algoritam upit ocijeni sumnjivim, primjerice zbog mogućeg kršenja uvjeta korištenja, razgovor može biti označen i poslan na ručni pregled. To znači da zaposlenici pružatelja usluge ili vanjski suradnici zaduženi za označavanje podataka mogu dobiti izravan uvid u uneseni sadržaj radi poboljšanja moderiranja.

Pohrana podataka i sigurnosne kopije

Pružatelji AI usluga pohranjuju razgovore na svojim poslužiteljima radi kontinuiteta usluge, dijagnostike pogrešaka i očuvanja konteksta za buduće sesije. Važno je znati da brisanje razgovora iz korisničkog sučelja rijetko znači trenutačno brisanje podataka s poslužitelja. Podaci određeno vrijeme mogu ostati u sigurnosnim kopijama pružatelja usluge, što povećava rizik od izlaganja povjerljivih informacija u slučaju uspješnog kibernetičkog napada na infrastrukturu u oblaku.

Privatni i poslovni računi – razlike u razini zaštite

Besplatni i plaćeni standardni privatni računi u mnogim popularnim uslugama prema zadanim postavkama mogu obrađivati unesene informacije za treniranje modela. Ako podijelite povjerljive materijale, svaka takva sesija nosi rizik od njihova nekontroliranog otkrivanja.

U poslovnim i korporativnim okruženjima (primjerice, na računima vrste Enterprise ili pri korištenju usluga u privatnom oblaku putem API-ja pružatelja kao što su Microsoft Azure, AWS i Google Cloud) standardi zaštite stroži su. Pružatelji navode usklađenost sa sigurnosnim standardima i propisima (ISO 27001, SOC 2, GDPR) te u ugovorima (SLA/DPA) potvrđuju da se podaci klijenata ne koriste za treniranje javnih temeljnih modela. U takvim okruženjima pravila o unošenju podataka mogu biti manje restriktivna, ali i dalje zahtijevaju upravljanje rizicima i kontrolu pristupa.

Što možete sigurno unijeti u AI?

Unatoč ograničenjima, mnoge vrste informacija možete unijeti u AI alat i obrađivati uz odgovarajuću provjeru. Među njima su:

• javno dostupni materijali – članci iz otvorenih izvora, blogovi, javno dostupna tržišna izvješća, propisi i sadržaj s internetskih stranica, primjerice Wikipedije;
• nepovjerljive informacije – opće upute, pitanja o teorijskim pojmovima, gramatička i pravopisna pravila, matematičke jednadžbe ili upiti o značenju riječi;
• anonimizirani dijelovi dokumentacije – predlošci dopisa i ugovora ili dijelovi programskog koda iz kojih su u potpunosti uklonjeni jedinstveni identifikatori, ključevi, nazivi klijenata i detalji interne arhitekture;
• vlastiti autorski tekstovi – nacrti e-poruka, objave za društvene mreže, planovi prezentacija ili članci koji ne sadrže osjetljive poslovne podatke;
• otvoreni skupovi podataka – sintetički podaci ili statistike iz javnih repozitorija koje koristite za učenje analize i oblikovanja podataka.

Kako učinkovito anonimizirati poruke i podatke prije slanja AI-ju?

Zamjena identifikatora i tokenizacija

Tokenizacija podrazumijeva zamjenu osjetljivih podataka izmišljenim oznakama. Primjerice, ime „Ivan Horvat” možete zamijeniti oznakom „[Klijent_1]”, a naziv „Tvrtka Primjer” oznakom „[Organizacija_A]”. Tako jezičnom modelu ostaju struktura, sintaksa i kontekst dokumenta, dok se smanjuje mogućnost identifikacije izvorne osobe ili organizacije.

Tehnike maskiranja osjetljivih informacija

Maskiranje znači izravno skrivanje važnih nizova znakova, najčešće njihovom zamjenom posebnim znakovima (primjerice, broj kartice 4532 **** **** ****). Korisna je i generalizacija podataka: umjesto točnog iznosa, poput plaće od 3 200 EUR, navedite raspon, primjerice „plaća između 3 000 i 4 000 EUR”. Time smanjujete rizik od ponovne identifikacije.

Automatizacija postupka (DLP alati i RegEx)

Pri ručnom uklanjanju informacija iz dugačkih tekstova lako je nešto previdjeti. U profesionalnim okruženjima zato se koriste skripte temeljene na regularnim izrazima (RegEx) ili DLP sustavi (Data Loss Prevention). Ti alati mogu automatski pregledati upit prije slanja te prepoznati, blokirati ili zamijeniti nizove znakova koji odgovaraju formatima OIB-a, PDV identifikacijskog broja, adresa e-pošte ili brojeva bankovnih računa.

Kako spriječiti treniranje AI modela na podacima koje dijelite?

Rizik povezan s unošenjem informacija u AI možete smanjiti i prilagodbom postavki alata. Većina pružatelja omogućuje isključivanje korištenja sadržaja za treniranje modela.

• ChatGPT (OpenAI) – u postavkama računa Settings, unutar odjeljka Data controls, nalazi se opcija Improve the model for everyone. Njezinim isključivanjem onemogućujete korištenje novih razgovora za treniranje modela. U trenutačnoj verziji sučelja razgovori pritom ostaju vidljivi u korisničkoj povijesti. OpenAI i dalje može određeno vrijeme zadržati zapise na svojim poslužiteljima radi sigurnosti i praćenja zlouporabe; provjerite aktualna pravila zadržavanja podataka.
• Gemini (Google) – u postavkama privatnosti isključite Gemini Apps Activity. Novi razgovori tada se ne spremaju u aktivnost vašeg Google računa i ne koriste se za treniranje modela. To ipak ne znači da se svi zapisi odmah brišu iz infrastrukture pružatelja: Google ih može privremeno zadržati radi sigurnosti usluge.
• Claude (Anthropic) – provjerite postavke privatnosti na svojem računu jer se pravila korištenja podataka u potrošačkim verzijama usluge mogu mijenjati. Ako je uključena opcija dijeljenja podataka, u postavkama računa isključite Help improve Claude kako se novi razgovori ne bi koristili za poboljšanje modela.

Imajte na umu da promjene postavki privatnosti i isključivanje korištenja podataka za treniranje djeluju samo ubuduće. One ne povlače automatski podatke koji su već obrađeni ili uključeni u ranije cikluse treniranja.