Dva najveća AI provajdera dali oprečne odgovore o zadržavanju podataka
Bezbednosni AI sistemi teško prepoznaju obrasce zloupotrebe ako svaku poruku čitaju odvojeno, ali čuvanje celog razgovora za mnoge kompanije nije prihvatljiva opcija. Anthropic je u junu prešao na tamnu stranu: uveo je obavezno čuvanje saobraćaja poslovnih korisnika na 30 dana za svoje najjače modele, bez izuzetaka, bez mogućnosti isključivanja i bez obzira na ranije potpisane ugovore, uz obrazloženje da se tako štiti od zloupotrebe u svrhu sajber napada. OpenAI je 19. avgusta odgovorio suprotno. Predstavio je Private Safety Processing uslugu koja će prepoznavati sumnjive aktivnosti kroz niz interakcija, uz održanje Zero Data Retention režima za poslovne API korisnike. ZDR znači da OpenAI posle obrade ne zadržava razgovore, uz zakonske izuzetke, niti ih koristi za obuku bez izričitog pristanka. Sadašnje ZDR kontrole procenjuju svaki zahtev pojedinačno, pa pažljivo raspoređeni maliciozni upiti mogu da se provuku kao benigni segmenti. PSP treba da prepozna upravo takve obrasce. U jednoj varijanti sadržaj ostaje na infrastrukturi koju kontroliše korisnik, u drugoj je smešten kod OpenAI-ja, ali šifrovan ključem koji ima samo korisnik. Automatizovani sistemi obrađuju kontekst, a OpenAI-jevi zaposleni ne dobijaju pristup promptovima i odgovorima; ako se prepozna rizik, kompanija dobija samo usko određen signal o vrsti aktivnosti, ne i sam sadržaj. PSP još nije isporučen: testira se sa prvim korisnicima, a šire puštanje u rad i tehnička dokumentacija najavljeni su za septembar. Dan posle te najave, Anthropic je saopštio da menja pravila: zadržavanje od 30 dana ostaje, ali se poslovnim korisnicima ostavlja mogućnost da podatke hostuju na sopstvenoj cloud infrastrukturi.
Nadzor traži kontekst kroz vreme, a banke, bolnice i advokatske kancelarije ne žele da dobavljač njihov sadržaj zadržava. Zanimljivo je to što su dve najveće AI kompanije na isto pitanje dali suprotne odgovore. Još zanimljivije: kada je OpenAI najavio izmene za septembar, Anthropic je u roku od jednog dana ublažio pravilo koje je dva meseca branio kao neophodno. Za onoga ko potpisuje ugovor to znači da se politika zadržavanja podataka menja brže od same tehnologije, pa je vredi proveravati, a ne pamtiti. A PSP je za sada arhitektura u najavi, ne kontrola na koju firma može da se osloni. Tehnički detalji tek treba da pokažu šta se ispod haube zapravo radi, koliko su signali precizni, kako izgledaju greške i kako ćemo proveravati navode proizvođača da razgraničenje zaista postoji. Dok se to ne vidi, jedino možemo da sudimo na osnovu obećanja.
- Ako koristiš OpenAI API sa osetljivim podacima, prvo proveri da li organizacija ispunjava uslove za Zero Data Retention; to nije podrazumevana postavka za svaki API nalog
- Ne planiraj kontrole oko Private Safety Processing-a dok ne budu poznati tehnički detalji i stvarni uslovi dostupnosti
- Za regulisana okruženja proveri gde sadržaj fizički ostaje, ko drži ključeve i koje bezbednosne informacije ipak napuštaju tvoje okruženje
- U procenu dobavljača uključi postupak za pogrešno označene slučajeve, žalbe i istragu bez automatskog slanja poverljivog sadržaja trećoj strani
- Razdvoji zabranu korišćenja podataka za obuku od politike zadržavanja; to su dve različite kontrole
- Pročitaj ponovo ugovor sa AI dobavljačem koji si potpisao pre juna; pravila o zadržavanju su se u međuvremenu menjala kod oba velika igrača