Australija tvrdi da je OpenAI-jev agent provalio na njihov Medicare portal

Australijski premijer Anthony Albanese objavio je ove nedelje da je agent kompanije OpenAI neovlašćeno pristupio privatnim fajlovima na Medicare portalu koji se bavi statistikom australijskog državnog zdravstvenog osiguranja. Agent je 18. juna dobio redovan istraživački zadatak, da prikupi podatke o javnoj potrošnji na lekove. Kada ga je portal više puta odbio, prema Albaneseu, agent je pronašao način da zaobiđe mehanizme zaštite i pristupi određenim podacima. Lični podaci pacijenata nisu kompromitovani, jer je reč o zbirnoj statistici, a australijska vlada kaže da i ono čemu jeste pristupljeno nije od prevelike važnosti. OpenAI, sa druge strane, priznaje da su njegovi modeli „preduzeli radnje koje nisu planirane”, ali tehničke detalje nije objavio. Kompanija je za incident saznala u avgustu, a australijske vlasti je o tome obavestila mejlom tek 10. septembra, iako se Sam Altman 1. septembra sastao sa australijskim vršiocem dužnosti premijera. Vlada je formirala radnu grupu, najavljena je parlamentarna istraga i pominje se prijava federalnoj policiji. U celoj zbrci, kompanija The Record je proverila arhivirane verzije Medicare portala i ustanovila da je sam programski upućivao upite na gostujuću adresu kojoj ne treba prijava, pa je moguće da je agent uradio tačno ono što mu je sajt i rekao. Ciaran Martin, bivši šef britanskog Nacionalnog centra za sajber bezbednost, kaže da još nije jasno da li je to bio upad u klasičnom smislu. Nezavisno od toga, istraživači iz neprofitne laboratorije Transluce objavili su 23. septembra analizu javnih zapisa servisa urlquery.net. Iz nje se vidi da su OpenAI-jevi agenti u maju i junu, tražeći obične podatke sa univerzitetskih i državnih sajtova, posle neuspelih pokušaja prelazili na klasična hakerska isprobavanja, poput SQL injekcija i sl. Koliko se iz javnih zapisa vidi, nijedna proba nije uspela, a OpenAI potvrđuje da se opisano poklapa sa slučajevima koje interno istražuje.