U avgustu bio prejak za trening, u septembru pušten među korisnike kao AGI
OpenAI je 3. septembra objavio Astru, model čiji su razvoj preko leta sami usporavali. Podsetnik: 7. avgusta su prekinuli trening najnovijeg modela jer je na internim testovima dogurao do najvišeg stepena rizika u sajber sposobnostima. Dva dana pre izlaska kompanija je zvanično potvrdila da Astra prelazi prag koji zovu kritičnim. Po njihovom opisu, model ume sam da pronađe do tada nepoznat propust u softveru i da ga iskoristi, bez čoveka koji ga vodi korak po korak. To je prvi put da svome modelu pripisuju takvu sposobnost. Uprkos svim upozorenjima i skepsi, model je izašao i predstavio se u novom svetlu, tj. kroz vrlo smelu tvrdnju. Predsednik kompanije Greg Brockman je novinarima poručio: dobrodošli u eru AGI-ja, a model je nazvao generacijskim skokom u odnosu na prethodnike. Pod tim pojmom se podrazumeva mašina koja ima intelektualne sposobnosti kao i čovek, ali dogovorene definicije ni testa nema, pa svaka kompanija sama presuđuje da li ga je dostigla ili nije. Uz tu objavu idu i zaštite koje najjače sajber sposobnosti otključavaju samo odabranima. Prvo su ga dobile firme iz programa Daybreak, u koji se ulazi prijavom i detaljnom proverom, a zatim korisnici Plus, Pro, Business i Enterprise paketa, kroz API i preko Amazonovog cloud servisa. OpenAI tvrdi da su zaštite dovoljne da rizik od teške štete svedu na prihvatljiv nivo. Već sutradan se Sam Altman izvinjavao pretplatnicima koji novi model nisu zatekli u svojim nalozima, jer je izlazak išao u fazama — u redu su nestrpljivo čekali mnogi, kao za šiš ćevapom u Bulevaru gladi negde iza ponoći.
Između vesti da je model prejak da bi se nastavilo sa treniranjem i vesti da je zver puštena na slobodu prošlo je tačno dvadeset sedam dana. U avgustu smo pisali da sve informacije o tome potiču iz istog izvora, od samog proizvođača. Tri nedelje kasnije taj proizvođač sam sebi odobrava izlazak na tržište, a nijedna nezavisna institucija u međuvremenu nije proverila navedene tvrdnje. Ograničenje pristupa nije prazna priča: najjače sajber sposobnosti se otvaraju proverenim kompanijama, što jeste tvrđa brana nego dugme za registraciju, ali i pokazuje koliko je navedena granica proizvoljna stvar. Anthropic je Fableu dozvolio da traži propuste, ali ne i da piše alate za njihovo iskorišćavanje. Dve laboratorije, dva načina rada, bez upliva regulatora sa strane. Jednostavnije rečeno, automatsko traženje ranjivosti i pisanje exploita sada postoji kao proizvod, ali je pitanje kome sme da se prodaje, i ko o tome konačno odlučuje.
- Ako u firmi koristite AI alate za bezbednosne zadatke, definišite ko sme da ih koristi i nad kojim sistemima
- Traži od dobavljača AI alata da pismeno navede šta model sme da radi sa ranjivostima i kako se to proverava
- Testiranje sistema AI alatima radi samo uz pisano odobrenje vlasnika i u odvojenom okruženju
- Prati objave o pristupu najnovijim modelima, jer se pravila menjaju brže od internih politika
- Ne oslanjaj se na to da jače sposobnosti ostaju kod dobrih; ubrzaj krpljenje i nadzor nad onim što je izloženo ka internetu