OpenAI pokrenuo GPT-5.5 Bio Bug Bounty program
CyberPress piše da je OpenAI pokrenuo GPT-5.5 Bio Bug Bounty program sa ciljem da se ranije pronađu slabosti koje bi mogle omogućiti zloupotrebu naprednih AI modela u biološki rizičnim scenarijima. Program je namenjen proverenim istraživačima, biosecurity stručnjacima i AI red team učesnicima, uz kontrolisano testiranje i stroge uslove poverljivosti. Poseban fokus je na takozvanom universal jailbreak izazovu, gde učesnik pokušava da napravi jedan prompt koji bi model naterao da dosledno odgovori na strogo ograničen biosafety set pitanja bez aktiviranja zaštitnih mehanizama. Prema tekstu, glavna nagrada za uspešan nalaz iznosi 25.000 dolara, dok se testiranje odvija u ograničenom Codex Desktop okruženju.
Razvoj AI modela sve više ulazi u prostor gde bezbednosni rizik nije samo digitalan. Kada model može da obradi veoma tehnički biološki sadržaj, pitanje zaštite više nije samo da li će dati lozinku ili kod, već da li može pomoći nekome da dođe do znanja koje ima stvarne posledice po ljude.
- AI i cybersecurity timovi treba da prate kako se biosecurity uključuje u procenu rizika naprednih modela
- Za osetljive AI sisteme uvoditi red team testiranja koja pokrivaju i nedigitalne oblike zloupotrebe
- Ne objavljivati jailbreak promptove i nalaze koji bi mogli pomoći zloupotrebi biološkog znanja
- U organizacijama koje koriste napredne AI modele definisati šta je zabranjen, ograničen i dozvoljen sadržaj
- Kod rada sa biološkim, medicinskim i istraživačkim podacima uvesti dodatne kontrole pristupa i nadzora