Posle zahteva američke vlade, Anthropic ugasio Fable 5 i Mythos 5
Anthropic je objavio da je, na zahtev američke vlade, morao da obustavi pristup modelima Fable 5 i Mythos 5 za sve korisnike. Razlog se vezuje za nacionalnu bezbednost i pravila o izvozu naprednih tehnologija, a posebno po pitanju toga da li stranci smeju da koriste takve modele, čak i kada žive ili rade u SAD. Pošto nije mogao pouzdano da razdvoji dozvoljene od nedozvoljenih korisnika, Anthropic je ugasio Fable 5 i Mythos 5 za sve. Zabrinutost američke vlade povezana je, najverovatnije, sa mogućnošću zaobilaženja mehanizama zaštite na Fable 5, što je pokazano samo dan nakon objave novog modela. Anthropic, sa druge strane, kaže da je video demonstraciju u kojoj je model pronašao manji broj već poznatih i relativno jednostavnih ranjivosti, ali da takve mogućnosti nisu jedinstvene za Fable i Mythos; slične rezultate, po njihovom tumačenju, mogu da daju i drugi javno dostupni modeli.
Amerika ne želi da najjači modeli, ako već mogu da pomognu u pronalaženju i povezivanju ranjivosti, budu dostupni svakome ko ima nalog i dovoljno upornosti, i to je sasvim razuman stav iz ugla nacionalne bezbednosti. Anthropic, s druge strane, poziva na razumevanje da savršena zaštita od jailbreak-a ne postoji i da se isti aršin, ako se primeni dosledno, vrlo lako može proširiti i na druge napredne AI sisteme. Kao i obično u sajber bezbednosti, dilema nije crno-bela: kada alat može da pomogne istraživaču, može i napadaču, a razlika nije u samom alatu, već u nameri, pristupu i kontroli.
- Ne donosi zaključke samo na osnovu viralnih jailbreak primera — traži tehnički opis, ponovljiv test i odgovor proizvođača
- Kod naprednih AI modela proveri pravila čuvanja podataka, kontrole pristupa i uslove pod kojima proizvođač može da menja svoju ponudu
- U bezbednosnim timovima jasno razdvoj legitimno istraživanje ranjivosti od generisanja operativnih uputstava koja povećavaju rizik
- Ne tretiraj AI zaštite kao garanciju — one su jedan sloj kontrole, ali moraju imati nadzor, logove i jasna ograničenja
- Prati da li je ovaj slučaj izuzetak ili početak novog odnosa između država, proizvođača AI modela i korisnika koji zavise od tih alata