Kineska policija koristila ChatGPT za kampanju diskreditacije japanskog premijera
Prema izveštaju Dark Reading-a, pojedinac povezan sa kineskim režimskim organima zloupotrebio je ChatGPT kako bi pripremao i uređivao sadržaj za kampanju diskreditacije japanskog premijera Sanea Takaichija. Operacija se oslanjala na generisanje negativnih komentara i email poruka pod lažnim identitetima kako bi uticala na percepciju javnosti i politički diskurs, prema OpenAI izveštaju o zloupotrebi svojih modela.
Pojašnjenje
Upotreba AI alata za pripremu sadržaja u politički motivisanim kampanjama otvara pitanja o ulozi generativnih modela u informacijskim operacijama i geopolitičkim pritiscima, jer takvi alati mogu olakšati rad na narativima bez jasnog uvida u svrhu i kontekst.
Preporuke
- Prati razvoj praksi zloupotrebe AI u kontekstu informacionih operacija i ocenjuj rizike po reputaciju i bezbednosne politike institucija.
- Razvij interne smernice za procenu i odgovornost u pogledu generisanog sadržaja koji se tiče javnih komunikacija.
- Uključi praćenje i analizu trendova u AI-podržanim kampanjama da bi se bolje razumeli metodi i alati koji se koriste.