Alat koji automatizuje rukovodstvo firme: osam AI agenata u fotelji direktora
Na GitHubu je osvanuo OpenExecutive, otvoreni projekat koji nudi kompletan menadžerski tim od osam AI agenata. Svaki pokriva jednu funkciju: strategiju, finansije, pravo, HR, operacije, marketing, proizvode i odnose sa čelnicima kompanije. Ispod svega radi Claude, a firma koja stoji iza projekta je Sente Labs. Agenti pamte ranije odluke, uzimaju u obzir dokumente koje im firma otprema i sami se javljaju kroz Slack, Discord, Telegram i mejl. Projekat je za kratko vreme sakupio blizu 1.000 zvezdica na GitHubu i besplatan je, pod Apache licencom. Uz njega se lepi priča koja se brzo širi: da su ga napravili programeri koje je AI ostavio bez posla, kao odgovor direktorima koji ljude zamenjuju mašinama. Autori tu priču nisu potvrdili i u zvaničnom opisu je nema, ali se brzo primila jer pogađa nerv: alat koji rukovodstvo uvodi da zameni zaposlene u principu može da zameni i njih.
Ironija je jača od legende koja živi. Dve godine se priča kako AI preuzima poslove nižih i srednjih pozicija, ali ovde je na tapetu sam vrh firme — sloj koji te odluke donosi. To je zabavno kao obrt, ali poenta je ozbiljnija i tiče se svakog ko razmatra uvođenje ovakvog alata. Efikasnost se vidi odmah, a odgovornost proizilazi kasnije, i ne automatizuje se. Kad „general counsel“ agent da pravni savet, za posledicu odgovara firma, ne agent. Dokumenti koje otpremiš ostaju u sistemu koji ih pamti, pa potencijalno curenje podataka predstavlja koncentrisani rizik na jednom mestu. Agent koji sam šalje i prima mejlove i poruke može biti i ulaz za napad: dovoljno je da pročita poruku sa skrivenim instrukcijama (prompt injection), pa da uradi nešto što niko nije tražio. Direktor sa početka priče, onaj koji je ljude zamenio mašinama, ovih rizika najčešće nije svestan, jer se neke stvari ne podrazumevaju. AI verovatno može da preuzme i njegovu ulogu na svakodnevnoj bazi, ali kad stigne sajber incident, inspekcija i tužba, ipak će morati da se vrati sa francuskih Alpa u svoju neudobnu fotelju.
- Ako razmatraš ovakav alat, prvo definiši šta agent sme sam da uradi, a šta mora da ide na ljudsko odobrenje — savet nije isto što i odluka
- Dokumente koje otpremaš u ovakav sistem uvek tretiraj kao koncentrisan rizik od curenja podataka, svih odjednom
- Odvoji kanale preko kojih agent prima poruke od poverljivih sistema, jer poruka spolja može da nosi skrivene instrukcije
- Ne prebacuj odgovornost na alat: pravni, finansijski i kadrovski potezi ostaju na firmi bez obzira ko ih je predložio
- Ako ga isprobavaš, drži ga na test okruženju i podacima, odvojeno od produkcije i stvarnih naloga