Kdo je odgovoren za vaše agente?
Večina podjetij, ki uvaja agente umetne inteligence, ne zna odgovoriti na preprosto vprašanje: kdo agenta ustavi, ko povzroči škodo? Prav ta vrzel, in ne kakovost modela, bo letos požgala bilance.
Dokazi se hitro kopičijo. Vodje v podjetjih s seznama Fortune 500 pravijo, da umetno inteligenco upravljajo, a ko jih vprašate, kdo je odgovoren za ustavitev modela, ki povzroča škodo, večina ne zna odgovoriti, ugotavlja MIT Sloan Management Review. Medtem so agenti že v hiši. Anketa SecurityWeek je pokazala, da je večina podjetij z delujočimi agenti že doživela vrivanje pozivov, ko se ti agenti povežejo z notranjimi orodji. MITRE je popisal vzorce napadov in odtekanje podatkov označil za najpogostejšo pot. Gartner opozarja, da bo zloraba agentov gnala vdore v podjetja, in priporoča odobritvene točke za tvegana dejanja.
Preberite te štiri ugotovitve skupaj. Imamo samostojno programsko opremo, ki sega v notranje sisteme, znano in rastočo površino za napade ter nobenega poimenovanega človeka, ki drži stikalo za izklop. To ni tehnološka težava. To je težava odgovornosti.
Hitrost prehiteva presojo
Nagon je, da se premaknemo hitreje. Ta nagon je past. MIT Sloan poroča, da vodje že odkrivajo razkorake med tem, kar agenti obljubljajo, in tem, kar dostavijo, ter opozarja, da prezgodnja uvedba brez organizacijske pripravljenosti troši sredstva in ruši zaupanje. Ista publikacija opisuje težavo pešanja, izpostavljeno na simpoziju MIT Sloan CIO 2026: ko umetna inteligenca pospeši poteke dela, kritično razmišljanje zaposlenih slabi. Hitrejša izvedba ne pomeni nič, če vaše ekipe izgubijo presojo, da ujamejo napačno odločitev.
Več samostojnosti torej razdate, več ljudi potrebujete, ki znajo prepoznati, kdaj se stroj moti. Hitrost in nadzor si tu nista nasprotna. Nadzor je tisto, kar naredi hitrost varno.
Denar je že izpostavljen
To ni abstraktno tveganje. Gartner ocenjuje, da bo do leta 2030 do 234 milijard dolarjev porabe za poslovno programsko opremo izpostavljenih agentni arbitraži, kar je približno 20 odstotkov porabe za SaaS. Agenti preoblikujejo, od kod prihajajo prihodki programske opreme in kje odtekajo. Gartner poroča tudi, da je povpraševanje po delovnih mestih v dobavnih verigah, ki zahtevajo znanje umetne inteligence, med začetkom leta 2023 in začetkom leta 2026 zraslo za 387 odstotkov. Zmogljivost se seli v jedro poslovanja, kadra za njeno varno vodenje pa primanjkuje.
Povedano naravnost: agente potiskamo v tiste dele posla, kjer se premika pravi denar, in to natanko takrat, ko nihče ni uredil, kdo odgovarja, če odpovejo.
Kako je videti dobro
Organizacije, ki to počnejo prav, niso tiste z najbolj bleščečimi modeli. So tiste, ki na novo urejajo, kako poteka delo in kako se sprejemajo odločitve. McKinsey trdi, da prava prednost izvira iz spreminjanja operativnih modelov, pravic odločanja in usposobljenosti zaposlenih, ne iz obravnave umetne inteligence kot tehnološkega dodatka. Bank of America svoje zaposlene pripravlja z obsežnim izobraževanjem prek svoje akademije. Finančne ustanove, ki jih je proučeval MIT Sloan, gradijo prilagodljivo upravljanje iz preizkušenih vzorcev in ne iz nič.
Skupna nit je odgovornost. Nekdo je odgovoren za potek dela. Nekdo za tveganje. Nekdo za ustavitev.
Preden razširite še enega agenta, storite tri stvari. Imenujte človeka, ki lahko vsakega agenta izklopi. Za tvegana dejanja postavite odobritvene točke, kot svetuje Gartner. Presojo v svojih ljudeh gradite hitreje, kot gradite samostojnost v svoji programski opremi.
Naslednji vdor ne bo prišel iz modela, ki je bil prešibak. Prišel bo iz agenta, ki je bil preveč prost, povezan s preveč stvarmi in ga ni gledal nihče. Podjetja, ki se odločijo, kdo drži stikalo, bodo delovala naprej. Ostala bodo po težji poti ugotovila, da ga ni držal nihče.