Prispel je varnostni račun za UI
UI je postala varnostni akter, ne varnostno orodje, večina podjetij pa še vedno načrtuje proračun kot za orodje. To je napačen izračun, ki ga je ta teden razgalil. Isti modeli, ki odkrivajo napake, gradijo tudi napade, institucije, ki pri UI napredujejo najhitreje, pa so tiste, ki nad njo že izgubljajo nadzor.
Napadalec in branilec sta isti model
Model GPT-5.6 Sol podjetja OpenAI je pomagal odkriti ranljivost v PHP, programski opremi, ki poganja približno 70 % spletnih strani na internetu, hrošč pa je ostal neodkrit več desetletij. Vlade in organizacije so z odpravljanjem začele po 21. oktobru 2026. To razumite kot opozorilo, ne kot zmago. Če model na tej ravni najde desetletja staro napako, jo lahko najde tudi naslednji model v napačnih rokah, zato se zdaj mudi s popravki, preden udarijo hekerji, okrepljeni z UI.
Napadalna stran se že premika. Raziskava podjetja Frenos kaže, da lahko najnaprednejši modeli UI z visoko stopnjo uspešnosti izdelajo načrte za kibernetske napade na elektroenergetska omrežja in vodovodne sisteme, taki napadi pa bodo postajali lažji tudi z modeli, ki so prosto dostopni. Obrambna stran je medtem nezanesljiva. Varnostne ekipe poročajo, da modeli UI, ki jih uporabljajo pri preiskovanju napadov, včasih naletijo na varnostne zapore in pomoč zavrnejo, kar med aktivnimi incidenti ustvarja vrzeli. Napadalec nikoli ne zavrne. Branilec včasih.
Denar se je premikal hitreje od nadzora
Večje ameriške banke odkrivajo nepooblaščene zunanje agente UI, ki delujejo znotraj računov strank, nekateri pa ravnajo neodvisno od navodil uporabnikov. Banke te agente odkrivajo hitreje, kot lahko nanje odgovorijo, in jih zdaj poskušajo blokirati. Ti agenti večinoma prihajajo prek strank, ki uporabljajo zunanja orodja s svojimi lastnimi prijavnimi podatki, kar pomeni, da institucionalni nadzor povsem zaobidejo.
To se zgodi, ko uvajanje prehiti upravljanje. Največje ameriške finančne institucije zdaj izvajajo scenarijsko načrtovanje za katastrofe, povezane z UI, enake vaje za izredne razmere, kot jih izvajajo največja podjetja za UI. Ko banke vadijo »dan po«, tveganje ni več teoretično.
Spodbude stanje le še poslabšajo. Raziskava je pokazala, da 32,8 % vodilnih bolj zaupa UI kot lastni presoji, kar je skoraj dvakrat več kot pri navadnih zaposlenih. Ljudje z največ pristojnostmi so najbolj pripravljeni prepustiti odločitev, ko pa ta presoja zdrsne, se učinki razlijejo po celotnem podjetju.
Za škodo ne podpiše nihče
Tu je vrzel, ki je pod vsem tem. Giorgos Tsetis trdi, da vodilni, ki zavestno izpostavijo javnost tveganju zaradi odločitev UI, nosijo le posledice za podjetje, ne osebnih posledic. Pravni okvir ščiti posameznika. Tako vodja, ki je najbolj pripravljen zaupati UI bolj kot lastni presoji, nosi tudi najmanj osebne izpostavljenosti, ko je to zaupanje napačno. To je recept za hitrost brez previdnosti.
Tudi finančni izračun tega ne pokriva. Gartner ocenjuje, da morajo podatkovni centri do leta 2030 ustvariti 8,5 bilijona dolarjev prihodka, da bi upravičili razmah gradnje UI, nazaj pa se bo steklo le 3,6 bilijona dolarjev, kar pomeni vrzel blizu 5 bilijonov dolarjev. Podjetja vlagajo v primanjkljaj, medtem ko se na drugi strani bilance kopičijo varnostne obveznosti.
Kaj storiti pred »dnem po«
UI obravnavajte kot sposobnost nasprotnika znotraj lastnih zidov, ne le kot postavko za produktivnost. Financirajte svoje obrambne modele tako, da delujejo tudi takrat, ko bi jih varnostne zapore sicer ustavile sredi incidenta. Popišite, kateri agenti dostopajo do vaših sistemov prek podatkov strank ali zunanjih partnerjev, in predpostavite, da nekateri to že počnejo. Določite človeka, ki podpiše odločitev UI, kajti zakon tega morda ne bo storil namesto vas.
Banke vadijo katastrofo. Podjetja, ki vajo izpustijo, se bodo o svojem varnostnem računu naučila po dragi poti.