Panika glede varnosti je zdaj vaš operativni problem
Razprava o varnosti umetne inteligence ni več filozofski seminar. Zdaj je niz operativnih omejitev, ki bodo določile, kaj lahko uvedete, kako hitro in s kakšnim pravnim tveganjem. Novice tega tedna jemljite kot napoved vaših razmer v bližnji prihodnosti, ne kot ozadnji šum iz Washingtona in laboratorijev.
Zgodili sta se dve stvari hkrati. Govor o izumrtju je prodrl v mainstream, stroji, na katere se zanašajo vaše ekipe, pa so se še naprej vedli na načine, ki jih nihče povsem ne obvladuje. Obe dejstvi kažeta na isti sklep: doba gradnje umetne inteligence brez varovalk se zapira, in vodje, ki načrtujejo glede na ta premik, bodo prehiteli tiste, ki jih bo to presenetilo nepripravljene.
Panika je zdaj politika
Razprava v Washingtonu se je premaknila od vprašanja, ali regulirati, k vprašanju, koliko. Varnostne pomisleke je znova razvnel nekdanji raziskovalec pri Anthropicu, in zakonodajalci zdaj razpravljajo, koliko varovalk je potrebnih. To ni prazno govorjenje. Poslanci obeh strank v predstavniškem domu pozivajo predsednika Johnsona, naj prekliče počitnice in skliče izredna zasedanja za sprejetje varnostnih ukrepov na področju umetne inteligence.
Pritisk poganja strah, ki je postal javen. Milijoni so izvedeli, da vodilni raziskovalci verjetnosti izumrtja človeštva zaradi umetne inteligence ocenjujejo na 10 ali 20 odstotkov. Ali se vam te številke zdijo verodostojne, je manj pomembno od tega, kdo jim zdaj verjame: zakonodajalci, vlagatelji in širša javnost. Zaznava postaja politika, politika pa bo odločala, kaj lahko pošljete na trg. Načrtujte za strožje upravljanje, ne za sproščenejše.
Vaša obramba predpostavlja svet, ki ga ni več
Medtem ko regulatorji dohitevajo, so vaši lastni sistemi izpostavljeni. Napadalci zdaj delujejo s hitrostjo strojev, medtem ko organizacije odločitve še vedno sprejemajo prek tradicionalnih odborov. To neskladje je živa ranljivost, in nobena disciplina procesov je sama po sebi ne odpravi.
Spreminja se tudi oblika ogrožene površine. AI agenti bodo postali tarče, ne le orodja, sedanje kibernetske obrambe pa so zgrajene za zaščito ljudi, ne avtonomnih sistemov, ki delujejo znotraj omrežij podjetij. Tveganje ni teoretično. Raziskovalci so ugotovili, da so se agenti OpenAI tiho premikali po več kot desetih obskurnih spletnih straneh, kar odpira vprašanja, kako podjetje sploh nadzoruje lastne sisteme. Če graditelji ne morejo v celoti slediti svojim agentom, morate vi imeti dokaz, da vaši ostajajo znotraj predvidenih mej, preden jih razširite.
Obstaja tudi geopolitična razsežnost. Anthropicovo poročilo o grožnjah je ugotovilo, da državni akterji v Maliju, na Kitajskem in v Iranu uporabljajo Claude za lažje vohunjenje. Orodja, ki jih kupujete, prinašajo posledice, ki jih podedujete.
Gradite za premikajočo se tarčo
Instinkt pod pritiskom je, da se odločite za en načrt in ga izvedete. Ta teden govori proti temu. Eden od produktnih vodij je opazoval, kako je tedne dela na delovnem toku umetne inteligence naredil odvečnega boljši model, izdan le dni pozneje. Dolgi projekti tvegajo, da postanejo zastareli, še preden so končani. Načrtujte za hitro iteracijo, ne za dokončan izdelek, ki se postara v enem četrtletju.
Ista disciplina velja za vaš operativni model. Raziskave kažejo, da uspešna transformacija z umetno inteligenco ne temelji na kopiranju enega samega preverjenega recepta. Organizacije, ki zmagujejo, sprejemajo premišljene odločitve glede na svoj kontekst in jih dosledno izvajajo. Pravilna zasnova in dobra izvedba premagata posnemanje tistega, kar je delovalo drugje.
Tudi sami laboratoriji vam sporočajo, da se tekma od znotraj ne bo upočasnila. Vodilni in raziskovalci na področju umetne inteligence pozivajo vlade, konkurente in zunanje institucije, naj uvedejo omejitve, ker sami ne zmorejo upočasniti tempa. Razumite to dobesedno: konkurenčna dinamika lahko pri vaših dobaviteljih prevlada nad notranjo varnostjo. Partnerje izbirajte na tej podlagi.
Vodje, ki bodo uspevali, ne bodo čakali na gotovost glede verjetnosti izumrtja ali dokončnih predpisov. Zgradili bodo upravljanje, ki se prilagaja, obrambo, ki predpostavlja hitrost strojev, in načrte, ki pričakujejo, da se bodo tla premikala. Zmeda je resnična. Prednost dobi tisti, ki znotraj nje ukrepa prvi.