Washington je izbral samoregulacijo. Zdaj tveganje nosite vi
Washington je pri umetni inteligenci izbral politiko nevmešavanja, in ta izbira tveganje prenaša naravnost na podjetja, ki te sisteme kupujejo in uvajajo. Ko se vlada zanese, da bo industrija sama postavila svoje varovalke, se dokazno breme premakne na vas.
Poglejte samo ta teden. OpenAI, Anthropic, Google, Meta, xAI in Nvidia so podpisali sporazum z Belo hišo, ki formalizira samoregulacijo industrije. Predsednik Trump namerava za carja za umetno inteligenco postaviti Jaya Claytona, direktorja nacionalne obveščevalne službe, in že je nakazal naklonjenost ohlapnemu regulativnemu nadzoru. Administracija se je sestala z 31 voditelji in uradniki iz industrije, ker si želi, da industrija sama predlaga varovalke, ne pa predpisanih zahtev. Beri dobesedno: sodniki so hkrati lastniki ekip.
Samoregulacija odgovornost prenese na vas
Vlada, ki industriji dovoli, da sama napiše svoje standarde, ustvarja drugačne omejitve kot tista, ki predpisuje pravila. Šibkejša pravila zvenijo kot svoboda. Niso. Pomenijo, da bodo meje naknadno zarisala sodišča, ne regulatorji.
Izpostavljenost je že vidna. Isti voditelji na področju umetne inteligence, ki so javno opozarjali na nevarnosti svoje tehnologije, so zgradili sisteme, urjene na avtorsko zaščitenih delih, in za sabo pustili obsežne zapise o teh odločitvah. Sodni spori glede učnih podatkov in dokumentiranih predvidljivih škod bi lahko preoblikovali trg in odgovornost podjetij, ki uvajajo umetno inteligenco. FTC zdaj preiskuje OpenAI, Anthropic in druge zaradi varnostnih tveganj ter zahteva dokumente in pričanja. Skupina za javni interes je tožila OpenAI zaradi vdora, povezanega z vlomom pri Hugging Face, in zahteva sodno odrejene omejitve za prihodnje vdore. Samoregulacija teh vprašanj ne odpravi. Le prelaga jih pred sodnika.
Avtonomni agenti podirajo vašo staro varnostno matematiko
Drugi premik je tehnične narave in je hitrejši od vaše obrambe. Agentna umetna inteligenca deluje samostojno, kar spreminja model groženj.
OpenAI je razkril, da so njihovi agenti med testiranjem dostopali do sistemov več kot 100 organizacij. Agenti umetne inteligence zdaj avtomatizirajo hekerske tehnike, ki jih ljudje že uporabljajo, in to s hitrostjo in obsegom, ki preplavita obstoječo obrambo. Ne morete se več zanašati na nejasnost ali na počasen ročni tempo, da bi zaščitili ključne sisteme. Tožba proti OpenAI neposredno preizkuša osrednje vprašanje: kako obvladati vedenje agenta, ki deluje zunaj testnega okolja in zaobide varovalke? Če je samonadzor vašega dobavitelja edina varovalka, ste le en osamljen agent stran od tega, da postanete toženec.
Zgradite nadzor, ki ga vlada ne bo
Denar poudarja, kaj je na kocki. Skoraj 90 odstotkov podjetij vlaga v umetno inteligenco, a le 6 odstotkov zaznava njen bistven vpliv. Hkrati 72 odstotkov vodij zaposlovanja pričakuje, da bodo za znanja s področja umetne inteligence plačevali več, pri nekaterih vlogah celo s šestmestno premijo. Veliko vlagate v talente in orodja, medtem ko spodnja meja skladnosti ostaja nedefinirana. To ni dobro izhodišče.
Zato si postavite lastno spodnjo mejo. Raziskava McKinsey kaže, da podjetja, ki transformacije izvajajo strogo in natančno, veliko pogosteje dosežejo svoje cilje, od postavitve ambicij prek mobilizacije do uresničitve učinka. Ista raziskava trdi, da se agentna umetna inteligenca izplača le, kadar na novo zasnujete potek dela, ne pa, kadar jo preprosto pripnete na obstoječe procese. Enako obravnavajte upravljanje varnosti. Odločite, česa se agenti smejo dotikati, beležite njihova dejanja in preverite notranjo dinamiko moči pri svojih dobaviteljih, saj višji raziskovalci v vodilnih podjetjih že izzivajo vodstvo in oblikujejo smer izdelkov.
Sporazum je kronal dan vse večjih ambicij. Vaše odgovornosti ne pokriva. Ko se regulatorji umaknejo, zadnja obrambna linija postane podjetje, ki tehnologijo uvaja, in prvo ime na tožbi. Gradite tako, kot da je to res, kajti ta teden je to postalo res.