Poziv 226 organizacija za prestanak korištenja umjetne inteligencije u vojne svrhe

Države i tehnološke tvrtke više ne bi trebale dopustiti uporabu umjetne inteligencije (AI) u vojne svrhe u takozvanom "lancu ubijanja". Takav zahtjev izražen je zajedničkom Deklaracijom 226 potpisnika iz nevladinih organizacija, Svjetskog vijeća crkava, akademske zajednice i tehnološkog sektora, izvijestio je ekai. Deklaracija je objavljena u Ženevi povodom konferencije Ureda Ujedinjenih naroda za pitanja razoružanja (UNODA) o vojnoj umjetnoj inteligenciji i njezinim implikacijama za međunarodnu sigurnost koja je završena u srijedu 17. lipnja.

Podsjetimo, u enciklici "Magnifica Humanitas", objavljenoj početkom lipnja, papa Lav XIV. pozvao je na "razoružanje" umjetne inteligencije.

Zajednička deklaracija upozorava da ratovanje potpomognuto umjetnom inteligencijom može sve više pridonijeti "omogućavanju brzih i masovnih ubojstava", dok istovremeno nema dovoljno tehničkih ili regulatornih mehanizama za učinkovito ublažavanje prijetnje međunarodnom humanitarnom pravu. Stoga potpisnici zahtijevaju da se zaustavi pružanje takvih sustava za otkrivanje vojnih ciljeva i donošenje odluka o napadima. Osim toga, tvrtke bi trebale osigurati da njihovi proizvodi ne doprinose, izravno ili neizravno, kršenju ljudskih prava i ratnim zločinima. U nedostatku takvog jamstva relevantni ugovori ne bi trebali biti sklopljeni ili moraju biti raskinuti.

Kritike proizlaze iz zabrinutosti da bi AI sustavi mogli narušiti ključna načela međunarodnog humanitarnog prava, osobito načela razlikovanja, proporcionalnosti i zaštitnih mjera. Medijski izvještaji i službene izjave, uključujući one iz američkog obrambenog sektora, kao i procjene izraelskih vojnih sustava, ukazuju da je AI-asistirano pronalaženje ciljeva značajno povećalo brzinu i doseg vojnih operacija. To povećava rizik da će ljudska odgovornost u odlukama o životu i smrti biti umanjena, a napadi legalizirani pod utjecajem algoritamske objektivnosti, naglašavaju potpisnici Deklaracije.

Potpisnici dokumenta pozivaju države da zabrane korištenje umjetne inteligencije (AI), uključujući veliki jezični model (LLM), u vojnim procesima ciljanja i napada na ciljeve te da otkriju u kojoj se mjeri takve tehnologije već koriste. Tvrtke, s druge strane, ne bi trebale sklapati ugovore s vojnim sektorom osim ako se isključi mogućnost da će njihovi sustavi kršiti međunarodno humanitarno pravo. Cilj je spriječiti situaciju u kojoj će odluke o životu ili smrti sve više biti svedene na preporuke strojeva, a ljudske dužnosti održavanja ispravnog ponašanja postati praktički besmislene.

(kta)