Dr. Kuruvilla Pandikattu: Može li umjetna inteligencija imati savjest?

Dok se tehnološke tvrtke okreću religiji za moralno vodstvo, svijet se mora zapitati mogu li strojevi postati etični bez ljudske mudrosti. U prilično neočekivanu obratu, neke od vodećih svjetskih tehnoloških tvrtki okreću se religiji za vodstvo. Nakon što su stvorili strojeve sposobne za zapanjujuće podvige inteligencije, sada se suočavaju s pitanjem o kojemu filozofi i religijski mislioci raspravljaju stoljećima: Što nešto čini ispravnim ili pogrješnim?

Izvještaj Associated Pressa od 25. listopada opisuje kako se programeri umjetne inteligencije bave vjerskim tradicijama kako bi razumjeli moral. Govoreći na događaju u Vatikanu ranije ove godine, suosnivač Anthropica Chris Olah priznao je da se neka od pitanja s kojima se suočavaju programeri umjetne inteligencije protežu dalje od onoga što tehnološki laboratoriji mogu riješiti. Ovaj razvoj događaja ujedno je ohrabrujući i ironičan. Stvorili smo strojeve koji mogu pisati poeziju, dijagnosticirati bolesti, analizirati pravne slučajeve i rješavati matematičke probleme. Ipak, nismo sigurni mogu li razlikovati ono što je tehnički moguće od onoga što je moralno dopušteno. Naučili smo strojeve kako razmišljati. Sada se mučimo kako ih naučiti kako se ponašati.

Inteligencija nije savjest

Stroj može prepoznati obrasce, tumačiti upute i davati odgovore koji djeluju obzirno, suosjećajno ili moralno sofisticirano. No, znači li to da posjeduje savjest? Student može naučiti napamet sva načela medicinske etike, a da pritom ne postane suosjećajan liječnik. Političar može održati briljantne govore o pravdi, a da se pritom prema svojim protivnicima ne odnosi pravedno. Vjerski vođa može poznavati sve zapovijedi, a da pritom ne živi moralno odgovornim životom.

Znati što je ispravno nije nužno isto što i činiti ono što je ispravno

Ova filozofska razlika je ključna. Inteligencija se odnosi na sposobnost prikupljanja i obrade informacija, rasuđivanja i rješavanja problema. Savjest se odnosi na moralno prosuđivanje, odgovornost i spoznaju da vlastiti postupci utječu na druge. Trenutni AI sustavi mogu simulirati etičko razmišljanje. Može li umjetni sustav ikada posjedovati moralnu svijest, ostaje sporno filozofsko i znanstveno pitanje. Još važnije, čak ni stroj koji se etički ponaša ne oslobađa ljude odgovornosti za svoje posljedice.

Indija i moralni izazov umjetne inteligencije

Sa svojim brzo rastućim digitalnim gospodarstvom, velikom tehnološkom radnom snagom i ambicijama u umjetnoj inteligenciji, zemlja ima mnoge dobiti od ovoga razvoja. AI može podržati ruralnu zdravstvenu skrb, poljoprivredno planiranje, obrazovanje na regionalnim jezicima, upravljanje katastrofama i pristup javnim uslugama. Zamislite plemensko dijete koje prima personaliziranu obrazovnu pomoć na svome materinskom jeziku, poljoprivrednika koji dobiva pravovremene informacije o bolestima usjeva ili seoskoga zdravstvenog radnika koji identificira medicinske rizike uz tehnološku potporu. To su istinski humane mogućnosti. Ali zamislite i algoritam koji nepravedno odbija zahtjev siromašne osobe za financijsku pomoć, automatizirani sustav zapošljavanja koji stavlja žene u nepovoljan položaj ili deep fake koji uništava nečiji ugled. Ista tehnološka moć može osloboditi ili isključiti. Društvene nejednakosti u Indiji čine ovo posebno važnim. Algoritam obučen na nepravednim društvenim stvarnostima, može reproducirati te nepravde brže i s većom prividnom objektivnošću. Diskriminirajuća ljudska odluka može se osporiti kao čin predrasude. Kada diskriminacija proizlazi iz sofisticiranoga tehnološkog sustava, može steći nezasluženi autoritet znanstvene neutralnosti. Stoga se moramo pitati ne samo radi li umjetna inteligencija učinkovito, već i čijim interesima služi i čije dostojanstvo štiti.

Može li religija naučiti strojeve moralu?

Vjerske tradicije odražavale su moral mnogo prije nego što su računala postojala. Kršćanstvo naglašava dostojanstvo svake osobe, posebno ranjivih. Hinduističke tradicije naglašavaju dharmu, etičku odgovornost i ispravno ponašanje. Budizam stavlja suosjećanje i ublažavanje patnje u središte moralnoga života. Džainizam podržava zahtjevni princip ahimse, nenasilja prema živim bićima. Islam naglašava pravdu i odgovornost. Ove tradicije ne mogu se svesti na univerzalni računalni program. Razlikuju se u shvaćanju ljudske prirode, moralnoga autoriteta i konačne stvarnosti. Unatoč tomu, one pružaju nešto što tehnološki sustavi ne mogu generirati samo većom računalnom brzinom: stoljeća promišljanja o patnji, odgovornosti, ljudskoj slabosti i općemu dobru.

Katolička tradicija nudi važnu razliku. U Gaudium et Spes Drugi vatikanski koncil opisuje savjest kao najdublje mjesto gdje se ljudska osoba susreće s moralnom obvezom. Savjest nije samo baza podataka o pravilima. Ona uključuje odgovornost osobe koja mora odgovarati za izbore učinjene u odnosu na druge. Strojevi mogu pomoći u moralnomu promišljanju. Ne smiju postati zamjena za ljudsku odgovornost.

Međutim, postoji neposrednija briga. Što se događa kada sama ljudska bića počnu prepuštati moralni sud strojevima? Učitelji mogu dopustiti algoritmima da utvrde jesu li učenici sposobni. Tvrtke mogu delegirati odluke o zapošljavanju i otpuštanju. Vlade se mogu sve više oslanjati na automatizirane sustave za klasifikaciju građana i raspodjelu resursa. S vremenom bi opasna tvrdnja mogla postati uobičajena: „Računalo je odlučilo.“ No, računala ne snose odgovornost na način na koji to čine ljudi i institucije. Bolnica ne može izbjeći odgovornost okrivljujući svoj dijagnostički softver. Banka ne može opravdati diskriminaciju pozivanjem na svoj algoritam. Vlada ne može opravdati nepravdu samo zato što je odluku donio automatizirani sustav. Tehnologija mora ostati odgovorna čovječanstvu.

Papa Franjo često je upozoravao na svođenje ljudskih bića na tehničke ili ekonomske izračune. Papa Lav nastavio je izražavati tu zabrinutost, stavljajući ljudsko dostojanstvo u središte odnosa Crkve prema umjetnoj inteligenciji. Prava opasnost nije samo u tome što bi strojevi mogli postati inteligentniji od ljudi. Opasnost leži u tome što bi ljudi mogli postati manje voljni koristiti svoju moralnu inteligenciju.

Potreba za mudrošću, a ne samo za inteligencijom

Indijske filozofske tradicije nude važan podsjetnik: znanje i mudrost nisu isto. Pojedinac može posjedovati izvanredno znanje, a ipak mu mogu nedostajati samokontrola, poniznost ili suosjećanje. Štoviše, inteligencija koja služi pohlepi ili mržnji, može postati iznimno destruktivna. Isto vrijedi i za umjetnu inteligenciju. Ako našim društvima upravljaju predrasude, umjetna inteligencija ih može automatizirati. Ako naša gospodarstva nagrađuju izrabljivanje, umjetna inteligencija ga može učiniti učinkovitijim. Ako vlade teže pretjeranoj kontroli, umjetna inteligencija može pružiti alate za nadzor bez presedana.

No, ako smo predani pravdi, uključivosti i ljudskomu dostojanstvu, umjetna inteligencija može postati moćan instrument za ljudski procvat. Stoga, etička zadaća nije samo učiniti strojeve boljima, već učiniti odgovornijima ljudske institucije koje ih osmišljavaju, uvode i njima upravljaju.

Možda je pitanje pogrešno postavljeno. Umjesto da se pitamo može li umjetna inteligencija razviti savjest, trebali bismo se najprije zapitati ima li čovječanstvo dovoljno savjesti da upravlja umjetnom inteligencijom.

Ne trebamo strojeve koji postaju ljudi. Trebamo ljude koji postaju humaniji.

(kta)