Drugi dio note »Antiqua et nova« (Staro i novo) Dikasterija za nauk vjere i Dikasterija za katolički odgoj o odnosu umjetne i ljudske inteligencije promišlja o uporabi umjetne inteligencije (UI) na nekim ključnim područjima života, konkretno o etičkim implikacijama za društvo, ljudske odnose, ekonomiju i rad, odgoj i obrazovanje, (dez)informiranje, privatnost i nadzor, zaštitu zajedničkoga doma, način ratovanja te naposljetku za odnos čovječanstva s Bogom.
Nota s jedne strane ustraje na načelno pozitivnom stajalištu prema UI-ju te na svakom navedenom području (osim ratovanja) pronalazi pozitivne mogućnosti primjene UI-ja. Ipak je veći dio teksta posvećen raznovrsnim pozivima na oprez. Taj se oprez očituje, primjerice, kad nota, govoreći o ratu, spominje teoretičare koji se pribojavaju da bi umjetna inteligencija, uparena s oružjem masovnoga uništenja, mogla ugroziti čovjekov opstanak na Zemlji. Što će biti, ne može se u potpunosti predvidjeti, ali je »dobro poznato što su nažalost kadra napraviti ljudska bića«. »Okrutnosti koje su već počinjene tijekom povijesti dovoljne su da izazovu duboke zabrinutosti glede mogućih zloporaba UI-ja«, kaže se u noti.
Nedostatak jasno definirane odgovornosti
Govoreći u utjecaju umjetne inteligencije na društveni razvoj, nota tako kaže da njezina uporaba može promicati, ali i »priječiti ili se čak protiviti ljudskomu razvoju i općemu dobru«. Štoviše, prema papi Franji, »čini se da do sada prikupljeni podatci navode na to da su digitalne tehnologije poslužile za povećanje nejednakosti u svijetu«, i to ne samo kad je riječ o materijalnom bogatstvu, nego i o »pristupu političkomu i društvenomu utjecaju«.
Stoga bi se umjetna inteligencija mogla rabiti za »produljenje stanja marginalizacije i diskriminacije, za stvaranje novih oblika siromaštva, za proširenje ‘digitalnoga jaza’ i otežavanje društvenih nejednakosti«. Kao opasnost se, nadalje, spominje »koncentriranost glavnih aplikacije UI-ja u rukama malobrojnih moćnih tvrtki« te »nedostatak jasno definirane odgovornosti (‘accountability’)«, što može dovesti do »suptilnih, ali invazivnih oblika kontrole, stvarajući mehanizme manipuliranja savjestima i demokratskim procesom«.
Govoreći o ljudskim odnosima, nota čak dvaput upozorava na težnju k »antropomorfizaciji« UI-ja (pripisivanja ljudskih osobina), koja »nameće posebne teškoće za rast djece koja se mogu osjetiti poticanima razvijati sheme interakcije koje pretpostavljaju ljudske odnose na utalitaristički način, kao što je slučaj s ‘chatbotovima’ (aplikacije za razgovor, pismeni ili usmeni, sa strojem)«. Posebno se pak naglašava da »ni jedna aplikacija UI-ja nije kadra uistinu doživjeti empatiju«. »Ako na mjesto takvih odnosa (s osobama) i odnosa s Bogom dođu odnosi sa sredstvima tehnologije, postoji opasnost da se istinska odnosnost zamijeni beživotnim kumirom«, kaže nota.
Kad se odgovornost ne smije prebacivati na UI?
Umjetna je inteligencija »izvor silnih prigoda, ali i dubokih opasnosti« rada. Posebno se ističe opasnost da se »diskvalificiraju radnici, podvrgavajući ih automatiziranomu nadzoru i vežući ih uz rigidne i ponavljajuće funkcije«, kao i opasnost da rad općenito »izgubi svoju vrijednost u gospodarskom sustavu«. Pritom se podsjeća da rad nije samo gospodarska kategorija, nego je i sredstvo čovjekova rasta i ostvarenja. »Stoga bi poštovanje dostojanstva radnika i važnost zaposlenja za gospodarsko blagostanje osoba, obitelji i društava, sigurnost radnih mjesta i pravednost plaća trebali biti visok prioritet za međunarodnu zajednicu dok te tehnologije sve dublje prodiru na radna mjesta«, kaže nota.
Kad se govori o zdravstvenoj skrbi, velike mogućnosti UI-ja gotovo ne treba posebno isticati. No jedna od opasnosti jest da zdravstveni djelatnici »njeguju interakciju sa strojem umjesto s ljudskim bićem«, što bi dovelo do »povećanja usamljenosti koja često prati bolest«. Nota nadalje iznosi tvrdnju koja se može ubrojiti među ključna načela: »Odluke koje se odnose na postupanje s pacijentima i teret odgovornosti koji je s njim povezan uvijek moraju ostati u rukama osoba, a nikada ne smiju biti povjerene UI-ju.« To načelo podsjeća na maksimu, preuzetu od pape Franje, koja je iznesena u dijelu koji se tiče ratovanja i upotrebe autonomnoga oružja: »Ni jedan stroj ne bi nikada smio izabrati hoće li oduzeti život ljudskomu biću.« Kad je riječ o zdravstvenoj skrbi, dokument također upozorava da bi umjetna inteligencija mogla pridonijeti tomu da medicina jednima pruža »napredne instrumente prevencije i personalizirane medicinske informacije«, dok bi drugima bio otežan »čak i pristup osnovnim uslugama«.
Štovanje djela vlastitih ruku je – idolatrija
Promicati kritičku misao
»Fizička prisutnost nastavnika stvara odnosnu dinamiku koju UI ne može replicirati«, prvi je veliki zaključak note »Antiqua et nova« kad govori o odgoju i obrazovanju. Uklopi li se UI u okvire cjelovite ljudske formacije koja bitno »prolazi« kroz interakciju među osobama, »može postati dragocjenim odgojnim resursom«. No upozorava se da bi široka uporaba UI-ja »mogla dovesti do povećane ovisnosti učenika o tehnologiji, ugrožavajući njihovu sposobnost da samostalno obavljaju neke aktivnosti, te do pogoršanja ovisnosti o ekranima«. Nadalje se ističe potreba »promicanja odgovornih sloboda« te »odgoj za upotrebu oblika UI-ja« kojemu bi ponajprije trebao biti cilj »promicanje kritičke misli«.
»Postoji ozbiljna opasnost da UI stvara manipulirane sadržaje i pogrješne informacije« koje je teško razlikovati od stvarnih, pri čemu posebno »zabrinjava namjerna upotreba u svrhu manipulacije«, kaže nota u dijelu teksta naslovljenu »UI, dezinformiranje, ‘deepfake’ i zloporabe«. Posebno se upozorava na opasnost ‘deepfake’ uradaka, tj. lažnih prikaza osobe koje je modificirao ili proizveo algoritam UI-ja. »Premda slike ili videouradci mogu biti umjetni, štete koje uzrokuju stvarne su te ostavljaju duboke rane u srcu koje ih podnosi, koje se osjeća ranjenim u svojem ljudskom dostojanstvu.« No osim na pojedinca, »izobličujući odnos s drugima i sa stvarnošću«, lažni uradci mogu »postupno potkopati temelje društva«. »Budući da ‘deepfake’ uradci sve dovode u pitanje, polarizacija i konflikt ne će moći nego rasti. Tako raširena prijevara nije problem od drugotne važnosti: on pogađa srce čovještva, rušeći temeljno povjerenje na kojem se zasnivaju društva«, kaže se u noti koja one koji proizvode i raspačavaju građu stvorenu uz pomoć UI-ja poziva da »provjere istinitost« uradaka te da ne distribuiraju »riječi i slike koje srozavaju ljudsko biće«, tj. da isključe »ono što hrani mržnju i nesnošljivost, obezvrjeđuje ljepotu i intimnost ljudske spolnosti, izrabljuje slabe i nezaštićene«. No suodgovoran je i »svaki korisnik s obzirom na svoju aktivnost na mreži«, kaže se u noti.
Veliki potrošači energije
Govoreći o »privatnosti i kontroli«, dokument snažno podsjeća na važnost poštovanja privatnosti, intime, slobode i dobroga glasa. Budući da UI omogućuje »utvrđivanje shema ponašanja« i na temelju minimalnih podataka, nota ustraje na pridavanju još veće važnosti »tajnosti podataka i zaštiti dostojanstva i odnosne naravi ljudske osobe«. »Ne može se opravdati uporaba UI-ja u svrhu kontrole radi iskorištavanja; kako bi se ograničila sloboda osoba ili kako bi se pogodovalo nekolicini na štetu mnogih. Nad opasnošću pretjeranoga nadzora moraju bdjeti odgovarajuća nadzorna tijela kako bi se zajamčila transparentnost i javna odgovornost. Zaduženi za taj nadzor ne bi nikada smjeli izići iz okvira svojih ovlasti«, kaže se u dokumentu. Nota »Antiqua et nova« također ulazi u pitanje takozvane društvene procjene (»social scoring«) u svrhu zaposlenja ili sl. »Ne možemo dopustiti da algoritmi ograničavaju ili uvjetuju poštovanje ljudskoga dostojanstva niti da isključe suosjećanje, milosrđe, opraštanje te, nadasve, otvorenost nadi u promjenu osobe«, kaže nota citirajući papu Franju.
I kad je riječ o »zaštiti zajedničkoga doma«, dokument podsjeća da je masovna uporaba napredne umjetne inteligencije povezana s velikom potrošnjom energije. »Imajući u vidu obol koji te tehnologije zahtijevaju od okoliša, razvijanje održivih rješenja ključno je kako bi se smanjio njihov utjecaj na ‘zajednički dom’«, kaže se u noti.
Potrebna je »mudrost srca«
Pravi problem naposljetku nije umjetna inteligencija, nego pravi problem leži u čovjeku. Tako bi se mogao opisati zaključak note. Ona citira filozofa Nikolaja Berdjajeva: »Nedostojno je prenijeti odgovornost s čovjeka na stroj«, kao i francuskoga katoličkoga pisca Georgesa Bernanosa: »Opasnost nije u umnažanju strojeva, nego u sve većem broju ljudi koji su navikli, od djetinjstva, ne željeti drugo doli ono što strojevi mogu dati.« Još nije posve jasno koje će sve izazove UI postavljati, no ključno je za njezino vrjednovanje hoće li ona pomoći čovjeku »da postane uistinu bolji«, kaže se u noti. Nota završava pozivanjem na mudrost kao mjesto gdje se dodiruje ljudskost i svjetlo objave. U tom je svjetlu »mjera savršenstva osoba stupanj ljubavi, a ne količina podataka ili znanja koju mogu prikupiti« (papa Franjo, pobudnica »Gaudete et exultate). Spominje se i Franjina enciklika »Dilexit nos« i njezina »mudrost srca« – mudrost koja naposljetku dolazi od Duha Svetoga, od Boga.
