Ľudská slabosť nie je softvérová chyba. Pápež Lev XIV. stavia ľudskosť nad AI (videopodcast)

„Encyklika hovorí o integrálnom, teda celostnom rozvoji človeka. Umelá inteligencia vytvára modlu výkonu a účinnosti. Ľudia, ktorí nespĺňajú kritériá efektivity, môžu byť považovaní len za štatistickú chybu, ktorú treba eliminovať,“ hovorí teológ Juraj Vittek. „Technológia sa tak nestáva pomocníkom, ale diktátorom. Otázka nestojí tak, či technológiu chceme alebo nie. Otázka je, či bude technológia slúžiť rozvoju ľudskosti, alebo po nej bude šliapať,“ dodáva.  

Po priemyselnej revolúcii a dôstojnosti robotníkov a ich práce prichádza reakcia na revolúciu, ktorú prináša umelá inteligencia. Na mušku si ju zobral pápež Lev XIV. vo svojej novej encyklike. Ak tá prvá z konca 19. storočia reagovala na svet parných strojov, tovární a položenia robotníckych más, tá aktuálna spred pár dní reflektuje svet algoritmov, dát a umelej inteligencie.

Ak sa Lev XIII. pred 135 rokmi postavil na stranu človeka a jeho dôstojnosti vo svete tovární a kapitálu, jeho menovec Lev XIV. analyzuje dopady raketového nástupu AI, ktorá mení spôsoby, ako pracujeme, komunikujeme a ovplyvňuje aj rozhodovanie človeka.

„Diktát rýchlosti“ ako nové otroctvo či ľudské limity ako obyčajná softvérová chyba, ktorú treba odstrániť.

Sme ešte pánmi technológií či súčiastkami v rukách neviditeľných algoritmov v rukách ich tvorcov a správcov? Kde v tom má miesto „civilizácia lásky“, o ktorej hovorí pápež Lev?

Téma pre teológa a publicistu Juraja Vitteka.

Juraj Vittek v podcaste Ráno nahlas s Jaroslavom Barborákom
Zdroj: Branislav Wáclav/Aktuality.sk

Čo je to encyklika a ako vzniká

Ešte predtým, ako pôjdeme k samotnému obsahu novej encykliky, vysvetlime si samotný pojem. O čo vlastne ide pri takýchto pápežských dokumentoch?

Pápeži vydávajú dokumenty rozličného charakteru a záväznosti. Tie najzáväznejšie sú takzvané konštitúcie. Encyklika je pomerne moderný spôsob komunikácie pápežov s cirkvou a so svetom. Prvá encyklika vznikla v 18. storočí a v devätnástom sa tento formát začal rozvíjať.

V 20. storočí sa už encyklika stala veľmi používaným spôsobom. Do našej reči by sme to mohli preložiť ako „obežník“. Je to však dokument veľkej váhy, pretože je obyčajne ovocím hlbokej, niekoľkoročnej reflexie na aktuálne témy života cirkvi a na otázky súčasnej doby. Pápež si necháva spracovať témy, pracuje na tom veľmi veľa ľudí.

Je to vyslovene tímová práca.

Má k dispozícii účinné orgány a múdrych ľudí, najmä Dikastérium pre náuku viery a iné dikastériá Svätej stolice. Keď ide o takzvané sociálne encykliky, ktoré sa týkajú pozemských vecí a nie vyslovene teológie, spolupracuje s vedcami najmä zo sociálnych vied. Nesmieme zabúdať, že pápež má k dispozícii najstaršiu vedeckú akadémiu na svete – Pápežskú akadémiu vied, ktorá mala vo svojej histórii vyše dvadsať nositeľov Nobelových cien.

Čiže je to dokument, ktorý má váhu, a ten mozgový trust za ním je neoškriepiteľný. Pri predstavovaní tejto encykliky pápež hovoril, že veľa načúval odborníkom z oblasti AI.

Treba povedať, že už pri samotnom predstavení encykliky bol prítomný a prehovoril aj jeden zo spoluzakladateľov spoločnosti Anthropic, ktorá vyvíja umelú inteligenciu. Sám poďakoval pápežovi za túto iniciatívu a vyzval k tomu, že takýto kritický hlas v sektore veľmi potrebujú.

Povedal, že sú pod rozličnými tlakmi: tlakom zostať komerčne životaschopnými, zostať na špici výskumu, pod geopolitickým tlakom a tiež pod staršími tlakmi pýchy a ambícií. To by človek nečakal od spolutvorcu tejto technológie. Povedal, že nech by chceli akokoľvek úprimne konať správne, vždy budú týmito motiváciami ovplyvňovaní. Preto je podľa neho nesmierne dôležité, aby existovali ľudia mimo týchto motivácií, ktorí ich budú úprimne kritizovať a hovoriť im aj veci, ktoré sa im nechce počúvať.

Na druhej strane treba povedať, že majiteľ a zakladateľ Anthropicu môže byť spokojný, dokument pápeža ako jedného z globálnych lídrov sa spája s jeho firmou. Je to obrovská reklama.

Samozrejme, to je veľká reklama.

Babylonská veža verzus obnovený Jeruzalem

Poďme k samotnému obsahu. Pápež hneď v úvode encykliky uvádza biblický obraz Babylonskej veže a dáva ho do kontrastu s ďalším – s obnovou Jeruzalema. Prečo si vybral práve tieto biblické obrazy, keď hovorí o umelej inteligencii?

To ukazuje na to, čo kedysi povedal pápež František – že by sme nemali diskvalifikovať múdrosť, ktorá pochádza z náboženskej tradície, len preto, že je náboženská. Má v sebe prvky, ktoré môžu byť veľkým svetlom aj pre súčasnosť.

Dnes nám hrozí, že podľahneme ideológii pokroku – presvedčeniu, že to, čo je nové, je automaticky lepšie. To však nie je pravda. Niektoré moderné či progresívne veci znamenali v skutočnosti úpadok. Múdrosť z biblických príbehov sa naprieč dejinami v rôznych kontextoch ukazuje ako veľmi aktuálna.

O čom teda hovorí kontrast obrazu Babylonskej veže verzus obnovené múry Jeruzalema?

Babylonská veža je vyjadrením falošného pokroku. Predstavuje spoločnosť budovanú na nadvláde a moci. Pápež ako hlavnú tému opakuje potrebu „odzbrojiť“ umelú inteligenciu. Vojna o nadvládu sa dnes nebojuje len zbraňami, ale aj kognitívnymi schopnosťami. Ten, kto ovláda informácie a technológie, môže ovládať druhých.

Encyklika chce zasiahnuť včas, nie hasiť dôsledky, keď už bude neskoro. Babylonská veža je model, kde AI slúži na ovládnutie a uniformitu. Ľudia sa pri nej nakoniec prestali rozumieť. Všetky totality sa snažia pošliapať kultúrnu aj individuálnu rozmanitosť, čo vedie k uniformite a novým formám kolonializmu.

Čo je zaujímavé, v tejto encyklike sa pápež Lev XIV. v mene cirkvi spravedlnil za otrokárstvo.

Áno, urobili to už aj jeho predchodcovia, napríklad Ján Pavol II. Musíme sa kriticky pozerať na minulosť, ktorej súčasťou bola aj katolícka cirkev. Aj v časoch španielskej nadvlády však boli osobnosti ako Francisco de Vitoria z univerzity v Salamanke, jeden zo zakladateľov medzinárodného práva, ktorí nahlas kričali proti neprávostiam priamo na kráľovskom dvore.

A ten druhý obraz – obnovované múry Jeruzalema?

Biblický prorok Nehemiáš obnovuje Jeruzalem a to je vízia, o ktorú by sme sa mali snažiť. Aby AI neslúžila na nadvládu, ale stala sa súčasťou budovania spoločnosti medziľudských vzťahov, kde nezabudneme na posledných a nevytvoríme nové formy vylúčenia.

Trh jednoducho nemyslí na všetkých a silné nástroje v rukách ekonomicky silných skupín môžu viesť k exklúzii. Pápež hovorí: „Poďme spolu budovať civilizáciu lásky.“ Zásadná je zodpovednosť. AI napríklad nemôže robiť niektoré rozhodnutia, pretože nemá súcit, milosrdenstvo, svedomie ani ľudské skúsenosti. Predstavte si autonómnu vojnu, kde sú vojenské rozhodnutia len výsledkom chladného kalkulu umelej inteligencie.

Napríklad chladný dron riadený AI, ktorý si vyberá cieľ…

Presne tak. Je to zbavenie sa zodpovednosti. Týka sa to aj oblasti práce, kde umelá inteligencia bude vypočítavať zlyhania zamestnancov a stane sa tak novým terorom, formou zotročenia. Tieto scenáre sa dnes môžu zdať ako preháňanie, podobne ako keď pápež Pius XI. varoval pred nacizmom. Pápež však varuje včas, aby technológie naďalej slúžili človeku.

Objektivita AI a ilúzia neutrality

Pápež pripomína, že samotné technológie vrátane AI nie sú neutrálne a preberajú charakteristiky tých, ktorí ich programujú a financujú. Ako vnímať toto upozornenie?

To je veľmi dôležitý bod. Mnohí si myslia, že AI je morálne neutrálny nástroj ako nôž – že ho môžeme použiť na dobro aj na zlo. Pápež však hovorí, že to tak nie je. Umelá inteligencia bude taká, akú ju vytvoria, usmernia a zregulujú jej tvorcovia.

A jej tvorcovia majú svoje záujmy a tlaky.

Preto pápež vyzýva vlády, vzdelávacie inštitúcie a celú spoločnosť, aby do tohto procesu vstúpili. V súčasnosti je AI v rukách niekoľkých technologických gigantov, ktorí majú často väčšiu moc ako samotné vlády.

Logika toho je, že vlády sú volené demokraticky, pričom tu hovoríme o sile financií.

Áno. Štáty sa stávajú klientmi týchto gigantov. Pápež nechce autoritatívne nanucovať svoj pohľad, ale ako morálna autorita chce prispieť k spoločnému dobru. Apeluje na to, aby sme nestratili kontrolu nad vývojom, do ktorého už teraz zasahujú autonómne procesy technológií.

Pápež sa ako hlava katolíckej cirkvi hovorí z pozície morálnej autority. Ako však brať jeho hlas v demokraciách, ktoré sa už v ústavách neviažu na žiadne náboženstvo?

Sú aj iné morálne autority a pápež sa nepasuje za jedinú. Dnes však vidíme novú paradigmu, kedy sa vojna opäť začína brať ako legitímny prostriedok na presadenie záujmov. OSN aj Bezpečnostná rada sa v mnohom ukazujú ako nefunkčné. Aký iný globálny hlas má dnes odvahu postaviť sa proti vojne ako spôsobu presadzovania záujmov? Pápež je slobodný od geopolitických, národných a mocenských motivácií, ktoré zväzujú štáty. Zastáva sa tých, ktorí nemajú hlas a upozorňuje na to, že vo vesmíre nie je nič vzácnejšie ako ľudskosť.

Transhumanizmus a ľudské limity ako softvérová chyba

Dokument odmieta transhumanizmus a posthumanizmus, ktoré sa na ľudskú ohraničenosť či chorobu pozerajú len ako na softvérovú chybu, ktorú treba odstrániť. Kde je podľa pápeža hranica, za ktorou technológie prestávajú človeku slúžiť?

Posthumanizmus a transhumanizmus sú ukážkovými príkladmi ideológie pokroku, ktorá pokrivuje realitu a samotnú ľudskosť. Sľubujú prekonanie ľudských limitov pomocou technológií – napríklad vytvorenie superinteligencie či prekonanie zdravotných obmedzení. Dokonca ponúkajú takzvaných „deadbotov“, digitálne repliky zosnulých, s ktorými sa budete môcť naďalej rozprávať. Otázka znie, či je to skutočné vyriešenie konečnosti človeka, alebo len ilúzia. My rastieme v našej ľudskosti nie napriek limitom, ale často práve vďaka nim. Človekom sa stávam aj vtedy, keď zlyhám alebo prežívam neúspech. Chladný stroj nikdy nenahradí partnera do dialógu a sprevádzanie človeka.

A my máme tendenciu pod vplyvom technológie redukovať človeka na výkon…

Presne tak. Encyklika hovorí o integrálnom, teda celostnom rozvoji človeka. Umelá inteligencia vytvára modlu výkonu a účinnosti. Ľudia, ktorí nespĺňajú kritériá efektivity, môžu byť považovaní len za štatistickú chybu, ktorú treba eliminovať. Technológia sa tak nestáva pomocníkom, ale diktátorom. Otázka nestojí tak, či technológiu chceme alebo nie. Otázka je, či bude technológia slúžiť rozvoju ľudskosti, alebo po nej bude šliapať.

Neviditeľní pracovníci a otroci digitálnej éry

Encyklika spája umelú inteligenciu s novodobým otroctvom. Upozorňuje, že za „mágiou cloudu“ stoja milióny neviditeľných pracovníkov v zlých podmienkach – často mladí ľudia a ženy, ktorí manuálne triedia dáta a trénujú modely, a tí, ktorí ťažia vzácne kovy do čipov…

Vďaka, že na to upozorňujete. Je úlohou médií zviditeľniť veci, ktoré bežne nevidíme. Keď si otvoríme ChatGPT, nevidíme, čo všetko za tým stojí. Vývoj techniky sa často prenáša do krajín tretieho sveta s lacnou pracovnou silou, aby výrobné náklady boli čo najnižšie. To už hraničí s modernými formami otroctva a práce v neľudských podmienkach. K tomu sa pridáva obrovský ekologický dopad – kvantá techniky, hektolitre vody na chladenie a prírodné zdroje. To hýbe geopolitikou. Napríklad Taiwan vyrába väčšinu polovodičov na svete. Kto bude ovládať tieto zdroje a technológie, bude mať obrovskú moc.

Tento dokument je v harmónii so staršou encyklikou Rerum Novarum z konca 19. storočia, ktorá bola o svete kapitálu a neraz neľudskom postavení robotníckych más. Lev XIV. aj dnes vyzýva na ochranu pracovných miest, rekvalifikáciu a transparentnosť. Ak o kariérnom postupe rozhoduje čierna skrinka algoritmov, jednotlivec nesmie stratiť právo odvolať sa a žiadať ľudské posúdenie.

Áno. Rozhodnutie nesmie byť len výsledkom chladného výpočtu. Pod zámienkou objektivity sa zbavujeme zodpovednosti a vyhovárame sa na to, že stroj to vyhodnotil objektívne. Pápež upozorňuje, že musíme určiť nielen to, kde AI využiť, ale aj to, kde ju nesmieme použiť. Nemôžeme nechať umelú inteligenciu riadiť celú personalistiku a rozhodovať o osudoch ľudí len na základe optimalizácie trhu. Práca nie je len prostriedkom na zisk, ale aj niečím, čo rozvíja kreativitu a dôstojnosť človeka. Aj neefektívni ľudia z hľadiska trhu majú právo pracovať.

Pravda, demokracia a strata ľudskosti

Encyklika upozorňuje na informačný chaos, dezinformácie a deepfakes. Pápež varuje, že táto kríza pravdy ohrozuje demokraciu. Keď verejnú diskusiu riadia algoritmy, ktoré odmeňujú polarizáciu, pravda sa stráca. Kam smeruje spoločnosť bez pravdy?

Taká spoločnosť jednoznačne skĺzava do neslobody. Ježiš povedal: „Pravda vás vyslobodí.“ Bez pravdy niet slobody. Namiesto pravdy nastupuje ideológia, ktorá slúži na ovládanie a totalitný spôsob myslenia. Cituje sa tam židovská filozofka Hannah Arendtová, ktorá povedala, že ideálnym poddaným totalitného režimu je človek, ktorý stratil schopnosť rozlišovať medzi pravdou a nepravdou. Pravda neznamená len informácie, ale aj správnu interpretáciu reality. AI nečíta realitu, iba vypočítava dáta. Nemá poctivosť ľudskej mysle. Umelá inteligencia preto môže byť skvelým nástrojom, ale nie na hľadanie pravdy, skôr na šírenie ideológií. Poctivú prácu novinára, ktorý hľadá a ukazuje realitu, umelá inteligencia nikdy nenahradí.

Ako teda brať túto encykliku? Ako ponuku pápeža ako globálneho náboženského lídra pre svet?

Je to v prvom rade príspevok spoločnému dobru. Cirkev chce prispieť k záchrane človečenstva. Nejde len o zachovanie súčasného stavu. Katolícky humanizmus je inšpirovaný Kristom – Boh sa stal človekom a zobral na seba pravú ľudskosť. Transhumanizmus chce ľudskosť prekročiť pomocou techniky, čo je slepá ulička. My už 2000 rokov hovoríme o prekročení hraníc ľudskosti v Kristovi, ktorý ju povýšil schopnosťou milovať a vytvárať skutočné vzťahy. To je ten nový Jeruzalem. Encyklika dokonca vôbec prvýkrát cituje J. R. R. Tolkiena a Pána prsteňov, kde je jasný kontrast medzi Mordorom – deštruktívnou technológiou – a Spoločenstvom prsteňa, ktoré buduje nový svet založený na vzájomných vzťahoch.

Tým Tolkienom to aj zakončíme: „Nie je našou úlohou zvládnuť všetky prúdy sveta, ale urobiť to, čo je v našich silách pre pomoc v dobe, do ktorej sme postavení, a vyklčovať zlo na poliach, ktoré poznáme, aby tí, čo prídu po nás, mali čistú zem na obrábanie.“

To najlepšie vyjadruje, k čomu pápež vyzýva. Nesmieme si myslieť, že o svete rozhodujú len mocní a my nemôžeme nič urobiť. Ľudskosť a človečenstvo môžeme budovať každý deň, tam, kde práve sme.

(Prepis rozhovoru je krátený. Celý si ho môžete vypočuť alebo pozrieť.)

Juraj Vittek v podcaste Ráno nahlas s Jaroslavom Barborákom
Zdroj: Branislav Wáclav/Aktuality.sk

Podcast pripravil Jaroslav Barborák.

Všetky naše podcasty nájdete na jednej stránke tu. Na odber všetkých nových dielov sa môžete prihlásiť cez iTunes, Google Podcasts alebo Spotify. Sledujte nás aj na facebookovej stránke Podcasty Aktuality.sk alebo na Instagrame.