Svätá stolica: Umelá inteligencia je príležitosť, človek však riskuje, že sa stane otrokom strojov

Salvatore Cernuzio – Vatikán

Pápežove výstrahy v súvislosti s umelou inteligenciou z posledných rokov tvoria osnovu nóty Antiqua et Nova o vzťahu medzi umelou a ľudskou inteligenciou, ktorá je plodom vzájomnej reflexie medzi Dikastériom pre náuku viery a Dikastériom pre kultúru a vzdelávanie. Dokument je adresovaný tým, ktorí sú povolaní vychovávať a odovzdávať vieru, ale aj tým, ktorí zdieľajú potrebu vedeckého a technologického rozvoja „v službe osobe a spoločnému dobru“ [5]. V 117 bodoch Antiqua et Nova sa poukazuje na výzvy a možnosti rozvoja umelej inteligencie (AI) v oblasti vzdelávania, hospodárstva, práce, zdravia, vzťahov a kontextoch vojny. V poslednej menovanej sfére by napríklad potenciál AI mohol zvýšiť vojnové zdroje „ďaleko za hranicami ľudskej kontroly“, čo by urýchlilo „destabilizujúce preteky v zbrojení s ničivými dôsledkami pre ľudské práva“ [99].

Nebezpečenstvá a pokrok

Dokument podrobnejšie uvádza nebezpečenstvá AI, ale aj pokrok, ktorý podporuje ako „súčasť spolupráce“ človeka s Bohom [2]. Nezakrýva však obavy, ktoré sú spojené so všetkými inováciami, ktorých dôsledky sú zatiaľ nepredvídateľné.

Rozlišovanie medzi umelou inteligenciou a ľudskou inteligenciou

Niekoľko odsekov dokumentu je venovaných rozlišovaniu medzi umelou inteligenciou a ľudskou inteligenciou. „Zavádzajúce“, ako sa dočítame, je používanie samotného slova ‚inteligencia‘ v súvislosti s AI: nejde o ‚umelú formu inteligencie‘, ale o ‚jeden z jej produktov‘ [35]. A ako každý produkt ľudskej vynaliezavosti, aj AI môže byť zameraná na „pozitívne alebo negatívne ciele“. Umelá inteligencia môže skutočne zaviesť „dôležité inovácie“ [48], ale môže tiež riskovať zhoršenie situácií diskriminácie, chudoby, digitálnej priepasti, sociálnej nerovnosti [52]. „Etické obavy“ vzbudzuje skutočnosť, že „väčšina moci nad hlavnými aplikáciami umelej inteligencie je sústredená v rukách niekoľkých mocných spoločností“ [53], takže táto technológia je nakoniec manipulovaná na „osobný alebo firemný prospech“ [53].

Vojna

V súvislosti s vojnou sa v dokumente zdôrazňuje, že „vážny dôvod na etické obavy“ predstavujú autonómne a smrtiace zbraňové systémy schopné „identifikovať a zasiahnuť ciele bez priameho zásahu človeka“ [100]. Pápež vyzval na zákaz ich používania, keďže predstavujú reálnu hrozbu pre „prežitie ľudstva alebo celých regiónov“ [101]. Tieto technológie „dávajú vojne nekontrolovateľnú ničivú silu, ktorá postihuje mnoho nevinných civilistov, pričom nešetrí ani deti“, uvádza sa v dokumente Antiqua et Nova.

Ľudské vzťahy

Pokiaľ ide o medziľudské vzťahy, v nóte sa uvádza, že AI môže viesť k „škodlivej izolácii“ [58], že „antropomorfizácia AI“ predstavuje problém pre rast detí [60], a že predstavovanie AI ako osoby je „vážnym etickým porušením“, ak sa to používa na podvodné účely. Rovnako aj používanie AI na klamanie v kontextoch, ako je vzdelávanie, vzťahy, sexualita, je „nemorálne a vyžaduje si starostlivú ostražitosť“ [62].

Hospodárstvo a práca

Rovnaká ostražitosť sa vyžaduje aj v hospodárskej a finančnej oblasti. Osobitne v oblasti práce sa konštatuje, že zatiaľ čo na jednej strane má umelá inteligencia „potenciál“ zvyšovať zručnosti a produktivitu, na druhej strane môže „znižovať kvalifikáciu pracovníkov, podrobovať ich automatizovanému dohľadu a odsúvať ich na strnulé a opakujúce sa funkcie“ [67].

Zdravie

Dostatok priestoru sa v dokumente venuje otázke zdravotnej starostlivosti. Pripomína sa obrovský potenciál rôznych aplikácií v oblasti medicíny a je tu aj varovanie, že ak by umelá inteligencia nahradila vzťah lekár - pacient, hrozilo by „zhoršenie“ osamelosti, ktorá často sprevádza chorobu. Treba sa tiež vyvarovať posilnenia „medicíny pre bohatých“, v ktorej ľudia s finančnými prostriedkami využívajú pokročilé nástroje, zatiaľ čo ostatní nemajú prístup ani k základným službám.

Vzdelávanie

Na riziká sa upozorňuje aj v oblasti vzdelávania. Ak sa umelá inteligencia používa obozretne, môže zlepšiť prístup k vzdelávaniu a ponúknuť študentom „okamžitú spätnú väzbu“ [80]. Problémom je, že mnohé programy „iba poskytujú odpovede namiesto toho, aby študentov nútili, aby ich sami našli alebo aby sami písali texty“; čo vedie k tomu, že sa nerozvíja kritické myslenie [82]. Nehovoriac o tom, koľko „skreslených alebo vymyslených informácií“ a „falošných správ (fake news)“ môžu niektoré programy vygenerovať [84].

Falošné správy a deepfake

Pokiaľ ide o falošné správy, dokument varuje pred vážnym rizikom, že by umelá inteligencia „generovala manipulovaný obsah a falošné informácie“ [85], ktoré by sa potom šírili s cieľom „oklamať alebo poškodiť“ [87]. Nóta apeluje na to, aby sa vždy „dbalo na kontrolu pravdivosti“ toho, čo sa zverejňuje, a aby sa v každom prípade zabránilo „zdieľaniu slov a obrazov, ktoré ponižujú ľudské osoby“, a vylúčilo „to, čo podnecuje nenávisť a neznášanlivosť“ alebo znevažuje „intimitu ľudskej sexuality“ [89].

Súkromie a kontrola

Pokiaľ ide o súkromie a kontrolu, nóta poukazuje na to, že niektoré typy údajov môžu zájsť tak ďaleko, že sa dotknú „dokonca aj svedomia“ [90], pričom hrozí, že sa všetko stane „akýmsi divadlom, ktoré možno špehovať“ [92]. „Digitálny dozor sa môže použiť na vykonávanie kontroly nad životom veriacich a vyjadrovaním ich viery“ [90].

Spoločný domov

Pokiaľ ide o tému stvorenia, aplikácie umelej inteligencie na zlepšenie vzťahu k spoločnému domovu sa hodnotia ako „sľubné“. Súčasné modely AI si zároveň vyžadujú „obrovské množstvo energie a vody a výrazne prispievajú k emisiám CO2, a zároveň konzumujú zdroje intenzívnym spôsobom“.

Vzťah s Bohom

Napokon nóta varuje pred rizikom, že by sa ľudia stali „otrokmi diel, ktoré sami vyrobili“. Z toho vyplýva odporúčanie: „Umelá inteligencia by sa mala používať len ako doplnkový nástroj k ľudskej inteligencii a nemala by nahrádzať jej bohatstvo“ [112].

Preklad: Zuzana Klimanová