Biskup Tighe: „Antiqua et Nova“ návodem k etickému rozvoji AI
Devin Watkins, Vatikán
Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání vydaly v úterý 28. ledna dokument s názvem „Antiqua et Nova: Poznámka o vztahu mezi umělou inteligencí a lidskou inteligencí“.
Podle tajemníka Dikasteria pro kulturu a vzdělávání se dokument snaží nabídnout katolickým institucím a celému lidstvu vodítko ohledně etického rozvoje a využívání umělé inteligence (AI).
V rozhovoru pro Vatican News biskup Paul Tighe uvedl, že Antiqua et Nova není konečným slovem o umělé inteligenci, ale spíše doufá, že přispěje k diskusi tím, že poskytne body k zamyšlení.
„Existuje širší chápání inteligence, které se týká naší lidské schopnosti nacházet cíl a smysl života,“ řekl. „A to je forma inteligence, kterou stroje ve skutečnosti nemohou nahradit.“
Zde je celý přepis rozhovoru s biskupem Tighem:
Svatý stolec právě vydal dokument s názvem „Antiqua et nova: Nóta o vztahu mezi umělou inteligencí a lidskou inteligencí“. Co je podle vás v tomto dokumentu „nového“ a co chce sdělit světu, zejména církvi?
Tento dokument spojuje mnoho úvah, které se organicky rozvíjely v průběhu posledních několika let. Umělá inteligence je na pořadu dne už asi deset let. Existuje déle a déle se o ní diskutuje, ale do povědomí veřejnosti se dostala v posledních deseti letech a velmi konkrétně asi v posledním roce s nástupem ChatGPT, který dal nástroje AI do rukou běžných uživatelů.
V současné době se snažíme shromáždit úvahy, které se objevují v církvi, v různých církevních organizacích. Zde ve Vatikánu máme poselství ke Světovému dni míru a poselství ke Světovému dni komunikace. Papežská akademie pro život se touto problematikou zabývá Římskou výzvou, Papežské akademie věd svolávají vědce, aby hovořili o umělé inteligenci, a my se zabýváme otázkou vzdělávání a umělé inteligence. Existuje myšlenka spojit to dohromady a přinést něco syntetického, co by sjednotilo všechny různé perspektivy, které organicky vznikaly, a možná je dát na jedno místo.
Není to také poslední slovo; to je první věc, kterou je třeba říci zcela jasně. Je to něco, s čím budeme žít, co bude vznikat. Snaží se však nabídnout lidem některé perspektivy, z nichž mohou začít kriticky uvažovat o umělé inteligenci a jejích možných přínosech pro společnost, a pak lidi trochu upozornit na to, o čem bychom měli přemýšlet, abychom nechtěně nevytvořili něco nebo nedovolili vytvořit něco, co by mohlo být pro lidstvo a společnost škodlivé.
Řekl bych, že je v tom určitý varovný prvek. Mnozí z nás na počátku sociálních médií velmi rychle přijali jejich mimořádný potenciál. Neviděli jsme nutně vedlejší účinky, které se objevily, pokud jde o polarizaci, falešné zprávy a další problémy.
Chceme přijmout něco, co má pro člověka velký potenciál. Chceme tento potenciál vidět a zároveň být pozorní k možným negativním stránkám. Myslím, že právě o to se zde snažíme. Jednoho dne si v novinách přečtete titulky, že umělá inteligence bude spásou nás všech. Druhý den čteme, že to bude zkáza a konec světa.
Snažíme se lidem nabídnout vyváženější přístup. Dokument se zaměřuje na řadu věcí. Jsou zde hlavní otázky, o kterých každý přemýšlel: otázky týkající se budoucnosti práce, války, deep fakes, nerovnosti. A jsou zde etické a společenské otázky, kterými se chceme zabývat.
Ale při jejich řešení se snažíme zaměřit také na základnější otázku, co to znamená být člověkem, na antropologickou otázku, co to znamená být člověkem. Co dává lidskému životu hodnotu, cíl a smysl? Uvědomujeme si, že systémy umělé inteligence mohou posílit a rozšířit určité části naší lidskosti, tj. naši schopnost uvažovat, zpracovávat, rozlišovat, objevovat, vidět vzorce a vytvářet inovace. To jistě může posílit.
Chceme také říci, že tento typ inteligence není jediným typem inteligence. Existuje širší chápání inteligence, které se týká naší lidské schopnosti nacházet účel a smysl života. Je zajímavé, že mnoho lidí, kteří pracují v oblasti umělé inteligence, jasně říká, že chtějí, aby umělá inteligence sloužila lidskému dobru, že chtějí, aby umělá inteligence byla zaměřena na člověka; chtějí umělou inteligenci pro lidstvo. Všechny tyto přívlastky tam jsou.
Součástí otázky, kterou si musíme položit, je: co je to, co je dobré pro lidstvo? Co je to, co podporuje blaho člověka? A to je forma inteligence, kterou stroje skutečně nemohou nahradit. Musíme pochopit, že v katolické tradici, která má kořeny v našich vlastních filosofických tradicích, nejen v katolicismu, je naše chápání inteligence více než pouhé uvažování, počítání a zpracování, ale zahrnuje také tuto schopnost hledat v našem životě účel, smysl a směr.
Dokument se snaží otevřít toto širší chápání inteligence z hlediska několika kategorií. Jednou z nich je podle něj překročení čisté racionality a posun k otázkám, jako je skutečnost, že mnoho z toho, jak rosteme jako lidské bytosti, je v dialogu a debatě s ostatními. Vztahovost se stává klíčovou součástí toho, co je to lidská inteligence: naše schopnost učit se od druhých. Jde také o ztělesnění. Stále více se učíme, že naše mysl není oddělena od našeho těla. Nejsou něčím, co lze jednoduše pozvednout a vložit do počítače. Jsou organické. Učíme se prostřednictvím činnosti. Učíme se prostřednictvím svých emocí. Učíme se prostřednictvím své intuice.
Ty jsou důležité pro lidskou moudrost, která z toho všeho vyrůstá. Výpočet je toho součástí, ale není to celý příběh. A konečně si myslím, že to, co nás vždy zajímá, je hledání nejvyšších pravd, toho, co dává životu tvar, cíl a smysl. To je něco, v čem nám může umělá inteligence pomoci s určitými prvky, ale v konečné analýze je to typ intelektuálního závazku, který přesahuje něco, co může prostě udělat stroj.
Vývoj umělé inteligence se vyvíjí rychlým tempem. Proč se Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání rozhodly vydat tento dokument právě v tuto chvíli?
Vatikán tomu věnuje pozornost, a to nejen Svatý stolec, ale katolická církev v širším smyslu, a mnoho katolických univerzit vede úvahy o umělé inteligenci a jejím významu. Pokud máme být upřímní, je to zvýšená pozornost veřejnosti k AI v posledním roce a půl s příchodem ChatGPT. Jsou k dispozici další modely snadno použitelných systémů umělé inteligence, které tomu dodaly naléhavost.
Z našeho pohledu si jistě v rámci světa vzdělávání všichni pedagogové kladou otázky ohledně potenciálu AI pomáhat ve vzdělávání a rizik, pokud by nějakým způsobem de-personalizovala povahu vzdělávání. Odpovídáme také na otázky, které nám byly položeny během návštěv ad limina, protože biskupové chtějí nějakou orientační informaci.
Tento dokument spojuje spoustu dalších iniciativ a dává je dohromady. Dává tomu také jednotu vize, která se snaží sjednotit etické otázky a propojit je s tou zásadnější antropologickou vizí toho, co nás dělá lidmi.
Zajímavé bylo, že se Organizace spojených národů snaží pracovat na celkových systémech řízení umělé inteligence. Jeden z problémů, které se tam objevily je tento: „To jsou samozřejmě otázky, které vyvolávají otázky týkající se budoucnosti lidstva, ale ve skutečnosti to nemůžeme udělat, protože na to existuje příliš mnoho různých názorů.“
Také UNESCO řeklo, že umělá inteligence - a to bylo to, co mě velmi silně zasáhlo - vede k tomu, co nazývají antropologickým rozvratem. Silicon Valley miluje jazyk narušení, rozbití, aby bylo možné vynalézt něco nového. Ale tady mluvíme o povaze toho, co je to být člověkem a co je to, co činí lidský život uspokojivým. Stává se velmi důležitým, abychom se nad tím kriticky zamysleli a abychom neobcházeli otázku po konečném smyslu života.
Myslím, že v tomto dokumentu se silně objevují otázky týkající se rizika zvýšení nerovnosti v souvislosti s umělou inteligencí. Obecně to můžete vidět na rozložení toho, co se stalo s digitalizací, která vedla k nárůstu velmi malého počtu mimořádně bohatých lidí, kteří mají mimořádně velkou moc, za kterou nejsou nutně odpovědní jiným institucím. Jak tedy uvažovat o tom, aby to nesloužilo k rozbití jednoty lidské rodiny, která je jednotou ekonomickou, ale je také přístupem k moci a informacím?
Jednou z oblastí, kde má umělá inteligence mimořádný potenciál, je oblast zdravotní péče. Víme však, že zdravotní péče již dnes bývá nepříliš spravedlivě rozdělena. Povede to k dalším nerovnostem v této oblasti? Hodně o tom přemýšlíme a načasování je takové, že tam musíme mít nějakou možnost se touto debatou zabývat.
Toto není konečné slovo. Nemůže to být konečné slovo, protože se jedná o nově vznikající oblast. Ale také se snažíme zajistit, abychom stanovili nějaké ukazatele, nějaké body, které by lidé, kteří mají zájem se do debaty zapojit, mohli uchopit a pracovat s nimi.
Je to psáno pro církev a katolické instituce, ale je to také pro všechny lidi, abychom jim nabídli a řekli, že je to něco, co bude mít obrovský dopad na budoucnost lidstva. Přemýšlejme o tom, přidejme k tomu své hlasy. A nemějme pocit, že protože technologicky je to docela složité, že bychom nějak měli přenechat kompetence za větší otázky, které se týkají naší budoucnosti jako lidských bytostí.
Celkově se zdá, že v dokumentu zaznívá uznání potenciálu umělé inteligence doprovázené podtónem opatrnosti před jejím zneužitím. Při úvahách o konečném vztahu lidstva k AI se mi vybaví série románů Robot od Isaaca Azimova. Řekl byste, že dokument zaujímá k AI spíše vstřícný, nebo spíše varovný postoj?
Doufám, že zaujme střední cestu a nepřijme žádnou z apokalyptických vizí. Ani se nesnaží představovat si, že to samo o sobě vyřeší všechny lidské problémy. Snaží se vidět potenciál a oslavovat mimořádný úspěch, kterým AI je. Je to zamyšlení nad schopností lidstva učit se, inovovat, rozvíjet se, což je schopnost daná od Boha.
To chceme oslavovat. Zároveň však říká: z minulých zkušeností víme, že mnoho úžasných inovací, které měly velký potenciál, se také z řady důvodů stalo problematickými. Problematickými proto, že možná existovaly vrozené nedostatky v samotných systémech. Problematickými proto, že lidé mohli tutéž technologii používat k velmi dobrým nebo velmi špatným účelům. Problematickými někdy proto, že systémy - a máme zde na mysli umělou inteligenci - byly vyvinuty v určitém obchodním, politickém prostředí a mohly být již poznamenány hodnotami tohoto prostředí.
Chceme kriticky přemýšlet o tom, jak zajistit, aby umělá inteligence byla nakonec využita lidstvem, aby ji lidstvo používalo způsobem, který zajistí, že bude realizovat svůj potenciál být dobrem pro všechny lidské bytosti.
Nedávno jsme tu měli řečníka, architekta Carla Rattiho. Mluvil o technologii a citoval amerického filozofa a architekta Buckminstera Fullera, který o všech technologiích řekl: „Máme na výběr, buď budeme architekty, nebo oběťmi.“ To je pravda. V jistém smyslu tento dokument vyzývá lidi, aby se pokusili zajistit, že budeme od lidí vyžadovat odpovědnost, abychom skutečně byli architekty něčeho, abychom zajistili, naplánovali, určili, že to bude využito k dobrému, a neponechali to jen náhodným faktorům, komerčním ohledům, politickým výhodám. Lidstvo musí mít odpovědnost za procesy a musí dbát na to, aby se zajistilo, že bude mít pocit odpovědnosti.
A právě v tom spočívá Azimovova série Robot. Kde bude ležet odpovědnost? Stroje s umělou inteligencí budou dělat mimořádné věci. Občas nebudeme schopni pochopit, jak je dělají. Rozvíjejí schopnost přeprogramovat se a postupovat vpřed. Takže se musíme pokusit říct, kde leží odpovědnost? Mnoho lidí z oboru nyní hovoří o tom, že umělá inteligence je „etická už od návrhu“. Že byste měli od začátku přemýšlet, jaké jsou problémy? Jaké jsou potíže? Jak plánovat tak, abychom se problémům vyhnuli? To znamená, jak to uděláme, aby to bylo bezpečné, aby to dobře fungovalo, aby to nefungovalo špatně. Jak zajistíme, aby to nebylo snadno zneužitelné lidmi, kteří by to chtěli využít ke špatným účelům? Jak zajistíme, aby databáze, které podmiňují umělou inteligenci, skutečně odrážely celou lidskou zkušenost, nejen tu, která již byla digitalizována. Jak tedy zajistíme, aby to bylo něco, co odráží to nejlepší z nás lidí?
Proto se vždy snažíme, aby byli zodpovědní ti, kteří navrhují, ti, kteří plánují, ti, kteří vyvíjejí, ale také ti, kteří AI používají. To je oblast rozvrstvení odpovědnosti. V oblasti AI je jednou z velmi zajímavých oblastí to, že některé profesní asociace inženýrů a dalších, kteří v této oblasti pracují, vyvíjejí vlastní etický kodex, protože technicky mají kompetence k jeho vypracování, ale kladou si otázky: k čemu bude využíván, jak bude využíván a jak zajistíme, aby byl odpovědný vůči širší lidské komunitě?
Kdybyste mohl vyzdvihnout jeden aspekt dokumentu, jaký by to byl?
Nejsem si jistý, jestli je to aspekt dokumentu, který bych chtěl vyzdvihnout, ale co bych chtěl říct lidem, kteří si tento text pravděpodobně přečtou, ať už jsou katolíci, nebo ne, cílem je pokusit se získat co nejvíce informací o tom, co se zde děje, a ne se cítit zneuznaní nebo odsunutí na vedlejší kolej. Říkám to jako někdo, kdo je v životě starší, a říkám to své generaci, ne jen proto, abychom měli pocit, že se s tím vyrovnáváme.
Jedna věc, kterou bych lidem řekl, je, aby začali technologie používat, zkoumat je, zjistili, jak jsou výjimečné, ale také aby k nim začali být kritičtí, aby se naučili, jak je umět vyhodnocovat a přemýšlet o nich. Takže to, co bych si z toho odnesl, je důležitost odpovědnosti.
Každý člověk by se měl zamyslet nad mírou své vlastní odpovědnosti, která se od uživatele vrství nahoru. Zda začnu sdílet obsah, o kterém vím, že je pochybný, že je tam proto, aby vyvolával nenávist, zda převezmu osobní odpovědnost za to, jakým způsobem AI používám a co s ní dělám. Pak si místní komunity v mnoha částech světa kladou otázky, jako že to je obrovsky náročné na energii. Bude to udržitelné? Jak o tom přemýšlíme v našich místních komunitách?
Další oblastí, která je v dokumentu zdůrazněna - a možná je to pro nás zde provinční zájem - je mimořádný přínos katolických univerzit. Mají úžasnou směsici lidí, kteří jsou kvalifikovaní v humanitních vědách, filozofii a teologii, a také lidí, kteří mají vědecké vzdělání. Doufáme, že se nám podaří vytvořit tyto myšlenkové inkubátory vycházející z interdisciplinarity, kterou máte na těchto univerzitách, kde můžeme zahájit rozhovory mezi humanitními a přírodními vědami, abychom zajistili, že budeme přemýšlet a uvažovat o odpovědném rozvoji a využití umělé inteligence.
