AIと人間の知性の関係めぐる教理省と文化教育省の文書

　教皇庁教理省と文化教育省は共同で、文書「アンティクア・エト・ノーヴァ －人工知能と人間の知能の関係をめぐる覚書－」を発表した。

　この文書は、教皇フランシスコの人工知能に対するここ数年の関心と注意を基礎とするものであり、教育者や信仰を伝える立場にある人はもとより、「人々と共通善に奉仕する」科学技術の発展に必要な条件を共有する人々にも向けられている。

　全6章・117節からなるこの文書は、教育、経済、労働、医療、人間関係の分野や、戦争を背景に、人工知能（AI）の開発上の課題や可能性に光を当てている。

危険と進歩

　同文書は、AIの危険性を具体的に列挙すると同時に、神と人間の「協力の一部」としての進歩を励ましている。しかし、その効果をまだ予測できない技術革新に対し、不安を隠してはいない。

AIと人間の知能の区別

　この覚書は、人工知能と人間の知能の区別に数節を費やしている。ここでは、AIを指して「知性」という言葉を使うこと自体が誤解を招きやすいものであり、AIは「人工的な知性の形」ではなく、「その産物の一つ」であるとしている[35]。人間の創意のあらゆる産物と同様、AIもまたその使用を「肯定的な目的にも否定的な目的にも」向けることができる。実際、人工知能は「重要な革新」をもたらすことができる一方で[48]、差別や、貧困、情報格差、社会的不平等の状況を悪化させる危険もはらんでいる[52]。「倫理的懸念」を生んでいるのは、「AIの主な応用をめぐる権限のほとんどが、力を持つ少数の企業の手に集中している」という事実である[53]。それゆえ、このテクノロジーは「個人あるいは企業の利益」のために操作される恐れを持っている[53]。

戦争

　戦争においては、「人間の直接介入なしに標的を特定し、命中可能な」自律的で殺傷力のある兵器システムが「深刻な倫理的懸念」をもたらしている[100]。教皇は、「人類または地域全体の生存」に関わる現実的脅威として、その使用の禁止を求めている[101]。これらのテクノロジーが「戦争に制御不能の破壊力を与え、子どもさえをも含む、多く無実の市民を攻撃する」リスクを同文書は訴える。

人間関係

　人間関係をめぐり、同文書は、AIが「有害な孤立」をもたらす可能性を洞察している[58]。「AIの擬人化」は、子どもたちの成長に問題を提起するほか[60]、AIを人間のように表現することは、それを詐欺的な目的で使用する場合、「重大な倫理違反」となる。同様に、教育、人間関係、性的なコンテキストにおいて、AIを用いて欺くことは「不道徳であり、慎重な注意を必要とする 」[62]。

経済と労働

　経済・金融の分野でも同様に警戒を怠ってはならない。特に労働分野で、AIは技能と生産性を向上させる「大きな可能性」を持つ一方、「労働者から資格を取り上げ、自動化された監視体制のもとに、固定化された反復的な役務に追いやる」可能性がある [67]。

医療

　同文書は、医療のテーマに多くのスペースを割いている。医療分野での応用の膨大な可能性に触れながらも、AIが医師と患者の関係に取って代わるならば、病者に伴う孤独感を『悪化』させる恐れがあると警告している。また、AIが「金持ちの医療」を強化するならば、経済的余裕のある人々は高度な医療の恩恵を受ける一方で、他の人々は基本的な医療サービスへのアクセスすらできない状況が考えられる。

教育

　同文書は、教育の分野においてもリスクを浮き彫りにしている。慎重に使用するならば、AIは教育へのアクセスをより良くし、学生たちに「即時の照合」を与えることができる[80]。問題は、多くのプログラムが「生徒が自分で答えを見い出す、あるいは自分で文章を書くように促すのではなく、単に答えを提供するにとどまる」ことである。その結果、批判的思考を育てることができなくなる [82]。また、多くの「歪曲・捏造された情報」や「フェイクニュース」を生み出すプログラムがあることを忘れてはならない。

フェイクニュースとディープフェイク

　フェイクニュースをめぐり、同文書は、AIが「偽造されたコンテンツや、偽情報を生み」[85]、それを「欺き、傷つける」ために拡散する[87]、深刻なリスクに注意を促している。そして、常にコンテンツの「信憑性を慎重にチェック」し、「人を辱める言葉やイメージの共有」を避け、憎しみや不寛容を煽るもの」や「人間の性」の品位を落とすものを排除するようにアピールしている[89]。

プライバシーと管理

　プライバシーと管理について、同文書は、ある種のデータは「良心にまで触れ」 [90]、すべてが「ひそかにうかがわれる一種の見世物」になりかねないリスクを持っていると指摘する[92]。また「デジタル上の監視が、信者の生活や信仰の表現を管理下に置くために使われる可能性」を述べている [90]。

共に暮らす家

　被造物のテーマにおいて、共に暮らす家＝地球との絆をより良いものとするためのAIの応用は、「期待できるもの」と捉えられている。一方で、現在のAIモデルは「大量のエネルギーと水」を必要とし、資源を集中的に消費するのみならず、「CO2排出に大きく影響する」。

神との関係

　最後に同文書は、人間が「自らの産物の奴隷」となるリスクを警告する。「AIは人間の知性を補完する道具としてのみ使用されるべきであり、人間の知性の豊かさに取って代わることがあってはならない」と述べている [112]。