人工知能による達成とその価値 Kieval (2024)

academic.oup.com

• Kieval, P. H. (2024). Artificial achievements. Analysis, 84(1): 32–41. https://doi.org/10.1093/analys/anad052

【要約】
・AlphaGoのような人工知能による達成（achievements）は、「達成とは何か」に関する近年の哲学的理論の観点から見ても、まさにAIシステムそれ自身の達成だと言える。
・通常、達成の価値は、その過程で人間固有の能力が発揮されるという点に求められる。
・この場合、人工知能は人間ではないので、人工知能による達成は「無価値の達成」だということになる。
・人工知能の能力についての理解が進むことは、その達成の価値についての議論をも深めると考えられる。

序

• AlphaGoのような人工知能による達成（achievements）は、誰のものなのか（who is it an achievement for）。
• ここでは、それが開発者などではなく人工知能自体の達成でありうると論じる。

達成の本質的特徴

• Bradford (2015) は、達成についての最も包括的な説明を与えている。
  • 達成には、「過程」と「産物」の2要素が含まれる。「過程」とは困難なもので、そこでは行為者の力量から「産物」が生じる（competently causes the product）。
    • ある過程を意図的に遂行することで行為者がその力量をもって産物を生じさせるのは、行為者がその過程および構成要素について正当化された真なる信念を十分もっている場合である。
  • 過程と産物の両者が価値の源泉である。産物に価値があるとき、達成の価値は道具的である。だが達成の価値の一部はその過程に内在する。
    • 過程に内在する価値は、その過程を通じて人間固有の能力が発揮されるという点に求められる（完成主義）。過程の困難さと力量因果は、意志と理性の発揮を要求している。

• Branfordによる「力量」（competence）の説明には、知性偏重という難点がある。
  • ある過程に関する命題的知識の増加が力量の増加に必要/十分かは明らかではない。
    • エンジンの仕組みをまるで誤解している人でも有能な運転者でありうるし（von Kriegstein 2019）、車の内部構造を熟知していてもハンドルを握ったことがなければ有能な運転者にはなれない。
  • 力量には命題的知識だけでなく、技能（skill）の習熟も関連している。

• von Kriegstein (2019) は、達成の説明には反偶然条件（anti-luck condition）が必要だと指摘した。
  • 達成がある行為者のものであるためには、それが単なる偶然の産物であってはならない。
    • 達成の説明に力量が持ち出されるのはこの点を捉えるためなのであり、適切な力量の説明は偶然を排除するものでなくてはならない。
  • von Kriegsteinは堅固（robust）な徳認識論（Greco 2010; Sosa 2010）における議論をもとに、力量を次のように説明する。

• ある行為者がその力量によってある目標を追求しそれに到達するのは、(1) (2)の両方が成立するまさにその場合である。
  • (1) 目標は、現実世界、および、関連する初期条件が現実世界と同一である最近傍可能世界で、達せられる。関連する初期条件には、行為者が(a)その目標に到達するために明示的に行った行為、もしくは、(b)目標到達の可能性を高めると考えて行った行為、が含まれる。
  • (2) 行為者は、自身の計画が良い計画である（つまり、行為が成功の可能性を高める）と考える点で正当化されており、また、次の条件を満たす出来事は存在しない*1。すなわち、(a)現実世界で生じ、(b)行為者はそれを予見しておらず、(c)予見していた場合、行為者は自身の計画が良い考える点で正当化されず、(d) それを知ることで正当化を回復できるような、現実世界で生じる他の出来事が存在しない。

人工達成

• AlphaGoの碁を行う能力は、達成の本質的特徴を十分に満たしている。

力量因果

• AlphaGoは目標状態を持ち、局面を表象し、手の選択肢を評価して決定する。この選択が、AlphaGoの成功を生じさせる。また、モンテカルロ木探索という形でメンタルシナリオを描く能力をもつとも言える（Halina 2021）。
  • こうした心的シミュレーションはBranfordの意味での力量因果にとって重要であり、AlphaGoは知性中心的な意味で力量を有すると言える。

• またAlphaGoは反偶然的に説明される力量をも持ちうる。
  • (1) AlphaGoはほとんどの最近傍可能世界で勝利することができるし、また勝利の可能性を明示的に高める振る舞いを行う。
  • (2) AlphaGoは異なる行動プランの評価を行うし、また碁は完全情報ゲームのため、(a)-(d)を満たすような出来事は発生しない。

• 達成は行為者（agent）にしか不可能だという反論がありうる。
  • 行為者性を示す存在だけが力量をもてると考える場合、AIシステムは行為者性を持たないので、力量あるAIシステムも存在しない、と論じることができる。
    • （Bradford自身は、〔逆に〕力量ある存在は行為者とみなせると主張したが）。
  • しかしAIが行為者でないという主張は、道徳的行為者性と意図的行為者性を混同していると思われる。
    • 多くの非人間的存在は（すくなくとも最小限の意味では）意図的行為者である。AIも、一定の目標追求のために意思決定し自律的に行動できる。
    • 意図的行為者性が力量にとって十分なら、AIも力量ある存在になれる。

困難さ

• AlphaGoは努力をしているようには見えないため、それが実行する過程が困難には思えないかもしれない。
  • Bradfordは努力を現象学的に特徴づけており、現象的意識を持たないAIはその意味では努力を感じない。
    • だが、努力そのものが現象学的特性の一種なわけではない。現象的特性は努力そのものを捉えるための発見法的な手段にすぎない。
  • 努力には様々なものがあるが、それは究極的には、タスクへの様々な内的資源の投入に還元できるかもしれない（von Kriegstein 2017）。
    • そうだとすると、AlphaGoが努力していることは明らかだと思われる。深層学習システムの訓練と実行には膨大な計算資源が必要だからだ。

• しかし、AlphaGoが用いている資源は内的な資源なのか？
  • （この問題は、意図的行為者としてのAlphaGoの境界線はどこにあり、それはハードウェアを含むべきものなのか、という問題である）
  • これに対しては肯定的に答えられる。AlphaGoのようなAIエージェントの実装は、それを訓練し実行するハードウェアと切り離せないからだ。
    • ハードウェアとソフトウェアの相互作用を通じてはじめて、AlphaGoは碁の手を打って勝利を生じさせることができる。
  • 普通の心的努力もある種のハードウェア〔身体〕を要求するが、これとAlphaGoが資源を投入して計算を行うこととの間に、明白な差は見当たらない。

無価値の達成

• 以上から、AIはそれ自身として達成することができる。

• このことは、「無価値な達成」が存在する可能性を開く。
  • Bradfordは達成の内在的価値を、その過程を通じて人間固有の能力が発揮されるという点に求める（完成主義）。
  • だがAIは人間固有の能力を持たないため、その過程に内在的価値はないことになる。
    • AIの達成の産物にほとんど価値がない場合、達成には道具的価値もない。
  • 達成は内在的価値を持つとふつう考えられているため、この帰結は奇妙である。

• 人工達成の価値に関する理論的説明を与えることはできるだろうか？
  • 最も有望な方向性は、完成主義を、AIに特徴的な能力の観点から拡張するものである。
  • 現在、AIシステムの創発的能力を理解しようとする研究が急速に行われている。これは、規範的な理論に豊かな土壌を与えてくれるかもしれない。

*1:これはゲティア事例を排除するためのものである