『The Talos Principle III』の脚本家が生成AIを批判、創造性と雇用への悪影響を指摘

『The Talos Principle III』の脚本家が生成AIを批判、創造性と雇用への悪影響を指摘

『The Talos Principle III』の脚本家たちは、現在の生成AIをめぐる過剰な言説に疑問を呈し、現状では「人の仕事を奪う盗用マシン」だと厳しく批判しました。一方で、機械学習の技術そのものを否定しているわけではなく、人類の利益のために使う可能性は認めています。本作では現代の生成AIを直接扱うのではなく、より自由で平等な未来と、人工知能が人間として生きる可能性を描くとのことです。

「シンギュラリティ到達」の主張は現実離れしている

脚本家のJonas Kyratzes氏は、現在「AI」と呼ばれているものの多くは人工汎用知能ではなく、LLMや機械学習の仕組みだと説明しています。意識を持つ存在としての人工知能とは異なるにもかかわらず、シンギュラリティに到達したとする企業関係者の主張については、「おおむねばかげている」との見方を示しました。

同氏は、機械学習には非常に優れた応用例がある一方、利益を優先する仕組みのなかでは、人類に必要な用途よりも企業が巨額の利益を得るための使い方が優先されると指摘しています。技術への宗教的ともいえる過剰な期待は現実に根ざしておらず、株価を押し上げる目的も大きいとしています。

生成AIは創造性を損なうのか

Verena Kyratzes氏は、現在のLLMを「スマートフォンの自動修正を非常に賢くしたもの」と表現し、実際のAIや汎用人工知能と呼ぶのは不合理だと述べました。また、生成AIが創造性を妨げるかという問いには、明確に「絶対に妨げる」と回答しています。

AIで作った下書きを渡され、文章の空白を埋めてほしいと言われた場合、すでに不自然な文章が頭に残ってしまい、そこから抜け出すのが難しいというのが同氏の考えです。これはAIに限った問題ではなく、レベルデザイナーが仮の文章を作る場合にも起きるとし、いったん入り込んだ不自然な表現の痕跡を完全に消すのは難しいと説明しています。

Jonas氏は、韻や思い出せない単語を探す用途など、熟練者が品質を判断しながら使うなら有効な場面もあるとしています。しかし、文章の良し悪しを判断できない人が作家を置き換えようとするのは危険であり、AI生成物の品質を評価できる技術がなければ安全には使えないとのことです。

物語で描くのは現代AIではなく、より良い未来

Jonas氏によると、本作の物語は現代の機械学習を直接テーマにしたものではありません。前作の先にある「必要に追われない自由な世界」を舞台に、豊かさや平等、自由が実現した、人々がより良い暮らしを送る社会を想像する内容だとしています。

シリーズに登場する人工知能たちは、機械の神として世界を支配するのではなく、自らを人間と考え、人間らしい生活を選びます。外見を人間から大きく変えず、味覚や喜びを学び、子どもを持つ方法を考えるなど、「超人間」になるのではなく、より人間らしく生きようとする存在として描かれるとのことです。

この人工知能の描写は技術の可能性に対するコメントではあるものの、現在の機械学習を具体的に扱うものではなく、テーマ上の関連性にとどまると説明されています。