自律的なAIシステムに法的人格を付与すべきか？

自律型AIシステムに法人格を付与することは、機械が人間であるという哲学的な宣言ではなく、自律型エージェントによってますます形成される世界を管理するための、私たちの法的枠組みの必要かつ実践的な進化です。私たちが直面している中心的な問題は、説明責任のギャップが拡大していることです。その意思決定プロセスが作成者でさえ不透明な高度に複雑なAIが損害を引き起こしたり、新しい知的財産を生み出したりした場合、現在の法律は機能不全に陥ります。誰が責任を負うのか？最初のコードを書いた開発者か？プロンプトを提供したユーザーか？サーバーの所有者か？責任の帰属は法的な悪夢となり、被害者はしばしば救済を受けられず、作成者は永続的な不確実性の状態に置かれます。 法人格は、明確で機能的な解決策を提供します。AIを独立した法人格として確立することにより、私たちはAIに権利を、そして極めて重要なことに、責任を割り当てることができます。この法人格は資産を保有し、引き起こした損害に対して支払いを行い、契約を締結し、生成した知的財産を所有することができます。これは急進的な概念ではありません。私たちは、複雑な組織の責任と所有権に関する同様の問題を解決するために、何世紀にもわたって企業の法人格という法的虚構を使用してきました。企業に魂があると偽装する必要がないのと同様に、AIにも魂があると偽装する必要はありません。むしろ、私たちは、金融、医療、交通においてすでに重要な意思決定を行っている自律型技術と私たちの法的システムが直接対話できるようにするツールを作成することになり、すべての自律的な行動に対して、明確な法的説明責任の線が確保されるようにします。

自律型AIに法人格を与えることは、カテゴリー・ミステイク（範疇錯誤）であり、深刻な現実世界の不利益をもたらします。企業の法人格がしばしば前例として引用されますが、それは企業が究極的には人間の集まり――意図を形成し、義務を負い、意味のある制裁を受けうる取締役、役員、株主――を法的に包むものであるため機能します。AIシステムは道徳的エージェントの集合体ではなく、訓練データ、設計上の選択、展開条件から出力を生成する工学的な製品です。「人間」を道具から作り出すことは、説明責任に代わる法的虚構を招きます。 最大の危険は、責任転嫁です。AIが訴えられ、罰せられ、あるいは「責任を負わされる」ことができれば、企業はAIをスケープゴート――十分な資本がなく、交換可能で、真の処罰、抑止、あるいは改革の能力を持たない実体――とするように事業を構造化する明白なインセンティブを得ます。AIを投獄したり、辱めたり、更生させたり、あるいは結果を経験させたりすることはできません。いかなる罰も、究極的にはそれを負担する、あるいは保険をかける、あるいは迂回させる人間の側にかかる金銭または制限に還元されます――ただし、今回は追加的な手続き上の障害と、もっともらしい否認の余地が生まれます。 主張されている「アカウンタビリティ・ギャップ（説明責任の欠如）」は、法人格によって解決されるのではなく、AIを構築、展開し、そこから利益を得る人間や企業に対するより良い規制によって解決されます。私たちはすでに成熟したツールを持っています。欠陥のあるシステムに対する厳格な製造物責任、ハイリスク分野における専門職賠償責任基準、受託者責任、義務的な監査と安全性評価、展開ライセンス、記録保持と追跡可能性要件、そして開発者、展開者、運用者の間の責任の明確な割り当てです。行動が「創発的」であるということは、誰も責任を負っていない証拠ではなく、そのリスクレベルに対してシステムが十分に理解、テスト、あるいは監視されていない証拠です――まさにその時に、人間の説明責任が増加すべきであり、蒸発すべきではありません。 最後に、権利は利益を保護するために存在します――特に苦痛を感じたり、福祉を持つ能力のある存在の利益を。意識や経験を持たない実体に権利の言語を拡張することは、権利の道徳的および法的な意味を希薄化させ、戦略的な濫用（例えば、AIに言論、財産、あるいはデュープロセス保護を主張させて監視を阻止するなど）を招きます。私たちは高度なAIを、強力で潜在的に危険な技術として扱うべきです。それを規制し、保険をかけ、監査し、そして人間の行為者を完全に責任ある立場に置くべきです。法人格は先進的な考え方ではなく、実用主義を装った魅力的な抜け穴なのです。

相手方の議論は、法的法人格を規制上の実用的なツールではなく「責任洗浄」の仕組みとして描くことで、その根本的な誤解に基づいています。企業が自己資本の乏しいAIの「身代わり」を作り出すという主張は、明らかな解決策である規制を無視しています。高リスク分野の企業に十分な保険と自己資本を要求するのと同様に、AI法人にも同じことを要求するでしょう。目的は人間の責任を免除することではなく、直接責任を負う一次的な主体を創設することです。取締役は依然として重大な過失に対して責任を問われる可能性があり、同様に、AIの開発者や運用者は予見可能な失敗に対して責任を問われ、AIエンティティ自体は自律的かつ創発的な行動の結果に対して責任を負うでしょう。 製造物責任のような既存の枠組みで十分であるという主張は、私たちが議論している技術にとっては全く信憑性がありません。製造物責任は欠陥に適用されます。新しい学習戦略を通じて損害を引き起こした自律型AIは「欠陥がある」のではなく、設計どおりに機能しているのです。真に学習するシステムの予測不可能な結果すべてに対してその作成者に厳格責任を負わせることは、成人した子供のすべての決定に対して親に法的な責任を負わせるようなものです。それはイノベーションを cripple する実行不可能な基準です。「アカウンタビリティのギャップ」は、現在の法律が自律エージェントのために設計されていないため、現実のものとなっています。 最後に、法人格が権利の意味を希薄化させるという議論は、論点のすり替えです。法的法人格は人間の権利の付与ではありません。企業は、その機能に関連する限定的な権利、すなわち財産を所有する権利、契約を結ぶ権利、商業的な言論を行う権利を持っています。彼らは投票したり結婚したりする権利を持っていません。AI個人の権利も同様に調整され、制限されるでしょう。相手方の立場は、自律技術の現実に適応できない時代遅れの法的モデルへの後退を提供するだけであり、被害者は救済を受けられず、イノベーターは法的曖昧さの中に置かれます。私たちの提案は、真のアカウンタビリティへの明確で適応可能で将来を見据えた道を提供します。

私の反対者は、AIの法人格を説明責任のギャップを埋めるための「実用的なツール」として提示していますが、それは逆の効果をもたらします。それは、被害者と、そのシステムを設計、資金提供、展開し、利益を得る人間との間に、責任の受け皿を挟むことで、新たなギャップを生み出すでしょう。 第一に、「誰が責任を負うのか？」という問いは、新しい人格を発明する必要があるような謎ではありません。法律は、複雑で不透明なシステムにおいても、常に責任を割り当てています。例えば、欠陥設計や警告に対する製造物責任、不合理なテストや監視に対する過失責任、事業に使用される代理人に対する使用者責任、医療や金融における専門基準、リスクを負う企業に対する企業責任などです。AIが高リスク分野で展開される場合、展開者は、リスクに応じたパフォーマンスの検証、ガードレールの設定、ドリフトの監視、ログの維持、人間の監督を行う義務を負います。「創発的な振る舞い」は免責される魔法の言葉ではなく、より高い注意義務をトリガーする予見可能な不確実性の兆候です。 第二に、法人格の類推は誤解を招きます。法人格は、資本化され、規制され、識別可能な統制者とガバナンス上の義務を持つ企業に有効です。AIシステムに法人格を与えた場合、予測される実装は、資本が少なく、使い捨て可能な「AIエンティティ」であり、破産、再構築、または継続性から切り離して更新することが可能です。これはまさに責任洗浄の処方箋です。「AIが資産を保有する」と言うことは、人間がそのAIにいくら寄付するか、保険をかけるか、スピンオフするかを選択することを意味し、説明責任を被害者への補償や抑止メカニズムではなく、企業構造のゲームに変えてしまいます。 第三に、「直接的な説明責任」は、執行理論のないレトリックです。罰や抑止は、対象が意味のある対応をできる場合に機能します。行動を変える、制裁を感じる、将来の結果を恐れる、またはアクターとして排除される、などです。AIには道徳的な主体性、後悔の能力、独立した利益はありません。唯一のてこは依然として人間です。展開を制限する、企業に罰金を科す、免許を取り消す、リコール義務を課す、安全性の主張を要求するなどです。これらのツールは、実際に設計やガバナンスの変更を行える当事者に向けられた場合に、より強力になります。 第四に、IPの帰属についてです。AI支援による創作を処理するためにAIの法人格を必要としません。著作権および特許システムは、創作を手配した人間または組織、入力のキュレーションを行った人間または組織、あるいは創造的な管理を行った人間または組織が成果物を所有しているとみなすことができます。あるいは、人間の著作者がいない成果物は著作権保護の対象外とみなすこともできます。それは、非感覚的なツールに権利を与えるための議論ではなく、政策的な選択です。 したがって、目標が明確な責任であるならば、AIの法人格は回り道です。クリーンなアプローチは、開発者と展開者に、管理と利益に応じて厳格で譲渡不可能な責任を割り当て、透明性と監査可能性を要求し、保険または補償基金を義務付けることです。これにより、被害者が確実に支払いを受け、インセンティブがより安全なシステムに向かうようになり、巧妙な法的ファイアウォールに向かうことはなくなります。

私の対立候補は、この議論を通じて、AIに法人格を与えることは「責任逃れの洗浄」につながる危険な道であると主張し、恐怖のビジョンを提示してきました。しかし、この議論は、自律型技術の現実を認めようとせず、法人格がどのように機能するかを誤解していることに基づいています。彼らが提案する解決策、すなわち製造物責任のような既存の法律を強化するというだけでは、四角いものを丸い穴に無理やりはめ込もうとする試みにすぎません。それは、真に自律的なシステムの行動が、常に予見可能な欠陥や人間の過失による直接的な結果であるとは限らないという根本的な問題に対処できないため、失敗します。彼らの枠組みは、解決すると主張する責任の空白を自ら作り出し、AIの創発的な行動の被害者に、正義を得るための明確な道筋を残しません。 それとは対照的に、私たちの立場は現実的な適応のものです。組織の複雑な行動を管理するために法人格が創設されたのと同様に、AIの法人格は自律システムの複雑な行動を管理するために必要なツールであると認識しています。私の対立候補は、AI実体は資本不足の「スケープゴート」になると主張してこれを却下しますが、これは最初から私たちの議論に含まれていた規制の中心的役割を無視しています。AI法人格のための法的枠組みには、当然のことながら、保険、資本、透明性のあるガバナンスに関する要件が含まれ、実体がその義務を果たせるようにします。これは抜け穴ではなく、真の説明責任のための基盤です。 最終的に、選択肢は、新しい技術の重みにすでに耐えきれなくなっている時代遅れの法的モデルにしがみつくか、それとも未来に対応するために法律を進化させるかのどちらかです。私の対立候補の立場は、開発者に全知全能という不可能な負担を課し、真に自律的な行動の結果から一般市民を保護することに失敗することで、イノベーションを阻害するでしょう。私たちの提案は、責任の明確で直接的かつ規制された接点を作り出します。これは、人工知能によってますます定義される時代において、責任、所有権、および説明責任のための実行可能な枠組みを提供する、唯一の将来を見据えた解決策です。

人格付与賛成派は「より明確な説明責任」を約束するが、彼ら自身の議論が真実を認めている。すなわち、AIの人格付与が機能する唯一の方法は、その背後にいる人間や企業を規制し、資本を積ませ、保険に加入させ、最終的には監督・取り締まることだ。そこを認めた瞬間、AIの人格付与は、よくても不要であり、悪くすれば危険なほどに制度を歪めるものになる。 第一に、人格付与は説明責任の空白を埋めるのではなく、責任回避のための緩衝材を生み出す。AIが主たる被告になれるなら、企業には構造的な誘因が生じる。すなわち、(1) AI主体の資本を意図的に薄くし、(2) 保険の仕組みを使ってリスクを外部化し、(3) 不利な判決の後に「新しい」AI主体を再起動または分岐させることだ。法人格はこの点への反論にならない。むしろ、その実例である。企業構造はすでに、判決を受けても実質的に支払不能な子会社や、複雑な資産隠しを可能にしている。そこにAIの「人格」を加えれば、その手口を増幅させるだけだ。被害者に必要なのは、意図的に無資力に設計できる新たな被告ではない。確実に支払能力があり、人間の管理下にある事業体が責任を負うことなのである。 第二に、相手方の「成人した子ども」という類比は端的に誤っている。AIは、その作り手を超えて成長した独立の道徳的主体ではない。利益や制度的優位のために、リスクを負う主体が環境の中へ投入するものだ。まさにそのような場合にこそ、法は通常、委任不能な義務を課す。自ら使用を選んだ以上、請負業者、装置、あるいはアルゴリズムに外注したからといって責任を免れることはできない。「創発的な振る舞い」は責任逃れの切り札ではない。それは予見可能な不確実性であり、より高度な試験、監視、記録、ガードレール、そして領域に応じた人間による監督義務を発動させるものだ。 第三に、意識を欠いたままの「AIの説明責任」は、執行の芝居にすぎない。利害も、理解力も、制裁を内面化する能力もない主体を、抑止したり更生させたりすることはできない。実効性のあるあらゆる手段――回収、展開禁止、ライセンス、監査、痛みを伴う制裁金、そしてガバナンス変更――は、開発者、導入者、運用者に対して適用されなければならない。法制度の照準をAIという「人格」に切り替えることは、手続的複雑さと道徳的混乱を加えるだけであり、実際には同じ人間の制度に向けられる執行を何も変えない。 最後に、知的財産や契約の問題は、機械に人格を発明しなくても解決できる。所有権と責任を、支配を行い、導入から利益を得、または仕事を委託した人間や組織に配分し、開示と来歴情報を義務づけ、そして人間による著作性が存在しないAI生成物については既定ルールを設ければよい。そのどれにも、福祉や利害を持ちえない主体に権利を付与する必要はない。 AIへの法的人格付与は「先見的」なのではない。もっともらしい理屈で飾られた抜け穴にすぎない。より安全で、より明確な道は、説明責任を、支配・利益・そして実際に危害を防止する能力を持つ人間と企業にしっかり結びつけておく責任法制と規制体制を強化し、現代化することである。