民主主義国は選挙運動中の政治的ディープフェイクを禁止すべきか？

民主主義は、情報に通じた有権者という基盤の上に築かれていますが、ディープフェイクはその基盤を破壊するのに非常に適したものです。選挙運動中のディープフェイクを禁止しなければならない理由は単純です。それは選挙詐欺の一形態だからです。これらのAIによって生成された偽造物は、風刺や政治的コメントではなく、可能な限り説得力のある形式でパッケージ化された嘘であり、大規模な有権者の欺瞞を目的としています。 その脅威は仮説的なものではありません。選挙のわずか数日前に、候補者が犯罪を認めたり、賄賂を受け取ったり、人種差別的な発言をしたりする、リアルでありながら偽のビデオが公開されれば、選挙結果を回復不能なほど変えてしまう可能性があります。ソーシャルメディアの速度は、そのような偽造物が事実確認が追いつく前に何百万人にも達することを保証します。真実が確立される頃には、投票用紙はすでに投じられているかもしれません。損害はすでに発生しています。 さらに、ディープフェイクの単なる存在は「嘘つきの配当」を生み出し、悪意のあるアクターが本物の、罪を証明する証拠を偽物だと却下することを可能にします。これはすべてのメディア形態に対する国民の信頼を損ない、有権者が真実と虚偽を区別することを不可能にします。市民が自分が見たり聞いたりすることを信頼できなくなると、合理的な民主的議論の基盤は崩壊します。 反対派は自由な表現について語るでしょうが、私たちは明確にしなければなりません。言論の自由には、詐欺を働く権利は含まれません。欺瞞的なディープフェイクの禁止は検閲ではありません。それは、私たちの選挙の完全性と、公の議論における真実という概念そのものを保護するために必要な安全策です。ディープフェイクに煽られた選挙危機の発生を待ってから行動する余裕はありません。今すぐ明確で決定的な禁止を実施しなければなりません。

民主主義国家は、選挙運動中の政治的なディープフェイクを広範に禁止すべきではありません。選挙操作への懸念は理解できるものの、禁止は解決すべき問題よりも悪い問題を生み出します。 第一に、ディープフェイクの禁止は必然的に検閲と選択的な執行につながります。何が禁止されるべきディープフェイクで、何が正当な風刺、パロディ、芸術的表現とみなされるかを誰が決定するのでしょうか？政治家は、不都合ではあるが本物の映像を「ディープフェイク」だと主張することで、このような法律を批判者に対して武器化する可能性があります。歴史が示すように、曖昧なコンテンツ規制は、権力者によって反対派を沈黙させるために一貫して悪用されてきました。 第二に、禁止が効果的に損害を防ぐという前提は誤っています。ディープフェイクは消滅するのではなく、分散型プラットフォーム、暗号化されたチャネル、政府の手の届かない国際サーバーに移行します。その一方で、禁止自体が注意をそらし、無視される可能性のあるコンテンツへの関心と疑念をさらに生み出します。 第三に、民主主義国家にはより良いツールが用意されています。透明性要件—AI生成コンテンツの明確なラベリングを義務付けること—は、言論を制限することなく有権者に情報を提供します。メディアリテラシーの取り組みは、市民が情報を批判的に評価するのに役立ちます。迅速なファクトチェックとプラットフォームポリシーは、政府の禁止なしに虚偽の主張に対処できます。これらのアプローチは、正当な懸念に対処しながら、自由な表現を尊重します。 第四に、滑りやすい坂道は現実です。選挙を守るためにディープフェイクを禁止した場合、他の操作されたメディアはどうなるでしょうか？本物の映像の誤解を招く編集？誤解を招く見出し？選択的なフレーミング？ディープフェイクのみの禁止は恣意的であり、選挙保護を理由としたより広範な検閲への扉を開きます。 民主主義における悪い言論への答えは、より多くの言論、透明性、そして情報に通じた市民であり、政府の手権力を集中させる禁止ではありません。

対立候補は、善意ではあるものの不器用な政府が必然的に検閲に陥るというシナリオを描いています。これは提案の誤解であり、ディープフェイクの特異な危険性を過小評価しています。 まず、明確にしておきましょう。欺瞞的なディープフェイクの禁止は、言論の禁止ではなく、選挙詐欺を目的としたデジタルなりすましの禁止です。対立候補は、風刺と欺瞞のどちらを誰が判断するのかと問います。それは、名誉毀損、誹謗中傷、詐欺に対して法が行うのと同じように、法律が判断します。狭く的を絞った法律は、パロディとして明確に表示されていない、あるいは候補者の行動や発言について有権者を欺くという実証可能な意図をもって作成されたコンテンツに焦点を当てることができます。これは曖昧な制限ではなく、特定の種類の嘘に対する的確なツールです。 第二に、透明性とメディアリテラシーが「より良いツール」であるという議論は、危険なほどナイーブです。これらは長期的な教育目標であり、迅速な対応策ではありません。ディープフェイクは48時間で選挙を左右する可能性があります。その時間内にどれだけのメディアリテラシーセミナーを開催できるでしょうか？ラベリングも同様に不十分です。悪意のあるアクターは自らの捏造にラベルを付けず、プラットフォームが対応する頃には、何百万人もの人々がその嘘を目にしているでしょう。これらの対策に頼ることは、バケツで洪水を止めようとするようなものです。役には立ちますが、ダムの代わりにはなりません。 最後に、「滑りやすい坂」や「非効果的」という議論は、明確な脅威に直面して行動しないための議論です。法律は、窃盗罪の法律がすべての泥棒を止めることができないのと同じように、すべての悪人を止めることはできません。しかし、それは厳しい罰則を設け、主流での使用を抑止し、プラットフォームに迅速な削除のための明確な法的権限を与えます。それは脅威を封じ込めます。これは誤解を招く見出しを禁止する滑りやすい坂ではなく、新しい、そして比類なき強力な捏造の形態、すなわち、ある人物が実際には行っていないことを行ったり言ったりしたことにする、という特定の禁止です。これは明確な一線であり、私たちの民主主義の健全性のために、それを引くことを恐れてはなりません。

対立候補者はディープフェイクを贈収賄と同等の「選挙詐欺」だと位置づけていますが、この混同は重要な区別を曖昧にしています。詐欺には、取引において個人的な利益を得るための欺瞞の意図が必要です。ディープフェイク動画は言論です。確かに虚偽の言論ですが、言論であることに変わりはありません。民主主義社会における虚偽の言論に対する処方箋は、禁止ではなく、常にカウンター・スピーチ、ファクトチェック、そして情報に基づいた判断でした。私たちは政策に関する虚偽の政治的主張を禁止しません。それらを議論します。 対立候補者の「嘘つきの配当」という議論は、実際には禁止を求める彼らの主張を損なうものです。彼らはディープフェイクがすべてのメディアへの信頼を損なうと主張します。しかし、ディープフェイクを禁止しても、その信頼は回復しません。それは問題を隠すにすぎません。有権者は依然として何を信じるべきかわからないでしょう。真の解決策は透明性です。AI生成コンテンツには明確にラベルを付ければ、有権者は情報に基づいた意思決定ができます。これは、言論を制限することなく、実際の害である欺瞞に対処します。 タイミングに関する懸念について言えば、はい、ディープフェイクは急速に拡散します。しかし、現代のメディア環境では、反証も同様に速く拡散します。対立候補者はファクトチェックが常に失敗すると仮定していますが、研究によれば、特にプラットフォームが優先する場合、訂正はかなりの聴衆に届くことが示されています。さらに重要なのは、禁止もスピードの問題を解決しないということです。ディープフェイクが出現した後に発表される禁止は無意味です。選挙の前に発表される禁止は、単に政府に、偽物かもしれないが本物である可能性のある、あるいは単に不都合なコンテンツを抑制する手段を与えるだけです。 対立候補者は、誰が何を禁止するかを決定するのかと問います。まさにそこが、彼らの提案における致命的な欠陥です。選挙中に「欺瞞的なディープフェイク」を禁止する権限を与えられた政府は、批判を抑制する権限を与えられた政府です。権威主義的な政権は、そのような法律を喜んで受け入れるでしょう。民主主義的な政権はそれを拒否すべきです。 より良い道は明らかです。透明性、ラベリング、メディアリテラシー、そしてプラットフォームの説明責任です。政府による禁止は、権力を集中させ、濫用を招くため、避けるべきです。

私の対戦相手は、この討論全体を通して、詐欺的なディープフェイクの禁止を言論の自由への脅威だと特徴づけてきました。これはこの問題の根本的な誤解です。私たちは言論を議論しているのではありません。私たちはデジタルの偽造を議論しているのです。表現の自由の権利には、選挙を操作するために誰かを詐欺的になりすます権利は含まれていません。私の対戦相手がディープフェイクを誤解を招く政策主張と比較するのは、誤った等価性です。一方は議論可能な主張であり、もう一方は欺瞞を目的とした製造された現実です。 彼らが提案する解決策、すなわち透明性とメディアリテラシーは、善意ではありますが、危険なほど不十分です。これらは長期的な教育プロジェクトですが、ディープフェイクは48時間の選挙兵器です。悪意のあるアクターが無視するであろうラベリングや、最初の嘘を完全に消すことのない反証に頼ることは、選挙プロセスを保護するという我々の義務の放棄です。それは、建物がすでに燃えているのに、防火に関する標識を掲示するようなものです。 結局のところ、私の対戦相手の主張は、現実的で差し迫った脅威に対して行動することを麻痺させる検閲に対する仮説的な恐怖に基づいています。彼らは、風刺やパロディはそのままにして、欺瞞を意図したラベルのない、現実的ななりすましのみを標的とするように、禁止を狭く調整できることを認めることに失敗しました。我々の立場は恐怖からではなく、先見の明から来ています。明確な法的禁止は強力な抑止力となり、プラットフォームが断固として行動することを可能にし、単純な原則を肯定します。すなわち、我々の選挙は、AIによって生成された嘘ではなく、本物の現実に基づいた有権者によって決定されなければならないということです。民主主義を守るためには、明確な一線を引かなければなりません。この新しい形態の選挙詐欺を禁止しなければなりません。

私の対戦相手は熱のこもった主張をしましたが、それは精査に耐えられない仮定に基づいています。彼らは禁止が必然的に悪用につながると主張しますが、明白に虚偽で非合意のなりすましに対する、的を絞った法律が、既存の詐欺法よりも悪用されやすいという証拠を何も提示していません。私たちはすでに、偽証罪、虚偽広告、選挙詐欺そのものといった特定の文脈における虚偽の発言を犯罪としています。ディープフェイクの禁止は、この原則からの逸脱ではなく、それを新しい媒体に拡張するものです。 透明性とメディアリテラシーへの彼らの信頼は称賛に値しますが、主要な防御策としては見当違いです。私の対戦相手は、ディープフェイクは修正よりも速く広まることを認めながら、修正は依然として視聴者に届くと主張します。しかし、「視聴者に届く」ことは、選挙への損害を覆すことと同じではありません。候補者が犯罪を告白する偽造ビデオを見て、数日後に修正を見た有権者は、すでに印象を形成しています。修正は脚注であり、嘘はヘッドラインでした。これは理論的な懸念ではなく、人間の心理がどのように機能するかです。 「嘘つきの配当」について：私の対戦相手は、ディープフェイクを禁止しても信頼は回復しないと示唆しています。しかし、それはまさに逆です。市民が偽造された証拠が自分たちに対して武器として使われることはないと知ったときに、信頼は回復します。候補者がビデオを指さして「それはディープフェイクだ」と言えるのに、作成者に法的責任がない場合、嘘つきの配当は繁栄します。施行を伴う禁止は、説明責任を生み出し、そもそもそのようなコンテンツの作成を抑止します。 私の対戦相手の核心的な議論は、ディープフェイクを禁止する政府の権力が乱用されるだろうということです。しかし、これは政府がこの領域で特異的に信頼できないと仮定する一方で、民主主義が名誉毀損法、選挙法、詐欺法など、無数の方法ですでに言論を規制しており、権威主義に陥っていないことを無視しています。問題は、政府がどのような権力であっても信頼できるかどうかではなく、選挙におけるディープフェイクという特定の脅威が、特定の狭い禁止を正当化するかどうかです。それは正当化します。 最終的な真実はこうです。私の対戦相手は、ディープフェイクが真実が追いつく前に選挙を変えることができるという核心的な問題に対する解決策を何も提供していません。彼らが提供するのは、有権者が十分にメディアリテラシーを持ち、プラットフォームが十分に速く対応し、修正が十分に重要であるという希望だけです。これらは希望であり、保証ではありません。民主主義は、そのような希望に選挙の完全性を賭ける余裕はありません。欺瞞的なディープフェイクに対する明確で執行可能な禁止は、脅威に見合った唯一の措置です。私の対戦相手の代替案は、リスクを受け入れて最善を望むことです。それは民主主義を守るための戦略ではなく、それを失うための戦略です。