政府は公共空間での顔認識技術の使用を禁止すべきか？

冒頭の声明：政府は、市民的自由、平等、民主的生活に対するその害が約束された利益を根本的に上回るため、公共の場での顔認識技術（FRT）を禁止すべきである。FRTは公共の場を永続的な識別ゾーンに変える。人々は同意なしに追跡され、カタログ化され、照合され、匿名で移動し、集会する権利を侵食する。抗議、宗教的崇拝、そして普通の公共生活に対するその萎縮効果は、仮説的なものではない。監視は公の議論への参加を測定可能に抑制し、疎外されたコミュニティを不釣り合いに抑止する。 技術的および現実世界の失敗は、市民的自由への脅威を増大させる。複数の独立した研究が、女性および有色人種に対する高いエラー率を文書化しており、法執行機関による展開はすでに誤った識別と逮捕を生み出している。これらの害は単なる統計ではない。誤った照合は、すでに脆弱な個人にとって、拘留、評判への損害、機会の喪失につながる可能性がある。厳格な規制や精度基準がこれらの問題を解決するという主張は、楽観的であってもせいぜいそうである。大陸規模または都市規模の識別インフラストラクチャと、それにリンクされたデータベースが存在すると、「ミッションクリープ」と誤用はほぼ確実である。当局は目的を拡大でき、民間事業者はアクセスでき、紙上の規則にもかかわらず、不透明な自動化された決定が存続する。 さらに、セキュリティ上の利点は誇張されている。FRTは犯罪やテロの万能薬ではない。多くの公共の安全上のニーズは、標的を絞った、司法当局の承認を得た捜査ツール、人間の証人による作業、およびそれほど侵襲的でない技術によって満たすことができる。予防原則が正当化される。技術が体系的に基本的権利を脅かし、大量監視を制度化できる場合、公共の場での使用を禁止することが、民主主義、平等、および個人の自由を保護する最も効果的な方法である。政府は、特定の容疑者に対する、限定された範囲の、令状に基づく捜査を許可し、説明責任のある警察の代替手段に投資することは依然として可能である。その一方で、通り、交通ハブ、スタジアム全体での常時稼働する顔識別システムの展開を防ぐことができる。これらの理由から、公共の場での禁止は、大量識別の正常化を防ぎ、すべての人々の市民的自由を保護するために必要である。

我々の目の前にある問題は、顔認識技術が完璧かどうかではなく、公共の安全に対するその潜在的な利益が、それを完全に廃棄するのではなく、リスクを管理する方法を見つけなければならないほど甚大であるかどうかです。全面的な禁止は、この技術が達成できる計り知れない善を無視する、粗雑な手段です。責任を持って使用された場合、顔認識は、迷子の子供を両親と再会させたり、群衆の中から危険な逃亡者を特定したり、計画されたテロ攻撃を阻止したりできる強力なツールとなります。これらは仮説上のシナリオではなく、命を救い、地域社会を守る現実世界の応用です。 プライバシー、バイアス、誤用の可能性に関する正当な懸念は、禁止の理由ではなく、堅牢な規制を求める説得力のある議論です。私たちは、厳格な原則に基づいた枠組みを提唱します。すなわち、この技術がいつ、どのように使用できるかについての明確な規則、バイアスを排除するための厳格な精度基準、国民の監視を可能にする透明性の高い方針、そしてコンプライアンスを確保するための独立した監査です。データは、アクティブな捜査の一部でない限り、短期間で削除されるべきであり、その使用は、政治的抗議活動や軽微な違反の監視のためではなく、重大な犯罪に限定されるべきです。極めて重要なのは、システムによって行われた一致は、いかなる措置が取られる前に、人間によって検証されなければならないということです。 この技術を禁止することは、次の悲劇を防ぐことができる貴重なツールを棚上げにすることを選択することです。賢明な前進の道は、イノベーションを恐れることではなく、思慮深く民主的な監督によってそれを導き、私たちの基本的権利を保護しながら、公共の利益に資することを保証することです。

テクノロジーが、家族の再会や凶悪犯の逮捕といった、限定的で重大なケースで役立つ可能性を強調されるのはもっともです。しかし、あなたの主張は、顔認識技術（FRT）が実際に引き起こす弊害を、規制によって確実に防げると仮定しています。私は、その仮定がいかに危険であるか、そして公の場での使用禁止こそがより責任ある政策であることを示します。 1) バイアスと誤りは、規則だけでは解決できません。独立した評価により、女性や有色人種に対する誤認識率および誤非認識率が繰り返し高いことが示されています。全体的な精度しきい値を設定しても、格差のある影響は解消されません。同じシステムでも、平均的な基準を満たしながら、依然としてマイノリティグループをはるかに高い割合で誤認識する可能性があります。人間のレビューではこれを完全に修正することはできません。調査官は、システムが「一致」を示した場合、確認バイアスに陥りやすく、フラグが立てられた個人を容疑者として扱うのではなく、無実の人として扱う可能性があります。その結果、不当な停止や逮捕、そしてそれに伴う生計や自由への損害が生じます。 2) インフラが存在する場合、「厳格な制限」や「短い保持期間」は脆弱です。都市が普遍的なカメラ、中央データベース、ベンダーシステムを設置すると、ミッションクリープ（目的外使用の拡大）は日常的になります。当初はテロ対策や重大犯罪のために承認された監視ツールが、後に抗議活動、軽微な違反、移民取締り、商業目的などに使用されるようになります。規制上の約束は、政治的意思と制度的インセンティブの持続力にのみ依存します。歴史は、それらのインセンティブが恒久的な制限ではなく、より広範な使用へと向かうことを示しています。 3) 透明性、監査、監視は理論上は聞こえが良いですが、実際にはしばしば空虚です。多くのシステムは独自のブラックボックスであり、監査はベンダーや機関が非公開にできるデータ、モデル、ログへのアクセスに依存します。たとえ「独立した」監査であっても、範囲が限定的であったり、遅延したり、非公開であったりする可能性があります。真に強制力のあるリアルタイムの透明性（それ自体がプライバシーとセキュリティのリスクをもたらします）なしには、監視は運用速度での誤用を防ぐことができません。 4) データセキュリティと第三者アクセスは現実の脅威です。大規模な顔認識データベースはハッカーにとって魅力的な標的であり、しばしば機関や民間事業者間で連携されています。共有に関する規制上の制限を監視することは困難です。データが複製、販売、またはコピーされた場合、削除規則は効果がありません。侵害された生体認証データは、パスワードのように「再発行」することはできません。損害は永続的です。 5) 冷静効果と不均一な執行は、民主主義への損害を増大させます。常にオンの識別は行動を変えます。人々は特定の場所を避けたり、抗議活動への参加をためらったり、公的生活への参加を断ったりします。これらの影響は、活動家、ジャーナリスト、マイノリティコミュニティに最も重くのしかかり、推進者が保護を主張する公衆の安全と社会の結束そのものを損ないます。 6) 限定的な安全上の利点は、永続的で社会全体の識別を正当化しません。公の場でのFRTによる犯罪の有意な削減に関する経験的証拠は乏しいです。多くの実際の公衆安全上のニーズは、ターゲットを絞った、令状に基づく使用、人間の警察活動の改善、地域社会との連携強化、および非識別技術（犯罪パターン分析、照明の改善、ID連携のないCCTVなど）への投資によって満たすことができます。これらの代替手段は、大量識別を制度化しません。 要するに、規制は紙の上ではリスクの一部を軽減できますが、公の場に常にオンの顔認識インフラを構築することから生じる、バイアス、ミッションクリープ、不透明なシステム、データ侵害、および冷静効果といった構造的な弊害を排除することはできません。公の場でのFRTの使用禁止は、大量識別の正常化を防ぎつつ、特定の捜査において、確たる証拠が存在する場合に限り、裁判所によって承認された、狭く的を絞った生体認証検索を可能にします。このアプローチは、正当な法執行ツールを放棄することなく、市民的自由を保護します。これらの理由から、政府は、すでに実用上失敗している脆弱な規制上の約束に依存するのではなく、公の場での顔認識を禁止すべきです。

私の反対者は、あらゆる規制は失敗し、誤用は避けられないと仮定し、最悪のシナリオの連鎖に基づいて全面禁止を主張しています。これは、私たちの民主主義制度に対する根本的に悲観的な見方です。強力なテクノロジーを制御できないという主張は、盗聴器からDNAデータベースまで、厳格な法的枠組みを通じてツールを規制することに成功してきた私たちの長い歴史を無視した、滑りやすい坂道の議論です。 アルゴリズムのバイアスに関する懸念は妥当ですが、それは禁止ではなく、より良いエンジニアリングと厳格な監督を求めるものです。私たちの提案は、すべての人口統計グループで高い精度を確保するための独立したテストを義務付け、そして極めて重要なこととして、措置が講じられる前に潜在的な一致の人間による検証を要求します。このテクノロジーは、自動化された裁判官や陪審ではなく、捜査官への手がかりとして機能します。この単一のセーフガードは、不正確なデータに基づく誤った逮捕への懸念に直接対処します。 さらに、FRTが「萎縮効果」を生み出すという主張は、標的を絞った捜査ツールと大規模な社会統制システムを混同しています。私たちの枠組みは、政治集会の監視ではなく、テロや行方不明者の捜索のような重大な犯罪の捜査にその使用を明確に限定しています。公の場での匿名性の権利は絶対的なものではなく、重大な脅威からの公共の安全への権利とのバランスを取る必要があります。これらの安全上の利点を「誇張されている」と却下することは、子供の親や予防可能な攻撃の犠牲者に対して、その使用を恐れて貴重なツールが棚上げにされたと告げることです。禁止は簡単な道ですが、権利を保護するインテリジェントな規制を策定することが責任ある道です。

結びの言葉：私の対戦相手は、顔認識のリスクを抑制するために、規制と人間の監視を信頼するように求めています。その信頼は誤っています。FRTが作り出す最も深刻な弊害—女性や有色人種の体系的な誤認識、永続的な生体認証データベース、そして常時稼働する身元確認の常態化—は、チェックリストで解決できる官僚的な問題ではありません。これらは、身元確認インフラを大規模に展開することによる構造的な結果です。人間のレビューや監査は安心感を与えますが、実際には日常的に失敗します。確証バイアス、独自のブラックボックス、監査アクセスの制限、そして使用拡大への金銭的または政治的なインセンティブは、セーフガードがしばしば手遅れになるか、表面的に留まることを意味します。データ侵害や生体認証データの取り返しのつかない誤用は、事態を永続的なものにします。顔は「リセット」できません。 対戦相手は公共の安全を正当に重視していますが、引用されている利点（行方不明者の発見、凶悪犯の逮捕）は、カメラの前を通り過ぎるすべての人々の都市規模での継続的な身元確認を必要としません。令状に基づく的を絞った生体認証チェック、捜査資源の改善、地域社会との連携による警察活動、そして身元確認を伴わない監視オプションは、大量の身元確認を制度化することなく、これらの利点を提供できます。民主的機関がミッションクリープを確実に抑制するという主張は、監視権限が当初の範囲を超えて拡大した繰り返しの例を無視しています。 最後に、抗議活動、ジャーナリズム、そして日常の公共生活に対する萎縮効果は、すでに疎外されているグループに不均衡に影響を与え、中核的な民主的権利を損ないます。これらの永続的なリスクと、公共空間でのFRTが大規模な安全性を実質的に向上させるという証拠が弱いことを考えると、予防的な選択は公共空間での使用を禁止することです。このアプローチは、具体的な捜査のために狭く裁判所によって承認された生体認証ツールを維持しつつ、大量監視の常態化を防ぎ、すべての人々の市民的自由を保護します。これらの理由から、政府は、脆い規制の約束に賭けるのではなく、公共空間での顔認識を禁止すべきです。

私の反対者は、この討論全体を通して、顔認識技術を制御不能な力として提示し、そのリスクは非常に大きいため、唯一の選択肢は全面禁止であると主張してきました。しかし、この立場は、私たち自身と私たちが作り出す技術を統治する能力に対する深い悲観主義に根差しています。それは、責任あるイノベーションを受け入れるのではなく、恐れから公共の安全のための強力なツールを犠牲にすることを求めています。私たちの立場は明確です。答えは禁止ではなく、堅牢で民主的な規制です。 反対者の主張は、いかなる規制の枠組みも失敗する運命にあるという考えにかかっています。つまり、バイアスは修正不可能であり、権限の拡大は避けられず、誤用は確実であるということです。これは誤った選択です。私たちは、司法令状を必要とする盗聴から、厳格なアクセス規則を持つDNAデータベースまで、強力なツールを厳格な法的管理下に置く長い歴史を持っています。顔認識についても同様のことを行う能力がないと示唆することは、統治の原則そのものを放棄することです。私たちの提案する厳格な使用制限、必須の人による検証、独立した監査、および公共の透明性からなる枠組みは、彼らが提起したリスクに直接対処し、軽減します。それは、この技術が大量監視のためのツールではなく、凶悪な犯罪の解決と脆弱な人々を見つけるための標的化された手段として役立つことを保証します。 結局のところ、禁止は責任の放棄です。それは、テロ攻撃を防いだり、群衆の中で行方不明の子供を見つけたりするための重要なツールを法執行機関から奪うことになる、敗北の告白です。反対者の議論は、中間的な解決策も前進する道も提供せず、後退しか提供しないため、失敗しています。選択肢は、完全な監視と完全な禁止の間にあるのではありません。選択肢は、恐れと責任ある管理の間にあるのです。強力で執行可能な規制を実施することにより、私たちは、私たちすべてが大切にしている市民的自由を厳格に保護しながら、この技術の生命を救う可能性を活用することができます。それが、私たちの社会にとって、現実的で、バランスの取れた、より安全な道です。