予測型ポリシング：公共の安全のための手段か、それとも体系的偏見の触媒か？

予測的警察活動は、現代の法執行における最も有望な進歩の一つであり、公共の安全のためのツールとして真剣に検討されるべき理由を、明確かつ証拠に基づいた事例として提示したいと思います。 まず、法執行機関が厳しいリソースの制約下で運営されているという根本的な現実に対処しましょう。無制限の警官、パトカー、勤務時間を持つ警察署はありません。リソースをどこに展開するかについてのすべての決定は、定義上、予測であり、犯罪が最も発生しやすい場所についての判断です。問題は、警察が予測を行うかどうかではなく、その予測が厳格なデータ分析によって導かれるのか、それとも個々の警官の主観的な勘によって導かれるのかということです。AI主導の予測的警察活動は、勘に頼ることを、体系的で透明性があり、監査可能な方法論に置き換えます。これは脅威ではなく、改善です。 第二に、証拠はこれらのシステムの有効性を裏付けています。場所ベースの予測的警察活動の研究、例えばロサンゼルスでのPredPolのランダム化比較試験では、逮捕者の増加を伴わずに、対象地域での犯罪の測定可能な減少が示されており、これは、単に犯罪者を刑事司法制度に送り込むことを増やすことなく、抑止効果が機能することを示しています。実際にリスクの高い地域で警察のプレゼンスが増加すると、潜在的な犯罪者は抑止され、潜在的な被害者は保護されます。これは地域社会の安全にとってプラスです。 第三に、データ主導のアプローチは、従来の警察活動にはない客観性と説明責任の層を導入します。アルゴリズムがホットスポットを特定した場合、その理由は調査、監査、異議申し立てが可能です。個々の警官が個人的な偏見や逸話的な経験に基づいて特定の地域をパトロールすることを決定した場合、そのような透明性はありません。予測的警察活動システムは、人間の意思決定では不可能な方法で、バイアスの監査、公平性の制約、および外部の監督の対象とすることができます。 第四に、効果的な警察活動から最も恩恵を受けるコミュニティは、しばしば、批判者がこれらのツールによって害を被ると主張するコミュニティそのものです。犯罪率の高い地域には、低所得者やマイノリティの住民が多く住んでおり、彼ら自身が暴力犯罪の主な被害者です。公平性の名の下に、データ主導のリソースをこれらの地域から撤回することは、逆説的に最も脆弱な人々を保護が少なくすることになります。 最後に、過去のデータにおけるバイアスの懸念は、正当なものですが、根本的な失格理由ではなく、エンジニアリング上の課題です。最新の予測的警察活動システムは、特定の種類のデータを重視したり、執行バイアスを反映した逮捕データを除外したり、被害者報告の犯罪に焦点を当てたり、公平性の制約をアルゴリズムに直接組み込んだりするように設計できます。不完全なデータに対する解決策は、事業全体を放棄することではなく、より良いデータとより良いアルゴリズムです。 要約すると、予測的警察活動は完璧なシステムではありませんが、現状よりも、リソース配分において、より合理的で、透明性があり、改善可能なアプローチです。それを拒否することは、説明責任が少なく、より主観的で、最終的にはより偏った人間の意思決定をデフォルトにすることになります。前進する道は、全体的な拒否ではなく、堅牢な監督の下での責任ある実装です。それは、命を救うことができるツールです。

予測的ポリス（Predictive policing）は、法執行機関の客観的かつ中立的な改善ではなく、既存の不正義を固定化・自動化するテクノロジーです。これらのシステムは、犯罪行動の偏りのない記録ではなく、警察がどこをパトロールし、誰を逮捕したかを反映する過去の警察データで訓練されています。これは、偏った入力が偏った出力を生み出すことを意味します。つまり、すでに過剰な取り締まりを受けていた地域や人口統計グループが「高リスク」としてフラグ付けされ、さらに多くの警察の注意を引きつけるのです。その結果、監視、停止、逮捕の自己強化的なフィードバックループが生じ、格差を是正するのではなく永続させてしまいます。 このフィードバックループには、現実の人的コストが伴います。過剰な取り締まりを受けたコミュニティは、生活の混乱、スティグマ、機会へのアクセス低下に苦しんでいます。個人は、個別の疑いではなく、アルゴリズムのスコアに基づいて、繰り返し停止されたり、嫌がらせを受けたり、犯罪記録を負ったりする可能性があります。また、予測ツールは誤検知や不透明なリスクラベルを生成し、異議申し立てや救済のための実質的なメカニズムがないため、デュープロセスと公正の基本原則を損なっています。 偏見を超えて、予測的ポリスは公衆の信頼を損ないます。効果的な法執行にはコミュニティの協力が不可欠です。住民が、執行が自分たちを不当に標的とする秘密のアルゴリズムによって推進されていると信じている場合、犯罪を報告したり、警察と協力したりする可能性が低くなります。その信頼の喪失は、理論的な効率性の向上を上回る方法で、犯罪を増加させ、市民生活を損なう可能性があります。 これらのシステムが犯罪を減らすという主張は、しばしば誇張されています。研究や実際の展開では、警察活動の転換や犯罪の構造的原因を考慮すると、効果はまちまちであるか、無視できる程度であることが示されています。さらに、多くの予測システムは専有的なものであり、透明性や独立した監査可能性を欠いているため、有効性を検証したり、損害を検出したりすることが不可能です。厳格な独立評価なしに、継続的な展開は広範囲にわたる測定不能な損害のリスクを伴います。 プライバシーと市民的自由に関する深刻な懸念もあります。予測スコアを拡張された監視（カメラ、顔認識、携帯電話追跡）と組み合わせることで、証明された脅威に焦点を当てるのではなく、コミュニティ全体を標的とする、深く侵入的な装置が作成されます。これは、個別の疑いと不当な捜索・押収からの保護を必要とする司法制度とは相容れません。 より安全な道は、法執行のためのアルゴリズム予測を拒否または厳しく制限し、代わりに根本原因に対処するアプローチに投資することです。社会サービス、住宅、教育、コミュニティ主導の公共の安全、独立した監査の対象となる透明な分析、明確な説明責任を持つ人間の判断などが含まれます。予測ツールが使用される場合でも、それらは透明性があり、説明責任があり、監査可能であり、倫理的でコミュニティ中心の法執行をサポートするため（置き換えるためではなく）に制約されなければなりません。 要するに、予測的ポリスは、歴史的な偏見をエンコードし、有害なフィードバックループを生み出し、信頼と市民的自由を損ない、説得力のある利点の証拠を欠いているため、根本的に欠陥があります。賢明で公正な選択は、これらのシステムを停止または厳しく規制し、リソースを公正で証拠に基づいた公共の安全戦略に再配分することです。

私の対戦相手は熱のこもった主張を展開しましたが、それはいくつかの誇張、偽りの二分法、そして現代の予測的警察活動システムが実際にどのように機能するかについての根本的な誤解に基づいています。最も強力な論点に直接対処させてください。 第一に、フィードバックループの議論です。私の対戦相手は、過去のデータが過去の警察活動パターンを反映しているため、予測システムは必然的にそれらのパターンを再現すると主張しています。これは予測的警察活動に対する最も繰り返される批判であり、却下されるのではなく、真剣な対応に値します。フィードバックループの懸念は現実のものですが、それは致命的な欠陥ではなく、設計上の問題です。現代の場所ベースの予測システムは、逮捕記録や停止データではなく、被害者から報告された犯罪データ、つまり911通報、報告された強盗、報告された暴行にますます依存しています。被害者からの報告は、警察が単にパトロールを選択する場所ではなく、実際に犯罪が発生する場所を反映しています。この区別は非常に重要です。RANDコーポレーションなどの研究者は、このアプローチを具体的に推奨しており、責任ある実装はすでにそれに従っています。私の対戦相手は、すべての予測的警察活動を、2012年で凍結された単一の単一システムであるかのように扱っています。そうではありません。 第二に、私の対戦相手は、これらのシステムが国民の信頼を損なうと主張しています。しかし、信頼は、効果のない警察活動、対応時間の遅延、法執行機関が高犯罪地域を見捨てたという認識によって、はるかに損なわれます。暴力犯罪の影響を最も受けている地域住民は、警察の存在を減らすのではなく、増やすことを一貫して望んでいます。彼らが望んでいるのは、公正で敬意のある警察活動です。2020年のギャラップ調査では、黒人アメリカ人の81％が、自分の地域での警察の存在を同じかそれ以上に望んでいることがわかりました。データに基づいたツールを撤回することは信頼を築きません。それは脆弱なコミュニティの安全への無関心を示しています。 第三に、私の対戦相手は、有効性に関する証拠が混在しているか無視できるほどであると主張しています。これは誤解を招くものです。ロサンゼルスでのPredPolのランダム化比較試験—最も厳密な評価の1つ—は、アルゴリズムによって予測されたホットスポットが、アナリストによって予測されたホットスポットと比較して犯罪の減少を経験し、そして重要なことに、逮捕の増加なしにこれが起こったことを発見しました。イングランドのケントでの別の研究も同様の結果を示しました。これらのシステムは銀の弾丸でしょうか？いいえ。しかし、「証拠が混在している」ということは「証拠がない」ということではなく、ましてやそのアプローチを放棄することを正当化するものではありません。その基準によれば、証拠がほぼ常に混在している刑事司法、公衆衛生、教育のほとんどの介入を放棄することになります。 第四に、プライバシーと市民的自由に関する議論は、予測的警察活動と顔認識や携帯電話追跡などの監視技術を混同しています。これらは、異なる法的および倫理的枠組みを持つ異なるツールです。場所ベースの予測的警察活動—個々の容疑者ではなく、地理的なホットスポットを特定する—は、本質的に監視の拡大を伴いません。それは、警官にどこをパトロールすべきかを指示するのであって、誰を停止すべきかを指示するのではありません。すべての論争の的となっている技術を単一のブギーマンにバンドルすることは、修辞的には効果的ですが、分析的には不誠実です。 第五に、私の対戦相手は、代わりに社会サービス、住宅、教育、地域主導の安全への投資を提案しています。私は、これらの投資が不可欠であることに全面的に同意します。しかし、これは偽りの選択です。予測的警察活動と上流の社会的投資は相互排他的ではありません。それらは補完的です。コミュニティは、長期的な構造的解決策と、進行中の犯罪への即時かつ効果的な対応の両方を必要としています。先週子供が撃たれた母親は、今後10年間で暴力を減らすための住宅プログラムを待つことはできません。彼女は今、効果的な警察活動を必要としています。 最後に、私の対戦相手は、あらゆるアルゴリズムツールに対する透明性、説明責任、監査可能性、および独立した監督を求めています。私は完全に同意します—そしてそれがまさに私のポイントです。アルゴリズムは監査できます。それらは公平性の制約を受けることができます。それらは独立した機関によってレビューできます。それらは反復的に改善できます。人間の直感と個々の警官の裁量は、同じ方法で監査することはできません。私の対戦相手が要求するまさにそのセーフガードは、アルゴリズムシステムがない場合よりも、それがある場合の方が達成可能です。 私の対戦相手の議論の核心は、最終的に次のように要約されます。予測的警察活動は悪く実装される可能性があるため、まったく実装されるべきではない。その論理を一貫して適用すれば、現代の統治におけるほぼすべてのツールが排除されるでしょう。責任ある立場は廃止ではなく改革です—透明なアルゴリズム、被害者からの報告データ入力、独立した監査、地域監督、そして予測が警察活動にどのように変換されるかについての厳格な制限。それが安全と正義の両方への道です。

予測的警察活動を、乏しい資源と人間の不完全な判断に対する実用的な解決策として提示していますが、それらの前提は、体系的に偏見を再生産・増幅するツールを展開することを正当化しません。あなたの最も強力な主張に一点ずつ反論し、リスクが約束された利益を上回る理由を説明します。 1) 資源の制約は、偏った意思決定を免責するものではありません。警察は優先順位をつける必要がありますが、逮捕歴やパトロール歴に基づいて訓練されたモデルを使用することは、過去の執行選択を単に自動化するだけです。それらの記録は、誰が取り締まられたかを反映するものであり、誰が犯罪を犯したかを反映するものではありません。そのパターンを自動化することは、偏見を是正するのではなく、偏見のある資源配分を保証します。より良い代替案――透明性の高いニーズに基づいた展開、地域社会からの意見、社会サービスへの投資――は、不正義をコードに刻み込むことなく、希少性に対処します。 2) 犯罪削減における意味のある、スケーラブルな証拠は、あなたが示唆するよりもはるかに弱く、より論争の的となっています。ロサンゼルスでのPredPolの試験は成功として宣伝されてきましたが、その後の分析では、効果は限定的で短命であり、結果の測定方法に左右されることが示されています。多くの展開では、犯罪の移動、報告行動の変化、または被害の真の減少ではなく、監視の増加に起因する記録された犯罪の減少が報告されています。局所的な小規模な抑止効果は、広範な市民的自由の侵害を生み出す広範なシステムを正当化するものではありません。 3) 「客観性」は誤解を招く主張です。アルゴリズムは、その入力と設計上の選択と同じくらい中立的です。逮捕記録、911通報、停止報告などの主要な入力は、警察活動と地域社会の信頼によって形成されます。「公平性制約」をエンジニアリングすることは、どの害を優先するかについての政治的な選択を必要とし、新たなトレードオフ（例えば、あるグループの偽陽性を減らすことが別のグループの偽陽性を増やす可能性がある）をもたらす可能性があります。多くの予測製品は専有的で不透明であり、独立した監査を防いでいます。客観性には透明性と論争の余地が必要ですが、現在のシステムのほとんどは両方を欠いています。 4) 予測的警察活動から「最も恩恵を受ける」地域社会が、標的にされている地域社会と同じであるという考えは、生きた現実を無視しています。警察活動が多い地域は、しばしば過剰な監視下にあり、住民は他の場所では同様の人が回避できる違反行為で、より多くの停止、捜索、犯罪記録を経験しています。そのパターンは、雇用、教育、市民参加を損ない、長期的な脆弱性と不信感を増大させる結果をもたらします。貧困と疎外を犯罪化することでは、公共の安全は守られません。 5) フィードバックループと偏った慣行の正当化は、仮説ではなく、本質的なものです。システムがある地域をフラグ立てすると、警察の存在が増加し、より多くの記録された事件と逮捕が生じ、アルゴリズムはそれをリスクが高いことの証拠として扱います。そのループは格差を固定し、修正が困難です。なぜなら、システムを修正するために使用するであろうデータ自体が、執行活動によって汚染されているからです。警察がデータ生成者である場合、「データを修正する」という約束は循環的です。 6) プライバシー、適正手続き、地域社会の信頼は、具体的で測定可能なコストです。予測システムは、しばしば監視（カメラの設置、停止、標的化された執行）を拡大し、異議を唱えるメカニズムを欠いた不透明なリスクスコアで人々や場所をラベル付けします。信頼の低下は、警察との協力を減らし、長期的に公共の安全を損ないます――これらのシステムの公言された目標とは逆効果です。 7) 実用的でより安全な代替案が存在します。資金を、地域社会主導の暴力防止、住宅、メンタルヘルスおよび薬物乱用サービス、証拠に基づいた介入、政策を通知する透明性の高い分析（自動化されたターゲティングではない）に振り向けます。分析が警察活動を通知する場所では、オープンソースモデル、公開データセット、独立した監査、影響評価、および執行用途に対する厳格な制限を要求します。 要するに、予測的警察活動は、科学的な中立性の幻想を提供しながら、歴史的な不正義を固定化します。モデルの微調整、特定の入力の除外、または公平性制約のレイヤリングというあなたの提案は、偏ったデータ生成、フィードバックループ、および不透明なベンダー慣行という構造的な問題を克服するには不十分です。責任ある行動は、予測的警察活動を停止または厳しく制限し、運用上の使用の前に完全な透明性と独立した評価を要求し、罰を自動化するのではなく、犯罪の根本原因に対処する投資を優先することです。

最後に、責任ある予測的警察活動の根拠がなぜ依然として有効であり、私の反対者の議論は、正当な懸念を提起しているものの、最終的にこのツールを放棄することを正当化するには至らないのかを要約して締めくくりたいと思います。 この討論全体を通して、私の反対者は一貫したレトリック戦略に頼ってきました。それは、最悪の予測的警察活動の実施例を取り上げ、それを唯一可能な実施例として扱い、そして廃止を主張することです。しかし、テクノロジーや政策を評価する方法はそうではありません。一部のアルゴリズムが人種的偏見を示したからといって、医療診断を放棄することはありません。私たちはそれを修正します。初期のモデルが不正確だったからといって、天気予報を放棄することはありません。私たちはそれを改善します。問題は、予測的警察活動が今日完璧であるかどうかではありません。問題は、それが、チェックされていない人間の裁量という代替案よりも、改善可能で、透明性が高く、説明責任のある枠組みを表しているかどうかです。 その点について、証拠は明確です。第一に、私の反対者は、すべての警察活動には予測が含まれるという核心的な点を一度も効果的に反論しませんでした。すべてのパトロール割り当て、すべてのリソース配分決定は予測です。選択肢は、予測と予測なしの間にあるのではなく、体系的で監査可能な予測と、不透明な個人の判断との間にあります。私の反対者が好む代替案である「地域社会の意見」と「ニーズに基づいた展開」でさえ、誰かが警官をどこに派遣するかを決定する必要があります。データ駆動型のツールがなければ、それらの決定は、私の反対者が反対すると主張するまさにその人間の偏見に帰着します。 第二に、私の反対者は繰り返しフィードバックループの問題を提起しましたが、私が提示した解決策、つまり逮捕データではなく被害者報告の犯罪データを使用することに十分に対処しませんでした。これは仮説上の修正ではありません。すでに主要な実施例では標準的な慣行となっています。911番通報からの被害者報告は、警察がパトロールを選択する場所ではなく、住民が経験するとおりに犯罪が実際に発生する場所を反映しています。私の反対者の応答は、911番通報さえも警察活動によって形成されていると主張することでしたが、これは議論を検証不可能性の点まで引き伸ばします。もしどのデータソースも十分にクリーンでないのであれば、私の反対者は予測的警察活動に反対しているのではなく、犯罪に関する経験的知識の可能性に反対していることになります。これは、「証拠に基づいた」代替案も望む人にとっては、維持不可能な立場です。 第三に、有効性について、私の反対者は証拠を弱く、論争の的となっていると特徴づけました。しかし、論争の的となっている証拠がないわけではありません。ロサンゼルスのランダム化比較試験では、逮捕の増加なしにアルゴリズムで予測されたホットスポットで犯罪が減少したことが示されました。これは私の反対者が却下しましたが、同等の厳密さの反証で実際に反論したことはありません。私の反対者は、転位効果と測定上の懸念を指摘しましたが、これらは予測的警察活動の固有の失格事由ではなく、あらゆる犯罪学評価における標準的な課題です。もし私の反対者の証拠基準を一貫して適用するならば、地域社会の暴力介入プログラム、修復的司法イニシアチブ、そしてほとんどの社会サービスプログラムも放棄しなければならないでしょう。これらのプログラムのすべてが同様に混合された証拠基盤を持っています。 第四に、私の反対者は、予測的警察活動と根本原因への投資（社会サービス、住宅、教育、メンタルヘルス）との間の偽の選択肢を提示しました。私は繰り返し、これらは競合する戦略ではなく補完的なものであると述べてきました。今日、暴力に直面している地域社会は、長期的な構造的投資と、即時的で効果的な警察活動の両方を必要としています。私の反対者は、上流の投資が実を結ぶのを何年も、何十年も待つ間に、地域警察署が利用できる最も効果的なリソース配分ツールを引き出すことが、高犯罪率地域の家族にどのように役立つのかを説明しませんでした。 第五に、透明性と説明責任について、私の反対者と私は目標について実際に合意しています。つまり、あらゆる予測システムは、監査可能で、独立した評価の対象となり、公平性の要件によって制約され、地域社会の監督によって管理されるべきです。しかし、ここに私の反対者が決して対処しなかった重要な点があります。アルゴリズムシステムは、形式的で、明示的で、再現可能であるため、この種の監督に固有に適しています。アルゴリズムを監査できます。それを異なる影響についてテストできます。特定の公平性のしきい値を満たすように要求できます。パトロール軍曹が今夜どこに警官を派遣するかを決定する個人の直感では、これらのどれも行うことはできません。私の反対者は説明責任を要求しますが、説明責任を最も達成可能にするツールそのものを拒否します。 最後に、私の反対者の立場は、論理的な結論に至ると自己矛盾に陥ります。もし私たちが予測的警察活動を中止すれば、警察署は予測をやめるわけではありません。単に、より不透明に、より一貫性がなく、より説明責任が少なく予測を行うだけです。私の反対者が保護しようとしている地域社会は、より多くの監督を得るのではなく、警察活動の決定に対する監督が少なくなることになります。それは正義ではありません。それは原則を装った意図的な盲目です。 責任ある前進の道は、廃止ではなく改革です。つまり、被害者報告データに基づいた透明なアルゴリズム、独立した偏見監査、予測が警察活動にどのように変換されるかを管理する厳格なプロトコル、有意義な地域社会の監督、そして継続的な評価です。このアプローチは、データ駆動型のリソース配分の真の利点を活用しながら、偏見と市民の自由に関する正当な懸念に対処します。私の反対者は情熱と原則を提供しましたが、今日暴力に直面している地域社会を保護する実行可能な代替案はありませんでした。責任を持って実施された予測的警察活動は、その両方を達成します。つまり、安全性と説明責任を同時に進歩させます。だからこそ、それは放棄ではなく、継続的な開発に値するのです。

結論：予測的警察活動は中立的な技術的解決策ではなく、歴史的な不正義を制度化し、効率性を装ってそれを増幅するシステムである。私の対立者は、客観性、監査、被害者からの報告入力を約束すると言って、アルゴリズムを信頼するように求めている。しかし、これらの安全策のどれも根本的な問題を解決しない。これらのシステムが依存するデータは、偏った執行慣行によって生成されており、アルゴリズムの出力は、バイアスを生み出したのと同じ警察活動にフィードバックされる。このフィードバックループは、仮説上のエッジケースではなく、すでに過剰に警察活動が行われている地域に監視、停止、逮捕を予測的に集中させ、犯罪記録、失業、生活の混乱といった測定可能な被害を生み出し、公共の安全を改善するどころか低下させる。 犯罪削減が証明されたという主張は、脆弱で争われている証拠に基づいている。記録された事件の短期間の減少は、被害の真の減少ではなく、移動、報告の変化、または検出の増加を反映している可能性がある。独立した監査不可能な専有ツールは、主張された利益を検証したり、被害を定量化したりすることを不可能にする。約束されたエンジニアリング上の修正（特定の入力を除外する、公平性制約を追加する、被害者報告に焦点を当てる）は、しばしば政治的に困難で、技術的に限定的であり、警察自身がモデルを「修正」するために使用するデータを生成する場合、循環的である。 統計的な批判を超えて、適正手続き、透明性、地域社会の信頼といった中核的な市民的価値が危機に瀕している。不透明なリスクスコアと自動化されたターゲティングは、個別の疑念保護を損ない、異議申し立てのための実行可能な手段を提供しない。信頼の低下は、法執行機関との協力を減らし、長期的な公共の安全を弱める。これは、推進者が約束するものの正反対である。 私たちは行動しないことを主張しているのではない。地域社会は、暴力に対する即時的かつ効果的な対応と、住宅、メンタルヘルスおよび薬物乱用サービス、教育、雇用、地域主導の暴力防止といった根本原因に対処する長期的な投資の両方を必要としている。分析が使用される場合は、オープンソースで、公に監査可能で、非執行計画用途に厳密に限定され、独立した影響評価の後でのみ展開されなければならない。これらの厳格な制限がない限り、デフォルトは停止であり、拡大ではないはずである。 私の対立者は、予測的警察活動を改革可能なツールとして枠付けた。現実は、その中心的なメカニズムが、構造的なバイアスを再現しやすく、疎外された人々に集中した被害を与えることを可能にしているということである。賢明で、公正で、証拠に基づいた結論は、運用上の予測的警察活動を停止または厳しく制限し、いかなる使用の前にも完全な透明性と独立した評価を要求し、差別を自動化しない、証明された公平な公共安全戦略にリソースを再配分することである。