中東を取材するジャーナリストが、米情報機関のＡＩ（人工知能）システムで「テロリスト」と判定された――。
中東の紛争地で米国政府に「テロリスト」認定されることは、ドローン攻撃の標的にされる「命の危険」の可能性を意味する。
By Steve Jurvetson (CC BY 2.0)
それを取り消させることはできるのか？
そんな裁判の判決が、ワシントン地裁で出された。
ＡＩシステムの名前は、ＳＦ映画「ターミネーター」で人類絶滅を図るＡＩと同じ「スカイネット」。
ＡＩの誤判定によって「命の危険にさらされた」と主張するジャーナリストに対し、裁判官が下した判決とは――。
●「キルリストから名前を削除せよ」
ワシントン連邦地裁に提訴があったのは、２０１７年３月３０日。原告は、いずれも中東で活動するジャーナリスト、アフマド・ザイダーン氏とビラル・カリーム氏。
ロンドンを拠点とする人権団体「リプリーブ」が支援している。
被告は、トランプ大統領、ポンペオ米中央情報局（ＣＩＡ）長官（当時）、マチス国防長官、ケリー国土安全保障長官（当時）、セッションズ司法長官、コーツ国家情報長官、マクマスター国家安全保障担当大統領補佐官（当時）、そして国防総省、司法省、国土安全保障省、ＣＩＡ、米連邦地検だ。
訴状は、こう主張する。
本件訴訟は、被告らに対し、原告らの"キル（殺害）リスト"（"ディスポジション（退位）マトリックス"とも称される）への記載、保持を禁じることを求めるものである。これらはすなわち、殺害の標的となることを意味する。
「キルリスト（ディスポジションマトリックス）」とは、テロ対策の一環として２０１０年ごろからオバマ前政権下で作成されてきたとされる、テロ容疑者データベースを指す。２０１２年にワシントン・ポストがその存在を暴露している。
このリストに登録されたテロ容疑者は、ドローン（無人攻撃機）による攻撃、もしくは逮捕・極秘起訴の対象となる、という。
中東でジャーナリストとして活動する原告の２人は、テロ容疑者としてこの「キルリスト」に登録され、命の危険にさらされている、と主張しているのだ。
●テロリスト判定ＡＩ「スカイネット」
原告の１人、アフマド・ザイダーン氏はシリア出身。パキスタンの国籍も持ち、２０年以上にわたり中東・カタールのメディア「アルジャジーラ」のパキスタン・イスラマバード支局長を務めてきたベテランジャーナリストだ。
そして、米同時多発テロを主導した国際テロ組織アルカイダのオサマ・ビンラディン容疑者への、２度にわたるインタビューを行ったことでも知られる。
そのザイダーン氏を米情報機関が「アルカイダのメンバーであり、ムスリム同胞団のメンバー」と認定していた――２０１５年５月、調査報道メディア「インターセプト」がそう報じた。
その証拠は、ＮＳＡ、ＣＩＡの元職員、エドワード・スノーデン氏が２０１３年に暴露した、ＮＳＡの極秘文書の中にあった。
「スカイネット：先進クラウドベースの行動分析の適用」とのタイトルの２００７年１月８日付の文書と、「スカイネット：機械学習（マシンラーニング）による連絡役の割り出し」とのタイトルがある２０１２年６月５日付の文書がそれだ。
２００７年の文書では「スカイネット」はこう説明されている。
スカイネットは大量のダイヤル番号認識（ＤＮＲ）データに対する地理空間、地理時間、生活パターン、移動の分析を複雑に組み合わせることで、容疑者の行動パターンを特定します。
「ダイヤル番号認識（ＤＮＲ）」とはつまり、携帯電話の通話履歴だ。携帯の通話履歴からは、通話の相手先、時間などのほか、携帯基地局から位置情報も取得できる。
さらに、２０１２年の文書ではさらに具体的に、パキスタン国内の５５００万件の携帯電話（ＧＳＭ）のメタデータ（通話履歴）を人工知能の機械学習による分析対象とした事例を説明。
ＧＳＭのメタデータから、それぞれの調査対象者の生活パターン、ソーシャルネットワーク、旅行行動を測定することができます。
そして、機械学習による行動分析から、アルカイダ幹部の連絡役を割り出していく手法を解説している。
「スカイネット」の名前は、アーノルド・シュワルツネッガー氏が主演したＳＦ映画「ターミネーター」に登場する、人類を絶滅させようとする軍事ＡＩシステムとしてよく知られている。
核戦争を引き起こして人類の半分を死滅させた上に、アンドロイド軍団を組織して、人類殲滅を図る。暴走するＡＩの代名詞とも言える。
その名を冠したＮＳＡのＡＩシステムが、膨大な携帯電話のメタデータからアルカイダ幹部の連絡係をあぶり出す。
この「スカイネット」システムによって、"最高スコア"が出た人物として紹介されていたのが、アルジャジーラのザイダーン氏だった。
さらに、この極秘文書の中でザイダーン氏には、「ＴＩＤＥナンバー」というものが振られていた。
これは、「Terrorist Identities Datamart Environment」と呼ばれる、ＣＩＡ、ＮＳＡ、ＦＢＩといった米情報機関によるテロリストデータベースのことで、１００万人以上の登録があるという。
つまりザイダーン氏は、米情報機関によって何らかの理由でテロリストとして認定され、ＴＩＤＥデータベースに登録されていたようだ。
さらに、その携帯電話の通話履歴を「スカイネット」のＡＩで分析したところ、改めて「アルカイダ幹部の連絡係」の可能性が最も高いと認定された、ということになる。
ちなみに「スカイネット」の「アルカイダ幹部の連絡係」の検知システムでは、「本物」を見逃してしまう確率（見逃し率）を５０％と設定した場合、間違った人物を「連絡係」と認定してしまう確率（誤検知率）は０．００８％にまで抑えることができた、としている。
だが５５００万人を対象としているので、０．００８％の誤検知でも４４００人という規模になってしまう。
●「メタデータで殺害する」
「スカイネット」の極秘文書には、「キルリスト」との関連についての記述はない。
だがパキスタンでは、米国の無人攻撃機、ドローンによるテロリスト掃討が続いていた。そのような状況での米情報機関によるテロリスト認定、加えて「スカイネット」による「アルカイダ幹部の連絡係」との判定は、そのドローン攻撃の標的となる可能性を示す。
ＮＳＡ長官、ＣＩＡ長官を歴任したマイケル・ヘイデン氏は、２０１４年４月にジョンズ・ホプキンズ大学で開かれたシンポジウムで、こう発言している。
我々はメタデータに基づいて対象を殺害する。
「インターセプト」はこれに先立つ同年２月の記事で、米軍の対テロ作戦を担う「統合特殊作戦コマンド（ＪＳＯＣ）」の元ドローン・オペレーターの話として、このような発言を紹介している。
攻撃の標的リストがある、ということにこだわるのだ。我々はまるで、携帯電話を標的にしているかのようだ。人間を追跡しているのではなく、その電話を追跡している。ミサイルの向かう先の人物が、悪者であることを願って。
●「私はジャーナリストだ」
私はジャーナリストだ。テロリストではない。
アフマド・ザイダーン氏は２０１５年５月、「インターセプト」の報道を受けて、自らの署名記事の中で、そう抗議の声を上げた。
ザイダーン氏は記事の中で、こう述べている。
（テロリストだとの）嫌疑は、私の命を明白かつ差し迫った危険にさらすことになる。現状、多くの人々がこのようなフェイク情報の結果、命を落としていると考えられているのだから。
ロンドンのＮＰＯ「調査報道ビューロー（ＢＩＪ）」の２０１４年の調査によると、２００９年のオバマ政権発足から５年間で、パキスタン、イエメン、ソマリアへのドローン攻撃は３９０回以上で、２４００人以上が死亡。犠牲者のうち民間人は少なくとも２７３人にのぼるという。
この中には、テロリストと誤認定されて「キルリスト」に登録された人々も含まれているようだ。
ザイダーン氏はこの騒動のあと、安全確保のためにパキスタンを離れ、米軍基地を擁し、ドローン攻撃の危険がないカタールのアルジャジーラ本社勤務になった、という。
●５度の空爆を生き延びる
「キルリスト」訴訟のもう１人の原告、ビラル・カリーム氏はニューヨーク出身の米国人。
シリアを拠点に、自ら設立した映像メディア「オン・ザ・グラウンド・ニュース」を通じて、米国メディアなどにニュース映像を配信する。
訴状によれば、カリーム氏は、２０１６年６月から８月にかけて、対戦車ミサイル「ヘルファイア」を含むドローンなどによる５度の攻撃を至近距離で受けたという。
１度目と４度目はオフィスのあるビル、３度目には乗っていたピックアップトラックが攻撃され、４度目の攻撃では１０歳の少女を含む３人の民間人が死亡している、という。
カリーム氏はいずれもかろうじて助かったものの、３カ月足らずという短期間のうちに、５度もの至近距離での攻撃を受けたのは、テロリストとして誤認定され、「キルリスト」に登録されたことによるものだ、としている。
カリーム氏は、ザイダーン氏のような「キルリスト」への登録を伺わせるような文書が明らかになっているわけではない。
ただ、取材活動の中でアルカイダの関係者とは頻繁にコンタクトを取っていたという。
●米国市民に「申し開きの権利はある」
ワシントン連邦地裁のローズマリー・カリアー判事が今年６月１３日に出した判断は、２人の原告の明暗を分けた。
米国市民であるカリーム氏については、訴えの一部を認めたものの、米国市民ではないザイダーン氏に関しては、訴えを退けたのだ。
３０ページに及ぶ意見書の中で、カリアー判事は、カリーム氏については、こう述べている。
（何人も法に基づく適正手続きによらなければ生命・自由・財産を奪われないとする）デュープロセスは、単なる古くて退屈な手続き上の義務ではない。それどころか、政府の行き過ぎた行為から米国市民を守るために、生き生きと息づくコンセプトだ。それはおそらく、戦時においても同様だ。
その上で、カリーム氏の主張をこう評価する。
米国市民として、原告は被告らに対し、自らの立場と職業について釈明し、さらに自らのデュープロセスの権利を主張し、それを聞き届けられる機会をあらかじめ設けることを求めている。誤って命を奪われることを避けたいという原告の主張は極めて説得力がある。
そして、キルリストからの削除までは認めていないが、カリーム氏の合衆国憲法上の権利として、「殺される前に」米政府に対して釈明をする権利を認めたのだ。
原告は、その生得権を主張している。キリングリストに登録されるのであれば、その前に釈明させてほしいという憲法で保障されたデュープロセスの権利を、さらにその職業ゆえに致死的工作の標的となるのであれば、その前に表現の自由の権利を行使させてほしい、というもっともな主張をしているのだ。
だが裁判官は、カリーム氏が５度に及ぶ現実の攻撃の被害にあったことを主張したのに対し、ザイダーン氏については、そのような「現実の損害」が証明できていないとして、その訴えを退けている。
本法廷は、ザイダーン氏がテロリストにつながる関係者と定期的に面会するジャーナリストであり、テロリストの指導者のインタビューを行い、テロ容疑者としてスカイネットのリストに自らの名前があった、との主張については認定する。だが、これらの事実だけでは、その名前が米国のキリングリストに掲載されている、との主張の疎明には十分ではない。その結論はあくまで推測にすぎない。
●ＡＩに異議申し立てができるのか
今回の訴訟では、２人の原告の被害の状況の違いが判断の分かれ目になった、と裁判官は説明している。
訴えの一部が認められたカリーム氏は、しかし、３カ月足らずで５度の空爆を生き抜いていることをもって、「現実の損害」が証明できている、とされた。
一方のザイダーン氏は、スノーデン文書に「テロリスト」として顔写真と名前が記載されていても、「現実の損害」の証明が不十分とされた。
もしＡＩが誤った判定を出し、それによって「キルリスト」のようなものに載せられたとして、私たちに何ができるのか？
たとえそこに「命の危険」があったとしても、異議申し立てのハードルは極めて高い、ということはよくわかる判決だ。
--------
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』（朝日新書）
（2018年8月10日「新聞紙学的」より転載）