「テクノロジーの提供によって、人権侵害に加担するな」――米国のＩＴ企業の現場から、そんな抗議の声が広がっている。
まず注目を集めたのは、グーグルによる人工知能（ＡＩ）の国防総省への提供問題だった。この問題では、４０００人を超す社員の反対署名が集まり、１０数人の社員が辞表を突きつけた。
そして、騒動は他社へも飛び火する。
El Paso Wall by Jonathan McIntosh (CC BY 2.0)
マイクロソフトでは、トランプ政権による「不法移民の親子引き離し」を巡り、同社が取り締まり当局にクラウドサービスを提供している点が問題化。
さらにアマゾンでも、「顔認識ＡＩの警察への提供」や「不法移民の親子引き離し」が批判の的となる事態に。
「テクノロジーと倫理」の議論が、急速に熱を帯びてきている。
●「不法移民の親子引き離し」とマイクロソフト
我々は、マイクロソフトが倫理基準を遵守し、利益よりも子どもたちや家族のことを優先するべきだと信じている。
そのため、マイクロソフトが米移民税関執行局（ＩＣＥ）及び協力機関との契約を直ちに破棄することを求める。我々はさらに、マイクロソフト及びその委託先が国際人権法に違反するクライアントの業務を行わない、とする明確なポリシーを起草、公開、実施することを求める。
ニューヨーク・タイムズによれば、１００人を超すマイクロソフトの社員が１９日、サティア・ナデラＣＥＯ宛に、こんな書き出しの公開質問状を、社内掲示板に投稿した。
騒動の発端は、トランプ政権が４月に打ち出した不法入国者への訴追・収監を強める「ゼロトレランス（不寛容）政策」だ。
これにより、メキシコ国境で不法入国により拘束され、親と引き離された２０００人以上の移民の子どもたちの実態が社会問題化。
元大統領夫人、ローラ・ブッシュ氏もワシントン・ポストへの寄稿で、懸念を表明する事態となっていた。
この騒動の中で、不法移民の取り締まりにあたる国土安全保障省の移民税関執行局（ＩＣＥ）とマイクロソフトとの契約に注目が集まった。
マイクロソフトは今年１月、公式ブログの中で、米国政府機関向けのクラウドサービス「アジュール・ガバメント」がＩＣＥに採用されていることを公表し、こう述べている。
アジュール・ガバメントによって、職員は端末側でデータを処理することも、ディープラーニングの機能を活用して顔認識や身元特定を加速することもできるようになります。
「ゼロトレランス政策」の文脈にあてはめると、マイクロソフトのクラウド及びＡＩが、ＩＣＥの不法移民対策に使われているようにも読める文面になっている。
社員による公開質問状によると、この契約額は１９４０万ドル（１６億円）にのぼるという。
公開質問状の前日、今月１８日に、マイクロソフトは公式ブログで、ＩＣＥとの契約についてこう説明している。
マイクロソフトは、国境における子どもたちの家族からの引き離しに関し、移民税関執行局（ＩＣＥ）や（国土安全保障省のテロ・密輸対策担当）税関国境警備局（ＣＢＰ）のいかなるプロジェクトにも協力していない。一部の臆測とは裏腹に、我々はアジュールやアジュール関連のサービスが、そのような目的に使われているかどうかすらわからない。マイクロソフトは一企業として、国境における子どもたちの家族からの強制的な引き離しについては、遺憾に思っている。
だが、社員たちは「十分な説明とは言えない。我々は、この非人間的な政策を積極的に執行するＩＣＥに対し、技術的なサポートを行っているのだ」と述べ、質問状の公開にいたったようだ。
ヴァージによると、マイクロソフト社員の質問状への署名はその後、３００人を超した、という。
質問状には、このような一節もある。
強力なテクノロジーをつくる人々には、それが害悪ではなく、善良な目的で使われるように努める、重大な責任がある。テクノロジー業界では、そのことを理解する多くの人々によるムーブメントが拡大しつつあり、我々の質問状もその一環である。
●グーグルの「ＡＩ原則」
マイクロソフト社員の公開質問状が指摘する「ムーブメント」として注目を集めたのが、グーグル社内の動きだ。
これが明らかになると、同社の社是とされてきた「邪悪にならない」に反するとして４０００人を超す反対署名、数十人の退職者を出す事態となった。
結局、グーグルは６月１日、２０１９年に期限が切れるこの契約について、更新をしないと表明。
さらに、翌週の７日には、スンダー・ピチャイＣＥＯが同社の「ＡＩ原則」を発表する。
この中で、「ＡＩは社会に有益な目的」で使われるべきであり、グーグルは「人々に危害を与える目的の兵器」「国際規範に反する監視目的の技術」などにはＡＩを使わない、と宣言している。
マイクロソフト社員の質問状にある「ムーブメント」の言及や、テクノロジーと人権に関する「ポリシー」の要求は、まさにグーグルでの動きと一致する。
公開質問状を受けて、ナデラＣＥＯは２０日、「リンクトイン」に社員向けの声明を公開。その中で、自らも移民であるナデラ氏は、「引き離し政策」については「残酷で虐待的であり、我々はその変更を支持する」とし、マイクロソフトは、そのような政策に協力していない、と改めて主張した。
我々の移民税関執行局（ＩＣＥ）へのクラウドの提供は、従来型のメール、カレンダー、メッセージ、文書管理の業務にとどまる。
（中略）
いかなる政府機関との取り組みも、これまでも、これからも、我々の倫理とポリシーに従って行われる。
●「顔認識ＡＩの警察への提供」とアマゾン
「テクのロジーと倫理」をめぐるこのような「ムーブメント」は、アマゾンでも起きていた。
我々の会社は、監視ビジネスに関わるべきではない；我々は治安ビジネスに関わるべきではない；我々は社会から疎外された人々を監視し、抑圧する勢力を支援するビジネスに関わるべきではない。
ギズモードによれば、アマゾンの社員有志によるジェフ・ベゾスＣＥＯ宛のこんな書簡が、社内に流れている、という。
アマゾンをめぐっては、米自由人権協会（ＡＣＬＵ）など４１の人権保護団体が５月２２日、ジェフ・ベゾス氏に対して、同社の画像認識ＡＩ「レコグニション」の政府への提供をやめるよう求める公開書簡を送っている。
公開書簡は、「レコグニション」が「（顔認識という）危険な監視機能を政府に提供している」と指摘する。
ＡＣＬＵの調査では、「レコグニション」の提供についてアマゾンはすでに２０１７年、オレゴン州ワシントン郡保安官事務所やフロリダ州オーランド市と契約したことが明らかになっている。
社員有志のベゾス氏宛書簡が要求しているのは、まずこの「レコグニション」の警察など法執行機関への提供の停止だ。
「レコグニション」をめぐるＡＣＬＵなどの指摘に対しては、アマゾンのクラウドサービス「ＡＷＳ」のＡＩ担当ゼネラル・マネージャー、マット・ウッド氏が６月１日付の公式ブログの中で、こう反論している。
有望な新テクノロジーを禁止するというアプローチは間違っていると、我々は信じている。そのようなテクノロジーはいずれ、悪者たちによって、悪用されるかもしれないからだ。もしコンピューターの購入を規制していたなら、世界は随分と違った風景になっていただろう。コンピューターを悪用することも可能だったのだから。私たちが毎日使っている数千ものテクノロジーについても、同じことが言えるだろう。適切な利用を通じて、その便益はリスクをはるかに上回ってきたのだ。
だが、「レコグニション」の「顔認識による監視」への懸念は人権保護団体にとどまらず、投資家にも広がっている。
ニューヨーク・タイムズによれば、アマゾンの株主である１９の投資機関は６月１５日、ベゾス氏に対し「レコグニション」などの監視機能の政府機関などへの提供を直ちに停止することなど求める書簡を送っている。
また、社員有志の書簡では、これとは別に、「引き離し政策」関連の要求も出している。
書簡では、ＩＣＥの移民規制に関わっているとされるビッグデータ企業「パランティール・テクノロジーズ」が、アマゾンのＡＷＳを利用していると指摘。
「引き離し政策」に加担しないために、「パランティール」へのＡＷＳの提供を停止するよう求めている。
「パランティール」は、トランプ大統領支持で知られる投資家、ピーター・ティール氏らが２００３年に設立したことで知られる。
●「世界をよりよい場所にする」
グーグルの社是だった「邪悪にならない」。このモットーを宣言した２００４年の株式公開時の「創業者からの手紙」には、その後に、もう一つの有名なモットーが記されている。「世界をよりよい場所にする」だ。
これは、シリコンバレーを舞台にしたＨＢＯのコメディ－ドラマ「シリコンバレー」のギャグにもなった、業界のマントラでもある。
６０年代のカウンターカルチャーと、コンピューターカルチャーが混ざり合い、「情報はフリーになりたがる」とうたった、シリコンバレーの価値観。
「テクノロジーと倫理」をめぐる議論には、そんな文化的背景も、色濃くあるように見える。
--------
■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』（朝日新書）