今や誰もが、入力した文字のスペルミスを修正するのにスペルチェッカーを頼りにしている。そしてGoogleはこのたび、「悪事（evil）チェッカー」とでも呼べるツールの特許を申請した。電子メールや電子文書上に、社内ポリシーや法律に抵触するような書き込みが行われるのを事前に防止できるというものだ。

Googleが考案したこの「Policy Violation Checker」（ポリシー違反チェッカー）では、ソフトウェアを使って、ユーザーが入力している文章を監視することができる。そして、「問題のある表現」、すなわち「ポリシー違反や法に触れる恐れがある表現など、企業、ビジネス、または個人にとって問題になりかねない」内容が文章に含まれている場合に、会社の雇用主などに警告を発することができる、と特許申請書には書かれている。

特許申請書によれば、このアルゴリズムは、過去に「問題あり」と判断された表現のデータベースとユーザーの書き込みを比較して、問題になりかねない文章を自動的に検出する。さらにこのツールは、規定に違反する内容が書き込まれたことを当のユーザーに知らせるだけでなく、なぜルール違反になるのかを説明し、リスクの低い別の表現を提示し、そして重要なことだが、第三者にその違反を警告することができるという。

「ユーザーが問題ある文章を含むテキスト文書、プレゼンテーション等を作成したとき、ポリシー違反チェッカーはその事実を法務部門に連絡することができる」と特許申請書は述べている。

この技術は、電子メールだけでなく、「テキストのドキュメント、スプレッドシート、プレゼンテーションなど」あらゆる電子文書に利用することができる。また、デスクトップコンピューターやワークステーションだけでなく、分散型ネットワークシステム、組み込み型システム、モバイル機器、セットトップボックス、TVなどさまざまなシステム上で利用することができる。

この技術は、訴訟や情報漏洩、それに罪に問われるような他の情報が表に出るのを避けたいと考える企業にとって役立つ可能性があるとGoogleは示唆している。例えば、「『わが社のABCプロジェクトは、XYZ社を完全に抹殺するものだ』といった表現が文書に含まれていると、不当な競争を仕掛けているとして訴えられる危険性がある」と同社は説明している。

この技術は企業向けとされているが、全体主義的体制の国で「ネット検閲」システムとして採用されることも考えられないわけではない。そうなったら、スマートフォンからTVまで、あらゆる機器で利用できることから、市民が何かを書いたとき（電子メールやWord文書、ブログ投稿の草稿、デジタル日記等）、抑圧的な政府がそれをリアルタイムで検知して、「送信」ボタンが押される前にそれを抑制できるようになる。

この技術は、小児愛者の存在を警察に警告できるのだろうか。政治家の不倫を未然に防いだり、パートナーの浮気をその配偶者に警告したりできるのだろうか。あるいは、白人至上主義者や宗教的過激派が仲間内でメールをやり取りするのを阻止できるのだろうか。そして、これらのことが可能だとして、これらをそもそも行うべきなのだろうか。

特許申請を最初に報じた「Slashdot」は、この技術が、かえって悪事を働く人が法の目をくぐる手段を提供する場合があると推測している。「悪事をやめられない人でも、少なくとも証拠文書を残さない悪人になれる」と、同記事は述べている。

さらに大きな懸念は、Googleが「道徳的判断を下す者」になる可能性があることだ。かつてGoogleの創設スタッフたちは、同社が目指すべき標語として、Don't be Evil（邪悪になるな）を掲げた。しかしだからと言って、われわれが悪事を働かないように監視する権利を、本当にGoogleに与えるべきなのだろうか。

更新：Googleの広報マット・カルマンは電子メールで、たとえ同社の特許が許可された場合でも、製品化されるとは限らないと説明した。

（2013/05/06 掲載原文／訳：佐藤卓／ガリレオ）

関連記事