自動運転車は今ホットな話題です。複数の企業が自動運転車を始めとするAI（人工知能）ベースのテクノロジービジネスへの参入をめぐって争っており、先日開催されたCES（コンシューマーエレクトロニクスショー）でもその話題で持ちきりでした。向こう10年間新たな業界でビジネスチャンスが生まれることが期待されています。あらゆるイノベーションがそうであるように、理性、共感、常識といった人間的要素を持たないこの種のAIを日常生活にどのように組み込むのかを検討する際には、配慮が必要です。
想像してみてください。あなたは今、自分が所有する自動運転車に（運転するのではなく）座っていて、時速80 kmで移動しながら家族とビデオチャットしています。すると突然、近くの森から鹿が目の前に飛び出してきました。さまざまなセンサーを搭載している自動車の頭脳はこの情報を受け取ると、衝突する確率を計算します。残念ながら、停止する時間がない確率は100%で、鹿との衝突は避けられません。
自動車のセンサーは、周囲の環境も監視しています。右側には、自転車専用レーンを走るサイクリストがいます。また、反対車線を別の自動車がこちらに向かって走ってきます。この設定を略図にすると、次のようになります。
あなたの車の頭脳は、鹿との衝突という差し迫る危険を踏まえて、取るべき行動を決定しなければなりません。選択肢は次の3つです。
選択肢その1：車は同じ車線を走り、ブレーキを可能な限り強く踏み、鹿と衝突します。車の頭脳は、たとえ乗車している全員がシートベルトを着用していてエアバッグが装備されていたとしても、400ポンド（181 Kg）の動物による衝撃を考慮して、運転手が重傷を負うあるいは死亡する危険性が非常に高いと判断します。鹿は間違いなく死に、あなたの車は深刻な損害を被ることになるでしょう。
選択肢その2：車はハンドルを右に切り、ブレーキを可能な限り強く踏みますが、サイクリストと衝突します。（怪我を負う可能性はありますが、）あなたの生存率は100%です。しかし、サイクリストが重傷を負うあるいは死亡する可能性は100%です。
選択肢その3：車はハンドルを左に切り、ブレーキを可能な限り強く踏み、反対車線の自動車と衝突します。この場合、あなたが重傷を負う、あるいは死亡する確率は30%です。相手の車の乗客にも同じ確率が該当します。
この自動車の頭脳はどのような判断を下すのでしょうか。それは、この頭脳が最適化するために使用している測定基準によります。
最適化機能が「乗客の命を救う」ことであるならば、車は右に進んでサイクリストに衝突します。事故が発生し、その結果1人が命を失うか、重傷を負うことになります。しかし、最適化機能が「全体で失われる命を最小限にとどめる」ことを目的とする場合、車はハンドルを左に切って対向車と衝突します。その結果、重傷または死亡の確率は60%になります。
答えは簡単には出ません。また、主観主義者も客観主義者も、筆者の計算には欠陥があると思われるでしょう。しかし、この計算の趣旨は、確率の部分を極限までシンプルにして、最適化の評価基準に関する筆者の論点を明確にすることにあります。
この単純な例は、テクノロジーがもたらす極めて複雑な倫理的問題を示すことが目的です。人工知能の基礎を築いた数学者で、第二次世界大戦中にエニグマ暗号を解読したチームの一員だったアラン・チューリングも、同じ問題に直面していました。解読した情報に基づいて敵の攻撃を回避すれば、人命を救えますが解読できたことを敵に知られてしまいます。それとも、戦争に勝利するという大義のために、解読した情報を秘密にしておくべきなのでしょうか。
こうした優れたテクノロジーはおそらく、私たちの生活に多大な影響を及ぼしています。だからこそ、たとえ最先端のインテリジェンスプログラミングを用いた機械であっても、共感や常識といった人間的要素を機械に置き換えることはできません。AIの長期的な影響についてイーロン・マスク氏が人々に警告するのも当然かもしれません。マスク氏は先日、人類にとって有益なAIの活用を目指す組織Future of Life Instituteに1,000万ドルを寄付しました。
自動運転車はさまざまなチャンスをもたらす技術革新です。特に、障害者や実用的な移動手段を必要としている人にとっては、充実した人生を送ることにつながります。しかし、最善の結果が得られるテクノロジーの導入方法を決定する際には、常に常識を働かせる必要があります。
自動運転車の例に立ち返ってみましょう。運転手生来の常識や共感力が前述した状況やその影響に対してどのように反応するかははっきりとは分かりません。運転手の反射神経、あるいは自動車の「頭脳」を無効にするという選択によって、結果は大きく異なるはずです。また、運転手はすでに鹿について警告する標識を見ていて、速度を落とし周囲に注意を払っていたために、危険な状況そのものが起きなかった可能性もあります。