久木田 水生 名古屋大学准教授

AI活用法の変化

アメリカ国防総省は、データ企業のパランティアのAIを指揮統制システムに正式に採用することを決めました。AIは、情報の収集や分析だけではなく、大規模な作戦の立案をはじめとした高次の認知機能が必要な領域にも使われるようになっています。

同様に近年の軍事AIは、誰を攻撃し、誰を殺害すべきかという人間の生死を直接左右する意思決定にも大きくかかわるようになっています。

アメリカは、現在のようなAIブームが来る前から中東やアフリカでの対テロ作戦でテロへの関与が疑われる人物を特定するため、電話の通話記録などのデータを集め、対象者の行動をプロファイリングする作戦を展開してきました。

こうしたプロファイリング作戦は、AIによって劇的に発達しています。報道によれば、イスラエルがガザ住民のプロファイリングにAIを用いたとされています。具体的には、イスラエルが通信履歴などの監視データからガザ住民をスコア化し、一定以上のスコアの人物を標的リストに挙げていたとされています。

AIを使うことで膨大な情報の分析が可能となり、必要とされる時間が大幅に短縮されました。その結果、イスラエル側の担当者がその人物をリスト化するかどうかの判断は、数十秒しかなく、AIの判断がほぼそのまま受け入れられたとされています。

かつてのアメリカのプロファイリングでは、現地の諜報員が集めた情報を本国へ送り、その情報を基に大統領が攻撃の最終決定を判断したとされています。それに比べるとAIによるプロファイリングは、対象が大規模化し、意思決定のスピードも非常に速くなるため、人間の関与がより形式的なチェックだけになってしまうことがわかります。

このようにAIプロファイリングが発達すると、人間の判断の遅さが全体の処理能力を遅くするボトルネックになりかねません。すると、人間にはより早い判断が求められるようになり、人間の意思決定が形式化していくという問題が生じます。加えて、AIがなぜそうした判断をしたのかがブラックボックス化してわからないため、人間の関与や、責任の所在がいっそう曖昧になっていくでしょう。

さらに問題なのは、AIの判断が間違っている確率が一定程度あることです。報道では、その確率は10％程度ともされています。10％の確率で「冤罪」が生じるとしたら、問題は大きいと言わざるを得ません。

戦争をしやすくなるリスク

軍事AIの利用が広がることで考えられる懸念の一つは、AIの軍事利用が当たり前になることで、AIを軍事利用しないことに対する説明が必要になってくるという現象が起きることです。

これはドローンの軍事利用の際にも同じことが起きました。ドローンが戦争で活用されるようになった当初は、自国の安全な場所からドローンで遠隔地の敵を攻撃することに対する倫理的な課題が提起されました。しかし、ドローン攻撃が一般化することで、そうした声は次第に少なくなりました。AIもこれと同じようにその活用が進むほど、使わない理由を探す方が難しくなるかもしれません。それにより倫理的な議論が後退する可能性があります。

自国の兵士が犠牲にならないという点でドローンは確かに優れた兵器です。どの国も自国の兵士の犠牲は増やしたくありません。兵士の犠牲が増えれば、国内で戦争反対の世論が高まり、戦争の継続や政権の維持が難しくなるためです。

AIを活用した自律型致死兵器もそうした視点から捉えることができます。敵の発見から認識、攻撃するかどうかの意思決定、さらに実際の攻撃までの一連の流れをすべて機械だけで行う兵器を「自律型致死兵器システム」と呼びます。ロボットとAIを組み合わせたフィジカルAIが発達することで今後、そうした兵器が運用される可能性も否定できません。ロシアとウクライナの戦争では、そうした兵器に近いドローンが使用されているのではないかという疑いも指摘されています。こうした兵器が使われれば兵士が実際に戦場に赴く必要性は低下するでしょう。

しかし、そうしたドローンやAIの活用は、自国兵士の犠牲は減らすかもしれませんが、相手国の民間人の犠牲を増やしたり、さらには軍拡競争を助長したり、戦争自体を増やしたりする懸念があります。つまり、自国兵士の犠牲が少なくなることで、戦争反対の声が国内で高まりづらくなり、戦争を仕掛けるためのコストが減り、戦争が増えたり、軍事費が増えたりするかもしれないということです。これでは戦争はなくならず、そのリスクがむしろ高まっていきます。

人間を数値化するAI

現代社会の特徴の一つは、人間のパフォーマンスを数値化することです。20世紀初頭のいわゆる「科学的管理法」の頃から、人間の行動を数値化し、それを改善することが正しいという風潮が広がってきました。AIを用いた人間のプロファイリングもこの延長線上にあります。つまり、その人のそれまでの行動をデータ化し、将来を予測するということです。

ただ、よく考えればわかることですが、その人の将来を予測し切ることは不可能です。むしろ、ある時点でAIがその人の将来を予測し、一定の可能性を排除してしまうことで、その人が才能を発揮したり、成長したりする機会が失われる可能性があります。AIが攻撃対象かどうかを判断し、実際に殺害してしまう場合、そうしたリスクはなおさら高まります。

人間を何かのラベルを付した数値化した集団として捉えた場合、相手を個人として捉える場合と態度が変わります。個人として接すれば共感が生まれやすく、数値化された集団として接すれば共感が生まれづらくなります。その結果、数値化された人たちの命が軽視されるということが生じます。AIの利用を拡大することでそうした見方が強まることへの懸念もあります。

技術に使われないために

道具をどう使うかは人間次第といわれますが、その逆のことも起こり得ます。つまり、道具を使うはずが、無意識のうちに、道具の性質によって人間が方向付けられるという現象です。そのため私たちは、自分たちが使うテクノロジーがどのような性質を持っていて、それを使うときに自分たちがどのような方向へ流されやすいのかを考える必要があります。

AIのプロファイリング技術は、その意味ですべての人を潜在的な犯罪者やテロリストとして扱ってしまう性質があります。相手を潜在的なリスクとして捉えるのか、信頼関係を構築できる相手として捉えるのかが問われています。

加えて、AIの判断それ自体が決してフェアではありません。AIの判断は、概してマジョリティーにとって都合が良く、マイノリティーにとって不利になることがあります。こうした点に注意しなければ、既存社会のヒエラルキーや差別構造をAIによって再強化することにもつながりかねません。無意識のうちにAIという道具に方向付けられないためにも、私たちは技術が持つ性質をより深く理解する必要があります。