清水　颯 北海道大学
人間知・脳・AI研究教育センター(CHAIN) 特任助教

哲学の役割

北海道大学が設立した「人間知・脳・AI研究教育センター」でAI倫理に関する研究を行っています。センターでは人文社会科学、神経科学、AIの分野を超えて学際的な共同研究を行っています。

AI倫理という言葉は、AIと倫理という二つの言葉で構成されています。大まかに言えば、AIが引き起こす社会的な課題を倫理の観点から扱う分野です。

AI倫理というと新しい言葉に聞こえますが、技術の発展と倫理に関する議論はこれまでにも盛んに行われてきました。例えば、DNA研究が進み、「デザイナーベイビー」のように遺伝子操作をした子どもの誕生が可能になれば、それにまつわる生命倫理が問われるようになります。こうした課題の中で近年、ひときわ注目されているのがAI倫理だと言えます。

AIに限らず、ある技術を社会に実装すれば、何かしらの帰結を社会にもたらします。それには良いこともありますし、悪いこともあります。それをどう判断するのかが哲学の仕事だと言えます。

哲学は、世の中で生じるさまざまな課題を解決するために必要な視点や言葉を提供してきました。例えば、自由とは何か、責任とは何か。幸せとは何か。社会にとって良いこととは何か。こうした問題に差し当たっての定義を与えてきたのが哲学でした。AIという新しい技術を前に、私たちはしばしば、あらかじめ用意された正解のない問題に直面します。例えば、「責任は誰にどのように帰属されるのか」「AIとの親密な関係にはどのような価値やリスクがあるのか」といった問いは、単に技術的・法的な観点だけでは十分に整理できません。哲学の役割の一つは、こうした問題について、そもそも何が問われているのかを明確にし、制度設計や社会的判断の前提となる視点を提供することにあります。

技術と倫理

技術と倫理に関しては、例えば次のような議論があります。銃という技術に関して言えば、銃が人を殺すのかという問題です。確かに銃が人を殺しているように見えますが、実際に殺しているのは、それを使い、引き金を引いた人間であるとも言えます。つまり従来の技術では、意思決定も責任も、主体はあくまで人間側にありました。

こうした問題をAIに当てはめた場合、確かにAIを使った人間に責任があると言えます。ただしAIが従来の技術と大きく違うのは、AIが人間のように振る舞うことで、意思決定や責任の一部を担っているように見えることです。例えばAIが友人のように振る舞ったとしても、AIはその言動において人間と同じような責任の主体となることはできません。これはこれまでの技術にはなかった問題であり、そこに倫理に関する大きな空白があります。

AIとの友情関係を考える

哲学の視点からAIを眺めるとどのようなことが言えるのでしょうか。私の研究テーマであるAIとの友情関係から考えてみましょう。

最近はAIに悩み相談をする人が増えています。中にはAIを友人のように感じる人もいます。ただそこで疑問が浮かぶのは、AIと友人になるとはどういうことかということです。

哲学は、こうした疑問に向き合うためにも役に立ちます。例えば、古代ギリシャの有名な哲学者であるアリストテレスは、友情関係を三つのタイプに分類しました。一つ目は、一緒にいたら楽しいという快楽の友情関係。二つ目は、お互いに役に立つという有用性の友情関係。三つ目は、互いに平等であり、双方の幸せを祈る相互尊敬の友情関係です。

AIとの友情関係をこれに当てはめるとどうなるでしょうか。AIにできるのは二つ目までであり、三つ目の相互尊敬の友情関係はAIとは築けないと指摘する論者もいます。なぜならAIには感情がなく、私たちとの応答によって喜んだり、悲しんだりすることができないからです。そのため、AIとの関係では構造的な非対称性が生まれ、AIとの真の友情関係は構築できないとしたのです。

こうした視点を踏まえれば、企業がAIとの対話サービスを提供する場合、AIと真の友情関係を築けるかのようにうたうのは、ユーザーをだます行為といえるかもしれません。

だた、哲学がおもしろいのは、これとは違った視点も提供してくれることです。別の哲学者は、相互尊敬といってもそれは相手の言動を信じているから成り立っているのであって、大切なのは相手を信じる心であり、相手がAIかどうかではないと問題提起しています。つまりこれは哲学でいう「存在論」と「認識論」の問題であり、私たちが世界をどのように認識しているのか、そもそも心とは何かという課題にたどり着きます。

AI規制はどうあるべきか

このような哲学的な議論からどのようなAI規制に関する議論が出てくるのでしょうか。

例えば、AIには相互尊敬の構造が基本的に欠けているのであれば、AIと友情関係が築けるとする商業的な広告をしてはいけないという規範的な規制が成り立ちます。

また、ジョアンナ・ブライソンという哲学者は、「Robots should be slaves.」という言葉で、AIはどれだけ高度に発達したとしても道具という地位にあるべきだと訴え、それに沿った社会の制度設計の必要性を述べています。しかし、それだけでは解決できない問題が現実的に増えており、AIの発展に伴い、ルールや規範を更新し続ける必要に迫られています。

企業におけるAI利用

労働の現場におけるAIの利活用に関してまず考えるべきは、意思決定や責任を負う主体をあらかじめ決めておくことです。

AIは構造的にブラックボックス化しており、なぜその回答をしたのか極めて困難です。企業がAIを利用して何かしらの意思決定を行い、悪い結果を招いてしまった場合、説明責任を果たすことはできません。AIを使うにしても、なぜその決定をしたのか、その責任を誰が負うのかを企業があらかじめ設定することが重要です。

企業がもう一つ気を付けるべきは、AIはニュートラルな判断をしないということです。AIは過去のデータを反映して回答するため、蓄積したデータが偏っていれば差別的な回答をすることがあります。利用する側がそのことに気付かなければ、差別が繰り返されることになります。

責任の主体はあくまで人間

AIの利活用において大切なのは、人間がAIを使った結果について説明ができることです。AI倫理の分野では「説明可能性」という言葉がよく使われます。AIがどのような根拠や過程でその判断に至ったのかを人間が理解できる形で示す技術のことを指します。このことは人間が責任の主体であり続けるためにも重要です。

AIの未来に関しては、悲劇的なものから楽観的なものまで大きなナラティブが語られがちです。しかし、そのどちらにも乗り過ぎないことが大切だと思います。まずは自分が納得できて責任のとれる範囲でAIを使うこと。その単位が職場や企業などに広がるほど、責任の範囲が広がっていくことを意識して利用すればよいと思います。その際、責任の主体はあくまで人間の側にあることに留意することが大切です。