人文・社会科学が設定するAI社会のDeep Agenda―RISTEX「人と情報のエコシステム(HITE)」研究開発領域の取り組みから

(2020年2月20日)

1、AIをめぐる多様な言説

　「AIが人間の雇用を奪う」「データビジネスはプライバシーを侵害する」など、AIやIoTなどの情報技術がもたらす社会的変化の影響について、現在各所で活発な議論がなされています。しかしながら、それらがもたらす恩恵やリスクの評価をめぐっては、それぞれのステークホルダーによって、楽観・悲観、期待・恐怖など多様な解釈・イメージ・メタファーによって語られており、専門家による定説が存在しているわけではありません。これは、2015年に私たちが実施したインタビュー調査でも同様であり、図１で示されているように、多くの識者が「情報技術がもたらす影響は大きい」と評価するものの、それが人間・社会にとって「良い」ものとなりうるのかについては、意見が分かれていました。

 

　このような状況をうけ、社会技術研究開発センター（RISTEX）では、情報技術の開発の早い段階から様々な意見をもつステークホルダーが関与しつつ技術の影響評価を実施し、その評価を技術開発や社会制度設計にフィードバックし、結果として「良い」情報技術が創出されることを目的とした「人と情報のエコシステム（HITE）」（https://www.jst.go.jp/ristex/hite/）研究開発領域を2016年に立ち上げました。現在まで24のプロジェクトを推進し、人文・社会科学の研究者を中心に多様な専門性をもつ研究者や実務家から様々な問題提起がなされています。

 

2、アジェンダの粒度の違い：短期的視点と中長期的視点

　これまでのHITE領域4年間の研究開発の結果を振り返ると、各プロジェクトから挙げられるアジェンダは、比較的短期の近未来に起こりうるものから現在の社会制度の根本的な変化を要求する中長期的アジェンダまで、その粒度に違いがあることがわかっています。

　短期的なアジェンダの例としては、2025年～30年にかけてAIやIoTなどの情報技術の「モザイク型普及」が起きるというシナリオです¹⁾。この研究結果では、「社会が一斉にAI化」するというような昨今よくみる画一的な社会変化シナリオではなく、AIに決断を任せる人と自分自身の決断にこだわる人が社会の中で混在し、モザイク化しながら変化していく社会像が抽出されています。自動運転を例にとるならば、仮に無人走行の自動車が技術的に開発できたとしても、将来的に人間が運転することにこだわる人や団体、倫理的な観点から機械に人間の生命を委ねることを拒否する人々が存在するであろうことは容易に想像でき、人々が画一的に一斉に無人走行車を受け入れるという前提で社会制度を構築することは困難です。このような観点からは、AIをはじめとする情報技術は社会の根本的な変革をもたらすものではなく、既存の社会システムの改善・修正で対応できる範囲の技術とみなされるといえます。

　一方で、中長期的な視点でAIを評価するならば、それは近現代という大きな歴史的・社会的基盤を揺るがしうる技術とも捉えられます。HITE領域では、3つのプロジェクトが連携して、AIの判断ミスにより事故が生じた際の「責任」分配について根源的な部分から考察を行っています²⁾。それによれば、近代西洋哲学を基盤とする現行の社会システムは、人間の介在なく「自律的」に判断するAIの登場により更新を余儀なくされるといいます。現行の社会システムは、理性的で自由意志をもった人間が事物を統制しそこから外れた事柄があった場合、その事物を統制しきれなかった個人に対して刑事罰を科すという形式をとっています。一方で、近年の脳神経科学の研究成果によれば、人間は常に周囲の環境から影響を受け判断をしているのであり、環境から独立した人間の「自律性」の自明性は疑われています。また、ディープラーニング型AIは、人間の介在なく「自律的」に判断することに特徴をもっており、人間が完全に統制できるという前提を崩しています。このような観点からは、AIをはじめとする情報技術は現行の社会の根本的な再考を促し、人間と人工物の新しい関係性をもとにしたこれまでの社会とは全く異なる新しいシステムの構築の必要性が導きだされます³⁾。AIが近代西洋哲学を前提としている社会の規範を根本的に崩しうる中で、西洋社会とは異なる規範を持つ中国がAI開発・利活用の点で優位に立ち世界の中で存在感を増しているのも、ある意味必然ということもいえるのかもしれません。

　HITE領域で推進中のプロジェクトからは、上記のような解くべき課題の設定がなされている他、経済学や法学の観点、またSFやマンガなど創作を通じて新たな情報技術の課題を炙り出す試みがなされています。

　これらの事例からは、視点をどこに置くかによってその技術がもたらす影響の評価は大きく異なり、目指すべき社会像も異なってくることが分かります。それゆえ、できる限り多くの異なる視点をもつステークホルダーが技術の評価に参画し、複数のシナリオをもった上で技術開発や制度設計を行うことが重要であり、そのような参画を促す社会制度の設計の必要性が高まっていると考えられます。

 

３、Deep Agendaの設定は誰が行うのか？

　現在、総合科学技術・イノベーション会議などで、科学技術基本法等の対象に「人文科学のみに係わるもの」を加える必要性の議論がなされていますが、人文・社会科学には、HITE領域で推進中のプロジェクトでみられるように、社会のデザインの初期の段階において課題を設定し、目指すべき社会的価値を設定するという役割があると考えられます。特に、歴史的文脈を踏まえた広い視点でのアジェンダの設定―Deep Agendaの設定は、専門性をもった人文・社会科学の研究者の関与が必須であり、大きな歴史的転換点を迎えていると思われる現在、今後の社会のあり方を考える上でも、人文・社会科学の振興の重要性は高まっているといえるでしょう。

　HITE領域では今後、これまでの4年間で培った人文・社会科学の研究者のネットワークと先端の技術開発やビジネスの現場をつなげ、新たな視点でDeep Agendaを設定しそれを政策提言や技術開発にフィードバックしていくためのプラットフォームの構築に取り組んでいきたいと考えています。その第一歩として、2020年3月14日（土）及び15日（日）に、東洋大学国際哲学研究センターと共催で、「人新世：人間観とエコシステムの再構築 ― ビジネス、環境、人文、アート」（https://www.jst.go.jp/ristex/hite/topics/435.html）を開催します。ご興味ある方、参加登録の上是非会場にお越しください。新型コロナウイルス感染症が拡大している状況を受け、参加者および関係者の健康・安全面を第一に考慮した結果、本シンポジウムの開催を中止することといたしました。セッションの一部については、別途収録し公開することを検討しています。

 

註

1. 鷲田祐一、「未来洞察手法を用いた情報社会技術問題のシナリオ化」、HITE冊子vol.02(2018/3)、https://www.jst.go.jp/ristex/hite/topics/312.html　（2020年2月17日時点）
2. 松浦和也・葭田貴子・稲谷龍彦、「人工知能時代の責任と主体とは？」、HITE冊子vol.02(2018/3)、 https://www.jst.go.jp/ristex/hite/topics/311.html   （2020年2月17日時点）
3. 経済産業省「GOVERNANCE INNOVATION: Society5.0の時代における法とアーキテクチャのリ・デザイン」（案）
   https://www.meti.go.jp/press/2019/12/20191226001/20191226001-3.pdf（2020年2月17日時点）

 

 

科学技術振興機構（JST）社会技術研究開発センター（RISTEX）
アソシエイト・フェロー
茅　明子