明石書店のwebマガジン

MENU

デジタル社会は立憲主義の夢を見るか?

第12回 ELSIとデジタル立憲主義

デジタル技術の発展とはすなわち科学技術の進展でもある。当然のことながら、科学技術を巡っては、様々な規範論が科学技術社会論・政策論などにおいて蓄積されてきた。今回はこれまでとは少し意趣を変えて、この科学技術論の視点からデジタル立憲主義との交差路について考えていく。(編集部)

 今回と次回は、デジタル立憲主義とは異なる経路から、デジタル技術に関する規範的問題を扱っている議論を紹介し、デジタル立憲主義との関係を整理することにしたい。

 今回扱うのは、ELSI(Ethical, Legal and Social Issues / Implications)やRRI(Responsible Research and Innovation)と呼ばれる議論の潮流である[1]。ELSIやRRIがどうあるべきかをめぐっては、現在でも議論は収束していないが、これらの視点は、デジタル技術の開発・社会実装がどのように行われるべきかについて重要な視点を提供している。

 新しいデジタル技術がどのような問題を社会にもたらすかを開発に先立って正確に予測することは難しく、事前の法規制による対応を検討することには限界がある。そこで、開発者等に対して、そうした問題を予め検討させ、その結果を研究開発に反映させることを法的に要求するという対応方法が考えられる。ELSI・RRIで議論されてきたことは、まさにこのあり方を考えるための手がかりとなる。

 そのために、まずはELSIやRRIがどのような議論なのかを確認し、これらの視点の重要なポイントを取り出す。そのうえで、デジタル立憲主義との関係を整理することにしたい[2]。

ELSIとは何か

 まずは、ELSIとは何かを確認しておくことにしたい。ELSIという言葉が最初に用いられたのは、「ヒトゲノム計画(Human Genome Project)」の責任者となった分子生物学者ジェームズ・ワトソンによる、1988年10月1日の就任記者会見であったとされる[3]。「ヒトゲノム計画」は、米国国立衛生研究所と米国エネルギー省が共同で30億ドルという巨額を投じる国家プロジェクトであった。ワトソンは、この記者会見で、「ヒトゲノム計画」の全研究費の3%を「倫理的、法的、社会的影響(Ethical, Legal and Social Implications)」に関する研究に充当すべきと述べた[4]。これは、「科学研究のプロジェクトの中に、ブレーキをかける可能性のある研究プログラムをあらかじめ埋め込むという点で、驚くべきものであった」とされる[5]。

 その後、ELSIの考え方は世界中に広がっていく。たとえば、EUでは、ELSA(Ethical, Legal, Social Aspects)という名称で同様の考え方が定着し、後述するように現在では、RRIという形で議論がなされるようになっている。日本でも、過去20年ほどの間に次第にELSIへの関心が強化されてきたとされる[6]。1995年に制定された科学技術基本法9条は、「科学技術基本計画」を策定することを政府の責務としている。これに基づき策定された「第3期科学技術基本計画」(2006~2010年)では、「科学技術が及ぼす倫理的・法的・社会的課題への責任ある取組」というセクションが設けられた。なお、「第5期科学技術基本計画」までは、ELSIが強調されている[7]。それ以降も、ELSIへの言及はなされており、前提としてその重要性が想定されていることは窺えるが、取り扱いは控え目になっている[8]。また、2020年に、大阪大学が社会技術共創研究センター(通称「ELSIセンター」)を開設したことを皮切りに、いくつかの大学にELSIセンターが設置されており、日本では、近年になって「ELSIブーム」とでも呼ぶべき現象が起こっていると言えよう[9]。

 こうした展開のなかで、ELSIは「科学技術と社会の界面に生じる様々な問題を検討する研究プログラムを総称するもの」[10]、あるいは、「新規科学技術を研究開発し、社会実装する際に生じうる、技術的課題以外のあらゆる課題」[11]を意味するものと広くとらえられるようになっている。このような広義の理解をとった場合、ELSI研究はその頭文字である倫理・法・社会の観点に限定される必要はないのかもしれない(多くの問題がこの3つの観点へと収斂されるとは言えるかもしれないが)。もっとも、倫理・法・社会あるいはその他の観点にせよ、ある特定の観点から当該科学技術の社会的影響について検討を加えるのであれば、それぞれにどのような意義と役割があるのかは明らかにされる必要があるだろう[12]。そうでなければ、科学技術の社会実装に伴う責任逃れとして、ELSI研究が何となく行われるに等しい結果となってしまう[13]。

RRIとは何か 

 上述したように、EUではELSIの考え方がELSAと名称を変えて導入された。そして、2011年以降の欧州では、ELSAよりもRRI――責任ある研究・イノベーション(Responsible Research and Innovation)――という考え方が強調されている[14]。

 RRI概念に関する最も影響力のある説明の一つとされているのは、科学技術社会論を専門とする研究者であると同時に、長年にわたり欧州委員会で科学技術政策に携わってきたルネ・フォン・ショーンバーグによるものである[15]。曰く、 

責任ある研究・イノベーションとは、透明で相互作用的なプロセスである。このプロセスによって、イノベーションの過程とその市場化可能な製品について「(倫理的な)受容可能性」「持続可能性」「社会的な望ましさ」を念頭に置きつつ、社会的アクターとイノベーターは (科学と技術の発展を社会へと適切に定着できるようにすることを目的として)相互に反応し合うようになる[16]。

 この説明は「基本的でありながらも曖昧」であり[17]、RRIとは何か、ELSIやELSAとどう違うのかなどをめぐってさまざまな議論を生むことになる[18]。ここでは、情報/科学哲学者の榎本啄杜による優れた概念整理に依拠し、その見取り図を示しておきたい。

 榎本は、まず、ELSIを3通りの意味に分ける[19]。「課題としてのELSI」、「活動としてのELSI①」、「活動としてのELSI②」である。第一の「課題としてのELSI」は、ELSIを「技術的な側面を除く倫理的・法的・社会的な『課題(Issues)』」を意味すると捉える説明である。これは上述した広義の意味のELSIに対応する。この意味では、課題をどう扱うかは指定されておらず、科学技術に関する特定の課題があることに焦点を当てている。第二の「活動としてのELSI①」は、ELSI的課題を「『早期に分析して、論点を共有・議論して、そのインパクトを社会へと適切に位置づける』という営み全体、あるいはその一部」を指す。「活動としてのELSI①」はELSI概念史をひとまず捨象した現代的なELSI的活動を包括するものといえる。そして、第三の「活動としてのELSI②」は、「特定の時期に行われたプロジェクト」を指して用いられる。これまで見てきたように、ELSIはアメリカ合衆国や欧州、日本などのさまざまな国と地域の具体的な科学技術政策・プロジェクトに反映されてきた。「活動としてのELSI②」はそれらの個別具体的な科学技術政策・プロジェクトを意味している。榎本によれば、ELSIが「時代遅れ」とされたり、RRIが「ポストELSI」と呼ばれたりするときの「ELSI」は、この「活動としてのELSI②」が念頭に置かれている。

 次に、この整理を前提として、RRIの定義が試みられている。ここでは、EUで議論されてきたRRIがどのような概念かが整理されてるされている。榎本によれば、EUで議論されてきたRRIは、「キーとしてのRRI」と「次元としてのRRI」を区別することで議論の見通しがよくなるという。「キーとしてのRRI」は、RRIの取り組みの評価指標を構成する要素を指す。この要素としては、「ジェンダー」、「科学教育」、「エンゲージメント」、「オープンアクセス」、「倫理」の5つが挙げられる[20]。つまり、これら5つの要素がどのように取り組まれたかについて測定し評価することが想定されている。これに対して、「次元としてのRRI」は、「RRIを実践する際のプロセスに対する態度や向き合い方を表している」ものである。「次元としてのRRI」の要素は、「先見性」、「省察性」、「包摂性」、「応答可能性」という4つで特徴づけられている[21]。この整理を行ったうえで、榎本はEUのRRIを次のように定義する。

RRIとは、「先見性」「省察性」「包摂性」「応答可能性」を満たすような態度を伴った仕方で、「ジェンダー」「科学教育」「エンゲージメント」「オープンアクセス」「倫理」のようなターゲットを中心とした「課題としてのELSI」に取り組む営みである[22]。

 すなわち、RRIは「課題としてのELSI」に取り組む営みである、「活動としてのELSI①」の一種であるということになる。そしてこれがEUという領域において行われている個別具体的なプロジェクトであるとすれば、それは「活動としてのELSI②」の一種ということになる。RRIにも2側面がありうることになるので、便宜的に前者を「活動としてのRRI①」、後者を「活動としてのRRI②」と呼んでおくことにしたい。なお、「活動としてのELSI②」や「活動としてのRRI②」には、国家の科学技術政策や研究助成制度などを通じて展開される取り組みと、個別の科学技術研究・開発に関連して実施される具体的な取り組みが含まれる。以下では、後者を便宜上「ELSI研究」ということにする。

 以上の議論から得られるのは、次のような概念整理の見取り図である。科学技術研究およびその社会実装に関する技術以外の課題(「課題としてのELSI」)を認識したうえで、それにどのような仕方で取り組むべきか(「活動としてのELSI①」/「活動としてのRRI①」)が議論され、具体的なプロジェクトに結実してきた(「活動としてのELSI②」/「活動としてのRRI②」)といえる。これによれば、RRIはELSIにおいて認識されていた課題に取り組むアプローチの一種である。以下では、ELSIというときRRIの含意も含むものとして用いるが、RRIに固有のアプローチに言及する場合は、RRIを用いる。

ELSIの規範的意義? 

 「活動としてのELSI」ないし「活動としてのRRI」は、「課題としてのELSI」にどのように取り組むべきかを検討しているため、規範的な側面を含む議論といえるだろう。もっとも、ELSIの規範性にとってより重要な問いは、ELSIはある科学技術研究を行う際に、ELSI研究を行わなければならないということを意味しているのか、それとも、行うことが望ましく、行う場合にはどう行うべきなのかを問題にしているのか、という点であろう。

 ELSIの成立史に着目すれば、その意義は、科学技術研究に付随する倫理的・法的・社会的課題を研究対象として認識することにとどまらず、それらの課題に取り組む活動を制度に結びつけることにも見いだすことができる。もっとも、このことから直ちに個々の科学技術研究プロジェクトにELSI研究の実施義務が生じると考えられてきたのではない。しかし、科学技術がもたらす社会的影響が増大の一途をたどっている現代社会においては、〈ある特定の科学技術研究プロジェクトを実施する際には、科学技術的課題以外の課題を検討する研究プロジェクトを同時に実施しなければならない〉という、研究遂行上の必須条件を提示するものとしてELSI概念を深化させていくことが重要ではないかだろうか。

 このようなELSIの規範的意義を検討する場合、次の4つの論点を念頭に置いておくことが有益であると思われる。

 ➀どのような科学技術研究プロジェクトにELSI研究が必須となるのか(基本的権利への影響度や不可逆性、不確実性の程度等)

 ➁科学技術的課題以外の課題はどのような領域(RRIにおけるキー等)において認識され、どのような態度――各観点の意義・役割・相互関係を含む――で取り組まれるべきなのか

 ➂これらの課題を扱う研究プロジェクトを個別の科学技術研究プロジェクトにおいてどのような形で実施するのか(予算配分、規模、組織化、情報共有、独立性の確保、外部評価[23]等)

 ➃ELSI研究の結果は、科学技術研究の遂行に対して、どのような規範的効力を持つのか(検討結果の指摘、研究計画の修正・中止等)

 この方向性の先には、特定の科学技術研究プロジェクトに対して、ELSI研究を義務付ける法制度の構想がありうる。もっとも、このような形でELSI研究を義務化するのであれば、その正当性を検討することが必要になるだろう(正当性の論証のハードルはどのような法制度を構想するのかによっても変わりうる)。こうした方向性は、関連する先行研究を踏まえつつ、法学[24]が関わるべき問題であると解される。ここではこれ以上踏み込む余裕はないが、この問題意識を提示しておくことにしたい。

ELSI×デジタル立憲主義 

 最後に、これまで紹介・検討してきたELSIの観点がデジタル立憲主義とどのような関係にあるのかを整理しておく。

 近年、急速に発展するデジタル技術を対象とするELSI研究が増えつつある[25]。こうした研究では、たとえば、生成AIなどの具体的な科学技術の開発、サービス展開・提供、利用といった各場面について、どのような問題があるかを特定し、その問題に対してどのような対処がありうるのかが検討されている。

 デジタル立憲主義の構想に様々なバリエーションがありうることはこの連載でも検討してきたが、デジタル社会の基本理念として立憲主義的な価値を位置づけることを出発点にしている点では共通する(第6回)。多様な立憲的価値の実現方法を分析するデジタル立憲主義からすれば、ELSI研究はその実現手段の1つとして位置づけられるだろう。しかし、あらゆるELSI研究が立憲的価値の実現手段といえるわけではない。それは、ELSIにどのような態度で取り組むかということとも関連する。もっとも、立憲的価値の1つである基本的権利の保護は、ELSI研究にとっても重要な要素になると思われるので、多くのELSI研究はデジタル立憲主義と関係のあるものと位置付けられるだろう。

 具体的な実現手段としては、まず、企業の自主的な取り組みとしてのELSI研究がありうる。ELSI研究としての自覚のもとで行われたとは言えないかもしれないが、倫理的・法的・社会的な価値を技術開発に反映させる自主的な試みとして、Anthropic社が用いたAIアライメント(訓練)手法であるConstitutional AIを紹介しておこう[26]。

 名称から誤解されることもあるが、Constitutional AIは、「憲法的なAI」というわけではない。通常、生成AIは、その出力が適切なものとなるよう、入念にアライメントされたうえで社会実装される。Constitutional AIは、生成AIが従うべき文書としての「憲法」――これは「Claude's Constitution」と呼ばれている――を設定し、この「憲法」に照らしたAI自身のフィードバックによってアライメントを行うという仕組みを採用するものである。2023年に公開された「憲法」は、世界人権宣言などの文書に依拠した原則を列挙したものだったが[27]、2026年1月21日に公開された現行の「憲法」は約23,000語の文章となっている[28]。Constitutional AIの仕組み自体は技術的課題――生成AIの訓練技術――といえるが、倫理的・法的・社会的なさまざまな観点が反映されている「憲法」の起草は、技術的課題以外についても検討を実施した結果であると評価できる。

 ELSIの視点は、デジタル立憲主義の実現手法において、このような取り組み――技術開発の段階で立憲的価値とも重なる倫理的、法的、社会的観点からの検討を実施し、その成果を反映する取り組み――を奨励すべきということを示唆している。つまり、デジタル立憲主義がその実現手段の1つとする自主規制の具体的方法を明確に提示するといえる。もっとも、本連載の第7回で検討したように、デジタル立憲主義に対するシニカルな批判からすれば、企業が自主的にこうした取り組みを行うというのは楽観的かもしれないし、エシックス・ウォッシングのような使われ方をする可能性も懸念される。確かに、Constitutional AIは優れた取り組みの1つといえるが、その「憲法」は、外部の専門家の意見を取り込むプロセスを設けてはいるものの、最終的にはAnthropic社自身が制定・改正する文書であり、外部からの実効的な統制が保障されているわけではない。

 ありうる方向性としては、ELSIを法的に義務付けることではないか。たとえば、EUのAI法9条は、ハイリスクAIシステムのプロバイダー[29]に対して、基本的権利へのリスク評価を義務付けている[30]。

第9条1項

ハイリスクAIシステムに関して、リスクマネジメントシステムを確立し、実施し、文書化し、維持しなければならない。

第9条2項

リスクマネジメントシステムは、定期的な体系的レビューと更新を必要とする、ハイリスクAIシステムの全ライフサイクルを通じて計画・実行される継続的な反復プロセスとして理解されなければならない。それは以下のステップから構成されるものとする。

(a) ハイリスクAIシステムがその意図された目的に従って使用された場合に、ハイリスクAIシステムが健康、安全または基本的権利にもたらす可能性のある既知のリスクおよび合理的に予見可能なリスクを特定し、分析すること。

(b)~(c) 略

(d) 第(a)号に従って特定されたリスクに対処するために設計された、適切かつ的を絞ったリスクマネジメント措置の採用。

 AI法9条がELSIの観点を反映させる意図で設計されたわけではないが、ELSI×デジタル立憲主義の観点から評価すれば、機能的には、特定のデジタル技術の開発・展開・利用において[31]、ELSI的な活動の一部を義務付け、その検討結果をどう扱うべきかを規定しようとしたものだとみることもできるように思われる。より進んで、特定のデジタル技術の研究開発・社会実装に対してはその実施に伴ってELSI研究プロジェクトを組み込むことを義務付けるという構想もありうるだろう。

 なお、こうした立法に対しては、明確性の観点からの懸念が表明されており、筆者自身もその懸念を共有している。だが、ELSI×デジタル立憲主義の視点からは、明確性の問題を一定程度緩和できるかもしれない。まず、ここでいう明確性には2つの意味があると整理できる。第一がデジタル技術や特定のデジタルサービスの持つリスクの内容が事前に特定できないという意味での認識的不明確性であり、第二が法的義務として何を実施することが求められているのかわからないという意味での法的義務の不明確性である。認識的不明確性については法的な議論ではないと思われるかもしれないが、法規制を行う際の必要性――危険度やリスクの程度など――を考えるうえでは問題になりうる。一定以上の必要性はわかるが正確ではないというレベルだとしても、リスクなどの性質が不明確であれば、具体的な個別の規制手段を設計することが困難になるといえる。

 ELSI×デジタル立憲主義の観点からは、認識的不明確性に関しては性質上やむを得ないものであるということが示唆される。ELSI研究に期待される役割として、開発者や政策担当者が事前に十分認識していない課題を発見することが挙げられてきた。課題やリスクが何かを認識することから始める必要がある問題なのだから、ある程度の不明確性が残るのは必然であるし、それが残るからと言って、法的な義務付けを行うべきではないとは言えないだろう。言い換えれば、リスクや危険を認識するための法的義務を課すことについて、対象となるリスクを事前に十分に特定できないという事情のみをもって、その正当性を否定することはできない。

 次に、法的義務の不明確性については、基本的な法的義務とその個別具体的な履行方法を区別することが有益であろう。リスクや危険の発見・分析・対応に関する手続や方法を一定程度具体的に定めることは可能であるとしても、こうした汎用的な手続きがあらゆる科学技術について必要十分であるとは限らない[32]。そのため、各技術の特性に応じた柔軟な対応の余地を確保しながら、基本的な法的義務の内容を可能な限り明確化していく必要がある。さまざまな分野で実施されてきたELSI研究・RRI研究の取り組みなども参考に基本的な法的義務とすべき手続きが何か、ガイドラインなどで整備する具体的な履行方法としてどのようなものがありうるかを可能な限り整理していくとともに、一度策定した法的義務を適時に改訂し漸進的に進化させていくプロセスを視野に入れることが必要だろう[33]。不確実性のある領域においてはじめからパーフェクトな規律を求めることは難しい[34]。しかし、いま何かを行わなければ手遅れになるかもしれない、という現実の問題に答える必要もある[35]。

* * *

 ELSIは――デジタル立憲主義とは異なる経路から――デジタル技術の研究開発に関する規範的意味を議論してきたものである。別系統の議論である以上、無理に両者を統合する必要はないと思われるが、ELSIの観点はデジタル立憲主義の具体化手法を明確化するのに資する。開発される前の新規のデジタル技術の危険性やリスクを事前に「法」が正確に認識し防止することは基本的には不可能である。しかし、認識し防止するための取り組みを「法」が義務付けるということは可能ではないか。ELSI×デジタル立憲主義の視点はこの可能性を追求しうるものであるだろう。

◆第12回 おわり


[1] ELSIやRRIの概要については、カテライ・アメリア=鹿野祐介=標葉隆馬編『ELSI入門――先端科学技術と社会の諸相』(丸善出版株式会社、2025年)[『ELSI入門』]、神里達博「ELSIの誕生――その前史と展開」IEICE Fundamentals Review15巻4号(2022年)318頁以下などを参照。

[2] 本稿は、2026年8月24日に仁川(韓国)で開催された「第3回東北アジア比較法シンポジウム」での報告「ELSIから見たデジタル立憲主義」に大幅な加筆修正を加えたものである。なお、同シンポジウムでは、関連する報告として、神野潔「ELSIと社会の関係史」、横大道聡「ELSIにおけるE・L・Sの意義とLの役割――デジタル技術の法規制に向けた予備的考察として」、岡田順太「ELSIと企業――AIによる親密圏への浸食を中心に」が行われた。

[3] ここに至る背景も含め、神里・前掲注1)327頁、小林傳司「ELSIおよび責任ある研究・イノベーション(RRI)について」学術の動向27巻7号(2022年)14頁以下などを参照。

[4] なお、この時、 “I”は “Implications”とされていたが、後に“Issues”と言い換えられている場合もあり、どちらの用法もあると解される。日本では “Issues”が用いられることが多い。神里・同上。

[5] 神里・同上。

[6] 標葉隆馬「科学技術をめぐる視座」『ELSI入門』7-8頁。

[7] 同上。

[8] 現在は、「第7期科学技術・イノベーション基本計画」(2026年~2030年)である。第6期から基本計画の名称が変わっている。

[9] この表現は、神野・前掲注2)によるものである。

[10] 神里・前掲注1)329頁。

[11] 大阪大学社会技術共創研究センター(ELSIセンター)「ELSIとは」(2020年4月1日)。

[12] この点は、横大道・前掲注2)が強調しているところである。「倫理」に関するものとして、伊勢田哲治「倫理学をELSI/RRIに役立てようとするのはよいことか」倫理学研究54巻(2024年)6頁以下、平出喜代恵「倫理学はELSIといかにかかわりうるか」倫理学研究54巻(2024年)17頁以下、「法」に関するものとして、米村幸太郎「ELSIのEを前に進める――台風制御とリスク付与」横浜法学33巻2号(2025年)387頁以下、神野潔=岡田順太=横大道聡「ELSI研究における法学の役割と課題」東京理科大学教養教育研究院紀要5号(2027年3月刊行予定)などがある。

[13] たとえば、「エシックス・ウォッシング」の問題が指摘されている。この概念の用法も多様であるが、長門裕介の紹介によれば、具体的な問題を曖昧な表現――正義、自律、持続可能など――に変換すること、規制までの時間稼ぎのために倫理的問題を議論し続けようとすること、規制を骨抜きにするために倫理を積極的に用いることなどを指す。長門裕介「エシックス・ウォッシング――倫理が方便になるとき」『ELSI入門』84頁以下。

[14] 標葉隆馬『責任ある科学技術ガバナンス概論』(ナカニシヤ出版、2020年)第11章。

[15] 榎本啄杜「ELSI/RRI概念を工学する」ELSI NOTE No.56(2025年)3頁。

[16] René von Schomberg, “Introduction: Towards Responsible Research and Innovation in the Information and Communication Technologies and Security Technologies Fields” in René von Schomberg ed., Towards Responsible Research and Innovation in the Information and Communication Technologies and Security Technologies Fields (European Commission, Directorate-General for Research and Innovation, 2011) 9. 訳語は榎本・同上に倣った。

[17] 榎本・同上。

[18] たとえば、Jack Stilgoe, Richard Owen & Phil Macnaghten, “Developing a Framework for Responsible Innovation,” (2013) 42:9 Research Policy 1568; Bjørn K. Myskja, Rune Nydal & Anne Ingeborg Myhr, “We Have Never Been ELSI Researchers—There Is No Need for a Post-ELSI Shift,” (2014) 10:9 Life Sciences, Society and Policy.

[19] 榎本・前掲注15)5-9頁。

[20] 6つ目のキーとして「ガバナンス」が議論されたこともあるが、現在、ガバナンスについての考慮は別枠組みとなっているようである。榎本・同上。

[21] 榎本によれば、先見性は「プロセスに新たな視点を取り入れて、社会的にロバストなアジェンダをデザインできるよう、さまざまな可能性を考え抜く」こと、省察性は「自らの倫理的・政治的・社会的な前提を考え、科学技術・イノベーションのプロセスにおける自身の責任について反省する」こと、「包摂性」は「プロセス全体に多様なステークホルダーを参加させて、多様な視点の源を多様化させる」こと、応答可能性は、「研究・イノベーション(R&I)のプロセスを公共の価値観に従って柔軟に修正する力を持つ」ことを意味する。榎本・前掲注15)15頁。

[22] 榎本・前掲注15)17頁。

[23] ELSI研究を科学技術研究プロジェクトに内在させることによって、ELSI研究が制約される可能性を指摘しているものとして、Myskja, Nydal & Myhr, supra note 18.

[24] もちろん法学だけでなく、政治学等も関わるべき問題であり、実際に関わってきている。この点については、城山英明『科学技術と政治』(ミネルヴァ書房、2018年)を参照。

[25] たとえば、工藤郁子「トラッキング技術――信頼・監視・個人をめぐる連環と緊張」『ELSI入門』130頁以下、竹下昌志「生成AI――それは誰のためのものか」『ELSI入門』146頁以下など参照。

[26] Constitutional AIに言及するものとして、山本龍彦=佐藤太樹「国家における立法補佐業務とAI――AIによる議員立法活性化の可能性と課題」山本龍彦ほか編『国会実務と憲法――日本政治の『岩盤』を診る』(日本評論社、2024年)142頁以下、水谷瑛嗣郎「デジタル空間の立憲化と生成AI」法の理論44号(2026年)53頁以下なども参照。

[27] Anthropic “Claude’s Constitution” (2023.05.09).

[28] Anthropic “Claude's new constitution” (2026.01.22).

[29] AI法におけるハイリスクAIとは、同法6条で指定されるAIシステムである。AIシステムのプロバイダーとは、「AIシステムを開発する者や、開発済みのAIを保有し自己の名や商標でそれを市場に流通させるまたはサービスを提供する者」を指す。古川直裕ほか編著『EU AI法概説』(商事法務、2025年)5、10-12頁を参照。なお、AI法の訳語についても同書に依拠している。

[30] AI法16条(a)は、ハイリスクAIシステムのプロバイダーが、「第2節に定められた要求事項〔第9条の要求はここに該当する〕に、ハイリスクAIシステムが適合していることを確保すること」を義務付けている。なお、ハイリスクAIシステムに関するAI法の適用開始時期は延期されており、スタンドアロン型のハイリスクAIシステムについては2027年12月2日、製品に組み込まれたハイリスクAIシステムについては2028年8月2日から適用開始となる。このほか、やや文脈を異にするが、同じくEUのデジタルサービス法が規定するリスク評価・軽減措置の枠組みも似た枠組みと捉えられるかもしれない。

[31] AI法27条1項はハイリスクAIシステムの「ディプロイヤー」に対しても基本的権利に与える影響の評価を義務付けている。AIシステムのディプロイヤーとは、「自らの権限に基づきAIシステムを利用する者」を指す(吉川ほか・前掲注29)5頁)。

[32] この観点については、見上公一「科学技術の倫理的・法的・社会的課題──科学史の視座から考えるその曖昧さ」三田評論オンライン(2024.08.05)も参照。

[33] この視点については、入井凡乃「立法者の事後的是正義務と『見直し条項』」法学政治学論究144号(2025年)1頁以下を参照。

[34] この点、AI法は112条で詳細な見直し規定を設けている。

[35] この視点については、藤垣裕子『専門知と公共性――科学技術社会論の構築へ向けて』(東京大学出版会、2003年)7頁も参照。

タグ

バックナンバー

著者略歴

  1. 山本 健人(やまもと・けんと)

    現職:関西大学社会学部メディア専攻准教授/慶應義塾大学KGRI訪問准教授/東京大学みらいビジョン研究センター客員研究員
    慶應義塾大学大学院 法学研究科 公法学専攻後期博士課程単位取得退学、博士(法学)。
    主著に、『承認と対話の憲法理論――法の下の宗教的多様性』(ナカニシヤ出版、2025年)、共編著として『合理的配慮と憲法――日韓欧米各国における差別の緩和・解消の試み』(ナカニシヤ出版、2025年)など。また主な論文に「デジタル立憲主義と憲法学」(情報法制研究、2023年)、「デジタル立憲主義と情報空間の立憲化」(法律時報、2024年)、「世論・法・アルゴクラシー――法における世論と統治における世論」(法学セミナー、2025年)、「情報空間への国家介入の見取り図――DPF規制に向けた放送規制の根拠論とその応用可能性」(法学研究、2026年)など。

閉じる