Happy birthday to the GDPR on 25 May!
Across the EU's digital legislations — GDPR's right to human intervention (Art. 22(3)), the DSA's human review (Art. 14(1)), and the AI Act's human oversight (Art. 14(2)) — the ’human’ consistently appears as a central figure. In the AI Act, it can be interpreted that the English human oversight frames the human as a supervisor of systems, while the French contrôle humain situates the human as the bearer of responsibility for decisions.
Drawing on Hannah Arendt's The Human Condition, the irreversibility and unpredictability of action are met by forgiveness and promise, both of which presuppose an imputable subject. AI systems structurally lack this capacity.
The tension between the English and French formulations, human oversight vs contrôle humain, invites continued reflection on what kind of 'human' digital constitutionalism is meant to protect.

2012年1月25日GDPR提案が公表された数時間後のCPDP国際会議パネル（Brussels, Belgium）

5月25日は、GDPR（一般データ保護規則）が適用開始された誕生日です。

2016年に成立したGDPRは、2018年5月25日に適用開始されました。同日の直前には、GDPRの適用開始に伴う、プライバシーポリシーの変更の通知が多く届いたことをご記憶の方もいらっしゃると思います。私は当時ドイツに滞在しておりましたが、ドイツ国内でもニュースでGDPR適用開始の報道がされていたことを思い返します。

デジタル立憲主義の潮流

現在の憲法学の一つのトレンドとして「デジタル立憲主義（Digital Constitutionalism）」というテーマがあります。主にプラットフォームがもたらした表現の自由、プライバシー、アルゴリズム差別という国境を越えた課題について規範的に論じるものが多く見られます。「アルゴリズムの支配」に対抗する「法の支配」の意義づけなど注目に値する論稿が多く登場するようになりました。

私の視点は、EU法を外から見て、またアメリカ法との比較の文脈を添える、という少し異なるものです。‘Human Condition in Digital Constitutionalism’というタイトルは、デジタルオムニバス法案が公表された2025年11月19日、フランス大学の先生との合同研究会（一橋大学中西優美子教授主催）において発表したテーマです。こちらは近く国内の研究会で原稿発表し公表予定です。デジタル立憲主義を規範的に論じるものではなく、実証的にEUの立法と判例から、デジタル立憲主義の一つの要素として「人間による制御」という役割を導き出す内容です。

EUのデジタル立法における「人間」の存在

　EUには様々なデジタル関連立法がありますが、「人間」を条文においてしっかりと位置づけていることを確認することができます。

GDPR（2016年成立）には、個人データの自動処理に伴う意思決定システムを規律する観点から「人間介入の権利」（right to obtain human intervention）（22条3項）が規定されています。

DSA（デジタルサービス法、2022年成立）には、「人間による再審査」（human review/ réexamen par un être humain）（14条1項）を含むコンテンツモデレーションの仕組みについて利用規約で明示しておくことが定められています。

AI法（2024年成立）には、ハイリスクAIシステムに対する義務の一つとして、「人間による制御」（human oversight/ contrôle humain）（14条2項）が求められています。

このように、EUのデジタル立法には、「人間介入の権利」、「人間による再審査」及び「人間による制御」という人間中心の原則が現れているとみることができます。

なお、AI法の立法経緯に照らし、前記研究会においてフランスの先生にも英仏の語の違いについて確認を行い、英語のテキストはシステムに対する監視権限のニュアンスが強いのに対し、フランス語のテキストにはシステムに対する人間の責任の意味合いが出されていると解することができます。私自身は、フランス語テキストの方が、人間の責任主体性をより適切に表しているように思われます。

デジタル立憲主義が想定する「人間」

　なぜシステムではなくて、人間でなければならないのか。

　ハンナ・アーレントは『人間の条件』において、人間の活動を労働・仕事・行為に区別した上で、とりわけ「行為」（action）を人間に固有の営みとして位置づけました。行為の結果は複数の主体の相互作用の中で予測不能な連鎖を生み出すことがあります。この条件に対する人間的応答としてアーレントは「赦し」と「約束」を論じました。「赦し」は不可逆性への応答であり、「約束」は予測不能性への応答です。いずれも帰責性ある主体を前提とした仕組みです。

帰責の最終点に「人間」を置くことは、立法上の技術的選択を超えた、「人間の条件」に根ざした要請であると言えます。この観点からすると、AI法の英仏のテキストの差異は単なる翻訳の問題を超えて、システムを監視する道具を用いる主体（human oversight）としての人間像とみるか、あるいは出力過程に責任を負うことを前提にシステムを制御する主体（contrôle humain）としての人間像を想定するか、—すなわちアーレントのいう「工作人」と「行為主体」のいずれに位置づけるか—という選択を迫るものであるように思われます。実際、AI法14条4項d号は、英語版が出力の「上書き（override）」を、フランス語版は「置き換え（remplacer）」をそれぞれ規定しており、ここでも前者は監視権限の延長として、後者は人間による能動的な操作制御として読み取ることができます。

なお、アメリカ憲法の下では、アルゴリズムの実装としてのソースコードやシステムの出力を、人間である開発者の思想や判断の「表現」として捉え、あるいは出力の受け手の権利という観点から、表現の自由との関係から、AI規律における「人間」の役割を論じる議論が存在します。

EUデジタル立法に内在するこの緊張は、デジタル立憲主義において「人間」がいかなる存在として位置づけられるのかという問題を提起しているように思われます。

参考資料

問題意識を共通にするブログとして、Schwemer, Sebastian; Koivisto, Ida: A Warm Body in the Loop: Rethinking Human Control of AI in EU Tech Regulation, VerfBlog, 2025/9/18,が参考になります。また、日本語によるデジタル立憲主義のブログとして、山本健人「デジタル社会は立憲主義の夢を見るか？」Webあかし、参照。拙論「AIとプライバシー：EUのAI規則とGDPRの交錯」白鴎大学法政策研究所編『デジタル社会の政策と法』（勁草書房・2025）105頁以下、において「人間による制御」の意義を論じております。

How to cite　宮下紘（2026）「GDPR誕生日：デジタル立憲主義における『人間の条件』」2026年5月25日、DOI: https://doi.org/10.5281/zenodo.20370557/ Miyashita, H. (2026). Human Condition in Digital Constitutionalism. 25 May 2026. https://doi.org/10.5281/zenodo.20370557

Regulatory design requires distinguishing between two fundamentally different problems: gaps in the information available to decisionmakers, and limitations on their capacity to process the information they do have. Conflating the two risks sending regulatory debate in the wrong direction.

ゴールデンウィークが始まりましたが、本日は留学生・実務家向け英語講義がありました。その際に触れた論点を少し整理しておきます。

2026年4月28日、EUにおけるAI法改正をめぐるデジタルオムニバス提案の「三者対話（trilogue）」が、12時間に及ぶ議論の末に決裂したことが報道されました。報道には、この先どうなるかわからないという意味で「不確実性（uncertainty）」という言葉が使われていました。

文脈は異なりますが、マリオ・ドラギ元ECB総裁は「AI法もまた不確実性の源となっている」、と述べました。「不確実性」という言葉について、ハーバード大学ロースクールのエイドリアン・ヴァーミュール教授の議論をふと思い出しましたので、規制における「不確実性」の意味について考えてみたいと思います。

「不確実性」と「限定合理性」——二つの異なる問題

一定のリスクの条件下で行動する意思決定者は、各選択肢から生じうる結果とその確率を知っており、便益を計算することが求められます。

これに対し「不確実性（uncertainty）」の条件下では、結果と利得はある程度把握していても、その結果が生じる確率を知ることができません。ヴァーミュール教授が「深刻な不確実性（severe uncertainty）」と呼ぶ状況では、確率についていかなる信頼に足る判断も下すことができません。

ヴァーミュール教授が強調するように、この「不確実性」の問題は「限定合理性（bounded rationality）」の問題とは次元が異なります。限定合理性とは、情報そのものは存在していても、意思決定者がその情報を適切に処理・判断する能力に限界がある状態を指します。

規制のデザイン力が問われているところ、情報の欠落の問題と、情報処理能力の限界の問題の二つを混同すると、規制の議論は方向を見失うことがあります。

AIをめぐる規制の二重の困難

AIの規制をめぐる問題は、この二つの困難をともに抱えています。

第一に、AIをめぐる問題は、情報そのものが不足している、あるいは日々の技術進化に伴い情報が絶えず変遷していくことから生じる「不確実性」の問題があります。これは、何を規制すればよいのかという規制内容の設計に関わる問題です。

第二に、AIに関する情報を有していても、技術的複雑性がゆえに、意思決定者がそれを十分に処理できないという「限定合理性」の問題があります。これは、誰が規制するのか、またはどの法律で規制するのかという規制主体や規制枠組みの設計に関わる問題です。

デジタルオムニバスが示す混乱

EUのデジタルオムニバスをめぐる議論を見る限り、この二つの問題が整理されないまま混在しているように感じます。

不確実性の問題（何を規制するか） の典型例として、新たに禁止対象に加えようとしているディープフェイクポルノへの規制が挙げられます。EUの基本的価値に反するアウトプットを規制するという価値ベースの規制アプローチは、技術の進展に対しても比較的安定した基準を提供し、不確実性を生み出しにくいと考えられます。これに対し、「同意の有無をどう判断するか」「規制対象者の範囲をどこまでとするか」といった技術要件による規制は、新たな技術の進展によって基準自体が揺らぐリスクを孕んでおり、深刻な不確実性をもたらすおそれがあります。

限定合理性の問題（誰が規制するか） の典型例は、業法とAI法による二重規制の問題です。AIは医療・金融・輸送など様々な事業分野にまたがって利用されるため、既存のセクター別規制とAI法の適用関係が問題となります。たとえば、医療AIシステムについては、医療機器規則に基づく安全性・性能評価に加え、AI法に基づく適合性評価が実施されれば、実質的に二重の審査を受ける構造となります。業界がその簡素化を強く求めるのは当然のことです。今回の三者対話決裂の直接の原因も、既存の業種別安全法制で規律されているAIシステムをAI法の要件から免除すべきか否か、という規制の「アーキテクチャ」をめぐる対立にありました。これは誰がどの法律でAIを規制するのかという、まさに限定合理性に関わる制度設計の問題です。

日本のAI推進法への示唆

このように、デジタルオムニバスをめぐる議論は、規制の内容をいかに設計するかという「不確実性」の問題と、誰がAIを規制しうるかという「限定合理性」の問題とが、それぞれ異なる論点でありながら、実際の政策決定の場では不可分に絡み合うことを如実に示しています。

日本においても、AI推進法をめぐる議論が進んでいます。日々進展するAI技術に対して規制を設計する際には、「何を規制するのか」（不確実性への対処）と「誰が規制するのか」（限定合理性への対処）という問いをひとまず切り分けて考えることが、議論の混乱を防ぐ上で重要であるように思います。EUの経験は、この二つを混同したまま議論を進めると、何時間議論しても合意に至らない、というリスクを示す示唆的な事例といえるかもしれません。

（参考文献）Adrian Vermeule, Judging under Uncertainty: An Institutional Theory of Legal Interpretation (Harvard University Press 2006). Public Law Seminarで同教授から学んだことを、uncertaintyという言葉を聞いて思い起こしました。

研究発信のためホームページを開設しました。

研究の記録として、気まぐれですが、時々ここに記します。

どうぞよろしくお願いいたします。