Regulatory design requires distinguishing between two fundamentally different problems: gaps in the information available to decisionmakers, and limitations on their capacity to process the information they do have. Conflating the two risks sending regulatory debate in the wrong direction.

ゴールデンウィークが始まりましたが、本日は留学生・実務家向け英語講義がありました。その際に触れた論点を少し整理しておきます。

2026年4月28日、EUにおけるAI法改正をめぐるデジタルオムニバス提案の「三者対話（trilogue）」が、12時間に及ぶ議論の末に決裂したことが報道されました。報道には、この先どうなるかわからないという意味で「不確実性（uncertainty）」という言葉が使われていました。

文脈は異なりますが、マリオ・ドラギ元ECB総裁は「AI法もまた不確実性の源となっている」、と述べました。「不確実性」という言葉について、ハーバード大学ロースクールのエイドリアン・ヴァーミュール教授の議論をふと思い出しましたので、規制における「不確実性」の意味について考えてみたいと思います。

「不確実性」と「限定合理性」——二つの異なる問題

一定のリスクの条件下で行動する意思決定者は、各選択肢から生じうる結果とその確率を知っており、便益を計算することが求められます。

これに対し「不確実性（uncertainty）」の条件下では、結果と利得はある程度把握していても、その結果が生じる確率を知ることができません。ヴァーミュール教授が「深刻な不確実性（severe uncertainty）」と呼ぶ状況では、確率についていかなる信頼に足る判断も下すことができません。

ヴァーミュール教授が強調するように、この「不確実性」の問題は「限定合理性（bounded rationality）」の問題とは次元が異なります。限定合理性とは、情報そのものは存在していても、意思決定者がその情報を適切に処理・判断する能力に限界がある状態を指します。

規制のデザイン力が問われているところ、情報の欠落の問題と、情報処理能力の限界の問題の二つを混同すると、規制の議論は方向を見失うことがあります。

AIをめぐる規制の二重の困難

AIの規制をめぐる問題は、この二つの困難をともに抱えています。

第一に、AIをめぐる問題は、情報そのものが不足している、あるいは日々の技術進化に伴い情報が絶えず変遷していくことから生じる「不確実性」の問題があります。これは、何を規制すればよいのかという規制内容の設計に関わる問題です。

第二に、AIに関する情報を有していても、技術的複雑性がゆえに、意思決定者がそれを十分に処理できないという「限定合理性」の問題があります。これは、誰が規制するのか、またはどの法律で規制するのかという規制主体や規制枠組みの設計に関わる問題です。

デジタルオムニバスが示す混乱

EUのデジタルオムニバスをめぐる議論を見る限り、この二つの問題が整理されないまま混在しているように感じます。

不確実性の問題（何を規制するか） の典型例として、新たに禁止対象に加えようとしているディープフェイクポルノへの規制が挙げられます。EUの基本的価値に反するアウトプットを規制するという価値ベースの規制アプローチは、技術の進展に対しても比較的安定した基準を提供し、不確実性を生み出しにくいと考えられます。これに対し、「同意の有無をどう判断するか」「規制対象者の範囲をどこまでとするか」といった技術要件による規制は、新たな技術の進展によって基準自体が揺らぐリスクを孕んでおり、深刻な不確実性をもたらすおそれがあります。

限定合理性の問題（誰が規制するか） の典型例は、業法とAI法による二重規制の問題です。AIは医療・金融・輸送など様々な事業分野にまたがって利用されるため、既存のセクター別規制とAI法の適用関係が問題となります。たとえば、医療AIシステムについては、医療機器規則に基づく安全性・性能評価に加え、AI法に基づく適合性評価が実施されれば、実質的に二重の審査を受ける構造となります。業界がその簡素化を強く求めるのは当然のことです。今回の三者対話決裂の直接の原因も、既存の業種別安全法制で規律されているAIシステムをAI法の要件から免除すべきか否か、という規制の「アーキテクチャ」をめぐる対立にありました。これは誰がどの法律でAIを規制するのかという、まさに限定合理性に関わる制度設計の問題です。

日本のAI推進法への示唆

このように、デジタルオムニバスをめぐる議論は、規制の内容をいかに設計するかという「不確実性」の問題と、誰がAIを規制しうるかという「限定合理性」の問題とが、それぞれ異なる論点でありながら、実際の政策決定の場では不可分に絡み合うことを如実に示しています。

日本においても、AI推進法をめぐる議論が進んでいます。日々進展するAI技術に対して規制を設計する際には、「何を規制するのか」（不確実性への対処）と「誰が規制するのか」（限定合理性への対処）という問いをひとまず切り分けて考えることが、議論の混乱を防ぐ上で重要であるように思います。EUの経験は、この二つを混同したまま議論を進めると、何時間議論しても合意に至らない、というリスクを示す示唆的な事例といえるかもしれません。

（参考文献）Adrian Vermeule, Judging under Uncertainty: An Institutional Theory of Legal Interpretation (Harvard University Press 2006). Public Law Seminarで同教授から学んだことを、uncertaintyという言葉を聞いて思い起こしました。

研究発信のためホームページを開設しました。

研究の記録として、気まぐれですが、時々ここに記します。

どうぞよろしくお願いいたします。