AIによる被害に対する立証責任の軽減化

2022年9月28日、AIの提供者、開発者、利用者の過誤等により、AI対応の製品やサービスについて損害を被った場合に適用される「AI責任指令（AILD）」案が公表され、公衆審査に移行しました。

同指令によって、AIによって生じた損害の被害者が、製品一般によって生じた損害の被害者と同等の保護を得られるようにするとしています。

概要

欧州では、AIによる被害に対して、他のテクノロジーと同レベルの保護を受ける必要があると考えられています。企業についてはリスクを認識し、保険に加入し、可能な限りリスクを回避すべきとしています。AI責任指令案では、民事責任規制をAI技術がもたらす課題に適応させることで、これを可能にしています。

この指令案は、AIの提供者、開発者、利用者が何か誤ったことをしたことにより、AI対応の製品やサービスが損害を被った場合に適用されるものです。提案されている指令では、被害者がAIシステムに関する情報にアクセスできるようにし、被害者の立証責任を軽減するために反証可能な推定を導入するとしています。

これにより、正当な請求がAIに関連する特有の立証の困難さによって妨げられることのないようにすることが、以下の通り本指令案の要点となります。

・ AIを利用した製品・サービスの被害者が、従来の技術の被害者と同等に保護されることを保証する。

・ AIを開発・使用する企業の責任追及に関する法的不確実性を低減させる。

・ 国内の民事責任規定の断片的なAI固有の適応の発生を防止する。

この指令案は、2022年10月03日～2022年11月28日の期間（8週間）で、公開協議にかけられることになりました。寄せられた意見はすべて欧州委員会がまとめ、欧州議会と理事会に提出され、立法化の議論に反映されることを目的としています。

背景、目的

2021年の代表的な調査では、欧州企業がAIを利用する際の障壁のトップ3として、また、AIの導入を計画している企業にとっても外的な重大な障害として、AIに関わる被害の賠償責任が挙げられています。

欧州委員会のフォンデアライエン委員長は、政治的指針の中で、AIに関する欧州の協調的アプローチを打ち出し、2020年2月19日付のAI白書において欧州委員会は、卓越性と信頼性を醸成させることによって、AIの導入を促進し、その用途の一部に関連するリスクに対処することを約束しました。

現在の国内の責任規定、特に過失に基づくものは、AIを利用した製品やサービスによって生じた損害に対する責任請求に対応するのに適していないと考えられています。このような規定の下では、被害者は、損害を引き起こした人による不当な行為または不作為を証明する必要が生じます。

複雑性、自律性、不透明性（いわゆるブラックボックス効果）などのAI特有の特性は、被害者が責任者を特定し、責任追及を成功させるための要件を証明することを困難にしたり、法外な費用をかけたりする可能性があります。

特に、補償を請求する場合、被害者は、AIが関与していないケースと比較して、非常に高い初期費用を負担し、著しく長い法的手続きに直面する可能性があります。そのために、被害者は賠償請求から撤退してしまう可能性があり、このような懸念は、欧州議会でも共有されています。

欧州議会は、2022年05月03日のデジタル時代における人工知能に関する決議において、このような懸念を表明しています。

被害者が訴えを起こした場合、各国の裁判所は、AIの特異な性質に直面し、被害者のために公正な結果を得るために、既存の規則の適用方法を臨機応変に変更することができます。

被害者のために正当な結果を得るために、既存の規則を適用する方法を臨機応変に変更すると、法的な不確実性をもたらすことになります。企業は、既存の責任ルールがどのように適用されるかを予測することが困難となり、結果として、国境を越えて取引する企業にとっては、不確実性が異なる司法権をカバーすることになるため、その影響は大きくなってしまいます。

すなわち、不確実性が異なる司法管轄区をカバーすることになり、社内の法律専門家や資本準備金に頼ることができない中小企業には影響が及ぶことが予想されます。

AIの国家戦略としては、幾つかの加盟国がAIの民事責任に関する立法措置を検討、あるいは具体的に計画していることが示されていますが、EUが行動を起こさない場合、加盟国は自国の責任規則をAIの課題に適応させることが予想されます。これにより、EU全域で活動する企業にとって、さらなる分散化とコスト増をもたらすことになります。

この提案のインパクトアセスメントに情報を提供する公開のパブリックコンサルテーションでは、上記で説明した問題が確認されています。

国民の意見では、「ブラックボックス」効果により、被害者が過失や因果関係を証明することが難しくなり、AIが関係するケースで裁判所が既存の国内責任規則をどのように解釈し適用するか、不確実性が生じる可能性があるとしています。

さらに、個々の加盟国によって開始された責任ルールの適応に関する立法措置とそれに伴う分散化が、企業、特に中小企業のコストにどのように影響し、EU全体でのAIの導入を妨げるかということについて、国民の関心が示されています。

したがって、本提案の目的は、信頼できるAIの普及を促進し、域内市場に対するその恩恵を十分に享受することにあります。これは、AIによって生じた損害の被害者が、製品一般によって生じた損害の被害者と同等の保護を得られるようにすることで実現されます。

また、AIを開発・使用する企業が負う可能性のある責任に関する法的不確実性を低減し、国内の民事責任規則の断片的なAI固有の適応の出現を防止することになります。

指令案の施行による各影響

・ 経済的影響

■　本指令は、内部市場におけるAI技術の展開と発展のための条件を大幅に改善することができるとしています。EUレベルで調和された措置により、分散化を防ぎ、法的確実性を高めることによって、域内市場におけるAI技術の展開の条件を大幅に改善することができます。AI の民事責任に関する調和のための措置は、保守的な見積もりではあるが、以下のようなプラスの効果をもたらすと結論づけています。

■　保守的な推定として、AI の民事責任に関する的を絞った調和措置は、ベースラインシナリオと比較して、関連する国境を越えた貿易の生産額に5～7 %のプラスの影響を与えると結論付けています。この付加価値は、特に断片化の低減と利害関係者の責任追及に関する法的確実性の向上によって生み出され、利害関係者の法的情報代理人、内部リスク管理、コンプライアンスのコストを削減し、財務計画も容易にします。

また、財務計画や保険のためのリスク見積もりも容易し、企業（特に中小企業）が国境を越えて新しい市場を開拓することが可能になります。本指令が扱う責任に関連する問題の影響を受けるEUのAI市場の全体的な価値に基づけば、約5億ユーロから10億ユーロの追加的な市場価値を生み出すと推定されています。

・ 社会的影響

■　社会的な影響という点では、この指令はAI技術に対する社会的な信頼を高め、効果的な司法制度へのアクセス、効率的な民事責任体制に貢献するとされています。

また、正当な損害賠償請求が成功するような、AIの特殊性に適応した効率的な民事責任体制に貢献することが期待されています。社会的信頼の向上は、AIの迅速な導入に貢献するためAIバリューチェーンに関わる全ての企業にも利益をもたらします。

責任ルールのインセンティブ効果により、誰も責任を負う者がいないというライアビリティギャップを防止することも間接的にすべての国民に利益をもたらします。

・ 環境的影響

■　環境への影響に関して、この指令は以下の達成に貢献することも期待されています。

■　関連する持続可能な開発目標（SDGs）及びターゲットの達成に貢献することが期待されています。AIアプリケーションの導入促進は環境にとって有益であると考えられます。

例えば、プロセスの最適化に使用されるAIシステムは、プロセスの無駄を省くことになります（例えば、必要な肥料や農薬の量の低減化、同じ生産量での水の消費量の低減化、等）。この指令はまた、透明性、説明責任、基本的権利に関する効果的な法令としてAIの可能性をSDGsにプラスに方向付けることになります。

委員会スタッフの議論

委員会内の質疑応答の例（法令としての位置付け）について以下に示します。

1. 立法提案や政策イニシアチブを支持するために、条約のどの条文が使用されているか？

欧州連合の機能に関する条約（TFEU）第 114 条に基づくもので、同条項は以下のことを規定している。加盟国の法律、規則、行政行為によって規定された規定の近似性を規定する。この指令は、域内市場の確立と機能を目的とする加盟国の法律、規則、行政措置によって定められた規定の近似性を規定するものである。

同指令は、AIシステムに対して適用される加盟国の既存の民事責任規則のうち、対象となる部分を調和させることにより、AIを利用した製品やサービスにおける域内市場が機能するための条件を向上させることを目的としている。法的根拠としてTFEU114条を選択したことは、欧州議会も支持している。欧州委員会は、この法的根拠に基づいて立法案を作成するよう、2度にわたって欧州委員会に要請している。

2. この条約の条文に代表されるEUの権限は、排他的か、共有的か、それとも支援的か？

AIシステムに適用される民事責任ルールの場合、AIシステムの域内市場が機能するための条件を改善することを目的としている。AIシステムに適用される民事責任規則の場合、EUの能力は、第4条2項に従って共有される。TFEU第4条2項（a）によれば、政策領域としての域内市場は、EUと加盟国の間で共有される権限に服する。

TFEU第3条に定義されるように、EUが排他的権限を有する政策分野には、補助性は適用されない。TFEU第3条2提案が補完的管理メカニズムに該当するかどうかを決定するのは、具体的な法的根拠である。TFEU第4条3は、EUと加盟国の間で権限が共有される分野を定めている。第6条 TFEU4は、欧州連合が加盟国の行動を支援する権限のみを有する分野を定めている。

（略）

　　　　　　　　　　　　　　　　　　　　　　　　　　COMMISSION STAFF WORKING DOCUMENTより一部引用・仮訳

参考情報

• Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on adapting non-contractual civil liability rules to artificial intelligence (AI Liability Directive)
• Accompanying the document Proposal for a Directive of the European Parliament and of the Council on adapting non-contractual civil liability rules to artificial intelligence (AI Liability Directive)
• New liability rules on products and AI to protect consumers and foster innovation