人工知能法案に関する理事会修正案

2022年12月06日、欧州理事会は、検討が続く欧州人工知能法案について、共通の見解（「一般的アプローチ」）を採択したことを報じました。法案は、リスクベースのアプローチに従い、法的確実性を確保することを目的とした、AIに関する統一的で水平な法的枠組みを定めるものです。

欧州理事会修正案の概要

■　AIシステムの定義について、AIをより単純なソフトウェア・システムと区別するための十分明確な基準を提供することを確実にするため、機械学習アプローチと論理および知識ベースのアプローチによって開発されたシステムに定義を限定

■　禁止されるAI行為については、AIを社会的採点に使用することの禁止を民間にも拡大：また、特定の集団の脆弱性を利用するAIシステムの利用を禁止する規定が、社会的・経済的状況により脆弱性を有する者も対象へ

■　法執行機関による、公共のアクセス空間での「リアルタイム」遠隔生体認証システムの使用禁止に関しては、その使用が法執行目的のために厳密に必要であり、したがって法執行機関がそのシステムの使用を例外的に許可されるべき目的を明確化

■　AIシステムの高リスク分類について、高リスク分類の上に水平レイヤーを追加し、重大な基本的権利侵害やその他の重大なリスクを引き起こす可能性のないAIシステムが捕捉されないように配慮

■　高リスクのAIシステムに対する要件について、要件の多くを、データの品質や、高リスクAIシステムが要件に準拠していることを示すために中小企業が作成すべき技術文書に関してなど、より技術的に実現可能で、関係者にとってより負担の少ない方法で、明確化・調整

■　AIシステムは複雑なバリューチェーンを通じて開発・流通するため、そのバリューチェーンにおける様々な関係者、特にAIシステムの提供者と利用者の責任と役割の配分を明確にする変更

■　AI法に基づく責任と、金融サービス分野を含む関連するEUデータ保護法やセクター法などの他の法律に既に存在する責任との関係も明確化

■　汎用AIシステムについて、AIシステムが多くの異なる目的（汎用AI）に使用され、汎用AI技術がその後別の高リスクシステムに統合される状況を考慮し、新たな規定を追加：このような場合、高リスクのAIシステムに対する一定の要件が、汎用AIシステムにも適用されることを明記（但し、直接適用ではなく、別途実施法で検討）

■　AI法の遵守の枠組みを簡素化するため、本文の適合性評価手続きに関する条項の明確化・簡素化

■　AI法の規定に違反した場合の罰則について、中小企業や新興企業に対する行政罰の上限をより公平にすることを規定

■　リスクの高いAIシステムの使用に関する透明性を高めるいくつかの変更

■　新たに追加された条項として、感情認識システムの利用者が、自然人にそのようなシステムにさらされていることを知らせる義務

欧州委員会案

「人工知能」は”Artifitial Intelligence” の頭文字を取って「AI」として知られていますが、具体的な定義は何か、とう点についての情報は多くありません。但し、2021年4月21日にEUが公表した人工知能に関する調査規定を定める規則案において「人工知能システム」‘artificial intelligence system’ (AI system)の定義が設けられました。

「人工知能システム（artificial intelligence system）」（AIシステム）とは、附属書Iに言及される1つ以上の技術およびアプローチを用いて開発され、人間が定義した所定の目的に対して、コンテンツ、予測、推奨、または相互作用する環境に影響を与える決定などの出力を生成することができるソフトウェアをいう。

Article 3より仮訳

この定義における「附属書Iに記載されている技術やアプローチ」とは、次のものを意味します。

(a) ディープラーニングを含む多様な手法を用いた、監督下の（supervised）、非監督下の、強化学習（reinforcement learning）を含む機械学習アプローチ。

(b) 知識表現、帰納的（論理的）プログラミング、ナレッジベース、推論・演繹エンジン、（記号的）推論、エキスパートシステムを含む、論理・知識ベースのアプローチ。

(c) 統計的アプローチ、ベイズ推定、探索および最適化手法

Annex Iより仮訳

目次

■　提案書
（前文）

■　第I篇 一般規定

• 第1条 主題
• 第2条 適用範囲
• 第3条 定義
• 第4条 附属書Iの改正

■　第II篇 禁止される人工知能行為

• 第5条

■　第III篇 高リスクAIシステム

• 第1章 高リスクAIシステムの分類

• 第6条 高リスクAIシステムの分類ルール
• 第7条 附属書IIIの改正

• 第2章 高リスクAIシステムについての要件

• 第8条 要求事項の遵守
• 第9条 リスク管理システム
• 第10条 データおよびデータガバナンス
• 第11条 技術文書
• 第12条 記録の保存
• 第13条 透明性および使用者への情報提供
• 第14条 人間による監視
• 第15条 精度、堅牢性およびサイバーセキュリティ

• 第3章 高リスクAIシステムのプロバイダーおよび使用者、ならびにその他の当事者の義務

• 第16条 高リスクAIシステムのプロバイダーの義務
• 第17条 品質管理システム
• 第18条 技術文書を作成する義務
• 第 19 条 適合性評価
• 第20条 自動的に生成されるログ
• 第22条 情報提供の義務
• 第23条 所管当局との協力
• 第24条 製品製造者の義務
• 第25条 認定代理人
• 第26条 輸入者の義務
• 第27条 流通業者の義務
• 第28条 流通業者、輸入者、使用者またはその他の第三者の義務
• 第29条 高リスクAIシステムの使用者の義務

• 第4章 届出当局および届出機関

• 第30条 届出当局第31条 適合性評価機関の届出申請
• 第32条 通知手順
• 第33条 届出機関
• 第34条 届出機関の子会社および届出機関による下請け業務
• 第35条 本規則に基づいて指定された届出機関の識別番号およびリスト
• 第36条 届出の変更
• 第37条 届出機関の能力への挑戦
• 第38条 届出機関の調整
• 第39条 第三国の適合性評価機関

• 第5章 規格、適合性評価、証明書、登録

• 第40条 整合規格
• 第41条 共通仕様書
• 第42条 特定の要求事項への適合性の推定
• 第43条 適合性評価
• 第44条 証明書
• 第45条 届出機関の決定に対する不服申し立て
• 第46条 届出機関の情報提供義務
• 第47条 適合性評価手続からの逸脱
• 第48条 EU適合性宣言
• 第49条 適合性のCEマーキング
• 第50条 文書の保管
• 第51条 登録

■　第IV篇 特定のAIシステムの透明性に関する義務

• 第52条 特定のAIシステムの透明性に関する義務

■　第V篇 イノベーションを支援するための措置

• 第53条 AI規制のサンドボックス
• 第54条 AI規制サンドボックスにおける公共の利益のための特定のAIシステムの開発を目的とした個人データの追加処理
• 第55条 小規模なプロバイダーおよび使用者に対する措置

■　第VI篇 政府機関

• 第1章 欧州人工知能委員会

• 第56条 欧州人工知能理事会の設立
• 第57条 委員会の構成
• 第58条 委員会の任務

• 第2章 国家所管当局

• 第59条 国家所管当局の指定

■　第VII篇 スタンドアローン高リスクAIシステムのためのEUデータベース

• 第60条 スタンドアローンの高リスクAIシステムのためのEUデータベース

■　第VIII篇 市場後モニタリング、情報共有、市場監視

• 第1章 市販後モニタリング

• 第61条 プロバイダーによる市場後モニタリングおよび高リスクAIシステムの市販後モニタリング計画

• 第2章 インシデント及び誤動作に関する情報の共有

• 第62条 重大なインシデント及び誤動作の報告

• 第3章 施行

• 第63条 EU市場におけるAIシステムの市場監視および管理
• 第64条 データ及び文書へのアクセス
• 第65条 国家レベルでリスクを呈するAIシステムを取り扱うための手順
• 第66条 EUセーフガード手続き
• 第67条 リスクを呈する適法AIシステム
• 第68条 正式な不遵守

■　第IX篇 行動規範

• 第69条 行動規範

■　第X編 機密保持、及び罰則

• 第70条 機密保持
• 第71条 罰則
• 第72条 EU機関、当局および組織に対する行政制裁金

■　第XI篇 権限の委譲と専門委員会手続き

• 第73条 権限委譲の行使
• 第74条 専門委員会手続き

■　第XII篇 最終条項

• 第75条 規則 (EC) No 300/2008 の修正
• 第76条 規則 (EU) No 167/2013の修正
• 第77条 規則(EU) No 168/2013 の改正
• 第78条 指令2014/90/EUの修正
• 第79条 指令（EU）2016/797の修正
• 第80条 規則（EU）2018/858の修正
• 第81条 規則（EU）2018/1139の修正
• 第82条 規則（EU）2019/2144の修正
• 第83条 既に上市されている、またはサービスが開始されているAIシステム
• 第84条 評価および見直し
• 第85条 発効および適用

（脚注）

■　附属書

• 附属書I 第3条第1項で言及される人工知能の技術とアプローチ
• 附属書II EU調和法令リスト
• 附属書III 第6条(2)に言及される高リスクAIシステム
• 附属書IV 第11条(1)に言及される技術文書
• 附属書V EU適合宣言書
• 附属書VI 内部管理に基づく適合性評価手順
• 附属書VII 品質管理システムの評価と技術文書の評価に基づく適合性
• 附属書VIII 第51条に基づく高リスクAIシステムの登録時に提出すべき情報
• 附属書IX 自由、安全および正義の分野における大規模ITシステムに関するEU法令

参考

■　欧州理事会修正案／欧州理事会
■　欧州委員会案／欧州委員会