禁止AI行為や高リスクAIについての修正あり

2023年05月11日、欧州議会は、専門委員会である域内市場委員会と市民自由委員会において、機関間交渉に望むためのAI法案に関する修正案が採択されたことを報じました。

概要

■　禁止されるAI行為のリストを大幅に改正する内容を盛り込む（以下の内容を追加）。

－公共の場における「リアルタイム」遠隔生体認証システム；
－重大な犯罪の訴追のための法執行機関のみを例外とし、司法の許可を得た後に行う「ポスト」遠隔生体認証システム
－機密性の高い特性（性別、人種、民族、市民権、宗教、政治的指向など）を利用したバイオメトリクス分類システム
－予測的取り締まりシステム（プロファイリング、位置情報、過去の犯罪行動などに基づく）
－法執行機関、国境管理、職場、教育機関における感情認識システム
－顔認識データベースを作成するために、ソーシャルメディアやCCTVの映像から生体データを無差別にかき集める（人権とプライバシーの権利の侵害）

■　「高リスクAIシステム」については、高リスク分野の分類を拡大し、人々の健康、安全、基本的権利または環境に対する危害を含めるように修正。

■　また、政治キャンペーンで有権者に影響を与えるAIシステムや、ソーシャルメディアプラットフォーム（デジタルサービス法に基づき4500万人以上のユーザーを持つ）が使用する推薦システムも高リスクリストに追加。

■　欧州議会は、基本的権利、健康と安全、環境、民主主義、法の支配の強固な保護を保証しなければならない、AIの分野で新しく急速に発展している基盤モデルのプロバイダーに対する義務を追加。また、リスクを評価・軽減し、設計、情報、環境に関する要求事項を遵守し、EUのデータベースに登録する必要性についても明記。

専門委員会案の修正案は、機関間交渉に臨む前に、欧州議会の本会議で承認される必要があります。6月12日から15日の会期中に投票が行われる見込みとされています。

参考：目次（欧州委員会案）

提案書
（前文）

第I篇 一般規定
第1条 主題
第2条 適用範囲
第3条 定義
第4条 附属書Iの改正

第II篇 禁止される人工知能行為
第5条

第III篇 高リスクAIシステム

第1章 高リスクAIシステムの分類
第6条 高リスクAIシステムの分類ルール
第7条 附属書IIIの改正

第2章 高リスクAIシステムについての要件
第8条 要求事項の遵守
第9条 リスク管理システム
第10条 データおよびデータガバナンス
第11条 技術文書
第12条 記録の保存
第13条 透明性および使用者への情報提供
第14条 人間による監視
第15条 精度、堅牢性およびサイバーセキュリティ

第3章 高リスクAIシステムのプロバイダーおよび使用者、ならびにその他の当事者の義務
第16条 高リスクAIシステムのプロバイダーの義務
第17条 品質管理システム
第18条 技術文書を作成する義務
第 19 条 適合性評価
第20条 自動的に生成されるログ
第22条 情報提供の義務
第23条 所管当局との協力
第24条 製品製造者の義務
第25条 認定代理人
第26条 輸入者の義務
第27条 流通業者の義務
第28条 流通業者、輸入者、使用者またはその他の第三者の義務
第29条 高リスクAIシステムの使用者の義務

第4章 届出当局および届出機関
第30条 届出当局
第31条 適合性評価機関の届出申請
第32条 通知手順
第33条 届出機関
第34条 届出機関の子会社および届出機関による下請け業務
第35条 本規則に基づいて指定された届出機関の識別番号およびリスト
第36条 届出の変更
第37条 届出機関の能力への挑戦
第38条 届出機関の調整
第39条 第三国の適合性評価機関

第5章 規格、適合性評価、証明書、登録
第40条 整合規格
第41条 共通仕様書
第42条 特定の要求事項への適合性の推定
第43条 適合性評価
第44条 証明書
第45条 届出機関の決定に対する不服申し立て
第46条 届出機関の情報提供義務
第47条 適合性評価手続からの逸脱
第48条 EU適合性宣言
第49条 適合性のCEマーキング
第50条 文書の保管
第51条 登録

第IV篇 特定のAIシステムの透明性に関する義務
第52条 特定のAIシステムの透明性に関する義務

第V篇 イノベーションを支援するための措置
第53条 AI規制のサンドボックス
第54条 AI規制サンドボックスにおける公共の利益のための特定のAIシステムの開発を目的とした個人データの追加処理
第55条 小規模なプロバイダーおよび使用者に対する措置

第VI篇 政府機関

第1章 欧州人工知能委員会
第56条 欧州人工知能理事会の設立
第57条 委員会の構成
第58条 委員会の任務

第2章 国家所管当局
第59条 国家所管当局の指定

第VII篇 スタンドアローン高リスクAIシステムのためのEUデータベース
第60条 スタンドアローンの高リスクAIシステムのためのEUデータベース

第VIII篇 市場後モニタリング、情報共有、市場監視

第1章 市販後モニタリング
第61条 プロバイダーによる市場後モニタリングおよび高リスクAIシステムの市販後モニタリング計画

第2章 インシデント及び誤動作に関する情報の共有
第62条 重大なインシデント及び誤動作の報告

第3章 施行
第63条 EU市場におけるAIシステムの市場監視および管理
第64条 データ及び文書へのアクセス
第65条 国家レベルでリスクを呈するAIシステムを取り扱うための手順
第66条 EUセーフガード手続き
第67条 リスクを呈する適法AIシステム
第68条 正式な不遵守

第IX篇 行動規範
第69条 行動規範

第X編 機密保持、及び罰則
第70条 機密保持
第71条 罰則
第72条 EU機関、当局および組織に対する行政制裁金

第XI篇 権限の委譲と専門委員会手続き
第73条 権限委譲の行使
第74条 専門委員会手続き

第XII篇 最終条項
第75条 規則 (EC) No 300/2008 の修正
第76条 規則 (EU) No 167/2013の修正
第77条 規則(EU) No 168/2013 の改正
第78条 指令2014/90/EUの修正
第79条 指令（EU）2016/797の修正
第80条 規則（EU）2018/858の修正
第81条 規則（EU）2018/1139の修正
第82条 規則（EU）2019/2144の修正
第83条 既に上市されている、またはサービスが開始されているAIシステム
第84条 評価および見直し
第85条 発効および適用

（脚注）

附属書
附属書I 第3条第1項で言及される人工知能の技術とアプローチ
附属書II EU調和法令リスト
附属書III 第6条(2)に言及される高リスクAIシステム
附属書IV 第11条(1)に言及される技術文書
附属書V EU適合宣言書
附属書VI 内部管理に基づく適合性評価手順
附属書VII 品質管理システムの評価と技術文書の評価に基づく適合性
附属書VIII 第51条に基づく高リスクAIシステムの登録時に提出すべき情報
附属書IX 自由、安全および正義の分野における大規模ITシステムに関するEU法令

参考

■　専門委員会案／欧州議会