法令の情報時期：2024年07月　公布版

ページ作成時期：2024年10月

注目定義

■　「プロバイダー」（provider）

「プロバイダー」とは、有償または無償を問わず、AIシステムまたは汎用AIモデルを開発する、または自己の名称もしくは商標の下で上市したり、使用を開始したりすることを目的としてAIシステムまたは汎用AIモデルを開発させる、自然人もしくは法人、公的機関、当局、あるいはその他の団体をいう。（第3条）

■　「使用者」（deployer）

「使用者」とは、AIシステムが個人的な非専門的活動の過程で使用される場合を除き、その権限の下でAIシステムを使用する自然人または法人、公的機関、当局あるいはその他の団体をいう。（第3条）

■　「輸入者」（importer）

「輸入者」とは、第三国に設立された自然人または法人の名称または商標が付されたAIシステムを上市するまたは使用開始する、EU内に設立された自然人または法人をいう。（第3条）

■　「流通業者」（distributor）

「流通業者」とは、サプライチェーンの中で、AIシステムを市場で利用可能にする、プロバイダーあるいは輸入者以外の自然人または法人をいう。（第3条）

■　「事業者」（operator）

「事業者」とは、プロバイダー、製品製造者、使用者、認定代理人、輸入者あるいは流通業者をいう。（第3条）

■　「AIシステム」（AI system）

「AIシステム」とは、さまざまな水準の自律性で動作するように設計され、配備後に適応性を示す可能性がある機械ベースのシステムであって、明示的または黙示的な目的のために、物理的または仮想的な環境に影響を与えることができる予測、コンテンツ、勧告、決定などの出力を生成する方法を、受け取る入力から推論するものをいう。（第1条）

■　「汎用AIモデル」（general-purpose AI model）

「汎用AIモデル」とは、そのようなAIモデルが大規模な自己監視を使用して大量のデータで学習される場合を含め、有意な汎用性を示し、モデルが上市される方法に関係なく広範囲の明確なタスクを適切に実行することができ、様々な川下のシステムまたはアプリケーションに統合することができるAIモデルをいう。、上市される前の研究、開発またはプロトタイピング活動に使用されるAIモデルは除く。（第1条）

■　「汎用AIシステム」（general-purpose AI system）

「汎用AIシステム」とは、汎用AIモデルをベースとしたAIシステムであり、直接使用する場合だけでなく、他のAIシステムに統合する場合にも、様々な目的に対応する能力を有するAIシステムをいう。（第3条）

■　「上市」（placing on the market）

「上市」とは、EU市場でAIシステムまたは汎用AIモデルを最初に利用可能にすることをいう。（第3条）

■　「市場で利用可能にすること」（making available on the market）

「市場で利用可能にすること」とは、商業活動の過程でEU市場での流通または使用のためにAIシステムまたは汎用AIモデルを供給することをいう。それが有償か無償かを問わない。（第3条）

■　「使用開始」（putting into service）

「使用開始」とは、直接的に最初に使用するために使用者にAIシステムを供給すること、または意図された目的のためにEU域内で自ら使用するためにAIシステムを供給することをいう。（第3条）

■　「意図された目的」（intended purpose）

「意図された目的」とは、AIシステムがプロバイダーによって意図された用途を意味し、具体的な文脈や使用条件を含め、プロバイダーが取扱説明書、宣伝または販売資料、声明、技術文書などで提供した情報に明記されるものをいう。（第3条）

■　「合理的に予見可能な誤用」（reasonably foreseeable misuse）

「合理的に予見可能な誤用」とは、AIシステムの意図された目的に従わず、合理的に予見可能な人間の行動または他システムとの相互作用から生じる可能性のある方法で、AIシステムを使用することをいう。（第3条）

■　「安全コンポーネント」（safety component）

「安全コンポーネント」とは、製品またはAIシステムの安全機能を果たす、あるいはその故障や誤動作が人の健康や安全、財産を脅かす製品またはAIシステムのコンポーネントをいう。（第3条）

■　「実質的な変更」（substantial modification）

「実質的な変更」とは、AIシステムの上市後または使用開始後の変更であって、プロバイダーが実施した最初の適合性評価では予見されなかったか又は計画されなかったものであり、本規則の第III篇第2章に定められた要件へのAIシステムの適合性に影響を与えるもの、またはAIシステムがそのために評価され、意図された目的に変更をもたらすものをいう。（第3条）

■　「市販後モニタリング」（post-market monitoring）

「市販後モニタリング」とは、AIシステムのプロバイダーが、必要な是正措置または予防措置を直ちに講じる必要性を特定する目的で、上市した、または使用開始したAIシステムの使用から得られた知見を収集し、レビューするために行うすべての活動をいう。（第3条）

■　「学習データ」（training data）

「学習データ」とは、AIシステムの学習可能なパラメーターを当てはめ、学習させるためのデータをいう。（第3条）

■　「検証データ」（validation data）

「検証データ」とは、特にアンダーフィッティングやオーバーフィッティングを防ぐために、学習済みAIシステムの評価を提供し、その非学習可能パラメーターや学習プロセスを調整するために使用されるデータをいう。（第3条）

■　「検証データセット」（validation data set）

「検証データセット」とは、固定または可変分割の、個別のデータセットまたは学習データセットの一部をいう。（第3条）

■　「テストデータ」（testing data）

「テストデータ」とは、AIシステムの上市または使用開始前に、当該システムの期待される性能を確認するために、当該システムの独立した評価を提供するために使用されるデータをいう。（第3条）

■　「入力データ」（input data）

「入力データ」とは、AIシステムが出力を行う基礎となる、AIシステムに提供されたデータまたはAIシステムが直接取得したデータをいう。（第3条）

■　「生体データ」（biometric data）

「生体データ」とは、自然人の身体的、生理学的または行動的特徴に関する特定の技術的処理の結果として得られる個人データであり、顔画像やダクティロスコピックデータ（dactyloscopic data）などを含む。（第3条）

■　「生体識別」（biometric identification）

「生体識別」とは、自然人の識別を確立する目的で、その個人の生体データをデータベースに保存されている個人の生体データと比較することによって、身体的、生理的、行動的、または心理的な人間の特徴を自動的に認識することをいう。（第3条）

■　「生体認証」（biometric verification）

「生体認証」とは、自然人の生体データを以前に提供された生体データと比較することによって、 認証を含め、自然人の識別の、自動化された、1対1の関係性の検証をいう。（第3条）

■　「個人データの特別カテゴリー」（special categories of personal data）

「個人データの特別カテゴリー」とは、規則(EU) 2016/679の第9条(1)、指令(EU) 2016/680の第10条、および規則(EU) 2018/1725の第10条(1)に言及される個人データのカテゴリーをいう。（第3条）

■　「要配慮業務データ」（sensitive operational data）

「要配慮業務データ」とは、刑事犯罪の防止、発見、捜査または訴追活動に関連する業務データであって、その開示が刑事手続の完全性を危うくする可能性があるものをいう。（第3条）

■　「感情認識システム」（emotion recognition system）

「感情認識システム」とは、自然人の生体データに基づいて自然人の感情や意図を識別または推測することを目的としたAIシステムをいう。（第3条）

■　「生体分類システム」（biometric categorisation system）

「生体分類システム」とは、他の商業的サービスに付随し、客観的な技術的理由により厳密に必要である場合を除き、自然人をその生体データに基づいて特定のカテゴリーに割り当てることを目的とするAIシステムをいう。（第3条）

■　「遠隔生体認証システム」（remote biometric identification system）

「遠隔生体認証システム」とは、自然人の生体データと参照データベースに含まれる生体データとの比較を通じて、自然人の積極的な関与なしに、通常は遠隔で自然人を識別することを目的とする AI システムをいう。（第3条）

■　「リアルタイム遠隔生体認証システム」（real-time remote biometric identification system）

「リアルタイム遠隔生体認証システム」とは、生体情報の取得、比較、識別がすべて遅延なく行われる遠隔生体認証システムを意味し、即座に識別ができるだけでなく、迂回を避けるために限られた短時間の遅延も含まれる。（第3条）

■　「ポスト遠隔生体認証システム」（post-remote biometric identification system）

「ポスト遠隔生体認証システム」とは、リアルタイム遠隔生体認証システム以外の遠隔生体認証システムをいう。（第3条）

■　「公的にアクセス可能な空間」（publicly accessible space）

「公的にアクセス可能な空間」とは、不特定多数の自然人がアクセス可能な、公有または私有の物理的な場所を意味し、アクセスに一定の条件が適用されるかどうか、ならびに潜在的な収容能力の制約といった条件に関係なく、アクセスできる場所をいう。（第3条）

■　「AI室」（AI Office）

「AI室」とは、2024年01月24日の欧州委員会決定で規定された、AIシステムおよび汎用AIモデルの実施、監視および監督、ならびにAIガバナンスに貢献する欧州委員会の機能を意味し、本規則におけるAI室への言及は、欧州委員会への言及と解釈されるものとする。（第3条）

■　「深刻な事象」（serious incident）

「深刻な事象」とは、直接的または間接的に以下のいずれかにつながるAIシステムの事故または誤作動をいう： (a)　人の死亡、または人の健康への深刻な損害 (b)　重要インフラの管理・運営に深刻かつ不可逆的な混乱が生じること (c)　基本的な権利の保護を目的とするEU法令の義務を侵害すること (d)　財産または環境に深刻な損害を与えること （第3条）

■　「プロファイリング」（profiling）

「プロファイリング」とは、、規則(EU) 2016/679の第4条(4)に定義されるプロファイリングをいう。（第3条）

■　「サンドボックス計画」（sandbox plan）

「サンドボックス計画」とは、参加プロバイダーと所管当局との間で合意された、サンドボックス内で実施される活動の目的、条件、期間、方法論および要件を記述した文書をいう。（第3条）

■　「AI規制サンドボックス」（AI regulatory sandbox）

「AI規制サンドボックス」とは、所管当局が設定する管理された枠組みを意味し、AIシステムのプロバイダーまたは潜在的プロバイダーに対し、規制当局の監督の下、サンドボックス計画に従って、限られた期間に、適切な場合には実環境条件下で、革新的なAIシステムを開発、学習、検証、テストする可能性を提供するものをいう。（第3条）

■　「AIリテラシー」（AI literacy）

「AIリテラシー」とは、本規則の文脈におけるそれぞれの権利と義務を考慮した上で、プロバイダー、使用者および影響を受ける者が、充分な情報を得た上でAIシステムを配備し、また、AIの機会とリスク、AIが引き起こしうる危害について認識を得ることを可能にするスキル、知識、理解をいう。（第3条）

■　「対象者」（subject）

「対象者」とは、実環境テストの目的において、実環境条件下のテストに参加する自然人をいう。（第3条）

■　「インフォームド・コンセント」（informed consent）

「インフォームド・コンセント」とは、被験者の参加決定に関連する検査のすべての側面について説明を受けた後、被験者が、実環境における特定の検査に参加する意思を、自由意思に基づき、具体的、明確かつ自発的に表明することをいう。（第3条）

■　「ディープフェイク」（deep fake）

「ディープフェイク」とは、AIが生成または操作した画像、音声、映像コンテンツで、実在する人物、物体、場所、実体、事象に似ており、人に本物または真実であると偽って見せるようなものをいう。（第3条）

■　「広範な侵害」（widespread infringement）

「広範な侵害」とは、個人の利益を保護するEU法令に反する行為または不作為を意味し、次のものをいう： (a)　次の加盟国以外の少なくとも2つの加盟国に居住する個人の集団的利益を害したか、または害する可能性があるもの。 (i)　その作為または不作為が発生し、または行われた加盟国、 (ii)　当該プロバイダー、または該当する場合、その認定代理人が所在または設立されている加盟国、あるいは、 (iii)　使用者によって侵害が行われた場合、使用者が所在する加盟国。 (b)　少なくとも3つの加盟国において、同一の違法行為または同一の利益が侵害されているなど、共通の特徴を有し、かつ同一の事業者によって同時に行われ、個人の集団的利益に損害を与えている、または与える可能性があるもの。 （第3条）

■　「高インパクト能力」（high-impact capabilities）

「高インパクト能力」とは、最先端の汎用AIモデルに記録されている能力と同等か、それ以上の能力をいう。（第3条）

■　「システミック・リスク」（systemic risk）

「システミック・リスク」とは、汎用AIモデルの高インパクト能力に特有であり、その影響力の大きさによりEU市場に重大な影響を及ぼすリスク、または公衆衛生、安全、治安、基本的な権利、社会全体への実際の悪影響もしくは合理的に予見可能な悪影響により、バリューチェーン全体に大規模に伝播する可能性のあるリスクをいう。（第3条）

■　「浮動小数点演算」（floating-point operation）

「浮動小数点演算」とは、浮動小数点数を含むあらゆる数学的演算または代入を意味し、浮動小数点数は、固定精度の整数を固定底の指数でスケーリングした実数のサブセットをいう。（第3条）

■　「川下プロバイダー」（downstream provider）

「川下プロバイダー」とは、AIモデルを統合した汎用AIシステムを含むAIシステムのプロバイダーを意味し、AIモデルがそれら自身で提供され垂直統合されているか、契約関係に基づいて他の主体から提供されているかを問わない。（第3条）

事業者が注意すべき内容

本法令が定める事業者に係わる主な要件は次の通りとなります。本項は網羅的なものではないため、詳細や罰則については、個別調査にて承ります。 ご関心がございましたら、お気軽にお問い合わせください。

目次

欧州議会及び理事会規則(EU) 2024/1689

基礎情報

法令（現地語）	Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) (Text with EEA relevance)
法令（日本語）	規則(EC) No 300/2008、(EU) No 167/2013、(EU) No 168/2013、(EU) 2018/858、(EU) 2018/1139および(EU) 2019/2144ならびに指令2014/90/EU、(EU) 2016/797および(EU) 2020/1828を改正し、人工知能に関する調和規程を定める2024年06月13日付欧州議会及び理事会規則(EU) 2024/1689（人工知能法）
公布日	2024年07月12日
所管当局	欧州委員会　DG-CONNECT