商務省(DOC)、悪意のある従来の犯罪活動に使用される人工知能に関して追加措置を講じる可能性

2024年01月29日、 商務省(DOC)の産業安全保障局(Bureau of Industry and Security)は、従来の犯罪活動に使用される可能性のある人工知能(AI)に関する国家緊急事態に対応するための追加措置を加えました。外国人が米国の大規模AIをAIトレーニングに利用するためにプロバイダーなどと取引を行った場合、IaaS製品のプロバイダーに対して報告書の提出を義務付ける規則を提案しました。また、DOCはこの規則案への意見を募集するため、規則案策定通知(NPRM)を発行しました。規則内容は、IaaS製品を提供する米国のIaaSプロバイダーに適用され、IaaS製品を提供する直接プロバイダーと外国人である再販業者の両方に影響が及びます。

2021年０1月19日と2023年10月30日の2つの大統領令

■　2021年1月19日、大統領令において「重大な悪意のある従来の犯罪活動(例えば、窃盗、詐欺、ハラスメントなど)に関する国家緊急事態に対処するための追加措置を講じる(Taking Additional Steps To Address the National Emergency With Respect to Significant Malicious Cyber-Enabled Activities)」が発表されました。
■　2023年10月30日、大統領令「人工知能(Artificial Intelligence、AI)の安全、安全、信頼できる開発と使用(Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)」も発表されました。
■　これらの大統領令では、商務長官に「「悪意がある従来の犯罪活動に利用される可能性のある大規模なAIモデルを外国人がAIトレーニングに利用するためにプロバイダーなどと取引する場合、IaaS製品のプロバイダーに対して報告書の提出を義務付ける規制」を提案するように指示していました。

■　今回、商務省(Department of Commerce、DOC)は、これらの大統領令を実施するための規制案について意見を募集するため、この規則案作成通知(Notice of proposed rulemaking、NPRM)を発行しました。

規則案の内容

　本規則案は、米国のIaaS製品を提供する米国における「米国のIaaSプロバイダー」に適用されます。「米国のIaaSプロバイダー」には、IaaS製品を提供する全てのプロバイダーが含まれ、米国におけるIaaS製品の直接プロバイダーとその再販業者の両方が含まれます。
　商務省はNPRMで特に以下４点の内容を発表し、意見を募集しています。このNPRMに対する意見は2024年04月29日が締め切りとなっています。

(1) 規則内の定義について

例えば、以下の単語の定義付けが行われています。

■　「人工知能またはAI」とは、15 U.S.C. 9401(3)に規定される意味をいう。

■　「AIモデル」とは、AI技術を実装し、与えられた入力セットから出力を生成するために計算、統計、または機械学習技術を使用する情報システムのコンポーネントをいう。

■　「AIシステム」とは、データシステム、ソフトウェア、ハードウェア、アプリケーション、ツール、またはユーティリティの全部または一部がAIを使用して動作するものをいう。

■　「顧客」とは、IaaSプロバイダーと契約し、IaaSプロバイダーにIaaSアカウントを作成または維持する個人または事業体をいう。                       

■　「顧客識別プログラム(Customer Identification Program)またはCIP」とは、米国のIaaS製品のIaaSプロバイダーが作成するプログラムであって、プロバイダーが顧客の識別情報を収集する方法、プロバイダーが外国人顧客の身元を確認する方法、識別情報を保管・管理する方法、および識別情報の開示について顧客に通知する方法を規定するものをいう。

■　「外国再販業者または米国サービスとしてのインフラストラクチャー製品の外国再販業者」とは、サービスとしてのインフラストラクチャー製品の全部または一部をその後第三者に提供するためにサービスとしてのインフラストラクチャーのアカウントを開設した外国人をいう。

■　「生成AI」とは、派生する合成コンテンツを生成するために、入力データの構造や特性を真似るAIモデルのクラスをいう。これには、画像、動画、音声、テキスト、その他のデジタルコンテンツが含まれる。                       

■　「サービスアカウント(Infrastructure as a Service Account)またはアカウント(Account）」とは、IaaS製品を個人に提供するために確立された正式なビジネス関係をいい、当該取引の詳細が記録されるものをいう。                       

■　「サービスとしてのインフラストラクチャー(Infrastructure as a Service Account)製品またはIaaS製品」とは、消費者に提供される製品またはサービス(無料や試用提供を含む)をいい、プロセッシング、ストレージ、ネットワーク、またはその他の基本的なコンピューティングリソースの提供、オペレーティングシステムやアプリケーションを含む事前定義されていないソフトウェアをデプロイして実行するものをいう。

■　「悪意のある犯罪活動に使用される可能性のある潜在的能力を有する大型AIモデル」とは、デュアルユース基盤モデルの技術的条件を有するか、そうでなければ懸念される技術的パラメータを有するAIモデルであって、ソーシャル・エンジニアリング攻撃、脆弱性の発見、サービス拒否攻撃、データポイズニング、標的の選択と優先順位付け、偽情報または誤情報の生成および/または伝播、サイバー作戦の遠隔指揮統制を含むがこれらに限定されない、悪意のあるサイバー支援活動の側面を支援または自動化するために使用される可能性のある能力を有するものをいう。モデルは、同省が発行し連邦官報に掲載された解釈規則に記載された技術的条件を満たす場合、本定義に基づく悪意のあるサイバー対応活動に使用される可能性のある潜在的能力を有する大規模AIモデルとみなされる。

■　「機械学習」とは、あるタスクのパフォーマンスを向上させるために、データ上でAIアルゴリズムをトレーニングするために利用できる一連のテクニックをいう。

■　「悪意のあるサイバー活動」とは、米国の法律により許可されたもの、または米国の法律に従って許可されたものを除き、コンピュータ、情報、通信システム、ネットワーク、コンピュータや情報システムによって制御される物理的または仮想的なインフラストラクチャー、またはそこに存在する情報の機密性、完全性、または可用性を侵害または損なおうとする活動をいう。

■　「レッドフラッグ」とは、悪意のあるサイバー対応活動が存在する可能性を示すパターン、慣行、または特定の活動をいう。

■　「再販業者」とは、再販業者アカウントを保持する個人を意味します。                       

■　「再販業者アカウント」とは、IaaS製品を提供するために設立され、IaaS製品の全部または一部を第三者に提供するために設立されたアカウントをいう。

■　「トレーニング」または「トレーニングラン」とは、AIモデルがコンピューティングパワーを使ってデータから学習するプロセスをいう。

■　「取引」とは、提案のみか完了したかにかかわらず、次のいずれかを含む価値の移転をいう。財またはサービスとの価値の交換、合併、買収、買収、投資、および、第 7.307 条の適用を回避または迂回するように設計または意図された構造を持つ、その他の移転、合意、または取決め。

■　「米国Infrastructure as a Service製品またはU.S.IaaS製品」とは、米国人が所有する、または米国の領域内で運営されるInfrastructure as a Service製品を意味します。

■　「米国 IaaSプロバイダー」とは、サービスとしてのインフラストラクチャー製品を提供する米国人を意味する。

その他、「エンティティ」、「外国の司法管轄権」、を採用し、「サービス・プロバイダーとしての米国のインフラ」の定義を明確化しています。さらに「受益者」、「可用性」、「機密性」、などの用語の定義付けも提案しています。

(2) 顧客識別プログラム規制(Customer Identification Program (CIP) Regulations)および関連する適用除外について

商務省は、以下の３点と関連する適応除外などについて、提案しています。

• 米国のIaaSプロバイダーとその海外再販業者はCIP(Customer Identification Program)を維持し、効果的な顧客検証を実施し、悪意のあるサイバー活動に対抗するために海外顧客の識別情報を維持すること
• すべての米国のIaaSプロバイダーが独自のCIPを実施し、海外の再販業者にCIPを要求し、これらのCIPについて同省に報告することを義務付けること
• 米国 IaaS アカウントの米国再販業者に対して、米国 IaaS 製品の再販業者として活動する際には、使用するCIPおよび身元確認手順を確立することを義務付けること
• 商務省が特定の外国の司法管轄権または個人に関する証拠を独自に調査もしくは他の行政府機関またはプロバイダーからの照会に対応すること(特別措置規定)

(3) AIトレーニングの報告要件について

■　この要件では、外国人が犯罪活動に使用する可能性のある大規模なAIモデルをAIトレーニングに利用するために、米国のIaaSプロバイダーと取引を行った場合、商務長官に報告書を提出することを義務付けます。
■　ここでは、少なくとも、外国人の識別情報(顧客の名前、住所、顧客の口座の支払手段および支払元、電子メールアドレス、電話番号、IPアドレス）、AIモデルのトレーニングの実行の有無などの報告が課せられます。
■　さらに、米国のIaaSプロバイダーは、外国の再販業者がそのような報告書をプロバイダーに提出しない限り、米国のIaaS製品を外国の再販業者に提供することも禁止されます。加えて以上のことが行えるように、プロバイダーに大規模AIモデルは進歩に基づいた技術セットを持つことを課しています。

(4)コンプライアンスと執行について

■　商務省は、この規則案が最終決定された場合、これに違反した者は民事罰または刑事罰の責任を負う可能性があることを明確にすることを提案しています。

参考情報

窃盗などの従来の犯罪に使用される可能性のある人工知能(AI)を外国人がAIトレーニングに利用するためにプロバイダーや再販業者と取引を行った場合、商務省に報告書を提出することを義務付ける提案