米国｜先進的な人工知能(AI)モデルとそのコンピューティングクラスターの開発に関する報告要件の制定

2024年09月11日、商務省の産業安全保障局(BIS)は、2023年10月30日付の大統領令「人工知能の安全、確実かつ信頼できる開発と利用」に基づき、高度な人工知能(AI)モデルおよびそれを作動させるコンピューティングクラスターの開発に関する報告要件を定め、産業基盤調査(データ収集)規則を改正する規則案を発表しました。BISは、この規則案に対する意見を2024年10月11日まで募集しています。

産業安全保障局(BIS)とは

米国の産業安全保障局(Bureau of Industry and Security, BIS)は、米国の輸出の拡大を促進しつつ大量破壊兵器の拡散の阻止を図ることを目標にする商務省の一機関で、国家安全保障と高度産業技術に関する問題を扱っています。BISの活動には、効果的で効率的な方法で物品や技術の輸出を統制する輸出規制や反ボイコット・公共安全法令を施行すること、輸出規制と戦略的貿易の問題に関して他国と協力しまた時には援助すること、米国の産業界が国際的な武器規制協定を遵守するようサポートすること、米国の防衛産業の基盤の成長可能性を監視すること、国家の基幹施設の保護を行うため指導と協力を促進することが含まれています。

この規則案の背景

基盤モデル(Foundation Model、ファウンデーションモデルとも訳される)とは、大量のデータを用いてトレーニング(事前学習)した人工知能(artificial intelligence、AI)もしくは機械学習モデルのことをいいます。基盤モデルでは、まず、事前トレーニングにおいて、一般的に正解ラベルのないデータを使用した自己教師あり学習が行われます。

その後、幅広い下流タスク(例えば、質問応答、情報抽出、画像認識など)に適応できるように再トレーニングされます。この2段階のトレーニング行程を含むことにより、多様なタスク(マルチタスク)に適応できる基盤モデルが作成されます。コンピューティングクラスターとは、多くの点で単一のコンピュータとして機能する接続された複数のコンピュータが密接に連携して動作するシステムの事をいいます。大規模なAIの構築やトレーニングには、このコンピューティングクラスターが必要となります。

近年、基盤AIモデルは、国防に関わる数多くの米国産業にとって、不可欠なものとなっています。たとえば、軍事機器(航空機、戦車、ミサイル発射装置など)のメーカーは、基盤AIモデルを使って軍事機器の操縦性、精度、効率を高めています。その他、国防にとって重要なシステムやインフラを保護するサイバーセキュリティソフトウェアの開発者は、サイバー攻撃を検出して対応する速度を向上させるために基盤AIモデルを使用しています。民間以外に軍事面で利用可能な技術や製品のことをデュアルユース(両用)ということから、国防にも関わることができる基盤AIモデルをデュアルユース基盤AIモデルと呼びます。

米国政府は、外国の敵対者や非国家主体が武器やその他の危険な技術を開発するなど米国の国防を脅かす活動にデュアルユース基盤AIモデルを使用する可能性がある事から、国内のデュアルユース基盤AIモデルとそれに使用されるコンピューティングクラスターを用いる国防に関わる産業と企業を監視し、同時に保護する必要があります。

この規則案の内容

2023年10月30日の大統領令14110号「人工知能の安全、安全、信頼できる開発と使用」において、産業基盤調査(データ収集)規則に、以下４点の情報を含む報告書または記録の提出を義務付ける内容を盛り込むことが指示されました。

1. デュアルユース基盤AIモデルのトレーニング、開発、または生産が進行中または計画中に行われた活動。トレーニング行程中に行われた物理的およびサイバーセキュリティ保護の内容などが含まれます。
2. デュアルユース基礎AIモデルの所有及び所有権、並びにこれらのモデルを保護するために取られた物理的及びサイバーセキュリティ対策。
3. 開発されたデュアルユース基盤AIモデルの性能結果。レッドチーム(実際のサイバー攻撃をシュミレーションした)テストでの性能や、モデル全体のセキュリティを強化するための対策など、講じた関連措置とその説明が含まれます。
4. デュアルユース基盤AIモデルの安全性と信頼性に関連するその他の情報、または米国の国家安全保障に懸念を示す活動やリスク。

この規則案では、デュアルユース基盤AIモデルを開発する、または開発する意向のある企業、および商務省が発行した技術的条件を満たす、デュアルユース基盤AIモデルで用いるコンピューティングクラスターを取得、開発、または保有する企業、個人、その他の組織または事業体に対して、事前届出および報告行程を概説しています。また、上記に含まれる企業などは、四半期ごとに、発生した活動または発生する予定の活動について、BISに報告することが求められています。

今回、BISは「1. 四半期ごとの報告スケジュール」「2. 報告された回答(多くは機密情報を含む)の収集および保管」また「3. 報告収集の、デュアルユース基盤AIモデルもしくはそれで用いるコンピューティングクラスターのしきい値」についての意見を、2024年10月11日まで募集しています。米国内で基盤AIモデルやコンピューティングクラスターなどの開発に関わる事業体は、この規則案の動向に注意が必要です。

参考情報

先進的な人工知能(AI)モデルとそのコンピューティングクラスターの開発に関する報告要件の制定