FTC、AI技術を誇大に広告して販売する企業などに対して法執行措置を行う

現在、連邦取引委員会(FTC)は、「人工知能(AI)コンプライ作戦(Operation AI Comply)」を行っています。

2024年09月24日、その一環として、AI技術を違法に使用もしくは販売する事業体などに対する5つの法執行措置を発表しました。発表された法執行措置には、顧客が偽のレビューを作成できるようにするAI技術を宣伝する企業、「AI弁護士」サービスを販売すると主張する企業、オンライン店頭で顧客がお金を稼ぐためにAIを使用できると主張する企業などに対する措置が含まれています。米国において、AIを用いたサービスを提供する企業またはその関連企業は、これら法執行措置の事例に注意が必要です。

連邦取引委員(FTC)とは

連邦取引委員(Federal Trade Commission、FTC)は、米国における公正な取引を監督・監視する連邦政府の機関です。同国の競争法にあたる法律などに基づき、商業活動に関わる不公正な競争手段、不公正または欺瞞的な行為または慣行を、人・団体・または法人が行わないようにするために設立されています。1914年に商務省(Commerce Department)の企業局(Bureau of Corporations)から独立する形で設置されました。

FTCは米国において商品取引における消費者保護全般を所掌し、業界全体の取引規制に関するルール策定の権限をもっています。その他、消費者プライバシー、児童プライバシーといった個別分野も扱っています。

発表された５つの企業(団)に対するFTCの法執行措置の内容

FTCは、「人工知能(AI)コンプライ作戦(Operation AI Comply)」の一環として、以下の企業に対して訴訟を行います。

1. DoNotPay への事例

DoNotPayは、「世界初のロボット弁護士」として、AIサービスを提供しています。今回FTCは、DoNotPay が同社のAIチャットボットが人間の弁護士と同等かどうかを判断するためのテストを行わず、同社自身も弁護士を雇っていないと判断しました。また、同社は中小企業のウェブサイトが連邦法および州法に違反していないかチェックするサービスも提供していましたが、このサービスも有効ではないと判断しました。DoNotPayは、裁判所に提出されたFTC命令案に記載された、(1)19万3,000ドルを支払うこと、(2)同サービスに加入した消費者に対し法律関連機能の限界について警告する通知を行うこと、(3)今後裏付けとなる証拠なしに同社のサービスが弁護士の代替となりうることを広告しないこと、について、すでに同意しています。

2. アセンド・エコム(Ascend Ecom)の事例

アセンド・エコムは、オンラインビジネスの機会向上スキームを提供しています。同社は、AIを搭載したツールを用いてオンライン・ショップを開設すると、毎月数千ドルの受動的収入が得られると広告していました。しかし、FTCは、この公告が「偽り」であり、少なくとも2500万ドルを購入者から詐取したと判断しました。また、同社は同社に否定的なレビューを修正または削除するように購入者に圧力をかけ、さらに否定的なレビューをオンラインで残した者に対して「買い取り保証」を保留したとも判断され、FTCにより連邦裁判所に訴訟が提出されました。裁判所はこのスキームを一時的に停止し、管財人の管理下に置く命令を出しています。このスキームに対するFTCの訴訟は現在も進行中であり、今後、連邦裁判所が更なる判決を下す予定です。

3. Ecommerce Empire Builders(EEB)の事例

Ecommerce Empire Builders(EEB)は、「done for you(あなたのための)」オンラインを提供するなど、Eコマース事業を行っています。今回、FTCは、EBBが、2,000ドル近くもするトレーニング・プログラムに参加するか、数万ドルで「done for you(あなたのための)」におけるオンライン店舗を購入すれば、毎月1万ドルを稼ぐことができると誇大広告を行っているとしました。EEBから購入した店舗はほとんど儲からなかったと数多くの人が訴えているにもかかわらず、同社はこれらの人への全額返金を拒否しているため、FTCが訴訟を裁判所に提出しています。

4. Rytrの事例

2021年04月以降、Rytrは、様々な用途に使用できる、AI技術を用いた「ライティングアシスタント」サービスを販売しています。購入者は、この機能を用いることで、短く曖昧な文章から詳細な消費者レビューを無制限が生成することができます。FTCは、このRytrのサービスが虚偽で欺瞞的な消費者レビューを作成する手段に使われているとし、FTC法に違反したと訴えました。また、Rytrは虚偽のレビューに使用される可能性の高いサービスを提供することで、消費者と誠実な競争相手の双方に損害を与える「不公正な商行為」を行ったとし、訴状を裁判所に提出しました。FTCが提出した命令案では、Rytr社が消費者のレビューや体験談の作成に特化したサービスの広告、宣伝、マーケティング、販売を禁止する提案をしています。

5. FBAマシンの事例

FBAマシンは、AIを搭載したソフトウェアを利用したオンラインストアを経営しています。FTCは、同社がこのオンラインストアを通じて確実に収入が得られると、オンラインストア参加者に虚偽の約束をしたとしました。広告では「毎月10万ドル以上の利益を生み出している」とする参加者の証言が引用されています。また、同社の販売代理店は、このビジネスは「リスクがない」と参加候補者に公告し、初期投資を取り戻せなかった場合に、「偽りの」返金を保証していました。命令案では、同社によって作成された消費者のレビューや体験談をもちいたオンラインストアの広告、宣伝、マーケティング、販売を禁止する提案がFTCによって行われています。

今回取り上げた事例は、「AIをめぐる誇大広告を行う」、「消費者を詐欺に誘い込むためにAIを利用している」、「AIを搭載したツールを提供することで詐欺を加速させている」企業に対して、FTCが法執行措置を行うことを示しています。今後、以上のことに関連する事業体は、FTCの動向や裁判所の判断に注意が必要です。

参考情報

FTC、欺瞞的にAIを使用する企業とそのスキームの取り締まりを発表