倫理性、公平性を考慮した技術革新の在り方

2022年10月04日、ホワイトハウスの科学技術政策室（OSTP）は、人工知能（AI）やその他の自動化システムの設計、開発、整備によって米国民の権利を保護することを目的とした「AI権利書のための青写真」を公表しました。

青写真の目的

AIや自動化システム等の技術は、がんの早期発見を可能にしたり、農家がより効率的に食料を栽培できるようにしたりと、素晴らしい改革を推進することができます。しかし、米国や海外では、職場や学校、住宅や銀行、医療や法制度などにおいて、人々が自動化されたシステムによって監視されたり、順位付けされたりすることが増えています。

多くの分野で使用されているアルゴリズムは、偏見や差別に悩まされており、現実世界での影響を考慮せず、その結果と共に生きなければならない人々の意見を聞かずに開発されることがあまりに多くなっています。過去10年間に劇的に拡大したこれらの問題は、何百万人もの人々の権利を脅かし、歴史的に疎外されてきたコミュニティの人々を傷つけています。

この状況を踏まえ、OSTPはアメリカの誰もが権利を有するべき、5つの常識的な保護策を提示しました。

■　 安全で効果的なシステム
人々は、安全が保障されない、或いは効果的でないシステムから保護されるべきです。

■　 アルゴリズムによる差別の保護
システムについては、アルゴリズムによる差別を許容せず、公平な方法で使用、設計されるべきです。

■　 データプライバシー
ユーザは、組み込みの保護機能によって乱用的なデータ処理から保護されるべきであり、ユーザに関するデータの用途について代理権を持つ必要があります。

■　 通知と説明
自動化されたシステムがいつ使用されているかを知り、それが自分に影響を与える結果にいかに寄与しているかを理解する必要があります。

■　 人的代替手段、配慮、及びフォールバック^※
適切な場合にはオプトアウト^※が可能であるべきであり、また、あなたが遭遇した問題を迅速に検討し、改善できる担当者にアクセスできるようにするべきです。

フォールバック^※
本来想定していた手段が使用できない場合、一部を制限することで使用可能にしたり、それより劣る別の手段で機能の一部を代替すること。

オプトアウト^※：ここでは、宣伝広告の受け取りをユーザが拒否する意思を示すこと、メーリングリストから除外することやメールマガジンの配信を停止すること。

OSTPは、この取り組みにおいて、一連の緊急の疑問を指針としてきました。産業界の開発者や学術研究者が、差別の問題が表面化してからではなく、設計の初期段階から公平性について考えるようになったら、どのような姿になるのでしょうか。

もし、すべての技術革新が倫理的な先見性を持って始まったとしたら、私たちはどのような社会になるのでしょうか。私たちが日常生活で享受しているガードレールを、デジタルライフにも適用するにはどうしたらよいのでしょうか。

「AI権利書のための青写真」は、保護が最初から組み込まれ、疎外されたコミュニティが開発プロセスにおいて発言権を持ち、設計者がテクノロジーの恩恵をすべての人に届けるために努力するような社会のビジョンを提示するものとしています。

これは単なる原則ではなく、全米の人々、企業、政策立案者に力を与え、大きなテクノロジーに責任を持たせ、アメリカ人の公民権を保護し、テクノロジーがアメリカ人のために働くことを確実にするというバイデン大統領の要請に応えるための青写真になっています。

意見聴取から得た問題点

OSTPは、全米の人々がこれらのシステムからどのような影響を受けているかを深く掘り下げ、この枠組みを開発するために1年に亘るプロセスを主導してきました。パネルディスカッション、公聴会、会議、正式な情報提供の要請、その他のアウトリーチ形式を通じて、さまざまな背景を持つ人々から意見を聴取しました。

労働者や高校生、企業団体や学術団体、ソフトウェア技術者や研究者、市民団体や地域活動家、CEOや起業家、連邦政府機関の公務員、国際社会のメンバーなど、何百人もの人々から、これらのテクノロジーの約束と潜在的な害の両方について意見を聴取しました。

発言したほぼすべての人が、国民を保護するための明確な連邦政府のリーダーシップとガイドラインを強く望んでいることを共有していました。この枠組みは、そのような声に応えるものであり、抑制されていない自動化システムが米国民にもたらす緊急の脅威への対応策でもあります。

この青写真は、アルゴリズムの変更のために重要な医療給付を拒否された高齢のアメリカ人、AIを搭載したビデオ監視システムによって誤ってカンニングを疑われた学生、顔認識技術によって不当に逮捕された父親たち、AIによって腎臓病のリスクが低いと判断され、腎臓移植を断念させられたアメリカ黒人、これらのテクノロジーに日々接しているすべての人のために、そして、説明のつかないアルゴリズムによって人生を変えられてしまったすべての人のためにあると説明されています。

今後の展望

これらの保護を実現するための作業は、米国政府自身の政策と実践に基づく模範を示すことから始まるとされています。このため、バイデン・ハリス政権は、米国民を保護し支援するためのAI権利条約の青写真に沿った連邦政府全体の一連の行動を発表しました。

これらのコミットメントは、これらの原則の序章に過ぎず、米国政府が自動化システムを設計、使用、規制する方法に変革をもたらせる長期的なプロセスの始まりを意味するものとしています。

今、OSTPは、政策立案者、産業界、コミュニティなど、あらゆる分野のリーダーを集め、この緊急の呼びかけに応え、より公平で安全、そしてより公正なテクノロジーの未来を築くための大胆な行動にコミットしているのです。

「AI権利書のための青写真」には、コミュニティ、産業界、政府などが、政策、実践、技術設計プロセスにこれらの重要な保護を組み込むために取るべき例と具体的なステップを示す技術的な附属書が含まれています。

「AI権利書のための青写真」は、米国社会全体で利用できるように設計されています。

■　 新しいAI製品の開発を率いるプロジェクトマネージャは、この枠組みをチェックリストとして使用し、設計プロセスにセーフガードを組み込むことができます。

■　 政策立案者は、これらの措置を法律として成文化したり、この枠組みとその技術的支柱を利用して、ある分野における自動化システムの使用に関する具体的なガイダンスを策定することができます。

■　 保護者は、この枠組みを利用して、自分の子どもたちのためにどのような保護がなされているかを学校の管理者に尋ねるための一連の質問することができ、労働者は、より良い職場環境を求めることができます。

■　 また、医師、患者、医療従事者は、医療現場で使用されている自動化されたシステムに、この枠組みのどのような安全対策が施されているかを質問することができます。

バイデン・ハリス政権は、「AI権利章典のための青写真」によって、自動化されたシステムを私たち全員のために機能させるための道筋を示そうとしており、OSTPは米国民と共に構想を具現化していくことを期待している、としています。

参考情報

• Blueprint for an AI Bill of Rights: A Vision for Protecting Our Civil Rights in the Algorithmic Age