ある行政機関が自動化システムを用いて申請の優先順位を決定する。ある企業が、どのコンテンツを表示し、どの取引を遮断し、どの利用者をさらなる審査の対象とするかを判断する。いずれの場合も、技術は、その規則を知ることも設計に関与することもなかった人々に影響を及ぼす決定に介入している。
技術透明性報告書は、その隔たりを縮めようとする試みである。どのようなツールが使用され、何の役に立ち、誰がその責任を負い、その結果に関してどのような証拠が存在するのかを明らかにする。しかし、文書を公開することそれ自体が、組織を透明にするわけではない。その価値は、情報の質、それを検証できる可能性、そして決定に対して異議を申し立てるために利用可能な仕組みに依存している。
重要ポイント: 有用な透明性とは、公開されたページ数によって測られるものではなく、技術の運用を理解し、検証し、異議を唱えるために提供される能力によって測られる。
技術透明性報告書とは何か
普遍的な法的定義は存在しない。実務的な意味においては、組織が特定の技術とそれを取り巻く制度的決定(目的、適用範囲、責任者、データ、性能、リスク、管理策、変更点、および限界)を記述した公開文書である。
人工知能に関するものである場合もあるが、それに限定されるわけではない。デジタルプラットフォーム、本人確認システム、監視ツール、クラウドサービス、モデレーションプロセス、あるいは機微な情報を管理するインフラにも及ぶことがある。
英国のアルゴリズム透明性基準は、実用的な一例を示している。そこではツールの目的、使用範囲、責任者、人間の介入、データ、性能、およびリスクへの対応策の記述が求められている。この基準は英国の公共部門およびアルゴリズムツールを対象としたものであり、参考にはなるものの、あらゆる組織や国にとっての義務的なテンプレートではない。
どのような問題の解決を目指すのか
技術を開発し、購入し、あるいは運用する主体は、通常、その影響を受ける者よりもはるかに多くのことを知っている。こうした情報の非対称性は、誤りの検知、優先順位の議論、そして責任の所在の特定を困難にする。また、制度的な決定が単なる技術的な出力として提示されることで、あたかも不可避なものであるかのように見せかけることにもつながる。
報告書は、そうでなければ散在したままになっていた決定を可視化することができる。すなわち、誰が目標を定めたのか、どのようなデータを扱ったのか、人間が介入する余地がどの程度残されているのか、そしてシステムが機能不全に陥った場合に何が起きるのか、といった点である。これは、公権力に対してだけでなく、機会、アクセス、あるいは表現を左右し得る民間組織に対しても重要である。
リベラルな視点から見れば、検証可能な情報は権力の恣意的な行使を制限することに寄与する。これは、すべての技術が疑わしいと想定することを求めるものではない。より控えめに、決定を下す者が根拠を説明し、その結果に対して責任を引き受けることができる状態を要求するものである。
どのような情報を含めるべきか
適切な内容は、対象となるツール、そのリスク、および影響を受ける層によって異なる。望ましい実務として、報告書は以下の問いに答えることができる:
- 目的と範囲: どのような問題の解決を試みており、どのような用途が除外されているか。
- 責任主体: 誰がそれを開発、取得、承認、運用、および監督しているか。
- 重要な機能の仕組み: どのような入力を利用し、それが決定にどのように影響を及ぼすか。
- データ: どこから取得され、どのような限界があり、どのように保護されているか。
- 人間の介入: 誰が出力結果を再検討、修正、または取り消すことができるか。
- 性能と影響: 誤り、悪影響、および集団間の差異はどのように評価されているか。
- リスクと管理策: どのような損害が想定されており、どのような措置がそれを低減しているか。
- 対象期間と変更履歴: 情報はどの期間に対応しており、どのような変更が加えられたか。
- 限界: 何が判明していないのか、測定されなかったのか、あるいは開示できないのか、またその理由は何か。
OECDは人工知能原則において、情報は有意義で文脈に適したものでなければならず、影響を受ける人々が不利な結果を理解し、それに異議を唱えることができなければならないと強調している。この教訓はより一般的な形で表現できる。すなわち、読み手が具体的な決定と結びつけることができなければ、膨大なデータやコードのリポジトリがあっても役に立たないということである。
重要ポイント: アクセスできることは、理解できることと同義ではない。情報には文脈、平易な言葉遣い、そして人々に影響を与える決定との可視化された関係が必要である。
簡潔な具体例
申請の優先順位付けにシステムを使用している組織を想定してみよう。有用な報告書であれば、単に「責任ある人工知能」を採用していると宣言するだけにはとどまらない。どのような申請がシステムに入力され、どの要素が優先順位に影響を与え、誰がその使用を承認し、どの程度の頻度で見直され、どのような誤りが特定されたかを説明するはずである。
また、担当職員が推奨事項を変更できるかどうか、その介入がどのように記録されるか、そして当事者が再審査を請求するためにどのような手段があるかも明記するだろう。プライバシーやセキュリティの観点から詳細の一部を非公開とする場合、その文書では非開示の性質と、代わりに適用されている管理策を明確にする必要がある。そうした分析を整理する上では、デジタル脅威モデルを構築することが役立つ場合がある。
報告書と混同してはならない概念
類似したいくつかの概念は、それぞれ異なる役割を果たしている:
- 監査: 報告書が開示するのに対し、監査は基準、証拠へのアクセス、そして理想的には十分な独立性をもって検証を行う。自己申告による文書は、そうした検証の代わりにはならない。
- アルゴリズムの透明性: アルゴリズムシステムに焦点を当てる。技術の透明性には、さらに調達、インフラ、セキュリティ、データ、および組織のガバナンスが含まれ得る。
- 説明可能性: システムがどのように機能するか、または特定の結果をどのように生み出したかを明らかにしようとするもの。報告書の一部となり得るが、誰がその使用を決定したのか、また誰がその影響について責任を負うのかを必ずしも特定するものではない。
- オープンコードまたはオープンデータ: 有益な検証を可能にするが、それらを単独で公開しても理解不能であったり、権利を侵害したりする可能性がある。開放性は、プライバシーや個人データに対する正当な管理権と共存しなければならない。この緊張関係は、個人データに対する所有権を議論することでより明確に理解できる。
- コンプライアンス(規範の順守): 実務慣行を開示しても、それが合法、公正、または効果的であることの証明にはならない。それは適用される規範と証拠に依存する。
信頼に値する報告書の見極め方
読者は、品質の基本的な兆候を評価するために技術者である必要はない。まず求めるべきは正確性である。すなわち、抽象的な誓約ではなく、システムの名称、責任者、対象期間、および利用範囲の明記である。次に追跡可能性(トレーサビリティ)である。データソース、評価方法、変更履歴、そしてリスクと管理策との関連性が挙げられる。
さらに、期間間の比較可能性、言葉遣いの平易さ(アクセシビリティ)、そして明確な更新日も重要である。真摯な報告書は、不確実性、不利な結果、および限界を認めるものであり、都合の良い指標だけを選別することはない。
記載内容を照合・検証できる可能性は、その信頼性を強化する。これは、再利用可能なデータ、方法論に関する文書、独立した監督、あるいは監査によってもたらされ得る。NISTのAIリスクマネジメントフレームワークは、役割の割り当て、プロセスの文書化、およびリスクの検証の重要性を強調しているが、透明性と、プライバシー、セキュリティ、その他の価値との間の緊張関係についても警告している。個人データを露呈させたり攻撃を容易にしたりするのであれば、より多くの開示が常に最善であるとは限らない。
警告: 説明なしに情報を伏せることは監視を妨げ、基準なしに開示することは別の損害をもたらし得る。正当な非開示措置は、範囲が限定され、正当化され、かつ代替的な管理策を伴っていなければならない。
透明性は完全な説明責任を意味しない
優れた報告書であっても限界はある。誤りが含まれていたり、不都合な事柄が省略されていたり、議論の余地がある決定が耳障りの良い言葉で提示されていたりする可能性がある。システムが正確、安全、公平、あるいは適法であることを保証するものではない。また、被害を受けた者に対する救済をそれ単体で提供するものでもない。
説明責任には、それ以上のものが求められる。明確な規則、特定可能な責任者、証拠の保全、実効的な能力を備えた監督、そして決定に異議を申し立てるための手段である。適切な場合には、さらに監査や不履行に対する措置も必要となる。
したがって、最終的な問いは、組織が「透明性を公表している」か否かではなく、その情報によって自らの技術的権力を吟味に付すことができるか否かである。優れた報告書は、そうした可能性を切り開く。対照的に、信頼とは、表明された内容を実務と照らし合わせ、実効的な制約が存在することを確認した後に初めて生じ得るものである。
共有