あるプラットフォームが、特定の人物がカメラのレビューを頻繁に閲覧していることを記録し、その行動に基づいて、その人物がカメラの購入を計画していると推定する。当人はそのような意図を一度も申告していない。それにもかかわらず、システムはその人物に関する新たな情報、すなわち推論を生み出したのである。
個人データに関する推論とは、他のデータに基づいて作成され、特定された、または特定可能な個人に帰属させられる結論、推定、または予測である。それらはコンテンツの順序付け、好みの先回り、または申請の評価に役立つ場合がある。推論は必ずしも真実であるとは限らず、機微情報であるとも、違法であるとも限らない。その重要性は別のところにある。すなわち、当人がその属性付けの存在を知らない場合であっても、組織がその個人をどのように扱うかに影響を及ぼし得る点にある。
重要ポイント: 推論が個人情報となるために、当人によって申告されている必要はない。重要なのは、その情報が当人と結びつき得るかどうかである。
推論はどのように形成されるか
そのプロセスは通常、比較的単純なデータから始まる。あるサービスが訪問、検索、または購入を記録し、それらの痕跡を特定のパターンと比較して、蓋然性のある結論を導き出す。この一連の流れは次のように表すことができる。
入力データ → 分析 → 推論 → 潜在的プロファイル → 潜在的意思決定
各段階はそれぞれ異なる機能を果たす。ある人が写真関連の商品を何度も閲覧した場合、その履歴が「観察されたデータ」となる。「カメラを購入する意図がある」という推定が「推論」である。それを「写真分野の見込み顧客」といったカテゴリーに組み込むことは、プロファイルの一部となり得る。その人物にオファーを表示すること、ページの表示順序を変更すること、あるいは申請を追加の審査に回すことは、その後の行動または意思決定を構成する。
この区別により、二つの誤りを防ぐことができる。第一の誤りは、処理されたあらゆるデータを推論と呼ぶことである。第二の誤りは、すべての推論が自動的に意思決定をもたらすと想定することである。一部の推論はインターフェースの個人向け最適化を支援するにすぎないが、重大な機会に影響を及ぼす推論も確かに存在する。
個人に関する情報を取得する4つの方法
簡潔な分類法を用いることで、分析によって何が付加されるのかを把握できる。これらのカテゴリーは理解を助けるためのものであり、法制度によって異なる場合がある。
- 提供データ: メールアドレスやフォーム上で選択された設定のように、当人自身が提供するもの。
- 観察データ: 閲覧したページや利用頻度のように、当人の行動から記録されるもの。
- 派生データ: 記録された購入履歴から月間支出を計算するように、他のデータに対する直接的な演算によって得られるもの。
- 推論データ: ある特徴、意図、または将来の行動に関する結論や確率を表すもの。
この違いは、使用される技術のみによって決まるわけではない。合計を計算することと好みを推定することは、いずれも分析的な処理であるが、後者は元のデータに明示的には存在しなかった言明を付け加えている。
情報の出所だけで、その情報が保護に値するかどうかが決まるわけでもない。欧州連合の一般データ保護規則は、個人データを、直接提供されたかどうかではなく、特定されたまたは特定可能な個人との関係性によって定義している。他の法制度も同様のアプローチをとっている。例えば、カリフォルニア州のCCPAに関する公式ガイドには、プロファイルの作成に使用される特定の推論が含まれている。具体的な適用範囲は、常に法域や個々の事案によって異なる。
推定は検証された事実ではない
あらゆる推論には、ある程度の不確実性が含まれている。「おそらくカメラを探している」ということは、「カメラを購入した」ということと同義ではない。技術的に適切に計算された推定であっても、その人物を誤って描写してしまう可能性がある。贈り物を探していたか、友人を手伝っていたのかもしれないからである。
だからといって、すべての推論が無用になるわけではない。推奨機能は摩擦を減らし、サービスの適合性を高めることができる。しかしそれは、推論をその性質に応じて提示し、利用することを求める。組織側の都合によって、確率が特定の人物の身元、好み、または意図に関する確実な事実へと変換されるべきではない。
次の3つの問いを区別して考えることが有益である。
- その推論は正確、あるいは合理的か: データの品質、手法、および不確実性を検討する。
- その目的で使用することは認められるか: 適用される規則、正当な期待、および比例性を検討する。
- どのような影響をもたらすか: 単にコンテンツを並べ替えるだけなのか、それとも重要な選択肢を制限するのかを検討する。
推論が的中しているからといって、自動的に適法となるわけではない。また、誤った推論であっても、それが当人の処遇を決定づけるのであれば、軽視してよい問題ではなくなる。
重要ポイント: 正確性、正当性、および影響はそれぞれ異なる問題である。そのうちの一つを解決したとしても、必ずしも他の二つが解決されるわけではない。
集団に関する結論がいつ個人情報となるのか
すべての統計的パターンが個人データであるわけではない。「ある地域のユーザーの30%が午後の配達を好む」と言うことは集団を描写しているにすぎず、原則としてその好みを特定の個人に帰属させるものではない。これに対し、「アナは午後の配達を好むと推定される」と言うことは、特定の個人に関する結論を導き出している。
その境界線は、情報から人を識別し、個別化し、あるいは情報を再びその人と結びつけられる合理的な可能性に依存する。氏名を削除するだけでは必ずしも十分ではない。集計されたとされるデータ群であっても、個人を識別できる組み合わせが残されている場合がある。一方で、真に匿名化された統計データは、そのような個人との関連性から外れる。
英国データ保護機関による匿名化に関するガイダンスは、まさにこの文脈依存的な性質を強調している。相関関係や予測は新たな情報を生み出す可能性があり、その情報が特定可能な個人に関するものである場合、個人データとなり得るのである。
推論、プロファイリング、意思決定は同義語ではない
プロファイリングは、自動化された処理を通じて個人の側面を整理または評価する。これは、多くの観察データや推論を、運用のための実用的な表現(推定される関心事、利用パターン、特定のアクションを起こす傾向など)へと統合することができる。
これに対し、自動化された意思決定は、自動処理に基づく結果または措置である。これはプロファイルに基づく場合もあるが、単純なルールに基づく場合もある。また、プロファイルが存在していても、重要な決定を引き起こさないこともある。
欧州の枠組みにおいて、GDPR第4条および第22条、ならびに欧州データ保護会議が承認したガイドラインは、これら2つの概念を区別している。完全に自動化された意思決定に対する具体的な保護措置は、特に法的効果または同様の重大な影響が生じるような限定的なケースにおいて適用される。これは、あらゆるシステムのコード全体を知るための普遍的な権利を構成するものではない。
この厳密な区別が重要となるのは、適切な統制がプロセスの各段階に依存するためである。入力データを訂正すること、推論に異議を唱えること、そして決定の見直しを求めることは、相互に関連しているものの、代替可能な行為ではない。
どのような統制が推論への異議申し立てを可能にするのか
推論が重大な選択肢に影響を及ぼす場合、自律性を保つためには、その分類を受動的に受け入れる以上のことが求められる。統制とは、データ分析を禁止することや、企業秘密の公開を強制することを意味しない。当人が誤りを察知し、属性付けに異議を唱え、その結果を把握できるだけの十分な理解を持てるようにすることを意味する。
合理的な枠組みであれば、以下の点を問うことが可能であるべきである。
- どのようなカテゴリーのデータが推論に供給されたのか
- どのような目的で生成され、使用されているのか
- それが事実、推定、あるいはスコアのいずれを表しているのか
- どの程度の不確実性があり、どのくらいの期間保持されるのか
- 重大な意思決定をもたらすのか、またそれはどのように見直すことができるのか
欧州連合では、アクセス権や訂正権に加え、特定の完全に自動化された意思決定に対する具体的な保護措置が存在する。ただし、それらの適用には限界や例外がある。人間の関与による見直しは、該当する場合であっても、審査を行う者がその結果を理解し、追加情報を考慮し、それを修正できる場合にのみ実質的な統制をもたらす。機械的な追認ではプロセスの実質を変えることはできない。
これらの統制手段は、個人データに対する統制や、強力な分類能力を持つ組織の前でいかにして個人の自律性を守るかという、より広範な議論の一部をなしている。実務的な推奨事項については、AIの利用と個人データにおいても特有の実装上の課題が提起されている。
重要ポイント: 個人の機会に対する推論の影響が大きければ大きいほど、透明性、異議申し立ての可能性、そして実効的な見直しの重要性は増す。
決定的な論点はあらゆる予測を阻むことではない
推論を行うことは一般的な慣行であり、多くの文脈において有用である。問題が生じるのは、不確実な結論が、当人がその出所、目的、あるいは異議申し立ての方法を知らないまま権威を獲得してしまう場合である。
開かれた社会は、イノベーションと個人の自由の二者択一を迫られる必要はない。分析の正当な利用を認める一方で、分類が個人の機会を左右する場面においては比例的な制限を課すことができる。実践的な問いとは、組織がどのようなデータを保持しているかという点だけでなく、各個人について何を知っていると考えているのか、どのような根拠に基づいているのか、そして何を行うためなのかである。
共有