あるプラットフォームは、わずか数回の検索後に推薦内容を変更する。あるアプリケーションは、利用者の習慣に応じてインターフェースを再構成する。あるシステムは、応答を返す前に申請のリスクを評価する。これら3つの事例すべてにおいて、単なるデータ保存以上のものが存在している可能性がある。すなわち、ユーザープロファイリングが存在し得るのである。
プロファイリングを行うとは、個人の関心、嗜好、行動、位置情報、経済状況といった側面を評価または予測するために情報を利用することを意味する。欧州連合一般データ保護規則が採用する法的な意味において、それはそのような目的を持った個人データの自動化された処理を指す。この法的定義は特定の法域に属するものであるが、この概念の中核的要素を特定する上で有用である。
プロファイリングは、その結果として生じるプロフィールそのものでも、誰かの完全な描写でもない。それは、ある表象を構築し、更新し、または適用するプロセスである。ユーザープロフィールはその成果物であり、システムがニーズを予測し、体験を適応させ、または意思決定を支援するために用いる要約されたモデルである。
重要ポイント: プロフィールは人間そのものではない。それは特定のデータを用い、特定の目的のために作成された部分的な表象にすぎない。
ユーザープロフィールはどのように構築されるか
そのプロセスは複雑さにおいて多様であり得るが、通常は4つの段階を経る。すなわち、情報の収集、整理、関連性や推論の抽出、そして結果の適用である。この一連の流れを見れば、プロファイリングを行うことが、誰かがフォームに入力した内容を単に保存することと同義ではない理由が理解できる。
プロファイリングおよび自動化された意思決定に関する欧州のガイドラインは、これを理解する上で特に有用な3つの情報源を区別している。
- 申告データ: 年齢、希望する言語、選択された関心事項など、本人自身が提供するデータ。
- 観察データ: 閲覧したページ、購入履歴、位置情報、操作に費やした時間など、本人の活動や状況から生じるデータ。
- 推論データ: 可能性の高い親和性、推定される嗜好、リスクスコアなど、他のデータから導き出された結論としてのデータ。
第3のカテゴリーは決定的に重要である。ある人物が同じテーマを複数回検索した場合、システムはそのテーマに関心があると推論することができる。また、ある操作を行った場合、別のシステムが将来の行動確率を割り当てることもできる。どちらの事例でも、システムは新たな情報を生成している。そのような推論は有用であり得るが、依然として推定にとどまる。確率を事実へと転換するものではない。
さらに、プロフィールは常に同一のまま留まるとは限らない。システムは個々の相互作用のたびにそれらを更新し、直近のシグナルにより大きな重みを与えることができる。また、単体で見ればほとんど何も明らかにしないように思われる複数の情報源を結びつけることも可能である。したがって、プライバシーは単にどのような個別データが収集されるかだけでなく、それらを組み合わせることで導き出され得る関連性や結論にも依存するのである。
何のために利用されるか
最も顕著な用途の一つはパーソナライゼーションである。サービスはコンテンツを並べ替え、商品を推薦し、設定を記憶し、あるいはインターフェースを適応させることができる。モデルが適切かつ十分に正確であれば、利用体験において負担が軽減され、より有用な選択肢が提示され得る。
プロファイリングは、より重大な影響を及ぼす状況においても現れる。通信の優先順位付け、異常な取引の検知、リスクの評価、あるいはサービスへのアクセスに関する意思決定の支援に役立つ場合がある。その結果が個人の生活にとって重要であればあるほど、どのような情報が用いられたのか、どのように修正し得るのか、そして誰がそのプロセスに責任を負うのかを理解する必要性が高まる。
すべてのパーソナライゼーションが必ずしもプロファイリングを伴うわけではない。選択された言語でウェブページを一度だけ表示することは、単なる設定変更にすぎない場合がある。これに対して、行動を記録し、それを個人の嗜好を推定するために利用することは、まさにこの概念の核心に迫るものである。自動化が存在するかどうかだけでなく、その目的と用途が重要なのである。
プロファイリング、セグメンテーション、およびその他の関連概念
いくつかの言葉は同義であるかのように用いられることが多いが、実際にはそれぞれ異なる操作を指している。
- プロファイリングとユーザープロフィール: プロファイリングを行うとは表象を作成、更新、または適用することであり、プロフィールとは得られた表象そのものである。
- プロファイリングとセグメンテーション: セグメンテーションは、共有された特性に基づいて人々やデータをグループ分けする。それが特定された、あるいは特定可能な個人について何かを評価または予測するために用いられるとき、プロファイリングとなる。
- プロファイリングとバイヤーペルソナ: バイヤーペルソナ(buyer persona)は、典型的なユーザーを表現するために設計されたアーキタイプである。特定の個人に関する記録資料や推論ではない。
- プロファイリングと自動化された意思決定: プロフィールは特性や行動を推定し、意思決定は結果を生み出す。その後に自動的な意思決定を伴わないプロファイリングが存在し得るのと同様に、プロフィールに基づかない自動化された意思決定も存在し得る。
これらの区別は、2つの相反する極端な見解を避けるのに役立つ。すなわち、あらゆる統計的分類をプロファイリングと呼ぶことや、集団的な区分が特定の個人に適用され得るという事実を見落とすことである。
重要ポイント: 実践的な問いは、ある人がどの集団に属しているかだけでなく、その人物についてどのような結論が導き出され、その後その結論がどのように使われるかである。
有用性はモデルの質に依存する
プロフィールは常に一部の特性を選択し、他の特性を省略する。不完全なデータ、陳腐化したデータ、あるいは異なる文脈で収集されたデータに基づいて処理が行われる場合もある。また、行動を誤って解釈することもあり得る。ある商品を調べることはそれを購入したいと望んでいることを意味せず、端末を共有することは興味関心を共有していることを意味しない。生活習慣の変化によって予測が時代遅れになることもある。
適応型システムにおけるユーザーモデルに関する研究は、適応の有用性が情報の量と正確さに依存する一方で、ノイズや不正確さがモデリングを困難にすることを指摘している。さらに、スペインデータ保護機関は、データ、設計、またはサンプルにおける問題が誤った推論を引き起こす可能性があると警告している。
誤謬がもたらす帰結は、その用途によって異なる。的を射ていない音楽の推薦は通常、取るに足らないものである。しかし、価格、サービスへのアクセス、あるいは監視のレベルに影響を与える誤った分類は、現実の選択肢を狭める可能性がある。問題は単に技術的なものにとどまらない。本人が知らず、異議を申し立てることもできないかもしれない推定に基づいて、その人物を扱うことにあるのである。
個人の自律の観点から見れば、カテゴリーは道具であって、個人のアイデンティティに対する権原ではない。それらは複雑なサービスを調整する助けにはなり得るが、疑う余地のないレッテルと化すべきではない。分類する権力には、それを企業が行使する場合であれ、公的機関が行使する場合であれ、制限が必要とされるのである。
透明性、是正、および制限
プロファイリングに関する世界統一の規則は存在しない。具体的な義務は法域、情報の種類、および処理がもたらす帰結によって異なる。そのため、一般的な慎重さと、個々の地域で適用される法的な権利および義務とを切り離して考えることが適切である。
実践的な基準として、プロファイリングシステムに対しては少なくとも4つの問いを投げかける価値がある。すなわち、どのようなデータを利用しているのか、何を推論しようとしているのか、その推論を何のために用いるのか、そして誤りをどのように是正できるのか、である。また、本人が重大な結果を理解し、何らかの選択の余地を保持できるかどうかも重要である。これらの要素は、特定のモデルが有用な機能を果たし得ることを否定することなく、個人データに対する管理を強化するものである。
重要ポイント: 分類がもたらす影響が大きければ大きいほど、透明性、修正の可能性、およびその利用に対する制限がより重要になる。
プロファイリングは、膨大な量の情報をより適合したサービスや迅速な意思決定へと変換することを可能にする。その効率性は、それが抱える脆弱性を帳消しにするものではない。推論はどこまでいっても推論であり、部分的な表象が個人を定義することはない。その違いを理解することは、個々の利用を適切な基準で評価するための第一歩である。すなわち、それが助けとなるときには有用性を認め、条件付けを課すときには慎重さを期し、誤りが生じたときには是正の道を用意することである。
共有