要約を作成するためにAIアシスタントにメールをコピー&ペーストすることは、何気ない作業のように思えるかもしれない。しかし、そのメールには、氏名、住所、口座情報、職務上の詳細、あるいは相手が決して元の文脈の外に出るとは想定していなかった会話が含まれている可能性がある。重要な決定は、「送信」を押す前に行われるのである。
AIの利用と個人データの保護は、両立不可能な目標ではない。問題が生じるのは、その情報が本当に必要なのか、誰がそれを処理できるのか、あるいはどのくらいの期間処理され得るのかを自問することなく、習慣的に情報を共有してしまう場合である。本ガイドは、より高い管理意識を持ってその決定を下すための簡潔な手法を提示するものである。ただし、これは法的助言に代わるものではない。具体的な法的義務は、国、活動内容、および情報の種類によって異なる。
重要ポイント: 有効な問いは、「AIはこのタスクを実行できるか」だけではなく、「それを実行するために必要な最小限の情報量はどれだけか」である。
まず第一に:目の前にある情報の種類を認識する
個人データとは、特定された、または特定可能な個人に関する情報である。これは氏名や身分証明書番号だけに限定されない。メールアドレス、写真、音声録音、位置情報、職歴、あるいは誰について語られているのかを特定可能にする詳細情報の組み合わせも含まれ得る。
この定義は、例えばEU一般データ保護規則(GDPR)で採用されているものと一致している。これは実践的な参照基準として有用であるが、欧州の制度を普遍的な規範にするものではない。それぞれの法域が、独自の適用範囲と義務を定めている。
次の3つの区分を区別しておくことが有益である。
- 個人データ: 直接的または間接的に、情報を特定の個人と結びつけることを可能にする。
- 機微情報(センシティブデータ): 具体的な範疇は法域により異なるものの、多くの法制度において特別な保護の対象となる。健康状態、生体情報(バイオメトリクス)、信条、性的指向などが含まれ得る。
- 機密情報: 個人を特定するものではない場合もあるが、営業秘密、事業戦略、認証情報、内部事項などを明らかにする。
あるデータが公にされているからといって、制約が存在しないことを意味するわけではない。インターネット上で公開されている職務上の住所や連絡先であっても元の文脈を保持しており、利用目的、再利用、または個人の権利に関する規制の対象となり得る。アクセス可能であることは、無制限の許可と同義ではない。
共有する前の4つの問いによるフィルター
テキストを貼り付けたり、画像をアップロードしたり、文書を添付したりする前に、数秒立ち止まってこのフィルターを適用してほしい。
- どのようなタスクを解決したいのか? テキストの要約、文体の推敲、条項の比較など、具体的な目的を設定する。「AIが何を言うか見てみる」という理由は、追加の情報を開示する正当化にはならない。
- どのデータが不可欠なのか? ツールが必要とするものと、ファイルに偶然含まれているだけのものとを峻別する。
- 第三者がその個人を特定できる可能性はあるか? 氏名だけでなく、役職、日付、場所、珍しい出来事、および特徴の組み合わせも考慮に入れる。
- より露出を抑えた代替手段はあるか? 抜粋、要約、架空の値、あるいは明示的に承認された環境を利用することができる。
このプロセスは、2つの有用な原則へと導く。すなわち、情報が何のために使われるかを明確にする目的と、適切かつ必要な範囲に限定する最小化である。この双方は、欧州のGDPRや、アルゼンチン公的情報アクセス機関による官民機関向けガイドなどのイベロアメリカ諸国のガイドラインにも示されている。
最小化とは単に氏名を削除することではない
ある顧客からのメールを要約したいとする。署名を削除することは有益だが、本文中に規模の小さい企業名、一意的な役職、日付、および極めて特定的なトラブルが記載されている場合がある。それらの要素が組み合わさることで、その人物が特定されてしまう可能性がある。
より慎重な方法としては、固有の氏名を「顧客」「ベンダー」といった役割名に置き換え、連絡先や口座番号を削除し、日付を抽象化し、必要な抜粋のみを残すことが挙げられる。目的が返信のトーンを改善することであるならば、元のメッセージを貼り付けることなく状況を説明するだけで十分かもしれない。
仮名化は、識別子を分離することによって直接的な関連付けを低減させるが、対応表などの鍵や文脈によって身元を再特定できる場合、その情報は依然として個人データである。これに対して匿名化ははるかに厳格な要件を課す。すなわち、合理的な手段を用いて個人を特定したり、そのデータを抽出したりできる可能性が極めて低くなければならない。欧州データ保護会議(EDPB)は、その評価は個別事例に依存すると警告している。単に氏名の列を削除しただけでは、それ自体として匿名化の保証とはならない。
警告: 文脈から個人を識別できる場合、氏名を「ユーザーA」に置き換えたとしても、そのデータが自動的に匿名化されたことになるわけではない。
同様の論理はファイルにも当てはまる。契約書をアップロードする前に、ヘッダー、署名、添付資料、コメント、可視的なメタデータ、銀行口座、第三者のデータを確認すべきである。条項を比較したいのであれば、その条項のみを切り出し、個人を特定できる値を置き換える。もし身元情報がタスクにとって不可欠であるならば、その場しのぎの対応をしてはならない。承認された環境を使用するか、責任ある担当者に判断を仰ぐべきである。
ツール自体の確認も意思決定の一部である
コンテンツを削減することは一面にすぎない。もう一面は、サービスの利用規約を理解することである。データ取り扱いの実務はプロバイダー、製品、契約プラン、設定によって異なる可能性があるため、すべてのツールが対話履歴を学習に利用している、あるいは一切利用していないと一概に思い込むべきではない。
些細とは言えないデータを入力する前に、最新のドキュメントで以下の点を確認する必要がある。
- サービスがどのような情報を収集し、いかなる目的で使用するのか。
- 入力データがシステムの改善や学習に利用され得るのか、またどのような制御機能が存在するのか。
- データをどのくらいの期間保持し、削除をどのように申請できるのか。
- 対話履歴やファイルに誰がアクセスできるのか。
- どのような管理機能、セキュリティ機能、監査機能が提供されているか。
- どの法域において情報が処理または保管され得るのか。
スペインデータ保護機関(AEPD)は利用者に対し、開示する個人情報を制限し、プライバシー通知を確認し、回答の正確性を盲信しないよう推奨している。明確なポリシーは判断の助けとなるが、他者の情報を共有するための許可の代わりになるわけではない。
プライバシーとセキュリティもまた、同義語ではない。セキュリティは、不正アクセス、喪失、不適切な漏洩を減らすことを目指す。他方でプライバシーはさらに、その利用が正当かつ均衡のとれたものであり、本人が期待し得た範囲と整合しているかを問う。技術的に安全なツールであっても、不適切な目的のために使用される可能性は依然として残る。
組織を代表して行動する場合、基準はより高くなる
架空の情報を用いて実験している個人が直面する状況と、顧客、患者、従業員の記録をアップロードする組織の従業員が直面する状況とは異なる。組織内においては、ツールが便利であることや、従業員個人がその利用規約に同意したことだけでは不十分である。
実データを使用する前に、組織のチームは以下の事項を把握しておくべきである。
- どのツールおよび用途が承認されているか。
- 誰が利用目的を決定し、データ処理の責任を負うのか。
- どの分類のデータが除外対象となるか。
- いかなる契約上、技術上、およびアクセス管理上の措置が適用されるか。
- データに関連するインシデントや要請がどのように記録されるか。
- 結果が実質的な影響を及ぼす前に、誰がそれを確認するのか。
例えば、職務記述書を作成する際に実在の履歴書を貼り付ける必要はなく、通常は架空のプロフィールで十分である。雇用、健康、信用供与、または権利に関する決定を支援するためにAIを使用する場合、責任ある人間がその結果を検証し、異議を唱え、修正できなければならない。人間によるレビューは管理水準を高めるが、すでに行われた情報の開示を取り消すことはできない。
このような明確な責任の分担は、個人の自律性を保護し、企業や公権力による情報権力を制限する。あるサービスを自発的に受諾したからといって、自身や他者のデータに対する管理権を無期限に放棄することになるべきではない。共有を決定した者は、なぜそうしたのか、いかなる保護措置を講じたのかを説明できなければならない。この基準は、個人の権利の保護とも直結している。
重要ポイント: プロバイダーの利用規約はサービスとの関係を規定するものであり、顧客、同僚、または市民のデータを開示する権限を自動的に付与するものではない。
共有すべきでない情報をすでに共有してしまった場合の対処法
問題を隠蔽しようとしてはならない。迅速に行動し、露出をさらに拡大させることなく何が起きたのかを説明するために必要な記録を保持する。
- さらなるアップロードを停止し、どの情報が、いつ、どのアカウントで、どのツールに共有されたかを記録する。
- 対話履歴やファイルを削除するために利用可能な制御機能を確認する。ただし、その操作によってすべての複製やログが完全に消去されると思い込んではならない。
- 内容にパスワード、暗号鍵、またはトークンが含まれていた場合は、直ちに認証情報を変更する。
- 組織を代表して行動していた場合は、社内のプライバシー、セキュリティ、またはコンプライアンスの責任者に報告する。
- 当該法域において適用される法的義務を確認する。通知の期限や手続きは国によって同一ではない。
適切な対応は、機微性の度合い、影響を受ける個人の数、および不正利用の可能性によって左右される。単独の氏名は、診療記録や認証情報のデータベースと同じリスクをもたらすわけではない。
「送信」を押す前のチェックリスト
最後に以下の点を確認してほしい。
- タスクと利用目的が明確である。
- コンテンツに第三者の不要なデータが含まれていない。
- 直接的な識別子を削除し、間接的な識別子を精査した。
- 要約、抜粋、または架空の事例の使用を検討した。
- 添付ファイル、署名、一見して気づきにくい隠れたデータを確認した。
- 当該サービスの利用、保管、アクセス、および学習に関する最新の規則を把握している。
- 組織を代表して行動する場合、必要な承認を得ている。
- 関連する結果はすべて、適任者が検証する。
- 問題が発生した際の連絡先・報告先を把握している。
その目的は、AIの有用性を奪うことでも、恐れからAIを避けることでもない。選択の余地を保持し続けることである。共有する情報を減らし、確認を増やし、明確な人間の責任を維持することは、個人データを初期設定で利用可能な資源として扱うことなく、これらのツールを活用することを可能にする。
共有