平台在用户进行数次搜索后调整了推荐内容。应用程序根据使用者的操作习惯重新排列界面。系统在给出答复前预先评估一项申请的风险。在这三种情形中,涉及的可能不仅是单纯的数据存储:还可能存在用户画像。
画像是指利用信息评估或预测个人的特定方面,例如其兴趣、偏好、行为、位置或经济状况。在《欧盟通用数据保护条例》所采纳的法律含义中,画像是指以此为目的对个人数据进行的自动化处理。尽管该法律定义属于特定司法管辖区,但它有助于明确这一概念的核心要素。
画像并非最终生成的画像结果,亦非对个人的全面描述。它是构建、更新或应用某种表征的过程。用户画像则是这一过程的结果:系统利用这种概括性模型来预判需求、调整体验或辅助做出决定。
核心观点: 画像并不等同于人本身。它只是一种基于特定数据且为特定目的创建的局部表征。
用户画像的构建方式
该过程的复杂度可能有所不同,但通常包含四个环节:收集信息、整理信息、提取关联或推断结论,以及应用结果。这一流程有助于解释,为什么进行画像并不等同于简单保存某人在表单中填写的内容。
《欧洲关于画像与自动化决策的指引》区分了三种对于理解该机制尤为有用的信息来源:
- 声明数据: 由个人自行提供,例如年龄、偏好语言或自主选择的兴趣。
- 观察数据: 来自个人的活动或所处环境,例如访问过的页面、购买记录、位置或互动时长。
- 推断数据: 基于其他数据分析得出的结论,例如可能的兴趣倾向、预估的偏好或风险评级。
第三类数据至关重要。如果一个人多次搜索同一主题,系统可能会推断其对该主题感兴趣。如果其进行特定操作,另一系统可能会为其赋予某种未来行为的概率。在这两种情况下,系统都生成了新的信息。这种推断可能很有用,但它仍旧只是一种估计:它并不会把可能性转变成客观事实。
此外,画像并不总是固定不变的。系统可以在每次互动后对其进行更新,并对近期出现的信号赋予更高权重。系统还可以组合不同的数据来源,而这些来源单独来看似乎包含的信息有限。因此,隐私不仅取决于收集了哪些孤立的数据,还取决于通过组合这些数据所能得出的关联和结论。
用户画像的用途
最直观的应用之一是提供个性化服务。服务平台可以借此对内容进行排序、推荐产品、记忆配置或调整界面。当模型切合实际且足够准确时,用户体验所需的精力可能会更少,展示的选项也会更实用。
画像也会出现在影响更大的场景中。它可以用于排定沟通优先级、检测异常操作、评估风险,或辅助决定是否准许某人获得某项服务。该结果对一个人的生活越重要,就越有必要了解使用了哪些信息、如何更正这些信息,以及由谁来对该处理过程负责。
并非所有的个性化都必然意味着画像。单次按照所选语言显示网页可能只是一种简单的设置。相反,记录行为并利用这些行为来估算个人偏好,才触及这一概念的核心。关键在于目的和用途,而不仅在于是否存在自动化处理。
用户画像、人群细分及其他相近概念
有若干词汇常被混用,尽管它们描述的是不同的操作:
- 画像过程与用户画像: 进行画像是指制作、更新或应用某种表征的过程;用户画像则是所得出的表征。
- 画像与细分: 细分是根据共同特征对人群或数据进行归类。当其被用于评估或预测某一已识别或可识别的个人的情况时,就转变为画像。
- 画像与目标客户原型: 目标客户原型是为代表典型用户而设计的构想模型。它不是针对具体个人的档案,也不是针对特定个人的推断结论。
- 画像与自动化决策: 画像用于估算特征或行为;决策则产生具体结果。可能存在没有后续自动化决策的画像,也可能存在并非基于画像的自动化决策。
这些区分可以避免两种对立的片面倾向:将任何统计分类都称为画像,或是忽视群体分类最终可能被应用到具体个人身上。
核心观点: 实际问题不仅在于某人被归入哪个群体,还在于系统对其得出了何种推断结论,以及之后如何使用这一结论。
实用性取决于模型的质量
画像总是会挑选某些特征而忽略其他特征。它所依据的数据可能不完整、已过时,或者是在不同的背景下收集的。画像也可能误读某种行为:搜索某项产品并不意味着想要购买它;共用一台设备并不意味着拥有共同的兴趣;改变日常习惯则可能使原本的预测失效。
针对自适应系统中用户模型的研究指出,自适应机制的有效性取决于信息的数量与准确性,而数据噪声和不精确性则会增加建模难度。西班牙数据保护局也提醒,数据、算法设计或样本中存在的问题可能引发错误的推断。
错误产生的影响因具体用途而异。不恰当的音乐推荐通常无关紧要。但如果分类错误影响到价格、获取服务的机会或监控等级,则可能限制个人的实际选择。这个问题不仅是技术层面的:它实质上是根据一种当事人可能毫不知情且无法提出异议的预估来对待当事人。
从个人自主的角度来看,分类只是工具,并非界定个人身份的凭证。分类可以帮助协调复杂的服务,但不应成为不容置疑的标签。无论归类权力是由企业行使,还是由公共机构行使,都需要受到限制。
透明度、更正与边界
针对画像,全球并不存在统一的单一规则。具体义务取决于所在的司法管辖区、信息类型以及处理活动所带来的后果。因此,宜将一般性的审慎做法与各地区适用的法定权利和义务区分开来。
作为衡量实际情况的标准,评估一个画像系统至少需要提出四个问题:使用了哪些数据、意图推断出什么、推断结果作何用途,以及错误应如何更正。此外,当事人是否能够理解相关后果并保留一定的选择余地也同样重要。这些要素增强了对个人数据的控制权,同时也不否认某些模型可以发挥有益的功能。
核心观点: 分类所带来的影响越大,透明度、更正错误的可能性以及对其使用的限制就越重要。
画像能够将大量信息转化为更贴合需求的服务和更快速的决策。然而,这种效率并不能消除其脆弱性:推断终究只是推断,片面的表征并不能定义一个人。理解这一差异,是以合理尺度衡量每种用途的第一步:在它提供帮助时认可其实用价值,在它产生影响时保持审慎,并在其出现差错时提供更正途径。
分享