像 ChatGPT 这样的人工智能 (AI) 应用程序正在使西方世界观的概率转变正常化：这种转变提倡通过概率思维来接受不确定性，并将统计和复杂建模提升为一种获取知识的方法。例如，随着 ChatGPT 的部署，语言本身被重新定义为一个纯粹概率的系统——一场只有真相和事实参与的彩票。这解释了为什么 ChatGPT 系统而自信地将真相与似是而非的虚构、幻觉混合在一起，而我们被期望接受幻觉是一种不可避免的副作用，一旦我们完全接受概率世界观，这种副作用就会变得不那么令人不舒服。
这种向概率世界观的转变是一股缓慢的暗流，在过去几十年中一直在不断涌现，因此，与主导新闻周期的许多技术思维框架相比，它既更加普遍，又不那么明显。这种概率转变建立在自 20 世纪 70 年代以来政府和学术界一直在进行的量化转变的基础上。概率方法在评分系统（例如信用或保险评分）中已经存在了几十年，并且正在日益影响着日常生活。从本质上讲，这些系统通过将具有某些特征的个人的可观察到的行为投射到个人身上来评估个人的未观察到的行为，这些特征被程序及其系统设计者视为相关，因此会得到相同或相似的处理。
随着个人互联网连接设备中传感器的部署以及在严密监控的虚拟环境中所花费时间的增加，用于定义这些人工构建的群体边界的特征选择变得越来越精细和抽象。例如，我们可以想象预测模型创建了分组 X98899T2，该分组汇集了所有曾经访问过某个洗发水网站、过去六个月去过机场一次、年龄在 40 至 55 岁之间并拥有 iPhone 的人，只要这些看似随机的特征集合在统计上被证明可以很好地预测其他行为，例如购买 X 品牌的香水。传统上对人类生活至关重要的类别，如年龄和性别，变得不那么重要，因为这些抽象、未标记和量身定制的细分旨在为计算机而不是人类的决策提供信息。
Markup 最近的一项调查显示，一个文件包含 65 万个独立标签，广告商使用这些标签对个人进行分类。为了说明这一数字，牛津英语词典中定义的 27 万个单词中每个单词都有两个以上的标签。因此，我们是否能收到房屋或工作广告等事情的命运取决于一个复杂的函数，该函数平衡了数百个以前无法获得的变量（通常看起来无关的数据）。
基于这些之前无法获得的数据点的组合，这些复杂的模型将我们归入一个被认为足够相似的人群中，以至于他们的行为被认为可以预测我们自己的行为，这通常会对我们产生影响，就好像我们确实像他们那样做了一样。这个秘密系统是在知识私有化（尤其是人工智能技术私有化）的持续过程中发生的。
这种概率转向动摇了西方世界观的核心——确定性和因果关系，也许自启蒙运动以来，它们推动了科学方法的采用。因此，概率转向正在动摇我们人权体系的支柱。特别是，它动摇了人权不可剥夺和普遍的理念。
当我们行使人权的能力受到概率机器的调解时，人权就不能被剥夺。例如，当自动内容审核和内容删除系统限制我们在社交媒体应用上表达的内容时，情况正是如此。这种做法的正常化促使欧盟立法者将其编入法律，将言论自由变成一项概率权利——考虑到误报的数量，这项权利将我们行使言论自由的能力理解为抽签决定。
反过来，普遍性的支柱也受到威胁，因为人工智能正在将注意力从个人转移到群体，从关注过去行为的能动性和责任转向关注概率性伤害减少。以个人为核心构建的通过权利建立的社会组织体系正处于危机之中，因为被贴上个人标签的一系列特征的相关性受到了质疑，包括个人自主权本身的概念。例如，这种概率世界观将使法官在技术上充满信心，相信他们能够预测未来的行为，从而影响他们的量刑。这不仅仅是因为前瞻性的观点，还因为个人责任的概念将被系统的正常化所淡化，该系统越来越多地从其收集人口层面见解的能力中获得权威。这是一种转变，不再将权威建立在研究和理解潜在个人的能力上，而这正是过去几个世纪大多数现代司法系统的特点。
一方面，正如凯瑟琳娜·格迪斯所言，这种转变可能让我们认识到一些社会问题的系统性。它可以帮助我们将道德判断从个人转移到定义整个社会结构的总体关系上。
另一方面，在这种认知规模上运作的工具非常复杂，超出了人类的理解范围，从而为权力集中在人数越来越少且不负责任的精英手中创造了空间——这些精英保留对那些似乎越来越多地被推销为新硅谷之神的言论的解释权，以及一个迫使我们参与持续不断的抽奖的系统，这种抽奖将决定我们在网上看到什么、我们提供什么工作、我们可以建立什么样的关系以及我们是否会入狱。
如果还有空间改革这些技术背后的价值观，使它们服务于公众利益，那么政府就需要重申其作为社会关系构建者的民主合法性，并用公共利益目标取代推动技术发展的市场激励。现有公司自称是唯一能够拯救公众免受复杂系统所带来的严重风险的公司，而这些系统是他们自己创建的，他们声称这些系统过于复杂，无法审计。除非我们采取立场，否则这一过程将重塑我们对身份的理解，并将我们的人权体系外包给一个秘密的彩票机构。
留言