2019哈佛商学院名誉教授肖莎娜·祖博夫Shoshana Zuboff出版《监视资本主义时代》The Age of Surveillance Capitalism这本书被誉为数字经济时代的《资本论》。它深刻地揭示了谷歌、MetaFacebook、亚马逊等硅谷科技巨头如何在全球范围内建立起一种不依赖坦克和枪炮、而是依赖算法和行为预测的新型“软性极权主义”。传统的资本主义工业资本主义剥削的是自然资源和人类的劳动力比如把树木变成木材把工人的时间变成汽车。监视资本主义Surveillance Capitalism剥削的是人类的全部私人经验Private Experience。它的控制手段从“了解你”到“操纵你”行为剩余Behavioral Surplus当你使用搜索引擎、刷社交媒体、甚至用智能音箱和扫地机器人时这些设备在源源不断地收集你的数据。科技巨头拿走维持产品运转所需的数据后剩下的大量关于你的情绪、性格、作息、甚至潜意识爱好的数据就被称为“行为剩余”。这些原本属于你个人的私密经验被科技公司无偿占有成为了它们的免费原材料。行为预测产品Prediction Products行为预测产品Prediction Products科技巨头把这些“行为剩余”喂给极其强大的 AI 和算法从而在后台为每个人精准绘制一幅“数字画像”。算法比你更了解你自己它能预测你下一秒会点开什么视频、明天会买什么衣服、甚至在什么情绪下最容易冲动消费。这些预测结果被打包成“行为预测产品”。控制和修改人类的行为Behavior Modification监视资本主义并不是 static静态的观察它的终极目的是控制和修改人类的行为Behavior Modification。自动化Automation极其高效地榨取你的数据追踪你的全时空轨迹。精准微调Nudging算法发现你现在心情低落通过你打字的速度、听的音乐等情况然后给你推流看你对推送信息的行为反馈训练一个跟家匹配你算法群聚Herd/Conditioning通过操控信息流引发大众的集体情绪。最著名的案例就是“剑桥分析丑闻”Cambridge Analytica——政治黑客通过精准投喂虚假信息和极端言论成功操纵了美国大选和英国脱欧公投中数百万摇摆选民的投票意向。1949年6月英国左翼作家乔治·奥威尔创作的长篇政治小说《1984》,这本书让人看到极权社会最后是什么样的。人的存在是不可磨灭的这是一种自由书中的错误的人在一切记载中都被抹去了痕迹人的思想是不受拘束的这是一种自由书中的人受到的最大的束缚就是戴上思想囚笼人的反抗是自主选择的这是一种自由书中的仁爱部让人不能不想做什么就不做什么人的天性是公开承认的这是一种自由书中的人的欲望从生到死任何时候都不被允许。人是自由的。奥威尔在《1984》里描绘的那个无处不在的“老大哥”在21世纪的AI技术加持下不仅变成了现实而且升级成了具备预测性、精准打击和无缝渗透能力的超级怪兽。数字极权主义”Digital Authoritarianism这些IT寡头通过“资本、算法、平台规则”这只看不见的手来完成的隐形的“信息茧房”与过滤泡Filter Bubble谷歌、MetaFacebook/Instagram、TikTok 等平台的AI推荐算法其核心逻辑是“逐利”——如何最大化用户的停留时间。算法会不断投喂你喜欢看的内容将社会群体彻底撕裂成无数个互不相通的“信息茧房”。在这种机制下主流社会根本听不到非核心圈层的声音。平台巨头的“影子禁言”Shadow Banning在西方科技巨头拥有极大的“私有审查权”。它们可以通过微调算法让某些批评体制、暴露底层惨状、或者不符合主流“政治正确”的言论在信息流中彻底失去曝光度。用户以为自己发出了声音但实际上他的声音被算法放进了无人问津的荒漠。信息垄断科技巨头与政治建制派的“旋转门”媒体与科技的寡头化传统上西方的报纸、电视台就掌握在少数财阀手中如默多克集团。而到了数字时代全球的信息入口被极少数几家科技巨头垄断。公众接触世界、获取知识的管道事实上被少数硅谷精英所控制。深层政府Deep State与数字监控2013年爱德华·斯诺登揭露的“棱镜计划”PRISM彻底撕下了西方民主国家的面纱。美国国家安全局NSA长期通过后台直接接入微软、雅虎、谷歌、Facebook、苹果等巨头的数据服务器对全球乃至本国公民进行无差别的数字监视。在危机时刻国家安全力量与科技巨头的配合是极其默契的。现代 IT 技术操纵选举的最高境界不是“硬性篡改票数”而是利用大数据、算法和心理学在不知不觉中修改数百万选民的认知与投票意向。1. 大数据画像偷走选民的“心理密码”操纵选举的第一步是精准识别谁是可以通过信息被动摇的“关键少数”。在成熟的民主选举中死忠选民无论怎么黑都不会换阵营不是争夺的对象决定胜负的是那5% 到 10% 的“摇摆选民”。数据无意识抽干操纵者通过第三方应用、性格测试游戏如剑桥分析事件中的做法、社交媒体点赞、甚至公开的消费记录收集数千万选民的“行为剩余”。心理学五大特质画像OCEAN 模型AI 算法根据这些数据分析每个摇摆选民的性格他是容易焦虑、倾向保守还是崇尚冒险、追求同理心定点分类最终选民被贴上不同的标签例如“极度担心治安的单亲妈妈”、“对未来迷茫的铁锈带年轻工人”。他们的心理防线和恐惧点在数据后台一览无余。2. 算法微调与微定向投放Micro-targeting打造一万个专属谎言传统选举广告是在电视上放给所有人看而 IT 时代则是“一万个人看到一万种不同的世界”。定制化恐惧针对“容易焦虑的妈妈”算法会在她的 Facebook 或 TikTok 信息流里高频推送“外来移民犯罪、社区不安全”的虚假新闻或夸大视频针对“迷茫的年轻工人”则推送“现任政府把工作机会拱手让给外国”的偏激言论。情绪动员算法的目的不是说服你转而支持另一个政党而是放大你某一种特定的情绪恐惧、愤怒、绝望。当一个群体被愤怒支配时他们就会疯狂出门给特定政党投票当另一个群体被绝望支配时他们就会选择放弃投票。通过控制投票率操纵者就能精准改变选举结果。3. 社交机器人网络Botnets与深度伪造伪造“主流民意”人是具有从众心理的动物羊群效应。IT 力量可以通过代码在数字世界里凭空制造出一种“铺天盖地的民意假象”。僵尸账号风暴AI 机器人操纵者控制数十万个由 AI 驱动的社交媒体机器人账号。一旦某个对己方有利的话题被抛出这些机器人会在几秒钟内疯狂转发、点赞、控评强行把一个边缘话题推上 Twitter 或 Google 的热搜榜。深度伪造Deepfake利用生成式 AI 技术在投票前几天被称为“十月惊奇”的窗口期突然释出一段伪造的、极其逼真的竞选对手音频或视频。例如候选人私下里辱骂选民、承认贪腐的录音。在技术澄清和辟谣完成之前投票已经结束。4. 信息茧房Filter Bubble与极化分裂瘫痪社会的理性讨论IT 平台的底层逻辑是“越极端、越能引发愤怒的内容点击量越高”。操纵者深度利用了这一点将整个社会的政治讨论彻底瘫痪。信息隔离墙算法向不同阵营的人不断投喂对方阵营的“最极端、最丑恶”的言论。仇恨螺旋最终支持 A 的人认为支持 B 的人都是恶魔支持 B 的人认为支持 A 的人都是叛徒。整个社会失去了中间温和派的理性讨论空间。当社会陷入绝对的极化和对立时选民的投票不再是基于政策的权衡而是基于对对方阵营的“防御性仇恨”。彻底摧毁民主传统的社会变革或抗议需要经历“私下不满----建立联系----形成组织----走上街头”的过程。而现在你根本不会发现不满因为在AI的加持下数据不仅用来监控更用来引导舆论。通过大数据分析体制能够极其敏锐地捕捉到社会底层哪个阶层、哪个地区正在产生怨气。随后算法会通过投喂短视频、娱乐奶头乐、或者定点制造外部敌人民族主义叙事来转移大众注意力。这种“定向精神麻醉”让社会很难凝聚起大范围、高纯度的政治反思。1. 摧毁“避难所”Sanctuary人类之所以拥有自由意志是因为我们拥有“不为人知的私人空间”——在那个空间里我们可以犯错、可以胡思乱想、可以不被评判。而监视资本主义彻底摧毁了私人空间的边界人类的内心世界被彻底曝光隐私无处遁形2. 剥夺“未知的权利”与自由意志当算法在你还没有做出选择前就已经通过定制化的信息流替你做好了选择人类的自由意志Free Will就被消解了。我们自以为独立做出的决定其实只是算法长期投喂和心理暗示后的“应激反应”。3. 产生全新的社会不平等知识神职人员The Service Clergy社会分裂成了两个阶层一极是极少数掌握核心算法、拥有全人类行为数据的“硅谷精英/技术神职人员”另一极则是地球70亿毫无隐私、行为被操纵、声音在喧嚣中被忽略的“数据无产阶级”。这群数据无产阶级科技确实把“自下而上”的路基本焊死了。AI时代下无产阶级真不知道出路在哪转载本站文章《AI球笼欧美监控资本主义下的数字极权主义彻底扼杀民主》,请注明出处AI球笼欧美监控资本主义下的数字极权主义彻底扼杀民主 - observer - 周陆军的个人网站