1.从互联网和数字化革命说起
传统意义上的数字化道路旨在解放生产力和思想。早在1996年John Berry Barlow便在其《网络独立宣言》一文中宣布，网络空间形成的数字化现实是一个独立、自由、平等和自治的新世界，不受任何国家政府的统治或压迫。Barlow在文中讲数字革命的先驱们与美国独立战争中的英雄人物进行类比，并称其为“拒绝权威，强调自治精神的自由主义人士”。然而，在数字化进程接下来几年的发展中，我们已步入了一个与当年强调自由和自治的数字化乌托邦相去甚远的处境中，互联网和信息技术正在为新型压迫手段，并明显地威胁到了即存的民主。
2010年期间的阿拉伯之春就是一个范例：互联网和社交网络为民众提供了相互间通讯的基础设施，赋权于民众，且当局无法有效控制。在突尼斯，Facebook成为了当地的“革命指挥中心”。在埃及，互联网则作为线上青年革命运动的孵化器，用于组织和发动抗议运动。然而在起义4年后，埃及局势发生了明显的转变，埃及军政府于2014年开始将”社交网络安全威胁监管系统“投入运营，进而实现相较于往届专制政府更加有效的针对于公民行踪和社交言论的监管机制。
除了政治层面民主制度和公民自治的社会规则被数字化手段破坏之外，数字化也将致使个人自主选择权和自由意志的消失。不同于谬误信息和谣言带来的影响，信息过载和信息的过度获取对公民自由具有更大的威胁。一个数字化的，基于过量收集公民现实数据的社会，可能形成新型的数字化极权主义。缺少事实依据和理性判断的后真相时代所存在的问题可能是数字化极权主义社会中最次要被考虑的因素。相反，当一个社会的基本社会主体间信任彻底被消除，以现象和信用评分机制取而代之，同时政府从数据驱动角度出发控制信息传递，则是一个更令人担忧的趋势。而这一切，正在中国上演。
2.中国式圆形监狱
圆形监狱本为英国哲学家、法学家和社会改革家Jeremy Bentham于1785年提出。该建筑由一个圆形大厅组成，其中间设有百叶窗检查室。这种设计允许一个警卫监视该监狱的所有囚犯，而囚犯则不知道自己是否受到监视。尽管单一警卫不可能在同一时刻观察所有囚犯的牢房，但囚犯不知何时会受到检查，只有假设自己无时无刻不被监视，因此他们被有效地强迫自己规范自己的行为。
2014年，中国国务院宣布开展社会信用体系建设工作，官方名义上宣称是为了“培养社会诚信，宣扬社会诚信文化”，并认为这是朝向“社会主义和谐社会”和“文明进步”所迈出的重要一步。该系统如今已初步建成，2020年起，中国公民和企业将被强制性参与其中。在测试期间，项目负责方便描绘了时下和未来将发生的事：数字革命使监视社会成为可能，通过不断施行系列奖惩措施将公民行为限定在设想框架下。
中国信用体系的根基是一套评级系统，每个公民和公司都有一个社会信用积分账户，分数将决定个人或公司的可信度，个人信用评分将借助大量公民数据进行AI自动判定。数据来源包括：银行等金融机构、商店、公共交通系统、互联网平台、社交网络和电子邮箱账户。除此以外，超过5.7亿台集成人脸识别功能的监控设备也在2020年投入使用。这一系列的数字化和互联网使得收集庞大数据成为可能，监控设备也实现了全天全方位无盲区的覆盖。
Bentham曾言道：“监视有助于对被监视者开展行为约束”。而中国目前所建立的监控、登记、通缉和对行为的奖惩，是一种有效的公民约束工具。这套机制被逐渐推广至监狱、学校、医院、工作场所、军队等机构和组织，并在全社会广泛运行，以实现当局预期下的遵守规矩的公司主体和个人。在这套全景式监督框架下，慈善捐赠、社区服务等行为将成为积分奖励，而旅行逃票、违规驾驶等行为将会被扣分。芝麻信用是社会信用体系的另一个运行版本，其中的附加功能包括了个人在社交网络中的朋友，因为朋友的分数反应了个人的信用水平，进而鼓励将个人的关系限制在被信用机制认定为值得信赖的群体中。同时，举报他人的信用违规行为也可受到奖励。
在当下的中国，每个社交网络平台均有相应的用户个人积分，用户的权限和行为受到积分的严格约束。在个人不具备自由表达言论的条件和理性讨论的能力时，举报便成为了表达个人不满的仅有方式。不仅如此，在多元化被严重侵蚀的过程中，思想愈发单一，言论愈发两极化，最终演变成单调的极端言论输出和非此即彼的阵营站队。舆论阵营间不会关注彼此观念上的合理性，而是以检举、揭发、网络暴力等行为进行宣泄。
中国的信用体系项目也许有助于促成所谓“和谐”社会的达成，但也需要付出相当的代价：实现了一个集全主义国家，政府按照自身意志对公民进行监控、注册登记、重塑，个体必须完全服从，毫无多余独立思考的空间，连任何犯罪行为也被彻底铲除了。这样的效果，恐怕《1984》小说中的政府领导人都会些许羡慕。Big brother式的控制方法在中国的实施状况更类似于《美丽新世界》，通过社会信用体系形成的奖励机制进一步诱发对于所谓的幸福和成功的渴望，而非完全如同《1984》书中描述的那样，充满了恐怖和暴力的旧式极权主义。糖衣炮弹式的控制方法是有效的，也成功破坏了中国境内个体的理性思考能力，瓦解了批判精神，让个体丧失了自主、自觉。
可是这一切的发生，远不止在中国而已。中国国务院并非唯一一个意图通过数字化手段实现全方位社会监控的政府。数字化极权社会不一定必须以专制政府的诉求作为其发展的原动力，事实上，在一个用户信息和数据使用不被监管的市场中，商业主体对于利润的追求动力便可以引发相应实践。在民众生活中，谷歌公司在公民生活方方面面进行殖民话、商业化、货币化的工作上一直处于领先地位。
3.监视资本主义
在中国启动社会信用体系建设同年，谷歌首席经济学家Hal Varian在硅谷发表的演讲中讲述了数据提取和大规模存储能力结合所带来的巨大机遇。演讲揭示了一个监视资本主义的未来愿景，愿景并未给给出比中国更多的个人隐私空间。对于Varian来说，个人隐私的消解是换取社会秩序与和谐的合理代价，牺牲隐私也可以换来用户体验上的服务个性化和产品定制化。为了实现科技巨头的愿景，便需要更多的监控、数据挖掘和信息获取。正如谷歌创始人Larry Page所说，“谷歌应该在你开始提问之前便预知你需要什么，并且告诉你”。
与中国政府不同的是，谷歌没有一个扩展的监控摄像网络进行数据收集，没有将线上和线下生活进行融合，并最终体现在全线上管控和治理的层面，毕竟谷歌的产品对于用户来说也不是完全不可替代的。尽管如此，依然有越来越多的必要数据可通过物联网设备进行访问。随着智能穿戴设备、智能家居等产品的普及，我们的生活越来越嵌入进一个基于各类传感器精细粒度的感应能力所构建的网络中。为了换取所谓的便捷性和用户体验的优化，我们正在逐渐牺牲私人空间，最终形成了一个商业全景式的监狱而不再有任何私人空间的遗留。即便在这套机制中，商业主体不会强制性地要求公民进行购买，但是公民也无法选择退出。如今，互联网深深根植于现代社会和公民的社交生活、经济发展和政治活动。并且很确定的一点是，如果个体不涉及任何数字基础设施，那么其接下来在接受教育、寻找工作、获取收入、参与政治、开展社交活动等一系列行动中将面临重重障碍。随着物联网和智慧城市的发展，只有逃离至荒郊野岭才有可能是全面摆脱监控的唯一选择，然而对于普通人来说这完全不现实。
在对现代社会的图景进行上述描述的同时，我们也可以看到其实谷歌仅是众多该类企业中的一家。基于数据挖掘展开的商业模式已经成为初创企业的必选项和标准商业模式，这一景象与19世纪的美国淘金热有着异曲同工之处：参与主体们都希望在数据资产中获得一杯羹。于是公民被剥夺了其行为产生的数据，并无法掌控数据创造的价值。如今中国的数据要素市场建设提议中仅仅关注的是流通数据的类型、流通场所、定价机制等问题，而对于数据最终的所属权本身却鲜有讨论。无形中，政府在推进数据要素市场建设过程中，完成了公民个人数据和企业数据的双重公有化。数据一旦交由政府，任何主体便不再拥有对其数据的掌控权，而经由数据产生的价值，也将仅限于政府和少数商业主体间进行利益分配。
4.预测即利润
数据在汇集成大数据后可产生价值的主要原因是提供了预测能力，包括行为预测、趋势预测、情景预测等。数据可被用来描绘过去、当下和未来。详细来说，可以根据数据进行风险评估、未来销售额测算、收益和费用的计算、交易趋势预测、营销效果复盘等，并可用来优化当前工作。如果能够通过计算得知未来行为，便可以从中获利：未来某个时间段的股价可以到多少？一个人生某种病的可能性多大，保费风险和收入如何精算？哪些广告可以说服受众购买产品？归根结底：未来利润如何最大化。倘若在一个不具备公民权益有效保护的数据自由流通的市场中，传统金融机构很有可能会越来越接近一个中国式的社会信用体系机制：即金融信用和社会信用之间的差异被消除，数据的使用变得毫无节制。比如，保险公司类型的机构将会破坏保险产品风险分担的基础性原则，最需要被保险补偿的人将无法获得保险。
5.预测即力量
预测即力量，这个道理非常简单，假如一个人能预测未来，这个人便能影响和改变未来，并因此获益。预测变化是精准营销的核心，营销的成功提现在成功将客户的行为改变，并因此产生商业和政治利益。心理分析作为一种能够产生影响力的知识，将公民的大部分生活行为都框定在特定范式下，人的行为无时无刻不受到即时的、无意识的、非自愿的心理操纵的支配，使得人更多的受到情绪的控制，而非传统意义上作为理性人对于其行为的控制，正如韩裔哲学家韩炳哲所形容的那样：既然大数据可以预测人类的反应，那么大数据也有能力将人变成提线木偶。大数据的预测能力有助于实现当局的统治和意志的传达。当大数据在人为意识到的情况下操作人的心理时，这便意味着本质上大数据终结了人的自由意志。 如果这种数据驱动下的对于公民自由意志可以完全消除，公民的行为可以完全预测和完全控制，那么数字化则完全不是如当初所声称的那样解放自由，而是成为极权主义的组成部分。
6.通往极权主义之路
Hannah Arendt认为，极权主义的目标是绝对的、无限的权利，这种权利要求公民在其生活的各个方面都要受到支配。然而，这个野心存在的最大障碍体现在个体天然存在的自主性、创造性和自由性，人是天然存在不可预测性的。这意味着为了实现集全，人的不可预测性必须被消除，将人简化到通过可控的刺激条件便进行对应反馈的状态，已实现集全所需要的可预测性。因此，极权主义对于人类的理解与行为主义想通，即：刺激——反应。随着数字化步伐加速，新的数字技术不断被开发和应用，我们可能正在走向数字极权主义：通过数据驱动的工具进行公民的行为控制，最终完全消除公民的自治和独立判断能力。
早在数字革命之前，Arendt就已经表达的相关忧虑，她认为：我们正在走向与解放和自由相反的方向。现代行为主义理论的问题不在于其是错误的，而在于行为主义的构想恰恰是对现代社会整体趋势的最佳概念化描述。现代社会可能始于人类充满希望和探索行为的爆发，以最致命、最贫瘠的被动历史告终。
随着数字化的开展和用户数据的市场化，这种担忧并减少。传统意义上的极权主义特点是消除国家与公民社会间的区别，政府全面掌控社会生活的方方面面。Carl Schimdt也曾说过，全面国家拥抱其社会内部的每个领域，结果必然是一切都将成为潜在的政治问题。最终，政党、政党所代表的政府，完成了对社会的全方位渗透。
以游戏化和奖惩机制为操控方式的管理范式是中国国务院和硅谷科技公司的共同使命。在中国，为了“诚信”，为了守规矩，为了和谐社会。在硅谷，为了利益。如果数据经济中没有监管、限制和公民保护，企业极权主义的变种则很有可能出现。企业极权主义即为社会治理和盈利目标完全相互渗透，一切都变得有利可图。除了市场之外的范畴都是没有价值的，只有市场价值。如果公民生活的各方面都被市场化和商品化，那么作为创造利润的原材料和市场本身的商业领域就会变得包罗万象。与自由主义者所认为的市场监督减少而个人自由和独立判断能力可以增加的判断完全不同，市场原教旨主义在数字化时代会带来新型极权。从公民个体角度来看，在一个不受监管的数据和信息市场中，众多商业主体相互竞争，终局无异于中国的数字极权体系。
技术进步不一定是人类的进步，它可能适得其反。尤其是在不知道事物全价的情况下，在线所谓免费的东西，也会变得十分昂贵。这会让我们失去民主、失去独立判断，最终失去自由。
