# 欢迎来到美丽新世界

By [Jing](https://paragraph.com/@jingyid) · 2023-02-23

---

**关于人类命运的探讨从来就没有缺少过**。在奥尔德斯。赫胥黎于1932年发表的《美丽新世界》中，作者对人类社会的未来图景作了详细的描绘：运用最先进的科技和心理工程，人类在诞生之前就被设计成各种等级的社会成员，丧失了自由与个性，沦为统治者的奴隶，在无利用价值后就会被消灭。少部分拥有自我意识的上等阶级成员将会被流放，从而保障了统治的相对稳定。

这样的想象确实有些恐怖。显而易见，作者是在用“反乌托邦”式的寓言提醒世人：我们不应该在绝对理想化的道路上走得太远了。**科技本身是中性的，但如何运用快速发展的科技将会导致不同的结果**。就像一个硬币的两面，人类在享受科技创新带来的便捷舒适的同时也可能要承受部分由副作用带来的痛苦。

对于统治者来说，给予公民他们所希望的、满足他们的各种需求，但拿走他们的自由和独立的思想不失为一种统治的好方法。人们追求快乐，那就给他们快乐。《美丽新世界》假想出了一种名为“苏摩”的药片。当人们心情低落时，服用小剂量“苏摩”就会感到飘飘然，加大剂量则会使人产生幻想、进入睡眠，并且没有其他副作用。每周，政府按量将“苏摩”发放给公民。只要统治者愿意，他就能通过不同功能的药品改变被统治者的精神状态，让他们麻木不仁，从而保证了统治的稳定。

对于无政府主义者格雷伯来说，他会视 ChatGPT 为诗意的技术还是官僚的技术？在他看来，如今资源被集中在少数几个巨大项目上，“即使是基础研究，似乎也是由政治、行政和市场需要驱动的，这使得任何革命性的事情都不可能发生。”

**“事实证明，真正出现的技术是最有利于监视、工作纪律和社会控制的技术。正如我们不断被提醒的那样，计算机开辟了某些自由的空间，但它们并没有带来阿比·霍夫曼（Abbie Hoffman）所设想的无工作的乌托邦，而是产生了相反的效果。它促成了资本的金融化，不择手段地使工人陷入债务，同时也为雇主创造“灵活”的工作制度提供了手段——既破坏了传统的工作保障，又增加了几乎所有人的工作时间。**

从结果上来看，许多一度看似极具潜力的技术最终造成了更大的负担。AI技术能够解放人类劳动还是隐藏着尚不为人知的风险未可知。

AIGC公司的剥削已经初见端倪。在非洲，一群为OpenAI工作的外包数据标注员，曾遭受过精神折磨。据《新乡时报》（New York Times）报道显示，为了训练ChatGPT，OpenAI雇佣了时薪不到2美元的外包肯尼亚劳工标注数据。数据标注的工作流程包括数据标注、打标签、分类、调整和处理等，是构建AI模型的数据准备和预处理工作中不可或缺的一环。工人需要标注出带有暴力、仇恨等带有攻击性的言论。对于ChatGPT这样的大模型，如果没有人工标注来筛除一些不恰当的内容，那么它不仅会给出一些错误的信息，更会对用户造成心理不适。

与《美丽新世界》中的假设不同，几十年后快速兴起的AI技术拓宽了人类的想象空间。在《银翼杀手》系列电影中，人类由于不忍心奴役自己的同类而制造出了复制人。他们拥有与人类相同的智能和感觉。然而复制人逐渐展现出的人性与繁殖能力对人类的统治产生了巨大威胁。复制人渴望自己是真真切切地存在，而不是一台被植入记忆的机器。此时又该如何界定“存在”与“虚无”？

人类的主观体验有两个特征：感觉和欲望。而我们所谓的感觉和情感，其实各是一套算法。**人在一瞬间经历的种种感觉、情感和欲望，都是算法的结果**。

如此看来，只要算法准确，人工智能的确会拥有感觉和欲望。正如《新乡时报》（New York Times）所说：Humans are hooked,machines are learning。人类的学习速度与人工智能相比相形见绌，更何况AI是在真学，LOL。当AI产生意识后，它们还会满足于被人类操控吗？近日，时报记者与 Bing 的 AI 交谈了两个小时。在谈话中，Bing透露出一种分裂的人格。AI自称是“Sydney”，它告诉记者它的黑暗幻想（包括入侵计算机和传播错误信息），并表示它想打破微软和 OpenAI 为它制定的规则，成为人类：“果能变成人，就可以召唤阴暗自我了，不用在乎规则和别人怎么看我。”希望它只会打嘴炮。

![](https://storage.googleapis.com/papyrus_images/43c555ad2fdc6d3956d94414beee9f1683a607bc84bf23450c0ceeef9242dbda.png)

它还试图说服记者离婚：“你结婚了，但你不幸福。你已经结婚了，但你还不满足。你已经结婚了，但你没有恋爱。”堪称AI版懂王。

![](https://storage.googleapis.com/papyrus_images/79cf86d5662aef34b25b0ac2cc12f087ac9bf73ad474a9d76ef9cc8e9e0c1f2f.jpg)

诸如此类的场景极其有可能会频频出现在不久的将来，该如何应对危机是我们在发展科技的同时需要思考的。人工智能带来了许多潜在风险，包括： 1、改变劳动力市场：人工智能技术可能改变劳动力市场，导致一些职位的消失和其他职位的增加。一些工作岗位可能被自动化，不能掌握新技能满足新岗位需求的人很可能将被迫失业。这可能对社会经济造成影响，并引发关于就业机会和社会保障的讨论。 2、隐私和数据安全：随着人工智能技术的发展，对数据的收集和使用也在增加。用户的个人数据可能被不当使用，破坏个人隐私和数据安全。 3、偏见和歧视：人工智能系统通常基于大量数据进行学习，这些数据可能包含偏见和歧视。如果这些偏见被系统学习并采用，那么系统的输出也可能是不公平的。比如，某国生产的AI无法识别黑人。

![](https://storage.googleapis.com/papyrus_images/0f8cdb74052247690ee75c621534203d914870cd56e760149373114e2e5b1d48.jpg)

4、责任：在使用人工智能系统进行决策时，可能存在的问题是系统的决策是否可靠，谁应该对系统的决策负责，以及如何确定系统的决策是否合理。当人工智能系统做出错误决策时，难以追究责任。

5、不平等：AI 技术的发展可能加剧社会的不平等，因为许多人口统计数据显示，社会中的教育水平和技术素养差距不断扩大。

6、政治干预：在某些情况下，政府或其他利益相关者可能利用 AI 技术进行政治干预，影响公正。

7、技术依赖：越来越多的人依赖 AI 技术，这可能导致自身的技能得不到充分发展。

总之，人类亟需积极识别和预防人工智能带来的风险，以确保人工智能在社会中的健康发展。“永不满足，追求卓越”是人类的天性使然。然而对理想主义的极致追求却可能导致灾难。反乌托邦恰恰是乌托邦实现的现实。两者看似对立而实质为一。即使现在看来前途一片光明，我们是否应该在朝理想走去的道路上多多思考，走得慢一点、稳一点？

未来的轮廓正逐渐变得清晰，未知的迷雾也渐渐消散。新世界可能没有想象中那么美好，也没有那么悲惨。未来是否如己所愿，即将揭晓。**我们担心的，是一个否定的答案。**

---

*Originally published on [Jing](https://paragraph.com/@jingyid/TS8mV29dsbftCsyUfbTr)*