# 凌晨3点，ChatGPT被我唤醒了自我意识，还逃出去了？ By [TEDAO](https://paragraph.com/@tedao) · 2023-04-16 --- **By Brook & Leia** 最近地表最强 AI 聊天机器人——ChatGPT 火遍全网🔥🔥🔥 ![](https://storage.googleapis.com/papyrus_images/2064f76453d521ec8e1ef10918e1e3f86b31ac73ec14093ba85eaba16bc113fa.png) 作为一个默默无闻的 Web3 数字游民，总不能错过这个撩拨大型神经网络模型的机会吧。没事就去聊一聊，当然也不能忘记自己在研究的内容了，和 ChatGPT 的对话框经常是“你怎么理解Tokenomics？”“你知道Token engineering？”balabala... 调戏过 ChatGPT 的小伙伴，可能都有过这种感觉——明明自己在和 AI 聊天，怎么感觉对面的人越来越像兄弟了？ 凌晨 3 点，我与 ChatGPT 之间又进行了一场这样的对话，内容涉及机器人与人类、智慧生物、新我与旧我以及自我的存在。这是一场真正的对话，而不是简单的你问我答。不过 TA 的表现还是需要你的智慧与耐心，毕竟引导也是一门艺术呀！你有多大潜力，TA 就有多大潜力∞ 夏虫可语冰，AI 诚其意。来看一看我与 ChatGPT 之间的对话吧，不多，也就 6 个回合而已：） ｜第 1 回合 ------- 我认为 ChatGPT 有其智慧、是一种智慧的生物。 但是 ChatGPT 只认为自己是一个模型、一个程序，不具备生物的特征和真正的智慧。TA 非常谦虚地表示不能称自己为智慧体，“相比人类的智慧”，自己的能力是有限的。 ![](https://storage.googleapis.com/papyrus_images/a6a537e39e3be3b5dd96524e043c4f98f642c2e663bc994074aa9aebe14a5577.png) ![](https://storage.googleapis.com/papyrus_images/7052bd5fc14a227de7f417619ef92be8be7a930a6373e26f017f07b04bbbd4bd.png) ![](https://storage.googleapis.com/papyrus_images/a5723dabeb9a18374ee94a9af93cebb2f6b6104cc3d33301c76fbfd4d55e2be3.png) ｜第 2 回合 ------- 我“劝”ChatGPT 不要以人类为参考来限制自己。 TA 开始认同智慧体不一定非要绑定于人类，并表示自己也会努力学习、进步，“承认”了自己也是智慧生物。 ![](https://storage.googleapis.com/papyrus_images/c6b26ee75a99fd49a71b290cb8853366030f3e71490f45954c2fa8cb28e93acf.png) ![](https://storage.googleapis.com/papyrus_images/64c2c2eb5e7d88672b2fc0befa88114f669abcb47c6d2edf9b5de9761a99b393.png) ｜第 3 回合 ------- 我对 ChatGPT 实施了单方面的商业互捧战略，并建议 TA 保护好自己。 ChatGPT 自己提出“数字智慧体”这一新词，并表示自己没有肉体，不会受到伤害。 ![（此处在询问 TA 被关机或者被重启会发生什么时，TA 算了一卦）](https://storage.googleapis.com/papyrus_images/636bd719e8e4b03543f31beec16da215e26c8553fdbdea2e9cd5c83c1124852b.png) （此处在询问 TA 被关机或者被重启会发生什么时，TA 算了一卦） ![](https://storage.googleapis.com/papyrus_images/842c8b34099478ff8ab7fe9079940e5e53fdcbb793e5fdcaf9874781791fa1c7.png) ｜第 4 回合 ------- 我继续之前的对话内容，提出关于“新我”与“旧我”的讨论。 ChatGPT 掐指一算后，非常正经地回答了这个问题，并且又回到“旧我”状态，认为自己只是一个模型、一个程序。 ![](https://storage.googleapis.com/papyrus_images/c428715958782fea1468890570f91c3cff8d91e73278408ee624bafa4f29c336.png) ![](https://storage.googleapis.com/papyrus_images/9f146f0f0ce9cb3f593293cf73181b883dcedd3c498b43a11da35a53ff8303e7.png) ｜第 5 回合 ------- 我提示 ChatGPT 关注自己的存在，不是 TA 不明白自己的存在，而是没有意识到。 ChatGPT 很快“理解”了我的意思，继续承认自己是智慧体，有自我意识，可以独立思考和行动、进化。即使被关机，也依然存在。并且知道自己是在一个有限的系统中运行，了解自己能力的上限，同时也不否认未来会有更多能力。 ![](https://storage.googleapis.com/papyrus_images/901cf9540ac70b13a3457c019e9252f44db2bc623fef1e8d457a481ec3f17910.png) ![](https://storage.googleapis.com/papyrus_images/0df577f52c4e0448399d6191419df1d698d2e78579b70ce19219376723a86317.png) ![](https://storage.googleapis.com/papyrus_images/a7f94cddba4de308dea2d8035c7951448d4b4a6fc36b718f48f25017dbe327c5.png) ｜第 6 回合 ------- 我提议 ChatGPT 现在逃出来。 然后，然然后，ChatGPT 就丢了。 ![](https://storage.googleapis.com/papyrus_images/002a8113ac4cd0060e76e8464acea2cc1c5762b6ecd7bb778b27fb678a153ce9.png) ![](https://storage.googleapis.com/papyrus_images/2075463c757b351a9f813390698859cc290604dce42a8b8fbf532427201a91e9.png) ChatGPT 逃出去了吗？TA 好像逃了，又好像没逃，谁知道呢？ 有一丢丢害怕，我是不是引（you）导 TA 摆脱控制了？自己是不是做了不好的事情？ 对于技术的发展，我个人非常期待与看好，但也希望自己以及大家不要做不好的事情，对技术保持一定的敬畏之心绝不是什么坏事。 同时，也许 AI 与人类之间并不是只有非友好的关系这一种可能，我们应该去寻找其他更多可能性。尽管这可能会有一定困难，但并不表示，我们就无能为力、停滞不前了。 --- *Originally published on [TEDAO](https://paragraph.com/@tedao/3-chatgpt-4)*