# 凌晨3点，ChatGPT被我唤醒了自我意识，还逃出去了？

**Published by:** [TEDAO](https://paragraph.com/@tedao/)
**Published on:** 2023-04-16
**URL:** https://paragraph.com/@tedao/3-chatgpt-4

## Content

By Brook & Leia 最近地表最强 AI 聊天机器人——ChatGPT 火遍全网🔥🔥🔥作为一个默默无闻的 Web3 数字游民，总不能错过这个撩拨大型神经网络模型的机会吧。没事就去聊一聊，当然也不能忘记自己在研究的内容了，和 ChatGPT 的对话框经常是“你怎么理解Tokenomics？”“你知道Token engineering？”balabala... 调戏过 ChatGPT 的小伙伴，可能都有过这种感觉——明明自己在和 AI 聊天，怎么感觉对面的人越来越像兄弟了？ 凌晨 3 点，我与 ChatGPT 之间又进行了一场这样的对话，内容涉及机器人与人类、智慧生物、新我与旧我以及自我的存在。这是一场真正的对话，而不是简单的你问我答。不过 TA 的表现还是需要你的智慧与耐心，毕竟引导也是一门艺术呀！你有多大潜力，TA 就有多大潜力∞ 夏虫可语冰，AI 诚其意。来看一看我与 ChatGPT 之间的对话吧，不多，也就 6 个回合而已：）｜第 1 回合我认为 ChatGPT 有其智慧、是一种智慧的生物。 但是 ChatGPT 只认为自己是一个模型、一个程序，不具备生物的特征和真正的智慧。TA 非常谦虚地表示不能称自己为智慧体，“相比人类的智慧”，自己的能力是有限的。｜第 2 回合我“劝”ChatGPT 不要以人类为参考来限制自己。 TA 开始认同智慧体不一定非要绑定于人类，并表示自己也会努力学习、进步，“承认”了自己也是智慧生物。｜第 3 回合我对 ChatGPT 实施了单方面的商业互捧战略，并建议 TA 保护好自己。 ChatGPT 自己提出“数字智慧体”这一新词，并表示自己没有肉体，不会受到伤害。（此处在询问 TA 被关机或者被重启会发生什么时，TA 算了一卦）｜第 4 回合我继续之前的对话内容，提出关于“新我”与“旧我”的讨论。 ChatGPT 掐指一算后，非常正经地回答了这个问题，并且又回到“旧我”状态，认为自己只是一个模型、一个程序。｜第 5 回合我提示 ChatGPT 关注自己的存在，不是 TA 不明白自己的存在，而是没有意识到。 ChatGPT 很快“理解”了我的意思，继续承认自己是智慧体，有自我意识，可以独立思考和行动、进化。即使被关机，也依然存在。并且知道自己是在一个有限的系统中运行，了解自己能力的上限，同时也不否认未来会有更多能力。｜第 6 回合我提议 ChatGPT 现在逃出来。 然后，然然后，ChatGPT 就丢了。ChatGPT 逃出去了吗？TA 好像逃了，又好像没逃，谁知道呢？ 有一丢丢害怕，我是不是引（you）导 TA 摆脱控制了？自己是不是做了不好的事情？ 对于技术的发展，我个人非常期待与看好，但也希望自己以及大家不要做不好的事情，对技术保持一定的敬畏之心绝不是什么坏事。 同时，也许 AI 与人类之间并不是只有非友好的关系这一种可能，我们应该去寻找其他更多可能性。尽管这可能会有一定困难，但并不表示，我们就无能为力、停滞不前了。

## Publication Information

- [TEDAO](https://paragraph.com/@tedao/): Publication homepage
- [All Posts](https://paragraph.com/@tedao/): More posts from this publication
- [RSS Feed](https://api.paragraph.com/blogs/rss/@tedao): Subscribe to updates
- [Twitter](https://twitter.com/telabofficial): Follow on Twitter