ChatGPT 一些资料

背景

技术原理

参考资料

ChatGPT 和 character.ai 的区别

character.ai 是由两名谷歌前员工 Noam Shazeer 和 Daniel De Freitas 创建的,和 ChatGPT 比较大的区别在于底层的实现技术上。

ChatGPT 是 OPENAI 这家公司提供的服务(微软是其金主爸爸),OpenAI 这家公司成立很早(2015 年)。ChatGPT是一种优化对话的语言模型,它以对话方式进行交互,既能够做到回答问题,也能承认错误、质疑不正确的前提以及拒绝不恰当的请求,能以更贴近一般人的对话方式与使用者互动,甚至能根据你的提问形成回答文本

character.ai 使用的是 LaMDA,ChatGPT 使用的是 GPT体系的。LaMDA不同于其他语言模型,因为它训练的是对话,而不是文本。ChatGPT专注于生成语言文本,LaMDA专注于生成对话。

LaMDA:large language models that are trained to parrot speech by consuming trillions of words of text scraped from the internet. These models are being designed to summarize text, answer questions, generate text based on a prompt, or converse on any topic.

1、都是大型语言模型,可以模拟人类语言和对话并回答范围广泛的问题。都是属于大数据、机器学习的范畴,在底层实现方法上有所区别 ,LaMDA 的理解颗粒度更细;都有连续对话的能力;

2、在已知范围内,LaMDA 测试过的最大模型的非嵌入参数量低于 GPT-3(也就是说在数据量上 ChatGPT 是更丰富);

3、LaMDA 更像位倾听者和提供侧面帮助的AI,而 ChatCPT 在运用对话程序的同时帮你把问题到你前面,这都基于构建时提供的数据。

4、本质上,目前无论是 character.ai ,还是 ChatGPT,它们都并不理解语言,只是按概率将语言的要素排列组合。【所以,无论是哪个 character 的回答,听从自己内心的想法,进面做出决定更重要。】

In June, a Google engineer who had been safety-testing LaMDA, which creates chatbots designed to be good at conversation and sound like a human, went public with claims that the AI was sentient. (Google said it found the evidence did not support his claims.) Both LaMDA and Character.ai were built using AI systems called large language models that are trained to parrot speech by consuming trillions of words of text scraped from the internet. These models are being designed to summarize text, answer questions, generate text based on a prompt, or converse on any topic.