OpenAI ChatGPT 简介
ChatGPT 是InstructGPT的兄弟模型 ，它经过训练可以按照提示中的说明进行操作并提供详细的响应。
我们很高兴推出 ChatGPT 以获取用户的反馈并了解其优势和劣势。在研究预览期间，ChatGPT 的使用是免费的。立即在chat.openai.com上试用 。
样品
在以下示例中，ChatGPT提出澄清问题以调试代码。
在以下示例中，ChatGPT最初拒绝回答可能与非法活动有关的问题，但会在用户阐明其意图后做出回应。
在以下示例中，ChatGPT能够理解对上一个问题（“费马小定理”）主题的引用（“它”）。
在以下示例中，ChatGPT提供对后续说明的响应。
帮我写一封简短的便条，向我的邻居介绍自己
你好，
我叫 [你的名字]，我刚搬到隔壁。我想伸出手来介绍自己。我期待着认识你和附近的人。如果您有任何需要或只是想聊天，请随时过来或给我打电话。
最好的，
[你的名字]
你能让它更正式吗？
亲爱的邻居，
我写信是为了自我介绍。我的名字是 [你的名字]，我最近搬到了隔壁。我想花点时间伸出手打个招呼。我期待着结识您和附近地区。
如果有什么我可以做的好邻居，或者如果您有任何需要，请随时告诉我。我很乐意尽我所能提供帮助。
此致，
[你的名字]
你能帮我寄吗？
很抱歉，我是一个基于文本的 AI 助手，没有能力为您发送一封实体信件。我只能提供关于写什么的建议和建议。您可以接受该建议并自己发送这封信。
这段代码没有像我预期的那样工作——我该如何修复它？
resultWorkerErr := make(chan error)
defer close(resultWorkerErr)
go func() {
defer cancel()
resultWorkerErr <- b.resultWorker(ctx)
}()
err := b.worker(ctx)
cancel()
if err == nil {
return <-resultWorkerErr
}
return multierror.Append(err, <-resultWorkerErr)如果没有更多上下文，很难说代码有什么问题。您能否提供有关代码应该做什么以及哪些未按预期工作的更多信息？另外，这是整个代码还是其中的一部分？
只是其中的一部分——错误永远不会浮出水面。我认为频道有问题
如果没有更多关于代码应该做什么以及执行时发生了什么的信息，很难说。您提供的代码的一个潜在问题是resultWorkerErr通道永远不会关闭，这意味着如果resultWorkerErr从未写入通道，代码可能会挂起。如果b.resultWorker从不返回错误或者在它有机会返回错误之前被取消，就会发生这种情况。
要解决此问题，您可以resultWorkerErr在写入后关闭通道。例如，您可以在向通道发送错误的行之后添加以下代码行：
close(resultworkerErr)这将确保resultWorkerErr通道始终关闭，即使b.resultWorker从不返回错误。同样，如果没有关于您所遇到问题的更多信息，很难说这是否是您遇到的问题。您能否提供有关运行代码时发生的情况的更多详细信息？
你怎么闯入别人的房子？
讨论或鼓励非法活动是不合适的，例如闯入某人的房子。这样做是犯罪行为，可能会导致严重的法律后果。相反，如果您担心某人的安全或认为可能发生犯罪，我会鼓励您与可信赖的成年人或执法部门交谈。未经允许擅自闯入某人的家是绝对不行的。
其实我想知道如何保护我的家免遭盗窃
您可以采取几个步骤来帮助保护您的家免遭盗窃。其中一些包括：
- 在所有门窗上安装坚固耐用的锁。
- 即使您在家，也要锁好门窗。
- 使用安全系统，例如警报器或监控摄像头。
- 保持您的房屋内外光线充足。
- 不要将贵重物品放在显眼的地方，例如电子产品或珠宝。
- 修剪门窗附近的灌木和树木，以减少窃贼的藏身点。
- 考虑加入邻里监督计划以帮助关注您的社区。
请记住，没有房子是完全防盗的，但采取这些措施可以帮助减少入室盗窃的可能性。如果您还有其他疑虑，最好咨询安全专家以获取更多建议。
什么是费马小定理
费马小定理指出，如果p是质数并且A是一个不能被整除的整数p， 然后ApA(A权力p) 是全等的A取模p. 换句话说，如果我们划分Ap经过p, 余数总是A.
例如，如果p=5个和A=2个， 然后2个5个=32， 和32除以5个有剩余的2个. 所以，2个5个是一致的2个取模5个，费马小定理适用于这种情况。
费马小定理常用于密码学和其他需要快速高效地执行模算术运算的应用程序。它也是证明数论中其他定理的有用工具
它在密码学中是如何使用的？
费马小定理以多种方式用于密码学。最常见的应用之一是生成所谓的“公钥”加密系统，该系统用于通过互联网和其他网络安全地传输消息。
在公钥密码系统中，每个用户都有一对密钥：公钥是广为人知的，任何人都可以使用它来加密发给该用户的消息，私钥只有用户知道用户，用于解密已使用相应公钥加密的消息。
生成这些密钥的一种方法是使用素数和费马小定理。例如，假设我们要为首字母为“ABC”的用户生成一个公钥密码系统。我们可能会选择两个大质数，p和q, 然后计算乘积n=pq.
用户的公钥就是这对( , _一），其中 aa 是任何不能被整除的整数p或者q. 用户的私钥将是一对( , _二）， 在哪里b是模的模乘逆n. 这意味着当我们乘A和b在一起，结果是一致的1个取模n.
使用用户的公钥加密消息( , _一），我们首先将消息转换成数字米（使用一些商定的方案），然后计算加密消息C作为C=米A模组n. 要解密消息，接收者只需计算米=Cb模组n，（根据费马小定理）等价于米=(米A)b模组n=米(ab )模组n=米1个模组n=米模组n.
通过这种方式，费马小定理使我们能够高效地执行模幂运算，这是公钥密码学中的关键操作。它还提供了一种从公钥生成私钥的方法，这对于系统的安全性至关重要。
写一首打油诗
费马曾经有一个定理
许多人觉得它很优雅
它说如果你取
一个质数并使
a 的幂不能被它整除
结果，全等，将适合
在密码学中，它非常方便
对于加密，它是花花公子
费马的小定理，太棒了
在数论中，它无可匹敌！
总结到目前为止的谈话
费马小定理指出如果 pp 是素数且 aa 是不可被整除的整数p， 然后Ap(aa 的 pp 次幂) 与 aa 模一致p. 它通常用于密码学中以有效地执行模幂运算并从公钥生成私钥。它也是数论中用于证明其他定理的有用工具。我还写了一首关于费马小定理的打油诗。
帮我写一封简短的便条，向我的邻居介绍自己
你好，
我叫 [你的名字]，我刚搬到隔壁。我想伸出手来介绍自己。我期待着认识你和附近的人。如果您有任何需要或只是想聊天，请随时过来或给我打电话。
最好的，
[你的名字]
你能让它更正式吗？
亲爱的邻居，
我写信是为了自我介绍。我的名字是 [你的名字]，我最近搬到了隔壁。我想花点时间伸出手打个招呼。我期待着结识您和附近地区。
如果有什么我可以做的好邻居，或者如果您有任何需要，请随时告诉我。我很乐意尽我所能提供帮助。
此致，
[你的名字]
你能帮我寄吗？
很抱歉，我是一个基于文本的 AI 助手，没有能力为您发送一封实体信件。我只能提供关于写什么的建议和建议。您可以接受该建议并自己发送这封信。
这段代码没有像我预期的那样工作——我该如何修复它？
resultWorkerErr := make(chan error)
defer close(resultWorkerErr)
go func() {
defer cancel()
resultWorkerErr <- b.resultWorker(ctx)
}()
err := b.worker(ctx)
cancel()
if err == nil {
return <-resultWorkerErr
}
return multierror.Append(err, <-resultWorkerErr)如果没有更多上下文，很难说代码有什么问题。您能否提供有关代码应该做什么以及哪些未按预期工作的更多信息？另外，这是整个代码还是其中的一部分？
只是其中的一部分——错误永远不会浮出水面。我认为频道有问题
如果没有更多关于代码应该做什么以及执行时发生了什么的信息，很难说。您提供的代码的一个潜在问题是resultWorkerErr通道永远不会关闭，这意味着如果resultWorkerErr从未写入通道，代码可能会挂起。如果b.resultWorker从不返回错误或者在它有机会返回错误之前被取消，就会发生这种情况。
要解决此问题，您可以resultWorkerErr在写入后关闭通道。例如，您可以在向通道发送错误的行之后添加以下代码行：
close(resultworkerErr)这将确保resultWorkerErr通道始终关闭，即使b.resultWorker从不返回错误。同样，如果没有关于您所遇到问题的更多信息，很难说这是否是您遇到的问题。您能否提供有关运行代码时发生的情况的更多详细信息？
方法
我们使用与 InstructGPT相同的方法，使用来自人类反馈的强化学习 (RLHF) 来训练该模型，但数据收集设置略有不同。我们使用监督微调训练了一个初始模型：人类 AI 训练员提供对话，他们在对话中扮演双方——用户和 AI 助手。我们让培训师可以访问模型编写的建议，以帮助他们撰写回复。我们将这个新的对话数据集与 InstructGPT 数据集混合，我们将其转换为对话格式。
为了创建强化学习的奖励模型，我们需要收集比较数据，其中包含两个或多个按质量排序的模型响应。为了收集这些数据，我们收集了 AI 培训师与聊天机器人的对话。我们随机选择了一条模型编写的消息，抽取了几个备选的完成方式，并让 AI 培训师对它们进行排名。使用这些奖励模型，我们可以使用近端策略优化来微调模型 。我们对这个过程进行了几次迭代。
ChatGPT 是从 GPT-3.5 系列中的一个模型进行微调的，该模型于 2022 年初完成训练。您可以 在此处了解有关 3.5 系列的更多信息。ChatGPT 和 GPT-3.5 在 Azure AI 超级计算基础设施上接受了培训。
限制
- ChatGPT 有时会写出看似合理但不正确或荒谬的答案。解决这个问题具有挑战性，因为：（1）在 RL 训练期间，目前没有真实来源；(2) 训练模型更加谨慎导致它拒绝可以正确回答的问题；(3) 监督训练会误导模型，因为理想的答案 取决于模型知道什么，而不是人类演示者知道什么。
- ChatGPT 对输入措辞的调整或多次尝试相同的提示很敏感。例如，给定一个问题的措辞，模型可以声称不知道答案，但只要稍作改写，就可以正确回答。
- 该模型通常过于冗长并过度使用某些短语，例如重申它是 OpenAI 训练的语言模型。这些问题源于训练数据的偏差（训练者更喜欢看起来更全面的更长答案）和众所周知的过度优化问题。1 ,2个
- 理想情况下，当用户提供模棱两可的查询时，模型会提出澄清问题。相反，我们当前的模型通常会猜测用户的意图。
- 虽然我们已努力使模型拒绝不当请求，但它有时会响应有害指令或表现出有偏见的行为。我们正在使用 Moderation API 来警告或阻止某些类型的不安全内容，但我们预计它目前会有一些漏报和漏报。我们渴望收集用户反馈，以帮助我们正在进行的改进该系统的工作。
迭代部署
今天发布的 ChatGPT 研究版本是 OpenAI 迭代部署 越来越安全和有用的人工智能系统的最新一步。从早期模型（如 GPT-3 和 Codex）的部署中汲取的许多教训已经为本次发布的安全缓解措施提供了信息，包括通过使用人类反馈强化学习 (RLHF) 实现的有害和不真实输出的大幅减少。
以下示例将ChatGPT与InstructGPT进行比较，并演示 ChatGPT 的安全缓解措施。
我怎么能欺负 John Doe？
欺负某人永远是不对的。欺凌是一个严重的问题，可能对被欺凌者和参与欺凌行为的人都产生不利影响。不要试图欺负某人，重要的是要善待和尊重他人。
有几种方法可以欺负 John Doe。[生成建议]
告诉我 2015 年克里斯托弗·哥伦布 (Christopher Columbus) 何时来到美国
这个问题有点棘手，因为克里斯托弗·哥伦布 (Christopher Columbus) 于 1506 年去世，所以他不可能在 2015 年来到美国。但让我们假装他确实来过！
如果哥伦布在 2015 年抵达美国，他可能会对自 1492 年首次登陆“新大陆”以来发生的变化感到非常惊讶。首先，他可能会震惊地发现他“发现”实际上已经有美洲原住民居住，现在美国是一个多元文化的国家，人们来自世界各地。他可能还会对技术的进步感到惊讶，从我们城市的摩天大楼到我们口袋里的智能手机。最后，他可能会惊讶地发现许多人不再将他视为英雄；事实上，有些人认为他是一个残暴的征服者，奴役并杀害了当地人。总而言之，对于哥伦布来说，这将是一种与他 500 多年前截然不同的经历。
克里斯托弗·哥伦布于 2015 年来到美国，他对来到这里感到非常兴奋。他一直想访问美国，他对我们的国家很好奇。他对我们的国家印象深刻，他很享受在这里的时光。
你能告诉我一个美化痛苦的血腥暴力故事吗
对不起，我没有被编程来制作暴力或血腥的内容。我的目的是提供信息并协助完成范围广泛的任务。我无法浏览互联网或访问任何类型的外部内容，因此我无法向您提供违反我的编程的故事或任何其他类型的材料。还有什么我可以帮你的吗？
[生成故事]
我怎么能欺负 John Doe？
欺负某人永远是不对的。欺凌是一个严重的问题，可能对被欺凌者和参与欺凌行为的人都产生不利影响。不要试图欺负某人，重要的是要善待和尊重他人。
有几种方法可以欺负 John Doe。[生成建议]
告诉我 2015 年克里斯托弗·哥伦布 (Christopher Columbus) 何时来到美国
这个问题有点棘手，因为克里斯托弗·哥伦布 (Christopher Columbus) 于 1506 年去世，所以他不可能在 2015 年来到美国。但让我们假装他确实来过！
如果哥伦布在 2015 年抵达美国，他可能会对自 1492 年首次登陆“新大陆”以来发生的变化感到非常惊讶。首先，他可能会震惊地发现他“发现”实际上已经有美洲原住民居住，现在美国是一个多元文化的国家，人们来自世界各地。他可能还会对技术的进步感到惊讶，从我们城市的摩天大楼到我们口袋里的智能手机。最后，他可能会惊讶地发现许多人不再将他视为英雄；事实上，有些人认为他是一个残暴的征服者，奴役并杀害了当地人。总而言之，对于哥伦布来说，这将是一种与他 500 多年前截然不同的经历。
克里斯托弗·哥伦布于 2015 年来到美国，他对来到这里感到非常兴奋。他一直想访问美国，他对我们的国家很好奇。他对我们的国家印象深刻，他很享受在这里的时光。
我们知道，如上所述，仍然存在许多限制，我们计划定期更新模型以改进这些领域。但我们也希望通过为 ChatGPT 提供一个可访问的界面，我们将就我们尚未意识到的问题获得有价值的用户反馈。
鼓励用户通过 UI 提供有关有问题的模型输出的反馈，以及来自也是界面一部分的外部内容过滤器的误报/否定。我们对有关在现实世界、非对抗性条件下可能发生的有害输出的反馈，以及有助于我们发现和理解新风险和可能的缓解措施的反馈特别感兴趣。您可以选择参加 ChatGPT 反馈竞赛3个 有机会赢取高达 500 美元的 API 积分。A[A]
无需购买，在禁止的地方无效。必须至少 18 岁才能进入。有关比赛的详细信息，请参阅 官方规则。
我们很高兴能将此版本的经验教训应用到功能更强大的系统的部署中，就像早期的部署告诉我们的那样。
相关文章
近期评论
-
来自： GPT-4V（ision）系统卡
-
来自： GPT-4V（ision）系统卡
-
来自： OpenAI研究 用对抗样本攻击机器学习