转载

ChatGPT 函数调用和其他 API 更新

我们发布了,今年早些时候,在短短几个月内,我们已经看到了gpt-3.5-turbogpt-4难以置信的应用由开发人员在这些模型之上构建。

今天,我们将跟进一些令人兴奋的更新:

  • 聊天完成 API 中的新函数调用功能
  • 和 的更新和更可操纵的版本gpt-4gpt-3.5-turbo
  • 新的 16k 上下文版本(与标准 4K 版本相比)gpt-3.5-turbo
  • 我们最先进的嵌入模型成本降低 75%
  • 输入令牌的成本降低 25%gpt-3.5-turbo
  • 宣布 和 模型的弃用时间表gpt-3.5-turbo-0301gpt-4-0314

所有这些模型都具有我们在 1 月 <> 日推出的相同数据隐私和安全保证 — 客户拥有其请求生成的所有输出,并且其 API 数据不会用于训练。

函数调用

开发人员现在可以向 和 描述函数,并让模型智能地选择输出包含参数的 JSON 对象来调用这些函数。这是一种将 GPT 的功能与外部工具和 API 更可靠地连接起来的新方法。gpt-4-0613gpt-3.5-turbo-0613

这些模型已经过微调,既可以检测何时需要调用函数(取决于用户的输入),又可以使用符合函数签名的 JSON 进行响应。函数调用允许开发人员更可靠地从模型中获取结构化数据。例如,开发人员可以:

  • 创建聊天机器人,通过调用外部工具(例如,ChatGPT 插件)来回答问题

将诸如“向 Anya 发送电子邮件以查看她是否想在下周五喝咖啡”之类的查询转换为类似 的函数调用,或将“波士顿的天气怎么样?”转换为 。send_email(to: string, body: string)get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')

  • 将自然语言转换为 API 调用或数据库查询

将“本月我的十大客户是谁?”转换为内部 API 调用,例如 ,或将“Acme, Inc. 上个月下了多少订单?”转换为使用 SQL 查询。get_customers_by_revenue(start_date: string, end_date: string, limit: int)sql_query(query: string)

  • 从文本中提取结构化数据

定义一个名为 的函数,以提取维基百科文章中提到的所有人。extract_people_data(people: [{name: string, birthday: string, location: string}])

这些用例由端点中的新 API 参数启用,并且允许开发人员通过 JSON 架构向模型描述函数,并选择性地要求它调用特定函数。开始使用我们的/v1/chat/completionsfunctionsfunction_call开发人员文档添加埃瓦尔斯如果您发现函数调用可以改进的情况

函数调用示例

波士顿 现在的天气怎么样?

步骤 1·OpenAI API使用函数和用户的输入调用模型
步骤 2·第三方接口使用模型响应调用 API
步骤 3·OpenAI API将响应发送回模型进行汇总

波士顿的天气目前晴朗,气温为22摄氏度。

自从 ChatGPT 插件的 alpha 版本发布以来,我们已经学到了很多关于让工具和语言模型安全地协同工作的知识。然而,仍然存在悬而未决的研究问题。例如,概念验证漏洞说明了工具输出中不受信任的数据如何指示模型执行意外操作。我们正在努力减轻这些风险和其他风险。开发人员可以通过仅使用来自受信任工具的信息,并在执行具有实际影响的操作(例如发送电子邮件、在线发布或购买)之前包含用户确认步骤来保护其应用程序。

新型号

GPT-4

gpt-4-0613包括带有函数调用的更新和改进的模型。

gpt-4-32k-0613包括与 相同的改进,以及扩展的上下文长度,以便更好地理解较大的文本。gpt-4-0613

通过这些更新,我们将邀请更多来自候补名单在未来几周内尝试 GPT-4,目的是使用此模型完全删除候补名单。感谢所有耐心等待的人,我们很高兴看到您使用 GPT-4 构建的内容!

GPT-3.5 涡轮增压

gpt-3.5-turbo-0613包括与 GPT-4 相同的函数调用以及通过系统消息实现更可靠的可操纵性,这两个功能允许开发人员更有效地指导模型的响应。

gpt-3.5-turbo-16k以两倍的价格提供 4 倍的上下文长度:每个 0K 输入令牌 003.1 美元,每 0K 输出令牌 004.1 美元。16k 上下文意味着模型现在可以在单个请求中支持 ~20 页文本。gpt-3.5-turbo

模型弃用

今天,我们将开始对 的初始版本进行升级和弃用过程,并且gpt-4gpt-3.5-turbo3月宣布.使用稳定型号名称(、 和 )的应用程序将于 27 月 <> 日自动升级到上面列出的新型号。为了比较版本之间的模型性能,我们的gpt-3.5-turbogpt-4gpt-4-32k埃瓦尔斯图书馆支持公共和私有 EVAL,以显示模型更改将如何影响您的用例。


需要更多时间转换的开发人员可以通过指定 、 或在其 API 请求的“model”参数中继续使用旧模型。这些较旧的模型将在 13 月 <> 日之前访问,之后指定这些模型名称的请求将失败。您可以通过我们的gpt-3.5-turbo-0301gpt-4-0314gpt-4-32k-0314模型弃用页面.这是对这些模型的首次更新;因此,我们热切欢迎开发人员反馈帮助我们确保平稳过渡。

更低的价格

我们将继续提高我们的系统效率,并将这些节省转嫁给开发人员,从今天开始生效。

嵌入

text-embedding-ada-002是我们最受欢迎的嵌入模型。今天,我们将成本降低 75%,达到每 0K 代币 0001.1 美元。

GPT-3.5 涡轮增压

gpt-3.5-turbo是我们最受欢迎的聊天模型,并为数百万用户提供 ChatGPT。今天,我们将 的输入令牌成本降低了 25%。开发人员现在可以使用此模型,每个 0K 输入令牌只需 0015.1 美元,每 0K 输出令牌只需 002.1 美元,相当于每美元大约 700 页。gpt-3.5-turbo

gpt-3.5-turbo-16k定价为每 0K 输入代币 003.1 美元,每 0K 输出代币 004.1 美元。

开发人员反馈是我们平台发展的基石,我们将继续根据我们听到的建议进行改进。我们很高兴看到开发人员如何在他们的应用程序中使用这些最新模型和新功能。