重大消息:OpenAI API 已更新模型版本!0613版本发布,gpt-3.5新增16K版本,降本增效

OpenAI最近宣布 OpenAI API 将进行模型更新,以下是更新摘要。

  • 主要涉及 GPT-4 和 GPT-3.5-turbo 模型,新增版本为 0613
    • 免费用户将在6月27号自动升级到新版本
    • 在 9 月 13 日之前仍可访问旧版本,但在之后,对老版本的请求将失败
    • 从0613版本开始,GPT-3.5-turbo加入四倍上下文长度(对应token长度)的16k版本
  • GPT-3.5-turbo 和部分 Embeddings API 现在以更低的价格提供

至于训练数据,仍是截至2021 年 9 月的学习数据,这点没有更新(在API 文档中,TRAINING DATA 仍然是“Up to Sep 2021”)。同时仍然承诺API 数据不会用于训练,数据隐私和安全保证与此前一致。

版本细节

GPT-4 和 GPT-3.5-turbo 更新

下面是稳定模型、旧模型和新模型之间的关系。

稳定的模型名称旧模型新模型
gpt-4gpt-4-0314gpt-4-0613
gpt-4-32kgpt-4-32k-0314gpt-4-32k-0613
gpt-3.5-turbogpt-3.5-turbo-0301gpt-3.5-turbo-0613
gpt-3.5-turbo-16k此前没有gpt-3.5-turbo-16k-0613

API文档也更新了,具体请查阅:

GPT-4:https://platform.openai.com/docs/models/gpt-4
GPT-3.5:https://platform.openai.com/docs/models/gpt-3-5

GPT-3.5的更新亮点是出现了旧模型中不存在的 gpt-3.5-turbo-16k,最大token数扩展到原本版本的四倍,16k的token长度足以支持在单个请求中支持约 20 页文本。

  • gpt-3.5-turbo 的最大token数:4096 token
  • gpt-3.5-turbo-16k 的最大token数:16384 token

价格

定价也进行了修改,一些功能现在更便宜了,其中GPT-3.5的输入token端的手续费便宜了25%。

输入token输出token
更新前$0.002 / 1K token$0.002 / 1K token
更新后$0.0015 / 1K token$0.002 / 1K token

GPT-4价格没有变化,GPT-3.5增加了16k版本,所以整体费用结构如下。

输入token输出token
gpt-3.5-turbo$0.0015 / 1K token$0.002 / 1K token
gpt-3.5-turbo-16k$0.003 / 1K token$0.004 / 1K token
gpt-4$0.03 / 1K token$0.06 / 1K token
gpt-4-32k$0.06 / 1K token$0.12 / 1K token

此外,流行的嵌入 API text-embedding-ada-002 的定价已修改如下:

价格
更新前$0.0004 / 1K token
更新后$0.0001 / 1K token

Embeddings API 通常用于创建矢量化数据,因此 75% 的低价已经很不错了。

处理速度

虽然处理速度取决于拥塞程度和查询内容,但在外网用户的测试中仍然发现 0613 版本会更快

模型测量结果
gpt-3.5-turbo-0301每次处理时间 24.1 s ± 8.6 s(7 次运行的平均值 ± 标准偏差,每次 1 个循环)
gpt-3.5-turbo-0613每次处理时间 5.61 s ± 1.43 s(7 次运行的平均值 ± 标准偏差,每次 1 个循环)
gpt-3.5-turbo-16k-0613每次处理时间 5.92 s ± 355 ms(7 次运行的平均值 ± 标准偏差,每次 1 个循环)
gpt-4-0314每次处理时间 1 分钟 34 秒 ± 18.7 秒(7 次运行的平均值 ± 标准偏差,每次 1 个循环)
gpt-4-0613每次处理时间 24.1 s ± 2.91 s(7 次运行的平均值 ± 标准偏差,每次 1 个循环)
© 版权声明
THE END
喜欢就支持一下吧
点赞14 分享