OpenAI最近宣布 OpenAI API 将进行模型更新,以下是更新摘要。
- 主要涉及 GPT-4 和 GPT-3.5-turbo 模型,新增版本为 0613
- 免费用户将在6月27号自动升级到新版本
- 在 9 月 13 日之前仍可访问旧版本,但在之后,对老版本的请求将失败
- 从0613版本开始,GPT-3.5-turbo加入四倍上下文长度(对应token长度)的16k版本
- GPT-3.5-turbo 和部分 Embeddings API 现在以更低的价格提供
至于训练数据,仍是截至2021 年 9 月的学习数据,这点没有更新(在API 文档中,TRAINING DATA 仍然是“Up to Sep 2021”)。同时仍然承诺API 数据不会用于训练,数据隐私和安全保证与此前一致。
版本细节
GPT-4 和 GPT-3.5-turbo 更新
下面是稳定模型、旧模型和新模型之间的关系。
稳定的模型名称 | 旧模型 | 新模型 |
---|---|---|
gpt-4 | gpt-4-0314 | gpt-4-0613 |
gpt-4-32k | gpt-4-32k-0314 | gpt-4-32k-0613 |
gpt-3.5-turbo | gpt-3.5-turbo-0301 | gpt-3.5-turbo-0613 |
gpt-3.5-turbo-16k | 此前没有 | gpt-3.5-turbo-16k-0613 |
API文档也更新了,具体请查阅:
GPT-4:https://platform.openai.com/docs/models/gpt-4
GPT-3.5:https://platform.openai.com/docs/models/gpt-3-5
GPT-3.5的更新亮点是出现了旧模型中不存在的 gpt-3.5-turbo-16k,最大token数扩展到原本版本的四倍,16k的token长度足以支持在单个请求中支持约 20 页文本。
- gpt-3.5-turbo 的最大token数:4096 token
- gpt-3.5-turbo-16k 的最大token数:16384 token
价格
定价也进行了修改,一些功能现在更便宜了,其中GPT-3.5的输入token端的手续费便宜了25%。
输入token | 输出token | |
---|---|---|
更新前 | $0.002 / 1K token | $0.002 / 1K token |
更新后 | $0.0015 / 1K token | $0.002 / 1K token |
GPT-4价格没有变化,GPT-3.5增加了16k版本,所以整体费用结构如下。
输入token | 输出token | |
---|---|---|
gpt-3.5-turbo | $0.0015 / 1K token | $0.002 / 1K token |
gpt-3.5-turbo-16k | $0.003 / 1K token | $0.004 / 1K token |
gpt-4 | $0.03 / 1K token | $0.06 / 1K token |
gpt-4-32k | $0.06 / 1K token | $0.12 / 1K token |
此外,流行的嵌入 API text-embedding-ada-002 的定价已修改如下:
价格 | |
---|---|
更新前 | $0.0004 / 1K token |
更新后 | $0.0001 / 1K token |
Embeddings API 通常用于创建矢量化数据,因此 75% 的低价已经很不错了。
处理速度
虽然处理速度取决于拥塞程度和查询内容,但在外网用户的测试中仍然发现 0613 版本会更快
模型 | 测量结果 |
---|---|
gpt-3.5-turbo-0301 | 每次处理时间 24.1 s ± 8.6 s(7 次运行的平均值 ± 标准偏差,每次 1 个循环) |
gpt-3.5-turbo-0613 | 每次处理时间 5.61 s ± 1.43 s(7 次运行的平均值 ± 标准偏差,每次 1 个循环) |
gpt-3.5-turbo-16k-0613 | 每次处理时间 5.92 s ± 355 ms(7 次运行的平均值 ± 标准偏差,每次 1 个循环) |
gpt-4-0314 | 每次处理时间 1 分钟 34 秒 ± 18.7 秒(7 次运行的平均值 ± 标准偏差,每次 1 个循环) |
gpt-4-0613 | 每次处理时间 24.1 s ± 2.91 s(7 次运行的平均值 ± 标准偏差,每次 1 个循环) |
© 版权声明
本站所有文章,仅代表文章作者个人观点,如对观点有疑义时不用怀疑,您绝对是对的。
您也可以联系文章作者本人进行修改,若内容侵权或非法,可以联系我们进行处理。
任何个人或组织,转载、发布本站文章到任何网站、书籍等各类媒体平台,必须在文末署名文章出处并链接到本站相应文章的URL地址。
本站文章如转载自其他网站,会在文末署名原文出处及原文URL的跳转链接,如有遗漏,烦请告知修正。
如若本站文章侵犯了原著者的合法权益,亦可联系我们进行处理。
您也可以联系文章作者本人进行修改,若内容侵权或非法,可以联系我们进行处理。
任何个人或组织,转载、发布本站文章到任何网站、书籍等各类媒体平台,必须在文末署名文章出处并链接到本站相应文章的URL地址。
本站文章如转载自其他网站,会在文末署名原文出处及原文URL的跳转链接,如有遗漏,烦请告知修正。
如若本站文章侵犯了原著者的合法权益,亦可联系我们进行处理。
THE END
hi6个月前0
请问有详细一点的自己搭建的教程吗你好7个月前0
你好,可以再帮我看看吗? 我已经按照你的方法设定了,还是一样,wordpress后台的 Purge Varnish Cache 插件还是清除不到cache,依旧显示 the varnish control terminal is not responding at。谢谢https://mjj.today/i/Srk2Tz https://mjj.today/i/Srkcoi你好7个月前0
对,你说的没错,我配置的时候改了一些东西,现在我按照你的教学,可以启动了,网页可以缓存了,不过wordpress 清除cache 那个插件没用的,我输入本地回环地址127.0.0.1 :6082 ,再输入API key ,插件显示the varnish control terminal is not responding at 127.0.0.1:6082,就你图片那样,然后试一下点击清除cache 那里,他显示error,研究了一天,还是没有不行。你好7个月前1
你好,为啥我按照你的方法,到第三部分,去到真正后源的服务器设定Varnish 部分,我填了真正后源的IP跟端口跟域名,然后重启 Varnish ,就出现这样了? 这是怎么回事? 谢谢[Linux] AMH 7.1 https://amh.sh[varnish-6.6 start] ================================================== =========== [OK] varnish-6.6 is already installed. Could not delete 'vcl_boot.1713549650.959259/vgc.sym': No such file or directory Error: Message from VCC-compiler: VCL version declaration missing Update your VCL to Version 4 syntax, and add vcl 4.1; on the first line of the VCL files. ('/home/usrdata/varnish/default.conf' Line 1 Pos 1) ...#---Running VCC-compiler failed, exited with 2 VCL compilation failedchu7个月前0
很完善的教程‘hu7个月前0
我用gmail EMAIL_SERVER="smtp://********@gmail.com:bpyfv*********chry@smtp.gmail.com:587"叽喳7个月前0
MAIL_SERVER="smtp://no-reply@vort.me:password123@wednesday.mxrouting.net:587"大佬 这个使用outlook 或者gmail 是什么样子的格式? 邮寄已经开启smtp了hu7个月前0
输入框的问题解决了,我没有设置反代,NEXTAUTH_URL改为域名+端口就好了