【英文】GPT-4 技术报告已经发布，现在即可下载

我们荣幸地报告 GPT-4 的开发，它是一款大规模多模态模型，能够接受图像和文本输入并生成文本输出。虽然在许多现实场景中 GPT-4 的能力仍然不及人类，但它在各种专业和学术基准测试中展现出人类水平的表现，包括在模拟的律师考试中获得了前 10% 的考生得分。GPT-4 是一种基于 Transformer 的模型，预先训练以预测文档中的下一个词汇。后续的对齐过程提高了模型的准确性，使其在事实性和符合预期行为的度量方面表现更好。在这个项目中，我们着重开发了基础设施和优化方法，以确保其在各种规模下的可预测性，这使得我们可以根据使用不超过 GPT-4 计算量的 1/1,000 的模型来准确预测 GPT-4 的某些性能方面。