GPT-4 和ChatGPT API的定价分析

OpenAI发布了他们的ChatGPT新机器学习模型GPT-4。GPT-4是GPT-3的一大进步，GPT-3是当前ChatGPT免费版本(GPT 3.5 Turbo)所运行的模型的基础，今天我们也来凑个热点，研究一下它们的定价

GPT-4新的功能

GPT-4可以在对话中使用图像，并可以回答有关图像的问题。前还没有官方确认除了用户输入之外，聊天机器人是否可以输出图像。

使用GPT-4可以抓取网站链接：发送一个链接，他就可以自动抓取内容，并不需要复制粘贴来发送网站的内容。

GPT-3每个请求的字数限制在3000字左右。GPT-4将这一限制大幅提高到2.5万字。这样，语言模型将能够在更好的上下文环境下进行更长的对话，这将提高它在特定上下文中回答的准确性和精确性。

测试指标明显提高：GPT-4训练的数据量比GPT-3大得多，所以GPT-4有更多的知识是有道理的，所以他在各种测试中得到更好的指标也是理所当然。

以上这些就是一些GPT-4新的功能，这个大家应该都看过好几遍了，下面我们来进行另外一个视角的对比

GPT-4 API定价分析

GPT-4 API的模型被命名为GPT-4 - 0314。要通过GPT-4 API访问这个模型，定价是:

$0.03 / 1k提示请求令牌

$0.06 / 1k完成响应令牌

这里的1k令牌相当于750个单词。

与GPT-3.5相比，GPT-4 API将令牌的最大上下文长度增加了一倍，从4,096增加到8,192。而GPT-4 API的默认速率限制是:

每分钟40k个令牌，每分钟200个请求

除了API以外（需要申请）还可以通过ChatGPT Plus访问GPT-4，这个是每月20美元，根据限制来说，目前每4小时最多可以发送100条消息。

相比之下，只需20美元，就可以使用GPT-4 API处理大约444k令牌(大约333k个单词)。

那么，如果考虑GPT-4 API和ChatGPT API之间的比较:

用于提示请求的GPT-4比ChatGPT API贵14倍;而用于完成的GPT-4比ChatGPT API贵29倍。

那么我们就要研究一下这14x-29x之间的GPT-4 API比ChatGPT API更有价值吗?

我们主要考虑因素还是用例。如果用例与法律事务或通识教育/辅导相关，那么GPT-4绝对值得一试。因为它在这两方面的提升是非常明显的

而其他的用例还需要更深入测试，这样我们才能判断GPT-4 API能否带来实质性的好处。

另外就是OpenAI为提示和补全提供了对其32,768个上下文的有限访问，这样可以支持发送/接收比gpt-4-0314多4倍的文本。

也就是说最大上下文长度32,768(约50页文本)版本的GPT-4 API，花费将是8,092最大上下文长度版本的2倍:

请求令牌0.06 / 1k美元，响应令牌$0.12 / 1k美元

这个定价可以说是非常贵了。

总结

在ChatGPT API和GPT-4 API之间的选择取决于对项目的特定需求。所以当你进行选择的时候应该确定：

预期的应用
所需的精度
涉及的财务问题
对未来发展的适应性

前几天的新闻，ChatGPT API的价格比text-davinci-003低10倍(成本低90%)，所以ChatGPT API低成本较低也许可以让我们以更低的成本测试大语言模型的效果，随着开发者获得更低的价格，我们可以期待大量新的、令人兴奋的产品，这些产品将融入商品化的人工智能。至于GPT-4，我们还是继续等待它在实际应用中的结果吧。

https://avoid.overfit.cn/post/3c8e02ba3e2c48f084b9b1115d4ab2d4

作者：Ivan Campos