Claude API 不降智是什么意思?怎么确认用的是你选的模型
“降智”通常指:你请求的是一个模型,实际回答你的却是更便宜、更弱的模型。6090ti 按你请求里填写的模型名转发,不降级、不替换。本文说明“不降智”具体指什么,以及你可以自己怎么核对。
6090ti 的做法
- 按所选模型转发。请求里写哪个模型名,就转发到哪个模型,不会在你不知情时换成别的模型。
- 不可用就报错,不换模型。请求的模型不可用时返回错误,不会悄悄改用其他模型。
- 按实际模型计费。每次调用的模型名、tokens 数和费用都记录在控制台的使用记录里。
你可以这样核对
- 看返回里的模型名。Anthropic 兼容格式的返回内容里有
model字段,表示这次回答使用的模型:curl -s https://api.6090ti.com/v1/messages \ -H "x-api-key: <你的 Key>" \ -H "anthropic-version: 2023-06-01" \ -H "content-type: application/json" \ -d '{"model":"<模型名>","max_tokens":32,"messages":[{"role":"user","content":"hi"}]}' | grep -o '"model":"[^"]*"' - 对照使用记录。在控制台「钱包」的消费账单里,每条记录都有模型名和费用,可以和你的请求逐条对照。
- 查看 Key 能用的模型。请求
https://api.6090ti.com/v1/models,返回的就是这个 Key 开通的模型。
为什么同一个模型有时回答质量不同
同一个模型的回答本身就有随机性,也受提示词、上下文长度、max_tokens、温度等参数影响。编程工具会自动拼接很长的上下文,上下文太长时效果可能变差。遇到明显异常,可以把请求的时间、模型名和使用记录发给客服核对。
QQ用户群:1109931264
相关:Claude 模型 API · 模型价格