官方 deepspeek v3 api 开始阉割了

[lyxxxh2]

前几天我用 deepspeek 给商品分类。 效果挺不错的。

接口速度平均 10s,但是不需要速度,分类了一万个商品。

昨天

程序运行几分钟就停止了,看打印速度也不对劲。

1. 5 秒? 太快了

2. 分类分数居然有 0.8? 之前我见过最低都是 0.9 。

我就猜测是阉割了。

他有时候返回: "content":"```json\n{\"id\":821,\"name\":\"奶茶\",\"score\":0.9}\n```"}

导致我 json 解析失败。

于是我给他加上一条:- 禁止返回带```的

今天

还是没效果,照样返回 ```json```。

之前一万个商品都返回正常,现在每隔几十个商品就带```json```。

估计分类也没之前准确。

[shintendo]

v3 昨天更新了新版本 v3-0324 ，可能有关系

[SantinoSong]

不是阉割了, 是 v3 换版本了

[NoManPlay]

应该是 v3 更新导致的，可以试试深度思考，还是基于之前的 v3 版本

[lyxxxh2]

估计就是 v3 更新导致的。
虽然速度快了,但是我又没要求。
更新了,对我来说: 变智障了

[iamsad3508]

你试一下改温度？ https://api-docs.deepseek.com/zh-cn/quick_start/parameter_settings

[Livid]

用 vLLM 跑的 qwen 可以指定 JSON 输出格式：

https://www.v2ex.com/t/1101310

[bjzhou1990]

API 不是可以指定输出 json 吗，还会出现这种情况吗

[zfjdif]

AI 解析日常操作 replace("```json", "").replace("```","")

顺便推荐一个 python 库： https://github.com/mangiucugna/json_repair 。能够实现 JSON 补全，stream 返回有用。

[zfjdif]

@bjzhou1990 还是会遇到，可能官方也是使用 prompt 实现的，保证不了稳定性。。。

[zqqian]

可以试试这个逻辑：
···
# 尝试解析 JSON 结果
try:
# 如果结果包含在 ```json ``` 中，提取内部内容
if "```json" in translated_text:
translated_text = translated_text.split("```json")[1].split("```")[0].strip()
elif "```" in translated_text:
translated_text = translated_text.split("```")[1].split("```")[0].strip()
import re

json_match = re.search(r'```json\s*([\s\S]*?)\s*```|({[\s\S]*})', translated_text)
if json_match:
json_str = json_match.group(1) or json_match.group(2)
result = json.loads(json_str)
else:
# 如果没有找到 JSON 格式，尝试直接解析
result = json.loads(translated_text)
···

[akiyamamio]

我还以为依赖 AI 输出 JSON 就我一个呢，原来都在这么干。
我就是感觉不管是 DeepSeek 还是通义或者别的什么 AI ，就很不稳定，有时候会输出些别的乱七八糟的东西，还以为是我提示词问题或者根本就不应该这么用……

[9hills]

直接用上面提到的 json_repair ，不用搞奇技淫巧

[lyxxxh2]

文档有说的,我压根没看。

[lyxxxh2]

```
5. 返回格式必须严格按照以下 JSON 格式，不要添加任何其他内容：
{"id": number, "name": "string", "score": number}
注意：
- id 必须是数字类型，不能带引号
- name 必须是字符串类型，必须带引号
- score 必须是 0-1 之间的小数，表示分类的可能性
- 不要返回 markdown 格式或其他任何格式
EOT],
['role' => 'user', 'content' => "请为商品\"{$product_name}\"选择最合适的分类"]
],
'temperature' => 0.1
]);
```


我这样给的,之前稳定。
现在不行,估计加`{type:'json_object'}`就行了。
(temperature => 0.1 curosr 帮我改的... 压根没这个)

[LeeReamond]

插个题外话问个，现在其他家谁家有新版 v3api 可用了嘛？官网的充不了钱呀

[smartruid]

@LeeReamond 官网 api 慢得很，欧派和火山的 api 比较快。欧派有新版 v3 了, 不过限流比较严格。

[lyxxxh2]

@LeeReamond 官网已经可以充钱了啊