Ironpan 最近的时间轴更新 Ironpan 最近的时间轴更新 |
IronpanV2EX 第 598712 号会员，加入于 2022-10-24 17:15:15 +08:00 |
Ironpan 最近回复了
21 天前 回复了 lqw3030 创建的主题 › 问与答 › 大家是如何限制 LLM 输出格式为 JSON |
1. function_call/tools 能力
2. 模型支持直接 mode 为 json 的, 例如 gpt-3.5 好像现在就行了?
3. prompt: ReAct/Few shot(带几个例子进去)/langextract 里面有个提取结构化数据的核心 prompt 可以去找找, 然后改改
4. 一些细节:
4.1 prompt 使用 markdown 格式, 且添加标题, 如果返回的 json 里有注释, 你可以用 markdown 的格式添加注意事项叫它不要输出其他无关的内容, 或者不要加注释.
4.2 上下文里不一定都是一个 human+ai 的成对消息. 可以是一个 system message + 一个/多个 ai 消息(补充说明) + user 消息. 然后自己看情况调整.
4.3 我自己使用的时候返回的 json, 一般都是 markdown, 然后正则解析.
希望有所帮助.
2. 模型支持直接 mode 为 json 的, 例如 gpt-3.5 好像现在就行了?
3. prompt: ReAct/Few shot(带几个例子进去)/langextract 里面有个提取结构化数据的核心 prompt 可以去找找, 然后改改
4. 一些细节:
4.1 prompt 使用 markdown 格式, 且添加标题, 如果返回的 json 里有注释, 你可以用 markdown 的格式添加注意事项叫它不要输出其他无关的内容, 或者不要加注释.
4.2 上下文里不一定都是一个 human+ai 的成对消息. 可以是一个 system message + 一个/多个 ai 消息(补充说明) + user 消息. 然后自己看情况调整.
4.3 我自己使用的时候返回的 json, 一般都是 markdown, 然后正则解析.
希望有所帮助.
75 天前 回复了 DoubleKing 创建的主题 › 职场话题 › 未来几年，互联网程序员们是否会褪去高薪的帽子 |
@dlmy 多想不开去招银，哭
185 天前 回复了 codingmiao 创建的主题 › Java › 今天整了个活，用纯 http post 做了一个反向代理/内网穿透的工具 |
为啥要区分 ss 和 cs, 不合并成一个吗
201 天前 回复了 siguapajamas 创建的主题 › 站长 › 萌新想看看大家的个人网站 |
@impala67 #10 这个域名+这个内容, 笑死了 hhh, 赞一个
206 天前 回复了 xiaozhisoc 创建的主题 › Telegram › Telegram 中国大陆（+86）手机号限制 |
@moyumoyu #23 ?
212 天前 回复了 luckyjack 创建的主题 › 生活 › 新社畜感觉每天下班都好累，什么都干不动 |
@luckyjack #11 羡慕, 你不知道一天 12 小时在公司是什么感觉...
217 天前 回复了 Jaeger 创建的主题 › 软件 › Obsidian 最优的跨平台数据同步方案是什么？ |
Resilio Sync, 我现在多个电脑, 手机, 都是用的这个同步. 免费.
231 天前 回复了 DomenicCarter 创建的主题 › 程序员 › 专为开发者开发一个工具集合网站 |
笑死了, 看了人手一个
Select Language