V2EX › Theigrams 的所有回复 › 第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

149 天前

回复了 RaftingPoint 创建的主题 › 程序员 › 请问哪个大模型 api 能支持输出标准严谨的 json 格式

GPT4-o 或 4o-mini 都行，启用 json-mode

https://platform.openai.com/docs/guides/json-mode

171 天前

回复了 mikelirjc 创建的主题 › MacBook Pro › 在 M1Max 的 MacBook Pro 上跑 Apple 的 Ai 是否够用？主要是端侧大模型硬件性能是否够用

> With this set of optimizations, on iPhone 15 Pro we are able to reach time-to-first-token latency of about 0.6 millisecond per prompt token, and a generation rate of 30 tokens per second.

苹果的端侧模型才 3B ，M1 随便跑无压力

174 天前

回复了 steelshadow39 创建的主题 › Apple › 后端开发 MacBook 求推荐

没啥问题，就是 16 寸有点大了，一般会外接显示器，用不着那么大，带着不方便。

188 天前

回复了 SuperDaFu 创建的主题 › OpenAI › baidu 的 comate 有个牛逼的功能：通读整个代码库

GitHub Copilot 也能读取整个工作区的代码，devv.ai 的 GitHub 模式也能读取整个 GitHub 仓库的代码，

Copilot 是直接基于文本相似度检测，devv 是对 embedding 计算相似度