V2EX › huc2 的所有回复 › 第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

7 天前

回复了 bugsnail 创建的主题 › 分享创造 › 分享一个 macos 上 apple music 显示桌面歌词的 APP

@GensKinsey 这个我怎么在 google 上搜啥也搜不到，倒是有个 lyricsx 的项目，不过三年没维护了。我上次看到 lyricfever 要用 spotify 登陆就感觉怪怪的，然后 app store 里有个叫灵动歌词的 app ，但是不开源。当时还想着去学一下 swift 也去写一个玩玩，但是太忙了就没搞🫠

10 天前

回复了 Qiuchi 创建的主题 › 程序员 › AI 在 BI 领域的发展前景

咨询一下 op bi 的实际使用场景。我是学生，最近可能导师要我调研一下 bi 加 ai 。我好奇的公司或者会计事务所里用 bi 的时候，需要手动调整的东西多吗（比如数据怎么处理，可视化参数）。我了解到似乎其实很多东西都是固定的？很多时候只要数据进来一下就搞好了？

上面说的是固定的情况，如果是需要变化的情况。下面哪种情况会多一些：1.任务相同，只是数据有些不同，所以有些地方要小调整一下 2.任务不同，全都要重新搞

20 天前

回复了 huc2 创建的主题 › 机器学习 › LLM 静态批处理和 Continuous Batch 相关疑问的求解

@frankyzf 谢谢谢谢，有空去刷刷
@bug2018 谢谢大佬回复，我感觉方案 1 和方案 2 其实本质都差不多，都是利用提前算好的 kv 来缓解这个问题。但是我对方案 2 有一些疑问，chunk split 是不是一种损失精度的方式。因为 kv 只有第一层 layer 是上下文无关的，切了 chunk 后，后面 layer 的 kv 都缺失了很多上下文。这个方法让我想到了最近看到的这个里面提到的 kvcache 不光可以前缀匹配，后面甚至中间的匹配也可以用到，我当时也很疑惑。这种方法在实际操作过程中是不是都会损失精度 https://zhuanlan.zhihu.com/p/17239625983?utm_medium=social&utm_psn=1860823961383874560&utm_source=wechat_session

20 天前

回复了 huc2 创建的主题 › 机器学习 › LLM 静态批处理和 Continuous Batch 相关疑问的求解

@RoccoShi orz ，我主要是看到最上面那篇博客里的图，他每一列对齐是用 token 对齐的，从某种角度看似乎也没错。但是我脑子里想这个过程的时候，就总是一个 batch 里大家先一起 prefill （也就是我说的 prefill 阶段是左右都对齐的），然后大家每个 new_token 都一起生成第一个，第二个，，，这样子。然后看他这个图就很别扭，所以想确认一下我的理解是否有误。

56 天前

回复了 huc2 创建的主题 › 问与答 › codeium 套餐涨价了，里面的 Cascade User Prompt Credits 是什么东西？

普通用户一天只能用 5 次的 gpt4o 和 claude ？

73 天前

回复了 Jaxbuild 创建的主题 › 分享创造 › windsurf 资料整理

windsurf 是不是不是完全兼容 vscode 插件啊，比如 pylance 就没有

73 天前

回复了 neptuno 创建的主题 › 分享发现 › windsurf 免费领 8 周 pro 会员！快来！

已领，感谢。但是为什么看不到什么时候到期，不知道是不是真的 8 周

104 天前

回复了 huc2 创建的主题 › 问与答 › 《沙威玛传奇》国区 ios 怎么搞无广告？

@wyd011011daniel
@Remember 我还没买啊，但是我没买的情况下，从港区切回国区就没有买断的那个选项了。没敢尝试

149 天前

回复了 moshou 创建的主题 › 问与答 › 目前 iOS App 评分不错，就是下载量很低，如何解决啊？

啥 app ，不推广很难有人知道吧，去你认为有你客户的地方推呗，甚至是一些博客，比如阮一峰之类的

151 天前

回复了 37Y37 创建的主题 › 分享发现 › 分享我的照片备份方案，无 NAS，简单可靠

博客有 rss 吗

154 天前

回复了 neuliyiping 创建的主题 › 问与答 › 大家平时都逛哪些论坛？

@billzhuang reddit 一般会关注哪些社区，和自己兴趣相关的吗

156 天前

回复了 xiaoyureed 创建的主题 › 职场话题 › 现在远程的岗位是不是前端多一些?

@lscexpress 英语是不是口语得好啊，日常阅读没问题，但是口语很差，没有地方可以练

156 天前

回复了 webpan94 创建的主题 › 职场话题 › 自由职业的困惑

还是先找到一个稳定的主业吧。写作的话，写自己个人的成长经历让我想起来以前看过的一个网上连载的，也是程序员，我映像中最后去给 dnf 做外挂后进去了，想不起来名字了。

158 天前

回复了 name68 创建的主题 › 北京 › 北京今年的雨水怎么这么勤

不希望下雨，在北京租的这房子顶楼漏雨，刚好我来了开始漏了，服了。物业来修了还是漏，感觉修不好了

158 天前

回复了 huc2 创建的主题 › 问与答 › 本地部署的小 LLM 模型不会自动停止输出，怎么解决？

@xmumiffy 现在的 gpt4o 和 claude 这种自回归模型是因为模型大了，数据好了所以能聪明地判断什么时候结束了吗？还有一个我有点好奇的是，像他们这种模型做 Instruct 或着那种对话交流训练的时候，A 一句话，B 一句话，也是简单的把话拼接在一起吗，比如

A: .......
B: ......

339 天前

回复了 morri 创建的主题 › 问与答 › 有什么好用的英语词典的 api 吗？就是输入英文单词可以查出它的词性、音标、发音、例句等。

https://dictionaryapi.dev/

343 天前

回复了 huc2 创建的主题 › Python › vscode 打开的终端为什么会有 2 个 conda 环境

@jerrywaffle 谢谢大佬，关了这个确实不会显示两个环境了。但我还是好奇，之前明明可以打开一个新 shell 的时候自动激活 python 指定环境的（不会出现两个环境的情况），不知道为什么前几天就出现两个环境了；现在关了后如果自己要输命令跑还得自己激活一下