V2EX › archxm 的所有回复 › 第 4 页 / 共 76 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5 6 7 8 9 10 ... 76

❮

❯

4 月 17 日

回复了 archxm 创建的主题 › 程序员 › RAG 难以让人满意啊

@lu5je0 公司电脑弱，用的 3b ，感觉 qwen 不如 llama 。
家里的高配电脑能跑 35b ，昨晚也试了，总体感觉也是，不堪用。

4 月 17 日

回复了 archxm 创建的主题 › 程序员 › RAG 难以让人满意啊

@woshishui2022 总得有个深入浅出吧？难道我一开始就花 10 几万，买台高端机器，部署 35b 的大模型吗？

4 月 17 日

回复了 archxm 创建的主题 › 程序员 › RAG 难以让人满意啊

@elevioux 不做模型嵌入是吧？

4 月 17 日

回复了 archxm 创建的主题 › 程序员 › RAG 难以让人满意啊

@sunzhuo notebooklm 是谷歌的吧？我想试，但提示说我所在区域不支持使用。再次询问谷歌 ai ，说让我在外区重新注册账号，太麻烦了，不现实，再说公司内部文档，不方便透露出去，不能调用外部 api

4 月 17 日

回复了 archxm 创建的主题 › 程序员 › RAG 难以让人满意啊

@fennu2333 需求当然简单，但这是初始需求，先探索一下，后续会把业务文档放进去，那个就量大了。
文档不用能外面的 ai ，数据不能外传，所以用的本地模型，暂时用的小模型，比如 3b 这种。
其实我这种需求，直接用 es 做索引不就行了吗，试一试 LLM 是因为，这不感觉它挺强的吗，必然要尝试新技术。

4 月 17 日

回复了 archxm 创建的主题 › 程序员 › RAG 难以让人满意啊

@YanSeven 我用的本地模型，试了 qwen 和 llama ，感觉 llama 稍微好点。但整体还是难以让人满意。
比如，我文档里，有 logrotate.md ，介绍了日志压缩的一些知识点，logrotate 的一些配置。我在问答里，要求找日志压缩，它告诉我说我库里没这方面的内容。

4 月 17 日

回复了 nooneanyone 创建的主题 › 职场话题 › 应届中厂开发快三年，感觉自己的工作方向总是变化，跳槽难度大，没有垂域技术深入

这帮 ai 推手味太冲了。ai 目前还处于推广阶段，能否承受住考验，还未可知。
其实楼主这个状态可以，可以暂时找一家靠谱企业先窝着，最好是大厂

4 月 16 日

回复了 mrzx 创建的主题 › 硬件 › 内存减产,涨价的真正主要原因不是 AI,而是内存物理接口将发生天翻地覆的变化

很多人在用激将法，逼问楼主更多信息。

4 月 16 日

回复了 mrzx 创建的主题 › 硬件 › 内存减产,涨价的真正主要原因不是 AI,而是内存物理接口将发生天翻地覆的变化

@huluhulu 其实之前 ddr4 、或者 ddr3 ，也不贵啊，你完全有能力整到 1T 啊，那你整了吗？
假如真如楼主所言，技术更新了，ddr 一文不值了，你也整了 1t 内存，但是功耗和性能都不行，你的 1t 还不如我得 256gb ，且你的功耗还高，那你整这一套就很不时尚了