coefuqin 最近的时间轴更新
coefuqin

coefuqin

V2EX 第 616381 号会员,加入于 2023-02-28 17:15:35 +08:00
今日活跃度排名 1133
根据 coefuqin 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
coefuqin 最近回复了
12 小时 49 分钟前
回复了 coefuqin 创建的主题 Local LLM llama.cpp/ollama 对于类似 vllm tensor parallel 功能的支持。
@liprais 搞的这么不认真,我说一两句也是情理之中;另外,llama.cpp 是 ollama 最重要的部分,这部分都封装的这么稀松平常,这个构造函数放到一般地方都会被打回去重写,这种项目,我都不想给他们做贡献。我也不是纯口嗨,有理有据的分析。
有点儿天宝年间内味儿了。
@xiaoming1992 摆摊卖炒粉。
19 小时 9 分钟前
回复了 Woolaman 创建的主题 Local LLM 公司要搭建本地大模型,推荐配置。
@frayesshi1 他可能以为,训练 70B 的模型就像使用 elasticsearch 那么容易。就算微调 70B 的模型都够呛。
19 小时 17 分钟前
回复了 ITheadhubting 创建的主题 远程工作 做市交易系统架构师/Leader(远程办公/remote)
一年没有 100 个+,找不到这种人。
ds 系列,除了最大的 MOE ,蒸馏出来的都是玩具,没有生产级别的能力。
19 小时 22 分钟前
回复了 Woolaman 创建的主题 Local LLM 公司要搭建本地大模型,推荐配置。
2.2 你们没有那个实力做到,搞个 rag 顶天。不要想太多。
以你的技术水平和理解能力,U 盘麻烦归麻烦,已经是最好的办法了。记住,安全性相关往往都是做多错多,到时候搞出问题,有你好果子吃。
一地鸡毛,有钱没钱都会有各种矛盾的。
3 天前
回复了 expy 创建的主题 求职 初级运维求职,期望坐标深圳/广州,
@expy 家里不催你搞对象成家啊?
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   957 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 22:20 · PVG 06:20 · LAX 15:20 · JFK 18:20
Developed with CodeLauncher
♥ Do have faith in what you're doing.