 |
rus4dbV2EX 第 358382 号会员，加入于 2018-10-24 20:23:54 +08:00今日活跃度排名 9404 |
rus4db 最近回复了
8 天前 回复了 annoygaga 创建的主题 › 程序员 › 现在有哪个 LLM 已经部署在手机/PC 设备上么（CPU），效果还不错的那种 |
不妨看看我做的小玩具，浏览器上推理的：
https://github.com/bd4sur/Nano
https://github.com/bd4sur/Nano
18 天前 回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强? |
86 天前 回复了 fat4fox 创建的主题 › Android › 2024 年，刷机已死 |
手机的本质在于你购买的只是使用权，而非所有权。跟信用卡一样。
刷机破坏了可信计算，破坏了手机所有权人的权益。
所以不能允许你刷机。
刷机破坏了可信计算，破坏了手机所有权人的权益。
所以不能允许你刷机。
195 天前 回复了 majula 创建的主题 › 程序员 › 从近期 bilibili 的“小孩吵架”看开源氛围 |
双方或许都有些（高功能）自闭症（谱系）的倾向，以钻牛角尖、缺乏同理心、易怒、特殊且刻板的语言风格为特征。
231 天前 回复了 kdj933 创建的主题 › 投资 › 请教各位大佬，研究了一套深度学习方法，预测 A 股涨跌，.... |
众所周知，炒股最赚钱的是教别人炒股。你炒我教你，我炒我不炒。
什么深度学习科学算命，自己不要用。拉个群，包装一下，卖给别人用。（滑稽）
什么深度学习科学算命，自己不要用。拉个群，包装一下，卖给别人用。（滑稽）
233 天前 回复了 avalox 创建的主题 › 程序员 › 想用手头的硬件最低成本尝试下本地 LLM 推理，请教一下方案 |
1 ）参数量是主要矛盾，越多越好。
2 ）不必担心量化，量化掉点有限。
3 ）实用模型，参数量不可低于 13~14B ，以 72B 量级为佳。
4 ）显存是主要矛盾，越多越好。
5 ） 2080ti 魔改 22GiB 显存，性价比较高。
6 ）多卡 AI 服务器平台，性价比较高，但要考虑环境和电费开销问题。
2 ）不必担心量化，量化掉点有限。
3 ）实用模型，参数量不可低于 13~14B ，以 72B 量级为佳。
4 ）显存是主要矛盾，越多越好。
5 ） 2080ti 魔改 22GiB 显存，性价比较高。
6 ）多卡 AI 服务器平台，性价比较高，但要考虑环境和电费开销问题。
Select Language