 |
egenV2EX 第 5645 号会员，加入于 2011-02-08 22:42:53 +08:00今日活跃度排名 12509 |
egenchen
egen 最近回复了
3 天前 回复了 kisshere 创建的主题 › Local LLM › 跑 AI 大模型，到底是用 4090 魔改版好还是 Mac studio 好？ |
@Goooooos 相对其他方案堆到 512g 显存还是便宜的
4 天前 回复了 kisshere 创建的主题 › Local LLM › 跑 AI 大模型，到底是用 4090 魔改版好还是 Mac studio 好？ |
在相同容量显存的情况下，4090 会快很多
但是 mac studio 可以做到超大显存，比如 m3 ultra 512g ，这个是 4090 做不到的，mac 虽然再慢也还能跑，可以做一些技术验证，这是唯一的优势
生成质量和 4090 或 mac 无关，看你模型本身部署的精度，比如 q4 还是 q8 ，但是由于 mac 孱弱的性能，经常会选择计算量更低的 q4 ，从而导致精度损失加剧
但是 mac studio 可以做到超大显存，比如 m3 ultra 512g ，这个是 4090 做不到的，mac 虽然再慢也还能跑，可以做一些技术验证，这是唯一的优势
生成质量和 4090 或 mac 无关，看你模型本身部署的精度，比如 q4 还是 q8 ，但是由于 mac 孱弱的性能，经常会选择计算量更低的 q4 ，从而导致精度损失加剧
9 天前 回复了 MEIerer 创建的主题 › 问与答 › 做外贸的是不是普遍语言水平比较好？ |
因为英语不好的吃不了这锅饭早就被淘汰了 
16 天前 回复了 xtx 创建的主题 › 小米 › 不争吵，也不站队，理性且客观地讨论 su7 这件事。 |
贴个网友分析图
网友:唔染 57 ，根据公告推测，不代表真实情况
智驾尤其是视觉方案，在夜间、大雾、下雨等场景准确率会下降很多，但是目前车厂几乎都不会明确提，除非车主真的认真去看买车之后的那边巨厚的说明书，对目前的智驾使用保持警惕吧
网友:唔染 57 ，根据公告推测，不代表真实情况
智驾尤其是视觉方案，在夜间、大雾、下雨等场景准确率会下降很多，但是目前车厂几乎都不会明确提，除非车主真的认真去看买车之后的那边巨厚的说明书，对目前的智驾使用保持警惕吧
40 天前 回复了 Felldeadbird 创建的主题 › 职场话题 › 编码职业末期应该是摆烂还是尽职呢？ |
选自己觉得快乐的方式
122 天前 回复了 fingerxie 创建的主题 › 问与答 › 最近被父母退休这件事搞的焦头烂额 |
怎么会缺那么多，只交了几年么？医保应该只补缺失年限部份
144 天前 回复了 paopjian 创建的主题 › 分享发现 › prompt 真是个神奇的东西,一句话竟然能让结果更优质 |
充分继承了大模型胡说八道的特性
OpenAI 语音工具 Whisper 被曝生成虚假内容，医疗行业使用风险引担忧
https://www.shuzhipunk.com/articles/REXKCMIshgV
OpenAI 语音工具 Whisper 被曝生成虚假内容，医疗行业使用风险引担忧
https://www.shuzhipunk.com/articles/REXKCMIshgV
Select Language