V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  wclebb  ›  全部回复第 25 页 / 共 591 页
回复总数  11811
1 ... 21  22  23  24  25  26  27  28  29  30 ... 591  
2025 年 3 月 18 日
回复了 moudy 创建的主题 Apple Mac Studio 实战 671B 全量大模型成绩出来了
@tanrenye 所以这是可选项,你当然可以买云服务器超强性能,然后自行买 Mac mini ,也可以的。

我说的是它能提供这个搭建的可能。
退一步讲,Mac 128G 能搭建 70B 就能足够满足使用的情况下,也没多少 70B 显卡能跑的吧?

所以我说的是:它能做,在一定预算内可选。
普通人有钱买 67K 块 Mac 512G ?也不是没可能。
2025 年 3 月 18 日
回复了 moudy 创建的主题 Apple Mac Studio 实战 671B 全量大模型成绩出来了
我观察一些网友对 Mac 的想法有点奇怪。

我就问一下,按能买到的 Mac Studio 512G 预算下,能做到跑大模型的有哪些 PC 或 专门设备? 2080Ti 魔改显卡交火配置 8 卡电脑?还是上百万的 H100 Nvidia 专业显卡服务器?

4Bit 精度量化部署本地的情况下只能唯一可选。
为什么?因为没有 8Bit 或 16Bit 公开。
( 8Bit 应该能跑,但也太极限了)
我估计 70B 按 8Bit 也能跑?

DeepSeek 为何成功?是因为它降低了成本。
更有可能搭载在部署本地上跑。也使其在 Mac 上搭建更为可能。
2025 年 3 月 17 日
回复了 886106 创建的主题 Apple Studio M4max 128G 是否合适跑大模型
Mac Studio M2 Max 64G 跑过 70B DS ,能跑。只是找不到实用性价值(都是用 API 和 ChatGPT 聊天)。

DS 问多了也会把我搞抑郁,不敢问了。所以 128G 肯定能跑。只是得问一下实用性的价值在哪里而已。iOS Craft 已经支持离线下载 DS 可以用 AI (估计 Mac 也能)。

后面估计可以玩更好玩的玩法,只是现在还没有。
感觉应该可以跟 Apple 举报,让这个 App 连同企业帐号全报废。
2025 年 3 月 11 日
回复了 chen0520 创建的主题 macOS 远程软件总是卡在连接 100%,有人碰到过么
有公网就走公网,免费的确实有时候很麻烦的。
2025 年 3 月 11 日
回复了 errorMsg0xff 创建的主题 Apple TV apple tv 有技术手段使得能够安装爱优腾吗
你们好吵。

Sony 电视机 或一些国产电视机都自带有安卓系统的。装这些国产在国产系统也完全没有问题。
实在没有安卓系统,也可以用投屏的方式去投 ATV ,1080P 投也够用了。
连这些都懒得弄,那你要么下个盗版咋的那些不就得了了。

哔哩哔哩 也能在 PS5 上安装和播放。这不是问题。
爱腾在国外有国际版 App ,也不是问题。

问题在哪?他们让吗?别太纠结这个能不能装的问题。
以上都装不了,你直接跑看盗版算了。
2025 年 3 月 11 日
回复了 lifehz 创建的主题 Apple 换机了 mac air m3 24G 512G,开搞大模型
@buynonsense 统一内存,内存可当显存使。

@giganet
@hutng
用 Mac Studio M2 64G 的现身说法。
性能确实不够看,但用 Mac 的人搞大模型,估计就是纯粹用来下个 DeepSeek 之类的放本地跑跑。
我也用了 70B 跑,很流畅。秒出答案,速度跟现有的 ChatGPT 差不多。(我在终端问的,没有用 Docker 搭载的 OpenWeb UI )。

我用了 DS 70B 和 QWQ 32B 测试,70B 稍慢一些但速度也正常,但是因为稍微敏感一点的问题(比如这网站为什么不能访问?)就直接说对不起我在学习。换了 QWQ 32B 测试,速度正常甚至感觉快一些。也能回答这个问题。

至于 GPU 是不是飙到 108 度,可能有风扇,60 度不到?
70B 占 40G 左右内存,32B 仅占满 15 ~ 20G 内存。
问了几个分钟了。
2025 年 3 月 10 日
回复了 Mandmg 创建的主题 Apple mac mini m4 32g 内存,256g 硬盘,要上万兆吗?
可能有些人喊有什么用。
千兆局域网,机械硬盘你只能最多 100MB/s
2.5 或 万兆局域网,机械硬盘能顶 200+MB/s 跑。

当然 SSD 能跑最多 1GB/s 的万兆。但是这又不在预算范围。
2025 年 3 月 10 日
回复了 Mandmg 创建的主题 Apple mac mini m4 32g 内存,256g 硬盘,要上万兆吗?
我上 10G ,因为现在全局域网已通 2.5G 。10G 也不在话下。
2025 年 3 月 10 日
回复了 EvaElfie 创建的主题 Apple 记录并分享一下 macOS 优化提速脚本
这是纯粹的伤敌一百,自损一万 。
2025 年 3 月 10 日
回复了 cnfczn 创建的主题 宽带症候群 联通 app 越来越下头了
绑卡支付?
2025 年 3 月 7 日
回复了 kongkongmaster 创建的主题 路由器 华硕路由器 DDNS 倒下了,备选方案用哪个?
并->别
@wclebb #36
2025 年 3 月 7 日
回复了 kongkongmaster 创建的主题 路由器 华硕路由器 DDNS 倒下了,备选方案用哪个?
@Qazxcv123 #35 你还能解析吗?
是的话我回退上一个版本。

我这次确实没有 ASUS ,并说有没有,它还自动给我关闭了。
2025 年 3 月 7 日
回复了 wuwei4321 创建的主题 路由器 家里的路由器穿墙能力很差,有推荐的路由器吗?
只有 Mesh 组网是优解。
2025 年 3 月 7 日
回复了 kongkongmaster 创建的主题 路由器 华硕路由器 DDNS 倒下了,备选方案用哪个?
我好像自动更新了固件,上去才发现 华硕 DDNS 服务李没有 ASUS.com 了。
不过退回应该问题不大,只是还是会无法解析吗?
最现实的做法就是集合多个业主签名,才能证明物业确实有问题。
会,无论是 intel 版 iMac 还是 黑苹果 i7-10700K ,带来的质变的体验。

你想象中的:就是速度变快了。
实际上的,不光是速度变快了,还有很多加分项,例如远程高性能、加载 iOS/iPad ,游戏也能原生运行(包括 x86 模拟游戏运行等)。
2025 年 3 月 6 日
回复了 YDDDD 创建的主题 Apple Apple TV 现在还能 infuse 加网盘吗?
阿里云盘我最后也会不去续费了。
现在就纯靠下载到本地然后放 NAS 。
2025 年 3 月 5 日
回复了 kotlings 创建的主题 职场话题 太抽象了,绷不住了
@hallostr 哈哈哈没必要,进入 水深火热 就可以了。
1 ... 21  22  23  24  25  26  27  28  29  30 ... 591  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   5227 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 6042ms · UTC 09:40 · PVG 17:40 · LAX 02:40 · JFK 05:40
♥ Do have faith in what you're doing.