预算 8k–1w 左右，有没有 gpu 深度学习服务器 ubuntu 组装配置推荐呐
1140601003 · 2024-06-26 18:00:27 +08:00 · 1720 次点击这是一个创建于 433 天前的主题，其中的信息可能已经有所发展或是发生改变。
用来深度学习训练，大模型调用，微调，玩玩 yolo 训练与部署
 |
1
1140601003 OP 来个人顶贴呀！！
|
 |
2
Fred0410 2024-06-27 00:58:31 +08:00
不考虑用云吗？ 我冲了 300 块钱玩了一个月了。。
|
 |
3
telaviv 2024-06-27 08:02:05 +08:00
能忍没有 bf16 的话，性价比最高的可能是 2080 Ti 22G ，单卡用 unsloth 可以调不少模型，ollama 推理 35B 模型可以 5-10 tokens/s ，双卡会更快些。
|
|
4
1140601003 OP @Fred0410 云的不划算
|
|
5
1140601003 OP @telaviv 我打算搞个 3090 ，搞个双系统来玩玩训练
|
|
6
telaviv 2024-06-28 14:24:45 +08:00
@1140601003 可以的
|
Select Language