V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
dai269619118
V2EX  ›  硬件

想配一台 gpu 主机

  •  
  •   dai269619118 · 123 天前 · 2131 次点击
    这是一个创建于 123 天前的主题,其中的信息可能已经有所发展或是发生改变。
    想去跑 flux 、llama70b 这些比较热门的项目

    显存是最大的一个支出,廉价版 2080ti 魔改 22g 一张 2600 左右

    但是这些好像都是矿卡改过来的,也不知道这种显卡能用多久

    不用 2080ti 的话 用 3090 24g 好像看着是最划算的 二手 5500-7000

    打算先上 2 张,后面有钱了再扩到 4 张

    显卡有普通的版本和涡轮的版本,如果放在家里的话 涡轮声音会不会非常大

    主机不知道怎么配比较好 有自己配 gpu 主机的大佬分享下配置吗?
    8 条回复    2024-08-28 01:23:18 +08:00
    yangzair
        1
    yangzair  
       123 天前
    买前生产力,买后爱奇艺。有需要直接租最划算
    laminux29
        2
    laminux29  
       123 天前
    首先,就连 GPT 4 、Google Bard 等商业 AI ,都各有各的缺点,更别提自部署的开源 AI 了。除非贵司真有隐私问题,才需要用自部署 AI 。

    个人用,也就新鲜一阵子,质量根本不如商业 AI 。新鲜感没了后,这类显卡玩游戏性能又不行,想当鸡肋了。

    如果真的想要,建议先租一段时间,如果能连续 1-2 个月用它,再考虑购买。
    libook
        3
    libook  
       123 天前 via Android
    你看看直接买 api token 包,或者租云 gpu 的成本,比你自己攒硬件花电费的成本,在可靠性和成本上
    DollarKiller
        4
    DollarKiller  
       122 天前
    买了 3070 然后吃灰了
    esee
        5
    esee  
       122 天前 via Android
    你自己能稳定先租用两个月再考虑是不是自建服务器了。可能过个一个星期你就没兴趣做这个了。另外弱弱问一句,你以前读书的时候放假回家,会不会塞了很多学习资料回家想着大干一场结果回家书包都没打开。
    lengyuqu
        6
    lengyuqu  
       122 天前
    问就是 4090
    TabGre
        7
    TabGre  
       122 天前 via iPhone
    autodl 已经玩起来了 很划算
    ryd994
        8
    ryd994  
       119 天前 via Android
    起步可以先捡洋垃圾服务器显卡。比如 MI25 或者 Tesla M40 之类的。显存够大,反正能跑,速度就别指望了。这种垃圾也没人去修,不值。

    主机部份就更适合捡垃圾了。价格便宜不说,pcie 通道多。桌面平台插不了几张显卡,主板通常也就 2 条 pcie 槽( 20 lane )是直连 CPU 不走南桥的。服务器平台,即使是 x99/c612 这样的老古董也是 40 lane ,3 条槽直通 CPU 。双路系统插 4-5 张卡也不在话下。反正能跑
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5465 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 08:57 · PVG 16:57 · LAX 00:57 · JFK 03:57
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.