已经是训练好的模型了,投入生产环境也很吃算力,一般的服务器没有独立显卡啊,难道只能跑 cpu 版本,cpu 速度很慢,没法用啊,或者给服务器搞一块强劲显卡?
1
ZRS 2020-04-09 14:43:42 +08:00 1
配显卡或者专门做 Inference 的硬件,有不少做解决方案的公司
|
4
tomczhen 2020-04-09 14:56:12 +08:00 via Android 1
老黄不让数据中心用游戏卡,捡二手专业卡真的性价比有点低,虚拟化也是一堆坑等着。
|
6
formaxin 2020-04-09 23:11:50 +08:00 via Android
cpu 慢那就只能上 gpu 了,nvidia-docker 蛮香的
|
7
formaxin 2020-04-09 23:13:17 +08:00 via Android 1
再就是优化下模型,减枝蒸馏之类的
|
9
q428202849 2020-04-15 11:37:29 +08:00
独立显卡服务器了解一下
1 、I3-2100 8G 500G 5M 2IP GTX730 2G 显卡 2 、I5-3470 8G 1T 10M 2IP GTX730 2G 显卡 3 、I7-3770 8G 1T 10M 2IP GTX730 2G 显卡 |