V2EX › fnd 的所有回复 › 第 2 页 / 共 12 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8 9 10 ... 12

❮

❯

206 天前

回复了 fnd 创建的主题 › 职场话题 › 毕业十年，想要水个硕士，还来得及吗，该咋选？

@spicy777 也没多高，但是是家庭的主要收入，base 60k ，加年终股票啥的一百多吧。
@CKR 全职的话没工作，算了工作这部分的损失。

206 天前

回复了 fnd 创建的主题 › 职场话题 › 毕业十年，想要水个硕士，还来得及吗，该咋选？

@8355 是我没说清楚...还是得找工作或者后面想混个大专老师之类的职位，包括一些公务员岗位啥的，不知道认可不。

230 天前

回复了 shtzlwdmkf 创建的主题 › 生活 › 母亲过生日，求问送什么礼物

筋膜枪？公司之前发了个，给他们拿回去了，他们用的挺开心。腰酸背痛按一按锤一锤啥的。

233 天前

回复了 fresco 创建的主题 › Android › 有没有用 2024 年旗舰 Android 手机的兄弟们进来吐槽一下

别买华为，Pura 60 最贵的那个版本,10999 ，不值这个价。打游戏有点烫。

233 天前

回复了 imtyz001 创建的主题 › Apple › 高度怀疑苹果和 X 信有合作允许后台开启话筒并不提示

输入法搞得鬼，x 信自己搞输入法也有这层考虑，总有人说是 x 信监听这个监听那个，实际上是输入法收集然后售卖的。

327 天前

回复了 CatCode 创建的主题 › 汽车 › 不懂车，怎么学习？

@luvsic 7 、8 的样子吧

328 天前

回复了 CatCode 创建的主题 › 汽车 › 不懂车，怎么学习？

M7 车主在此，有啥疑问欢迎交流

335 天前

回复了 leeum 创建的主题 › Local LLM › 使用 llama3:70b 本地化部署， 100 人左右的并发，大概需要多少块 4090 才能满足？

上面说的都太业余了，说点实际的。

首先，100 个人用≠100 并发，要结合你的业务场景去评估实际需要支持多少并发。比如：每个人是时时刻刻一直用？还是 5%的时间段在用？重合度多少？峰值可能是多少？
其次，现在并发数的成本很高，并不是一定要支持峰值的并发。当前业内通用的做法是只支持特定的并发，然后做一个队列进行并发控制。如果并发满了一定数量内的先队列等待，等待队列也满了就提示并发数超限稍后再试之类的。
然后，4090 就先不说并发了，70b 的模型都不一定能跑起来，可能得上 A100 。

实际并发数的计算得看单卡每秒 tokens ，然后根据业务场景预估单次请求可能的 tokens 大小，计算得到单卡并发。

335 天前

回复了 svip0dd 创建的主题 › 程序员 › 对接后端接口被挑战能力不行（吐槽贴，不会因为这个问题去挑战什么）

你们的后端太懒了。就你说的这些情况，需要有一个专门的业务后台来做这些接口的整合，而不是客户端做这些事情。

341 天前

回复了 shaonian 创建的主题 › 阅读 › 今天是世界读书日， V 友们来推荐些阅读好书？

置身事内
纳瓦尔宝典

2024-02-28 17:19:15 +08:00

回复了 zzNaLOGIC 创建的主题 › 汽车 › 老丈人车坏了，想换个代步的， 15 万左右落地有的选么。。。

新能源也能挂蓝牌的吧

2024-02-18 11:27:25 +08:00

回复了 DelayNoMay 创建的主题 › 职场话题 › 想跳槽， 2024 的就业环境会好一点吗？

不会