V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  ospider  ›  全部回复第 16 页 / 共 52 页
回复总数  1033
1 ... 12  13  14  15  16  17  18  19  20  21 ... 52  
2023-10-23 10:27:17 +08:00
回复了 admin7785 创建的主题 VPS [202310]求推荐科学上网快一些的搭建方案
重点是线路,CN2 GIA 的都不错。翻墙工具主要影响的是会不会被封。
2023-10-21 09:34:40 +08:00
回复了 congfan 创建的主题 iPad 急问, mini 7 没出,决定买 6 了,容量选多大?
等 7 吧,都两年了,估计也快了
2023-10-15 23:54:26 +08:00
回复了 Inzufu 创建的主题 优惠信息 GoDaddy lol 域名 14 块 10 年
前两天不是还有 .gay 域名免费么
2023-10-15 15:45:49 +08:00
回复了 mohuani 创建的主题 程序员 UML 需求征集
除了时序图,现实世界里没有任何用
你是否在找:Apple TV?
没想到在 V 站上,这么简单的问题也能鸡同鸭讲,有人说原理,有人说具体实现,而且还互相打起来……

从原理上来说,ChatGPT 用的模型是自回归的,也就是说,确确实实模型是需要一个字(token)一个字往外吐的。

从实现上来说,可以等模型完全生成再返回给你,也就是上面有人提到的 `stream=False`。但是这样的用户体验反而不好,还不如把这个过程暴露给用户。但是考虑到网络传输,也不可能真的一个包只包含一个字符,那样传输的 overhead 和 latency 都太大了,所以你如果真的看返回的包的话,一个包里包含一段话。也就是说,其实传输上是完全缓存和完全 stream 的一个折中。

再从商业上说,所谓充值可以一下返回,无非是优先级更高,返回更快,不可能改变模型自回归的根本属性……
2023-10-10 20:27:33 +08:00
回复了 cl903254852 创建的主题 买买买 现在入手 mate 60 pro 还是等明年?
不是我说你,信脱离安卓这种鬼话的,不建议翻出来,否则容易精神分裂
2023-10-08 17:13:44 +08:00
回复了 liuyunlong 创建的主题 English 大家有没有推荐的学习英语 IOS 软件(尽量 FREE)
如果想达到看文档目的,那最好的学习路径就是去看文档
2023-10-06 21:05:41 +08:00
回复了 modX0z 创建的主题 程序员 想开个 AI 软件创业公司,武汉还是深圳?
深圳,方便润香港
1 ... 12  13  14  15  16  17  18  19  20  21 ... 52  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1010 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 39ms · UTC 18:54 · PVG 02:54 · LAX 10:54 · JFK 13:54
Developed with CodeLauncher
♥ Do have faith in what you're doing.