 |
WuSiYuV2EX 第 117744 号会员，加入于 2015-05-19 20:37:14 +08:00 |
wusiyu.me
WuSiYu 最近回复了
12 小时 31 分钟前 回复了 unpay 创建的主题 › 宽带症候群 › 运营掐上行本质还是“钱”PCDN 只是理由 |
不为了钱还能为啥。。。家宽、商宽费用不对等的必然结果呗，一切都是为了高价的商宽有人买
1 天前 回复了 fiht 创建的主题 › 随想 › 你愿不愿意打开引擎盖？ |
对于搞 LLM 算法或者 infra 的 1 那些都属于常识，但对于普通 LLM 用户而言知道个 sampling 就够了，毕竟 DNN 的可解释性一直就不强，知道 softmax(Q @ K^T / sqrt(d_k)) @ V 也不会对使用技巧有太多帮助
1 天前 回复了 fengwq 创建的主题 › NVIDIA › 4090 置换 5090，我花了 2400 |
差不多，我 4090 1.85w 卖的，当时 2.1w 换的 5090
3 天前 回复了 shenjialun 创建的主题 › iPhone › 国行能否使用 6Ghz |
用起来很折腾吧
3 天前 回复了 wshjdx 创建的主题 › 宽带症候群 › 求推荐家用硬件防火墙 |
“防火墙”概念太宽泛了，iptables 、DPI 流量检测、IDS/IPS 、WAF 都是不同的东西，后面几种的特征库基本都是要钱的
另外我在用的 unifi ucg fiber 网关自带免费的 DPI 和 IDS/IPS ，但我感觉图一乐，平时也就帮你拦截一些脏 ip
另外我在用的 unifi ucg fiber 网关自带免费的 DPI 和 IDS/IPS ，但我感觉图一乐，平时也就帮你拦截一些脏 ip
4 天前 回复了 keaidian 创建的主题 › 程序员 › 千问的这次崩了，会属于事故吗？ |
很难的啦.jpg
跑 LLM 又不像 Web 后端那么简单，LLM 一个请求在输出结束前 kv cache 都要驻留在显存里，一个 8 卡服务器只能顶个几百到几千并发。再加上 LLM 服务冷启动慢（分钟级），动态扩容响应速度也不快。再加上现在 LLM infra 搞的很复杂，又是 PD 分离又是全局多级 kv cache 缓存，一个大 EP 实例横跨几百卡，failover 的工作却不多，一崩炸一片
跑 LLM 又不像 Web 后端那么简单，LLM 一个请求在输出结束前 kv cache 都要驻留在显存里，一个 8 卡服务器只能顶个几百到几千并发。再加上 LLM 服务冷启动慢（分钟级），动态扩容响应速度也不快。再加上现在 LLM infra 搞的很复杂，又是 PD 分离又是全局多级 kv cache 缓存，一个大 EP 实例横跨几百卡，failover 的工作却不多，一崩炸一片
6 天前 回复了 Admstor 创建的主题 › SSH › 我不理解几乎所有 SSH 加固都提到配置公钥 |
@est 我知道，我没表达清楚，我的意思是 ssh 本身通信是 ssl/tls 这套，安全性是一开始的非对称加密保证的
7 天前 回复了 DeepSIeep 创建的主题 › NAS › 刚发现飞牛系统出问题了，没用 FNConnet 我的机器会有问题么？ |
逃不过的，ipv4 地址就那么多，一万个人在天天在那扫，你可以随便试试开个服务在高位端口，最多一两天就会被一堆人扫
7 天前 回复了 Nexora 创建的主题 › 程序员 › 分享一下我的飞牛 NAS 网络方案，我认为比较安全 |
@Nexora 你看又一个被飞牛官方的避重就轻公告坑了的吧，他那个 FN Connect 转发后和你自己映射端口一样的，也会中招，现在飞牛已经禁止低版本 fnos 用 FN Connect 了，要真没事搞这个干啥。如果你之前就一直开着 FN Connect 最好重装系统吧，说不定已经被干了
7 天前 回复了 Admstor 创建的主题 › SSH › 我不理解几乎所有 SSH 加固都提到配置公钥 |
这楼给我越看越迷惑了
首先无论你是用密码还是公私钥，只是认证方式的区别，ssh 本身通信都是走的非对称加密
有一个区别是私钥永远不会离开你的电脑，而密码登录时服务器能拿到你的密码明文，但除非 1.服务器本身被攻陷，或者 2.你首次连接的就是中间人攻击的假服务器，否则也没什么安全问题：ssh 的通信本身是非对称加密的，捕获流量无法解密你的密码，被中间人攻击时也会因为和.ssh/known_hosts 里存过的 key 不一致而报错
剩下的就是密码强度问题了，理论上你的用足够长的随机字符密码也是安全的，但 16 位依然弱一些，并且如果不是纯随机密码还会导致强度进一步下降。而记住一个足够长还足够随机的密码可比配一下公私钥麻烦多了，还有就是私钥本身也是可以再加密码的
首先无论你是用密码还是公私钥，只是认证方式的区别，ssh 本身通信都是走的非对称加密
有一个区别是私钥永远不会离开你的电脑，而密码登录时服务器能拿到你的密码明文，但除非 1.服务器本身被攻陷，或者 2.你首次连接的就是中间人攻击的假服务器，否则也没什么安全问题：ssh 的通信本身是非对称加密的，捕获流量无法解密你的密码，被中间人攻击时也会因为和.ssh/known_hosts 里存过的 key 不一致而报错
剩下的就是密码强度问题了，理论上你的用足够长的随机字符密码也是安全的，但 16 位依然弱一些，并且如果不是纯随机密码还会导致强度进一步下降。而记住一个足够长还足够随机的密码可比配一下公私钥麻烦多了，还有就是私钥本身也是可以再加密码的
Select Language