catazshadow's recent timeline updates
catazshadow

catazshadow

V2EX member #399613, joined on 2019-04-08 17:11:05 +08:00
Today's activity rank 7496
AI 回旋标来了
分享发现  •  catazshadow  •  Jun 12  •  Lastly replied by woshishui2022
12
为什么你该停止使用 Ollama
  •  1   
    Local LLM  •  catazshadow  •  Apr 22  •  Lastly replied by seakingii
    14
    疑似被 ban,求解封
     •  catazshadow  •  May 5  •  Lastly replied by catazshadow
    2
    跪求个邀请码
     •  catazshadow  •  Sep 16, 2025  •  Lastly replied by pcy
    2
    小体积低功耗+ECC 内存的 NAS 有没有解
    NAS  •  catazshadow  •  Mar 31, 2025  •  Lastly replied by JRay
    45
    catazshadow's recent replies
    9h 55m ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @coefu 好像一直有 40 多吧,我 kv cache 用的 f16 ,哦,对了这个 vllm 是魔改过的能够在图灵卡上跑 flashinfer 的
    11h 0m ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @catazshadow 哦还有我用的是 AWQ
    11h 1m ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @coefu 啊这。我因为上下文的关系倒是在用 qwen3.8 。。。

    我 vllm 一直单并发能有 40TPS ,双并发有 80 多。你开 MTP 了吗
    16h 11m ago
    Replied to a topic by florentino 问与答 我大概理解 AGI 是啥了
    AGI 是 IT 界的核聚变
    1 day ago
    Replied to a topic by tty0 生活 拼多多购物体验真的是很恶心
    为什么要去送手机给并夕夕黑
    3 days ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @coefu 啊这😅
    4 days ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @coefu 这个有多少 prefill ?
    通过说称赞苹果这样正确的废话来标榜自己,是果粉存在的心理机制
    Aug 31
    Replied to a topic by frank1256 NAS Nas 播放音乐用啥 App
    自己装个 ampache ,然后找个支持 subsonic API 的 app 比如说 Ultrasonic
    订没审查的
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   919 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 18ms · UTC 20:17 · PVG 04:17 · LAX 13:17 · JFK 16:17
    ♥ Do have faith in what you're doing.