Carson089

不要折腾了。爱玩游戏就好好挑个游戏本，显卡够用最低配就行。训练模型，笔记本的阉割版显卡完全不够用，分分钟烫手。mac 不用考虑了，玩游戏不行，玩大模型一般部署 int4 甚至 int1 的大模型，准确率差很多的。
玩大模型就去租用服务器就行，弹性扩展，千问 72B 都可以玩，还可以分部署训练，这是单卡无法比拟的

15 天前

回复了 Hilalum 创建的主题 › 旅行 › 书接上回，蜜月旅行分享 part2

好奇一个问题，出去玩 20 多天，衣物带多少，在途中酒店烘干，抑或是一次性的（内衣之类）？

26 天前

回复了 faoisdjioga 创建的主题 › Linux › Linux 如何保持 Nvidia 驱动稳定

1. 宿主机的 nvidia 驱动支持最新的 cuda 版本就好，不要随意更新 nvidia 驱动
2. 不同的项目可能需要不同的 cuda 版本，在 docker 中安装 cuda 与 cudnn
3. 还有个选择是，anaconda/conda 等使用虚拟环境。安装需要的 gpu 的项目时候会自动下载 cuda/cudnn 相关到环境中

81 天前

回复了 Carson089 创建的主题 › 程序员 › LLM 大模型产品的前端架构选择 - React vs Vue?

@mightybruce 你说的也对。gradio 可以快速搭建出活，去做 demo 的话很合适。但是如果开发产品级应用，增加插件、功能等，感觉不好拓展。

81 天前

回复了 Carson089 创建的主题 › 程序员 › LLM 大模型产品的前端架构选择 - React vs Vue?

@horizon cursor 对吧，我上次使用要我付费，我再看看能不能用。。。

81 天前

回复了 Carson089 创建的主题 › 程序员 › LLM 大模型产品的前端架构选择 - React vs Vue?

@hackyuan 我也有自己部署开源项目，类似于大模型应用的 demo ，RAG 、Agent 这种。但是大部分都很重，整个框架很大，看不懂前端部分的内容。还有最近部署了一个简单一点的项目，里面是直接是 flask 读取 assert.py （里面包含 html 、js 等字符串内容），直接看懵了

» Carson089 创建的更多回复