Orin NX 16G 可以运行 llama3 大模型 - V2EX

首页注册登录

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

› 下载 GeForce Experience

› NVIDIA SHIELD

› GPU Ray Tracing

› NVIDIA Unix Driver

这是一个创建于 202 天前的主题，其中的信息可能已经有所发展或是发生改变。

参考 BV1rD421g7NT ，应该是 4bit 量化

目前尚无回复

orin llama3 quantization

关于 · 帮助文档 · 博客 · API · FAQ · 实用小工具 · 1119 人在线 最高记录 6679 ·

Select Language

创意工作者们的社区

World is powered by solitude

VERSION: 3.9.8.5 · 22ms · UTC 18:26 · PVG 02:26 · LAX 10:26 · JFK 13:26
Developed with CodeLauncher
♥ Do have faith in what you're doing.