这是一个创建于 233 天前的主题，其中的信息可能已经有所发展或是发生改变。
树莓派 5 ，8G 内存，CPU 运算。
跑了下 r1 1.5b 和 7b
7b: 速度慢的要死，一条消息跑了快 5min ，大概 1s 出 2 个字。
1.5b: 速度还可以，类似 o1 的速度（直觉上）。3 条消息以后，要思考挺久，几乎是不能用的状态。
使用 ollama 推理
综上，几乎是不能用的状态。
跑了下 r1 1.5b 和 7b
7b: 速度慢的要死，一条消息跑了快 5min ，大概 1s 出 2 个字。
1.5b: 速度还可以，类似 o1 的速度（直觉上）。3 条消息以后，要思考挺久，几乎是不能用的状态。
使用 ollama 推理
综上，几乎是不能用的状态。
Select Language