RK3588移植RKLLM

799959745 · 发表于 2024-4-24 11:37:00

rkllm 没有试过，现在 rkllm 是 beta 版本。3588 npu 的库文件也要更新到 2.0beta 版本。

799959745 · 发表于 2024-4-24 11:38:00

当前 3588 npu 的版本是 1.6.0 。由于 2.0版本是 beta 版本，没有放进 ubuntu 系统里面，需要自行更新调试。

799959745 · 发表于 2024-4-24 11:53:17

你更新的是内核驱动，还有文件系统的 npu 驱动也要更新。更新 librknnrt.so 文件和头文件。在 github 的 rknpu2 仓库能找到最新的 2.0 版本进行替换。

799959745 · 发表于 2024-4-24 13:40:56

给 cpu 和 npu 定频试一下

[人工智能] RK3588移植RKLLM