课程目标

CNRT是寒武纪运行时库，提供了一套面向 MLU设备的高级别的接口，用于主机与 MLU 设备之间的交互。

CNRT 作为寒武纪软件系统运行的重要机制，所有其他的寒武纪软件运行以及模型的推理都需要调用 CNRT 接口。

离线模型是一个保存了序列化的、经由CNML生成的网络或算子的文件。 CNRT 通过加载离线模型文件来驱动 MLU core 硬件完成计算。

在本教程中将会介绍CNRT运行离线模型的主要API和相关概念。