第四章 CNRT离线编程

在本教程主要介绍CNRT运行离线模型的主要API和相关概念
难易程度: |课时:1节课|已学习人数:719
课程目录
寒武纪CNRT离线编程
课程信息

课程目标

CNRT,也就是寒武纪运行时库,提供了一套面向 MLU设备的高级别的接口,用于主机与 MLU 设备之间的交互。

CNRT 作为寒武纪软件系统运行的重要机制,所有其他的寒武纪软件运行以及模型的推理都需要调用 CNRT 接口。

离线模型是一个保存了序列化的、经由CNML生成的网络或算子的文件。 CNRT 通过加载离线模型文件来驱动 MLU core 硬件完成计算。

在本教程中将会介绍CNRT运行离线模型的主要API和相关概念。

 

评论
暂无评论
相关阅读
暂无相关阅读
申 请 试 用