如何将ML模型部署为本地物联网边缘模块

Question

我在Azure机器学习工作区的模型注册表中注册了一个机器学习模型。

现在，我想将这样的模型包含在一个Linux接口映像中，它暴露了一个rest；然后，我必须将它作为一个IoT边缘模块部署到一个边缘PC中，在那里其他模块将在本地调用它并接收预测。

我在Microsoft文档中搜索过，但我没有找到解决问题的方法，因为建议的示例和教程讨论了如何部署整个iot边缘解决方案或使用azure ml cli部署模型，相反，我必须将该模块添加到其他模块已经存在的现有部署清单中。

Answer 1

IoT边缘的工作方式是使用路由来管理模块、IoT集线器和任何叶设备之间的通信。$edgeHub模块孪生包含一个称为路由的所需属性，该属性声明如何在部署中传递消息。

我必须将这个模块添加到其他模块已经存在的现有部署清单中。

您需要做的是编辑部署清单(见这里的一个例子)，并将模块添加到$edgeAgent.properties.desired.modules +在$edgeHub.properties.desired.routes中定义路由。这也可以在Azure Portal UI中完成。

其他模块将在本地调用它并接收预测。

由于您的实现使用的是Rest，您的路由只需保证在发送数据INTO $upstream之前，它将被发送到新的ML模块，类似于：INTO BrokeredEndpoint(\"/modules/YOURMLMODEL/inputs/input1\")"。

您可以了解更多关于如何在IoT边缘部署模块和建立路由的信息。