如何在MS团队中部署BERT模型作为聊天机器人

Question

我有一个Text2SQL模型(EditSQL：https://github.com/ryanzhumich/editsql)，它被配置为以一个句子作为输入，并返回一个SQL作为输出。

现在，我想将这个程序部署为微软团队中的聊天机器人应用程序。

据我所知，这里有一个Microsoft框架，允许发布一个bot，这里描述了这三个选项。https://learn.microsoft.com/en-us/learn/modules/choose-bot-building-tool/

但是，我没有发现其中任何一个适合我的用例，因为我需要部署一个问答机器人，其中用户的问题需要发送到一个外部服务器，比如AWS，而来自AWS的响应(可能是一个excel文件)需要返回给用户。多个问题可以是会话的一部分，因此聊天客户端应该能够标记会话的开始和结束。

我的问题是：

通过服务器公开ml模型，以便在production.

• What中查询它的基本步骤是哪些工具，可以让我在团队中创建一个客户端，并在AWS?

上为该模型提供一个服务器。

请让我知道，如果我应该增加更多的这方面的信息。

谢谢

Answer 1

正如您所看到的，在Microsoft世界中，无论团队还是其他方面，都有很多工具/方法来创建机器人。在下面，这些都使用Bot，但是您可以直接开发(即编写代码)，或者使用更高级别的工具，比如-取决于您自己的内部技能。如果您想直接使用代码，下面是一堆使用多种语言的bot示例：https://github.com/microsoft/BotBuilder-Samples/tree/main/samples。下面是一个将Microsoft QnAMaker服务集成到bot中的示例：https://github.com/microsoft/BotBuilder-Samples/tree/main/samples/python/49.qnamaker-all-features

基本上，如果您采用开发方法，您的机器人只是一个web服务。一旦接收到消息，就可以在幕后调用任何其他服务。这意味着它可以接收消息，呼叫AWS服务，接收响应，并向用户发送回复。

对于多个问题，作为‘一组聊天’的一部分，提供了一个名为“对话框”的想法，应该适用于您。