如何减少rasa 3 python中的模型加载时间

Question

我是新来的拉萨和堆叠溢流，

我已经用默认的RASA config.yml文件训练了一个rasa NLU模型。有3个意图和每个意图，3个例子和总计2个实体。

我用下面推荐的火车模型

config = 'confing.yml'
training_files = './data/'
domain = 'domain.yml'
output = './models/

    import rasa
    rasa.train(domain, config, [training_files], output, fixed_model_name='model_name')

当我用以下代码加载RASA NLU模型时

    from rasa.core.agent import Agent
    Agent.load(model_path='Model_path')

变量中的负荷模型需要1.5到2分钟。

有什么可以减轻的吗？还是我做错了什么？因为我想按需提供这些模型，这需要更快的加载时间。

任何帮助都将不胜感激。提前感谢！

Answer 1

它所依赖的许多事情之一是整个管道配置。就像。如果你使用的是一个语言模型的功能，你有伯特-基础，它将需要稍多的时间加载比说，比蒸馏器基础。类似地，如果您使用ConveRT特性器，则加载时间要短得多。然而，我发现当使用完全相同的管道时，Rasa3.x需要比Rasa2.x花费更多的时间来加载