将ML/深度学习部署在AWS Lambda上，用于长期的训练，而不仅仅是推理

Question

可以使用无服务器技术将ML模型部署到生产中，因为如果部署包太大(或者是从不需要的依赖项中构建的，则可以压缩包大小)。

但是也有部署ML用于培训的用例，而不仅仅是推理。例如，如果一家公司想让高级用户从前端重新培训一个模型。

考虑到长期的训练时间，这对兰博达来说可行吗？

虽然延迟不会出现(冷启动延迟很好)，但运行时可能会相当长(小时)。

Answer 1

我使用ECS (Fargate)来训练模型，再培训触发器可能是ECS服务的开始。虽然ECS有一些延迟，但它可以处理很长的运行时。

然后，您可以通过lambda提供模型。