在AWS Lambda (Node.js)上运行TensorFlow.js (tfjs-node)

Question

可以在AWS Lambda上运行TensorFlow.js ( Node.js版本- tfjs-node)吗？我尝试将tfjs-node部署为AWS Lambda层，但它超出了允许的256MB大小限制。

Answer 1

最后，我成功地将tfjs-node的一个早期版本(1.1.2)部署到了AWS Lambda层。显然，这是最后一个版本，它足够小，可以让它出来。

要自己构建它，您可以使用以下脚本。您需要在您的计算机上安装Docker，以便为AWS Linux构建它：

#!/bin/sh

# cleaning previous build
rm -rf ./layer

# installing tfjs-node with docker
docker run --rm -v $PWD:/var/task lambci/lambda:build-nodejs12.x npm install @tensorflow/tfjs-node@1.1.2 --no-package-lock --prefix layer/nodejs

# zipping layer
cd ./layer && zip -qrX ./tfjs-node-layer.zip .

# removing unzipped module
rm -rf ./layer/nodejs

这将在您的工作目录中创建./layers/tfjs-node-layer.zip。您需要将其上传到s3存储桶，并从s3存储桶URL创建新的AWS Lambda层。

Answer 2

AWS Lambda函数可以挂载EFS (自2020年6月起)。您可以使用EFS加载库或包，这些库或包大于AWS Lambda的250 MB包部署大小限制。

有关如何设置它的详细步骤如下：https://aws.amazon.com/blogs/aws/new-a-shared-file-system-for-your-lambda-functions/