我想在反洗钱中使用sentence_transformers来运行XLM模型来进行句子嵌入.我有一个导入sentence_transformers的脚本:
from sentence_transformers import SentenceTransformer运行AML管道后,此脚本上的运行将失败,并出现以下错误:
AzureMLCompute job failed.
UserProcessKilledBySystemSignal: Job failed since the user script received system termination signal usually due to out-of-memory or segfault.
Cause: segmentation fault
TaskIndex:
NodeIp: #####
NodeId: #####我很确定这个导入会导致这个错误,因为如果我注释掉这个导入,脚本的其余部分就会运行。这很奇怪,因为sentence_transformers的安装成功了。
这是我计算的细节:
Virtual machine size
STANDARD_NV24 (24 Cores, 224 GB RAM, 1440 GB Disk)
Processing Unit
GPU - 4 x NVIDIA Tesla M60Pool探员:
Azure Pipelines代理人规格:
ubuntu-16.04requirements.txt文件:
torch==1.4.0
sentence-transformers有人有这个错误的解决方案吗?
发布于 2020-12-01 23:48:58
我通过将pytorch版本从1.4.0更改为1.6.0解决了这个问题。所以requirements.txt看起来是这样的:
torch==1.6.0
sentence-transformers一开始,我尝试了一个较旧版本的语句转换器,它与py手电1.4.0兼容。但是旧版本不支持“base”模型,所以我尝试升级Py手电版本。
https://stackoverflow.com/questions/65099376
复制相似问题