我使用的是支持GPU的Milvus。但是为什么在我看来搜索有时会比只使用CPU的Milvus慢呢？

Question

我使用的是支持GPU的Milvus。但是为什么在我看来搜索有时会比只使用CPU的Milvus慢呢？是否有专门针对支持GPU的Milvus的特定设置？

Answer 1

你的数据集数是多少？

GPU性能优于CPU通常发生在数据集数量较大时。

Answer 2

这取决于查询的数量(nq)。在搜索之前，Milvus需要将数据集加载到它的gpu中，这需要大量的时间。当nq增加到某个值时，更快的搜索时间补偿了加载时间，gpu变得比cpu更快。

Answer 3

从docker解压milvus gpu可执行文件

下载Milvus GPU

wget https://ymu.dl.osdn.jp/datasets/75612/milvus-gpu-1.1.0.tar
or
wget https://ymu.dl.osdn.jp/datasets/75612/milvus-gpu-1.1.1.tar

tar -xzvf milvus-gpu-1.1.0.tar
or
tar -xzvf milvus-gpu-1.1.1.tar

安装并启动Milvus GPU

apt-get update
apt-get install mysql-server
wget https://launchpadlibrarian.net/212189159/libmysqlclient18_5.6.25-0ubuntu1_amd64.deb
wget http://launchpadlibrarian.net/212189147/libmysqlclient-dev_5.6.25-0ubuntu1_amd64.deb
dpkg -i libmysqlclient-dev_5.6.25-0ubuntu1_amd64.deb libmysqlclient18_5.6.25-0ubuntu1_amd64.deb
apt-get install libopenblas-dev
chmod +x /var/lib/milvus/bin/milvus_server
./var/lib/milvus/bin/milvus_server -c ./var/lib/milvus/conf/server_config.yaml

你好，Milvus

pip install pymilvus==1.1.0
pip install grpcio==1.37.0
pip install grpcio-tools==1.37.0

wget https://raw.githubusercontent.com/milvus-io/pymilvus/v1.1.0/examples/example.py
or
wget https://raw.githubusercontent.com/milvus-io/pymilvus/v1.1.1/examples/example.py

python example.py

矩池云上安装及使用Milvus教程：中文参考