如何将与Rusoto一起从S3下载的文件保存到我的硬盘上？

Question

我正试图从一个桶中下载一个与Rusoto一起的文件，并且我正在获取文件内容：

fn get_object(client: &TestClient, bucket: &str, filename: &str) {
    let get_req = GetObjectRequest {
        bucket: bucket.to_owned(),
        key: filename.to_owned(),
        ..Default::default()
    };

    let result = client.get_object(&get_req).sync().expect("Couldn't GET object");


    let stream = result.body.unwrap();
    let body = stream.concat2().wait().unwrap();

    assert!(body.len() > 0);
}

如何将这个GetObjectOutput(result)对象保存到文件中？

Answer 1

你快到了。您的代码将把对象放在body中，这是一个Vec<u8>。

要将body的内容写入文件：

use std::io::Write;
use std::fs::File;

let mut file = File::create("/path/to/my-object").expect("create failed");
file.write_all(&body).expect("failed to write body");

Answer 2

Rusoto现在使用标准库期货，不再提供sync方法，因此前面的答案不再有效。

读到记忆

use futures::stream::TryStreamExt;
use rusoto_core::Region;
use rusoto_s3::{GetObjectRequest, S3Client, S3};

type Error = Box<dyn std::error::Error>;
type Result<T, E = Error> = std::result::Result<T, E>;

const BUCKET_NAME: &str = "my very own bucket name";

#[tokio::main]
async fn main() -> Result<()> {
    let client = S3Client::new(Region::UsEast2);

    let mut object = client
        .get_object(GetObjectRequest {
            bucket: BUCKET_NAME.into(),
            ..Default::default()
        })
        .await?;

    let body = object.body.take().expect("The object has no body");

    let body = body.map_ok(|b| b.to_vec()).try_concat().await?;
    println!("body length: {}", body.len());

    Ok(())
}

需要指定AWS_ACCESS_KEY_ID和AWS_SECRET_ACCESS_KEY。我选择在代码之外设置环境变量。

流到文件

use rusoto_core::Region;
use rusoto_s3::{GetObjectRequest, S3Client, S3};
use tokio::{fs::File, io};

type Error = Box<dyn std::error::Error>;
type Result<T, E = Error> = std::result::Result<T, E>;

const BUCKET_NAME: &str = "my very own bucket name";

#[tokio::main]
async fn main() -> Result<()> {
    let client = S3Client::new(Region::UsEast2);

    let mut object = client
        .get_object(GetObjectRequest {
            bucket: BUCKET_NAME.into(),
            ..Default::default()
        })
        .await?;

    let body = object.body.take().expect("The object has no body");

    let mut body = body.into_async_read();
    let mut file = File::create("/tmp/a-place-to-write").await?;
    io::copy(&mut body, &mut file).await?;

    Ok(())
}

虽然ByteStream有一个诱人的into_blocking_read方法，但我不建议使用它。如果您试图在异步上下文中使用它，您会感到恐慌，因为它启动了一个嵌套的Tokio执行器。如果您在异步上下文之外使用异步运行时，它将是截断数据的，除非您非常小心地使用异步运行时，而不是在其中。

另请参阅：

• 使用超级程序异步地将块流写入文件
• 如何将期货：：流写入磁盘，而不首先将其完全存储在内存中？

依赖型版本

[dependencies]
rusoto_s3 = "0.43.0"
rusoto_core = "0.43.0"
tokio = { version = "0.2.21", features = ["macros"] }
futures = "0.3.5"