我是snowflake的新手,在AWS上探索snowflake。当数据存储在snowflake中时,我知道我们可以在分区中创建和管理数据,就像我们在hive中所做的那样。Hive不允许我进行分区级别的用户访问管理。我能用雪花做到这一点吗?如果是,我们该如何做,以及如何在AWS上对其进行管理?
发布于 2020-12-04 04:08:39
使用Snowflake,您无法直接访问底层存储,只能使用Snowflake提供的访问机制。Snowflake完全透明地管理底层存储上所有数据的供应、管理和布局。所以你不能“像在hive中那样在分区中创建和管理数据”
如果您想更多地了解这个存储是如何工作的,可以阅读微分区here
在绝大多数情况下,不需要干预Snowflake如何布局您的数据,但有一个功能可以强制数据如何集群-尽管Snowflake建议这只在数to的表上有用。您可以阅读有关聚类表here的内容
Snowflake确实有“外部表”的概念-这些表在Snowflake数据库中显示为普通表,但它们的数据实际上保存在您拥有和管理的S3 (或Azure Blob或GCP存储)中,而不是Snowflake。这些表可以方便地创建/使用,但与直接保存在Snowflake中的表相比,性能要差得多:当数据加载到Snowflake中时,它最终可能仍然存储在S3上,但经过压缩、转换为列格式并保存在微分区中-在结构上与您在S3存储桶中看到的文件非常不同
https://stackoverflow.com/questions/65128887
复制相似问题