我们目前将照片存储在这样的结构中:
文件夹\1\10000-19999 000 \ORF\TIF (10 000个文件)
文件夹\2\20000-29999.JPG\ORF\TIF (10 000个文件)等。
它们存储在4种不同的2TB-D链接NASes上,它们连接和共享在我们的办公网络上(\nas1,\nas1 2,等等)
问题:
1)当客户端(仅Windows、Vista和7)希望浏览\nas1 1\文件夹\1\文件夹时,性能非常差。这是个问题。在资源管理器窗口中生成列表需要很长时间。即使关闭图标。
2)初次进入NAS本身有时很慢。问题来了。
SAN磁盘对我们来说太贵了。即使使用iSCSI接口/交换技术。
我读过很多技术页面,说在一个文件夹中存储100个000+文件不应该是个问题。但我们现在不敢去那里,因为我们在10K的水平上遇到了问题。
所有的投入都非常感谢,
/T
发布于 2010-12-10 14:16:25
是的,资源管理器不喜欢目录中的10.000项。1000是b etter。这不是文件系统问题--您可以安全地将100.000个文件存储在一个文件夹中,并从命令行高效地处理它们。是探索者在慢慢来。
2:伶盗龙600光盘。10.000 RPM。快地。需要更多,然后拿钱给SAS。或者等到事情变得更便宜。如果我需要一辆卡车,我需要付钱。
发布于 2010-12-10 16:29:58
你需要看看数字资产管理软件。DAM软件是用来管理大量的照片/视频/音频集合的。它们通常有数据库支持来管理媒体目录。一个例子是MS iView
发布于 2011-01-04 19:10:00
我敢打赌dlink盒正在耗尽CPU或RAM。
我们每天存储数百万个新的图像文件。
Windows不喜欢文件夹中的大量文件。在我们的windows机器上,我们将每个文件夹的号码保持在10K以下。
与windows上的CIFS相比,使用SAMBA的Linux是管理表示层的更好解决方案。我们将apache放在上面,让用户浏览原始文件,并有一个数据库来帮助他们通过一个简单的web向下钻取应用程序获得他们所需要的东西。我们编写了自己的解决方案来管理图像,因为所有版本都有问题。
LUN上的文件总数约为8000万或2Tb。
我们使用rsynch备份到另一个磁盘系统,然后在卷变得不活跃时将其发送到磁带。
您需要非常小心每个raid组的磁盘,并在整个技术堆栈中仔细地管理您的IOs。这是很容易耗尽汽油和大量的数据向你,一旦你落后了,你会有很大的痛苦。
CPU、RAM、Raid卡、纺锤、mobo、网络--所有这些都需要你最快的速度。
LGA1366 Mobo上有大量的纺锤体和PCI2.0LSI卡,至少有一个x5550。
我们真的喜欢希捷桌面鱼子酱线,因为它是快速和便宜的。
我会用大量的纺锤制作一个定制的盒子。
https://serverfault.com/questions/211290
复制相似问题