我想处理一个161mo的数据库,但是java saxon9he在300mb的内存和1700mb的.NET上耗尽了内存,所以我需要使用流,所以我使用了XMLSpy演示,但我仍然不理解xpath表达式的子父逻辑。我使用的是windows xp sp3 32位4 4gb内存。
<xsl:iterate select="db_entry">
<xsl:apply-templates select="db_entry"/>
</xsl:iterate>使用xsl:iterate或xsl:for-each进行流式传输的正确方式是什么?这个数据库中有近60000个条目。我的意思是如何正确地编写它,因为db_entry中的db_entry不起作用。
编辑:
<xsl:template match="databank_export">
<xsl:iterate select="db_entry">
<xsl:apply-templates select="public_data"/>
<xsl:text> |</xsl:text>
<xsl:apply-templates select="text_data"/>
<xsl:text> |</xsl:text>
<xsl:apply-templates select="research_data"/>
<xsl:text> </xsl:text>
</xsl:iterate>
</xsl:template>我用xsl: db_entry替换了iterate:template,但是XMLspy不能加载大文件,所以看起来流不起作用。我做得对吗?是程序限制还是演示限制?
第二次编辑:我将把我的整个xsl代码放在这里:
<?xml version="1.0" encoding="UTF-8"?>
<xsl:stylesheet xmlns:xsl="http://www.w3.org/1999/XSL/Transform" xmlns:xs="http://www.w3.org/2001/XMLSchema" xmlns:fn="http://www.w3.org/2005/xpath-functions" xmlns:math="http://www.w3.org/2005/xpath-functions/math" xmlns:array="http://www.w3.org/2005/xpath-functions/array" xmlns:map="http://www.w3.org/2005/xpath-functions/map" xmlns:xhtml="http://www.w3.org/1999/xhtml" xmlns:err="http://www.w3.org/2005/xqt-errors" exclude-result-prefixes="array fn map math xhtml xs err" version="3.0">
<xsl:output method="text" encoding="UTF-8" indent="yes"/>
<xsl:mode streamable="yes"/>
<!--
<xsl:template match="databank_export">
-->
<xsl:template match="/">
<xsl:apply-templates select="databank_export/copy-of(db_entry)" mode="entry"/>
</xsl:template>
<xsl:template match="db_entry" mode="entry">
<xsl:value-of select="public_data, text_data, research_data" separator=" |"/>
<xsl:text> </xsl:text>
</xsl:template>
<xsl:template match="public_data">
<xsl:value-of select="sflname"/>
<xsl:text>; </xsl:text>
<xsl:apply-templates select="bdata"/>
<xsl:text>; </xsl:text>
<xsl:value-of select="gender"/>
<xsl:text>; PHOTO : |</xsl:text>
<xsl:value-of select="name, gender, rating, datatype/@sdatatype, datatype/@sdatasource, bdata/sbdate, bdata/sbdate/@ccalendar" separator=" - "/>
<xsl:text>|</xsl:text>
<xsl:value-of select="bdata/sbtime, bdata/sbtime/@sbtime_ampm, bdata/sbtime/@ctimetype, bdata/sbtime/@stimetype, bdata/sbtime/@stmerid, bdata/sbtime/@ctzauto, bdata/sbtime/@jd_ut, bdata/sbtime/@sznabbr, bdata/sbtime/@time_unknown, bdata/sbtime/@itimeaac, bdata/sbtime/@stimeaac" separator=" "/>
<xsl:text>|</xsl:text>
<xsl:value-of select="bdata/place, bdata/country, bdata/country/@sctr" separator=", "/>
<xsl:text>, </xsl:text>
<xsl:value-of select="bdata/place/@slati, bdata/place/@slong" separator=" "/>
<xsl:text>|</xsl:text>
<xsl:value-of select="scollector, seditor, biographer" separator=" "/>
<xsl:text>|</xsl:text>
<xsl:value-of select="screationdate, slasteditdate" separator=" "/>
</xsl:template>
<xsl:template match="bdata">
<xsl:value-of select="sbdate/@iday, sbdate/@imonth, sbdate/@iyear" separator="."/>
<xsl:text>; </xsl:text>
<xsl:value-of select="sbtime"/>
<xsl:text>; </xsl:text>
<xsl:analyze-string select="sbtime/@stmerid" regex="([hm]{{1}})([0-9]{{1,2}})([ew]{{1}})([0-9]{{0,2}})">
<xsl:matching-substring>
<xsl:choose>
<xsl:when test="regex-group(3) = 'e'">
<xsl:text>+</xsl:text>
</xsl:when>
<xsl:when test="regex-group(3) = 'w'">
<xsl:text>-</xsl:text>
</xsl:when>
<xsl:otherwise>
<xsl:text>+</xsl:text>
</xsl:otherwise>
</xsl:choose>
<xsl:choose>
<xsl:when test="regex-group(1) = 'h'">
<xsl:number value="regex-group(2)" format="01"/>
</xsl:when>
<xsl:when test="regex-group(1) = 'm'">
<xsl:text>00:</xsl:text>
<xsl:number value="regex-group(2)" format="01"/>
<xsl:text>:</xsl:text>
<xsl:number value="regex-group(4)" format="01"/>
</xsl:when>
<xsl:otherwise>
<xsl:text>+1</xsl:text>
</xsl:otherwise>
</xsl:choose>
</xsl:matching-substring>
</xsl:analyze-string>
<xsl:text>; </xsl:text>
<xsl:value-of select="place, country" separator=","/>
<xsl:text>; </xsl:text>
<xsl:value-of select="place/@slati, place/@slong" separator="; "/>
</xsl:template>
<xsl:template match="text_data">
<xsl:value-of select="shortbiography, wikipedia_link, db_link, sourcenotes" separator="|"/>
</xsl:template>
<xsl:template match="research_data">
<xsl:apply-templates select="categories"/>
<xsl:text>|</xsl:text>
<xsl:apply-templates select="relationships"/>
<xsl:text>|</xsl:text>
<xsl:value-of select="events/@count"/>
<xsl:text>|</xsl:text>
<xsl:apply-templates select="events"/>
</xsl:template>
<xsl:template match="categories">
<xsl:iterate select="category">
<xsl:value-of select="@cat_id, @db_id, @catnotes" separator=" "/>
<xsl:text> - </xsl:text>
<xsl:value-of select="text()"/>
<xsl:text> |</xsl:text>
</xsl:iterate>
</xsl:template>
<xsl:template match="relationships">
<xsl:iterate select="relationship">
<xsl:value-of select="@rel_id, @rel_db_id, @db_id, @relcat" separator=" "/>
<xsl:text> - </xsl:text>
<xsl:value-of select="@relnotes, text()" separator=" - "/>
<xsl:text> |</xsl:text>
</xsl:iterate>
</xsl:template>
<xsl:template match="events">
<xsl:iterate select="event">
<xsl:value-of select="@sevcode, @evn_id, @db_id, @evnotes" separator=" "/>
<xsl:text> |</xsl:text>
<xsl:apply-templates select="event_data"/>
<xsl:text> |</xsl:text>
</xsl:iterate>
</xsl:template>
<xsl:template match="event">
<xsl:apply-templates select="event_data"/>
</xsl:template>
<xsl:template match="event_data">
<xsl:value-of select="sbdate, sbdate/@ccalendar, sbdate_dmy" separator=" "/>
</xsl:template>
</xsl:stylesheet>它可以处理一个很小的示例文件,但不能处理整个161mb文件。
诚挚的问候。
发布于 2017-08-02 16:16:23
Martin已经回答了相当多的问题,但让我补充几句。
您的示例代码
<xsl:iterate select="db_entry">
<xsl:apply-templates select="db_entry"/>
</xsl:iterate>这似乎是初学者的错误:除非db_entry实际上包含另一个db_entry元素作为子元素,否则这应该是
<xsl:iterate select="db_entry">
<xsl:apply-templates select="."/>
</xsl:iterate>xsl:iterate和xsl:for-each之间的区别在于,使用xsl:for-each时,输入序列中的每个项目都是独立于其他项目进行处理的:没有定义的处理顺序,而且一个项目的处理不会影响后续项目的处理方式。使用xsl:iterate,项按顺序处理,并且(通过使用xsl:next-iteration)您可以在处理项时设置变量/参数,这些变量/参数可用于处理下一项。
这种区别与流没有直接关系;然而,引入xsl:iterate是因为有一些用例(例如计算银行账户上的运行总数),如果没有这样的构造,很难使其成为流媒体。
您编辑的代码:
<xsl:iterate select="db_entry">
<xsl:apply-templates select="public_data"/>
<xsl:text> |</xsl:text>
<xsl:apply-templates select="text_data"/>
<xsl:text> |</xsl:text>
<xsl:apply-templates select="research_data"/>
<xsl:text> </xsl:text>
</xsl:iterate>同样可以使用xsl:for-each编写,因为一个项目的处理不以任何方式依赖于前一个项目的处理。然而,无论哪种方式,它都不能满足流规则,因为您在迭代体中进行了三个“向下选择”,而您只被允许一个。最简单的解决方法,正如马丁所说明的,是复制每个db_entry (作为内存中的树),然后您可以在没有任何流限制的情况下对此副本进行操作。
另一种解决方法是,如果您知道这三个子元素按处理顺序出现,则可以替换:
<xsl:apply-templates select="public_data"/>
<xsl:text> |</xsl:text>
<xsl:apply-templates select="text_data"/>
<xsl:text> |</xsl:text>
<xsl:apply-templates select="research_data"/>
<xsl:text> </xsl:text>通过
<xsl:for-each select="*[
self::public_data or self::text_data or self::research_data]">
<xsl:if test="position() ne 1"> |</xsl:if>
<xsl:apply-templates select="."/>
</xsl:for-each>
<xsl:text> </xsl:text>(请注意,在除第一个条目之外的每个条目之前放置竖线的小技巧,而不是在除最后一个条目之外的每个条目之后放置竖线。这是因为当你在流媒体时,你不知道什么时候你将到达终点。当你想让你的代码变得流畅时,像这样的小事情就变得非常重要。)
正如马丁所说,Altova RaptorXML不支持流:为此,您需要使用Saxon-EE。
发布于 2017-08-02 15:44:09
给你一个简单的例子,假设你有很多db_entry元素,但我们可以安全地假设单个条目放到内存中不会导致内存问题,那么你可以对这些元素使用copy-of,并使用与使用流的主模式不同的模式使用传统处理:
<?xml version="1.0" encoding="UTF-8"?>
<xsl:stylesheet xmlns:xsl="http://www.w3.org/1999/XSL/Transform"
xmlns:xs="http://www.w3.org/2001/XMLSchema"
xmlns:math="http://www.w3.org/2005/xpath-functions/math"
exclude-result-prefixes="xs math"
version="3.0">
<xsl:mode streamable="yes"/>
<xsl:output method="text"/>
<xsl:template match="/">
<xsl:apply-templates select="databank_export/copy-of(db_entry)" mode="entry"/>
</xsl:template>
<xsl:template match="db_entry" mode="entry">
<xsl:value-of select="public_data, text_data, research_data" separator=" |"/>
<xsl:text> </xsl:text>
</xsl:template>
</xsl:stylesheet>例如,它可以转换为
<?xml version="1.0" encoding="UTF-8"?>
<databank_export>
<db_entry>
<public_data>public data 1</public_data>
<text_data>text 1</text_data>
<research_data>research 1</research_data>
</db_entry>
<db_entry>
<public_data>public data 2</public_data>
<text_data>text 2</text_data>
<research_data>research 2</research_data>
</db_entry>
<db_entry>
<public_data>public data 3</public_data>
<text_data>text 3</text_data>
<research_data>research 3</research_data>
</db_entry>
<db_entry>
<public_data>public data 4</public_data>
<text_data>text 4</text_data>
<research_data>research 4</research_data>
</db_entry>
<db_entry>
<public_data>public data 5</public_data>
<text_data>text 5</text_data>
<research_data>research 5</research_data>
</db_entry>
<db_entry>
<public_data>public data 6</public_data>
<text_data>text 6</text_data>
<research_data>research 6</research_data>
</db_entry>
<db_entry>
<public_data>public data 7</public_data>
<text_data>text 7</text_data>
<research_data>research 7</research_data>
</db_entry>
<db_entry>
<public_data>public data 8</public_data>
<text_data>text 8</text_data>
<research_data>research 8</research_data>
</db_entry>
<db_entry>
<public_data>public data 9</public_data>
<text_data>text 9</text_data>
<research_data>research 9</research_data>
</db_entry>
<db_entry>
<public_data>public data 10</public_data>
<text_data>text 10</text_data>
<research_data>research 10</research_data>
</db_entry>
</databank_export>转到
public data 1 |text 1 |research 1
public data 2 |text 2 |research 2
public data 3 |text 3 |research 3
public data 4 |text 4 |research 4
public data 5 |text 5 |research 5
public data 6 |text 6 |research 6
public data 7 |text 7 |research 7
public data 8 |text 8 |research 8
public data 9 |text 9 |research 9
public data 10 |text 10 |research 10而Saxon 9.8EE将使用流。
对于xsl:iterate,您可以使用
<?xml version="1.0" encoding="UTF-8"?>
<xsl:stylesheet xmlns:xsl="http://www.w3.org/1999/XSL/Transform"
xmlns:xs="http://www.w3.org/2001/XMLSchema"
xmlns:math="http://www.w3.org/2005/xpath-functions/math"
exclude-result-prefixes="xs math"
version="3.0">
<xsl:mode streamable="yes"/>
<xsl:output method="text"/>
<xsl:template match="/">
<xsl:iterate select="databank_export/db_entry">
<xsl:apply-templates select="copy-of()" mode="entry"/>
</xsl:iterate>
</xsl:template>
<xsl:template match="db_entry" mode="entry">
<xsl:value-of select="public_data, text_data, research_data" separator=" |"/>
<xsl:text> </xsl:text>
</xsl:template>
</xsl:stylesheet>至于您的扩展样式表,仍然假设将单个db_entry放入内存以使用不使用流的模式正常处理它,我认为您需要类似于
<?xml version="1.0" encoding="UTF-8"?>
<xsl:stylesheet xmlns:xsl="http://www.w3.org/1999/XSL/Transform" xmlns:xs="http://www.w3.org/2001/XMLSchema" xmlns:fn="http://www.w3.org/2005/xpath-functions" xmlns:math="http://www.w3.org/2005/xpath-functions/math" xmlns:array="http://www.w3.org/2005/xpath-functions/array" xmlns:map="http://www.w3.org/2005/xpath-functions/map" xmlns:xhtml="http://www.w3.org/1999/xhtml" xmlns:err="http://www.w3.org/2005/xqt-errors" exclude-result-prefixes="array fn map math xhtml xs err" version="3.0"
default-mode="entry">
<xsl:output method="text" encoding="UTF-8" indent="yes"/>
<xsl:mode name="start" streamable="yes"/>
<!--
<xsl:template match="databank_export">
-->
<xsl:template match="/" mode="start">
<xsl:apply-templates select="databank_export/copy-of(db_entry)" mode="entry"/>
</xsl:template>
<xsl:template match="db_entry">
<xsl:apply-templates select="public_data, text_data, research_data"/>
<xsl:text> </xsl:text>
</xsl:template>
<xsl:template match="public_data">
<xsl:value-of select="sflname"/>
<xsl:text>; </xsl:text>
<xsl:apply-templates select="bdata"/>
<xsl:text>; </xsl:text>
<xsl:value-of select="gender"/>
<xsl:text>; PHOTO : |</xsl:text>
<xsl:value-of select="name, gender, rating, datatype/@sdatatype, datatype/@sdatasource, bdata/sbdate, bdata/sbdate/@ccalendar" separator=" - "/>
<xsl:text>|</xsl:text>
<xsl:value-of select="bdata/sbtime, bdata/sbtime/@sbtime_ampm, bdata/sbtime/@ctimetype, bdata/sbtime/@stimetype, bdata/sbtime/@stmerid, bdata/sbtime/@ctzauto, bdata/sbtime/@jd_ut, bdata/sbtime/@sznabbr, bdata/sbtime/@time_unknown, bdata/sbtime/@itimeaac, bdata/sbtime/@stimeaac" separator=" "/>
<xsl:text>|</xsl:text>
<xsl:value-of select="bdata/place, bdata/country, bdata/country/@sctr" separator=", "/>
<xsl:text>, </xsl:text>
<xsl:value-of select="bdata/place/@slati, bdata/place/@slong" separator=" "/>
<xsl:text>|</xsl:text>
<xsl:value-of select="scollector, seditor, biographer" separator=" "/>
<xsl:text>|</xsl:text>
<xsl:value-of select="screationdate, slasteditdate" separator=" "/>
</xsl:template>
<xsl:template match="bdata">
<xsl:value-of select="sbdate/@iday, sbdate/@imonth, sbdate/@iyear" separator="."/>
<xsl:text>; </xsl:text>
<xsl:value-of select="sbtime"/>
<xsl:text>; </xsl:text>
<xsl:analyze-string select="sbtime/@stmerid" regex="([hm]{{1}})([0-9]{{1,2}})([ew]{{1}})([0-9]{{0,2}})">
<xsl:matching-substring>
<xsl:choose>
<xsl:when test="regex-group(3) = 'e'">
<xsl:text>+</xsl:text>
</xsl:when>
<xsl:when test="regex-group(3) = 'w'">
<xsl:text>-</xsl:text>
</xsl:when>
<xsl:otherwise>
<xsl:text>+</xsl:text>
</xsl:otherwise>
</xsl:choose>
<xsl:choose>
<xsl:when test="regex-group(1) = 'h'">
<xsl:number value="regex-group(2)" format="01"/>
</xsl:when>
<xsl:when test="regex-group(1) = 'm'">
<xsl:text>00:</xsl:text>
<xsl:number value="regex-group(2)" format="01"/>
<xsl:text>:</xsl:text>
<xsl:number value="regex-group(4)" format="01"/>
</xsl:when>
<xsl:otherwise>
<xsl:text>+1</xsl:text>
</xsl:otherwise>
</xsl:choose>
</xsl:matching-substring>
</xsl:analyze-string>
<xsl:text>; </xsl:text>
<xsl:value-of select="place, country" separator=","/>
<xsl:text>; </xsl:text>
<xsl:value-of select="place/@slati, place/@slong" separator="; "/>
</xsl:template>
<xsl:template match="text_data">
<xsl:value-of select="shortbiography, wikipedia_link, db_link, sourcenotes" separator="|"/>
</xsl:template>
<xsl:template match="research_data">
<xsl:apply-templates select="categories"/>
<xsl:text>|</xsl:text>
<xsl:apply-templates select="relationships"/>
<xsl:text>|</xsl:text>
<xsl:value-of select="events/@count"/>
<xsl:text>|</xsl:text>
<xsl:apply-templates select="events"/>
</xsl:template>
<xsl:template match="categories">
<xsl:iterate select="category">
<xsl:value-of select="@cat_id, @db_id, @catnotes" separator=" "/>
<xsl:text> - </xsl:text>
<xsl:value-of select="text()"/>
<xsl:text> |</xsl:text>
</xsl:iterate>
</xsl:template>
<xsl:template match="relationships">
<xsl:iterate select="relationship">
<xsl:value-of select="@rel_id, @rel_db_id, @db_id, @relcat" separator=" "/>
<xsl:text> - </xsl:text>
<xsl:value-of select="@relnotes, text()" separator=" - "/>
<xsl:text> |</xsl:text>
</xsl:iterate>
</xsl:template>
<xsl:template match="events">
<xsl:iterate select="event">
<xsl:value-of select="@sevcode, @evn_id, @db_id, @evnotes" separator=" "/>
<xsl:text> |</xsl:text>
<xsl:apply-templates select="event_data"/>
<xsl:text> |</xsl:text>
</xsl:iterate>
</xsl:template>
<xsl:template match="event">
<xsl:apply-templates select="event_data"/>
</xsl:template>
<xsl:template match="event_data">
<xsl:value-of select="sbdate, sbdate/@ccalendar, sbdate_dmy" separator=" "/>
</xsl:template>
</xsl:stylesheet>然后需要在-im:start上运行Saxon9.8EE。上面的代码基本上就是您发布的代码,只是使用default-mode="entry"来确保您编写的所有模板及其应用模板都属于名为entry的模式,同时添加一个streamable start模式,然后使用我之前的建议
<xsl:template match="/" mode="start">
<xsl:apply-templates select="databank_export/copy-of(db_entry)" mode="entry"/>
</xsl:template>通过流引入db_entry元素,但将每个元素的副本推送到非流式模式,在这种模式下,可以使用常规处理,例如
<xsl:template match="db_entry">
<xsl:apply-templates select="public_data, text_data, research_data"/>
<xsl:text> </xsl:text>
</xsl:template如果我从头开始编写,我会使用我的较短代码片段中的方法,将未命名的默认模式设置为可流式处理,然后将副本推送到已命名的不可流式处理模式,但考虑到您添加的所有代码,设置该default-mode属性,然后使用命名模式start并将流式处理作为初始模式会更容易。
如上所述,为了解决内存问题,只有当有数以千计的db_entry元素组成传统处理的输入树大小时,这种流式处理和传统处理的混合方法才有意义。而且它需要Saxon 9.8EE(或者可能是9.7EE)作为当前唯一的流式实现。
请注意,我没有努力检查或更正您发布的所有模板,一般来说,您可以在许多您尝试过xsl:iterate的地方使用xsl:for-each,或者我更喜欢在那里使用<xsl:apply-templates select="event"/>和设置<xsl:template match="event">...</xsl:template>,以保持代码模块化和处理方法的一致性。
https://stackoverflow.com/questions/45448452
复制相似问题