Beautiful Soup的extract()出错

Question

我正在开发一些屏幕抓取软件，遇到了美汤的问题。我使用的是python 2.4.3和Beautiful Soup 3.0.7a。

我需要删除一个<hr>标记，但它可以有许多不同的属性，所以简单的replace()调用不会删除它。

给定以下html：

<h1>foo</h1>
<h2><hr/>bar</h2>

和以下代码：

soup = BeautifulSoup(string)

bad_tags = soup.findAll('hr');
[tag.extract() for tag in bad_tags] 

for i in soup.findAll(['h1', 'h2']):
    print i
    print i.string

输出为：

<h1>foo</h1>
foo
<h2>bar</h2>
None

是我误解了提取函数，还是这是Beautiful Soup的一个bug？

Answer 1

这可能是个bug。但幸运的是，还有另一种获取字符串的方法：

from BeautifulSoup import BeautifulSoup

string = \
"""<h1>foo</h1>
<h2><hr/>bar</h2>"""

soup = BeautifulSoup(string)

bad_tags = soup.findAll('hr');
[tag.extract() for tag in bad_tags] 

for i in soup.findAll(['h1', 'h2']):
    print i, i.next

# <h1>foo</h1> foo
# <h2>bar</h2> bar

Answer 2

我也有同样的问题。我不知道为什么，但我猜这与BS创建的空元素有关。

例如，如果我有以下代码：

from bs4 import BeautifulSoup

html ='            \
<a>                \
    <b test="help">            \
        hello there!  \
        <d>        \
        now what?  \
        </d>    \
        <e>        \
            <f>        \
            </f>    \
        </e>    \
    </b>        \
    <c>            \
    </c>        \
</a>            \
'

soup = BeautifulSoup(html,'lxml')
#print(soup.find('b').attrs)

print(soup.find('b').contents)

t = soup.find('b').findAll()
#t.reverse()
for c in t:
    gb = c.extract()

print(soup.find('b').contents)

soup.find('b').text.strip()

我得到了以下错误：

“NoneType”对象没有属性“next_element”

在我得到的第一张照片上：

>>> print(soup.find('b').contents)
[u' ', <d> </d>, u' ', <e> <f> </f> </e>, u' ']

在第二秒，我得到了：

>>> print(soup.find('b').contents)
[u' ', u' ', u' ']

我很确定是中间的空元素造成了问题。

我发现的一个变通方法是重新创建汤：

soup = BeautifulSoup(str(soup))
soup.find('b').text.strip()

现在它会打印：

>>> soup.find('b').text.strip()
u'hello there!'

我希望这能有所帮助。