如何使用jsp从网页中提取链接？

Question

我的要求是动态地从网页中提取所有链接(使用“href")，我使用的是JSP。具体来说，我正在JSP中构建一个元搜索引擎。因此，当用户输入一个查询项时，我必须从yahoo、ask、google、momma等的搜索结果页面中提取链接。为了获得字符串格式的页面，我现在使用的代码是。

> > try  
{  
>  String sUrl_yahoo = "http://www.mamma.com/result.php?type=web&q=hai+bird&j_q=&l=";
> 
>       String nextLine;  
>       String webPage;  
>       StringBuffer wPage;  
>       String sSql;  
>       java.net.URL siteURL = new java.net.URL (sUrl_yahoo);  
>       java.net.URLConnection siteConn = siteURL.openConnection();  
>       java.io.BufferedReader in = new java.io.BufferedReader ( new java.io.InputStreamReader(siteConn.getInputStream() ) );  
>         wPage = new StringBuffer(30*1024);  
>         while ( ( nextLine = in.readLine() ) != null ) {
> wPage.append(nextLine); }  
>         in.close();  
>         webPage = wPage.toString();       out.println(webPage);       }  
> catch(Exception e)   {  
> out.println("Error" + e);   }

现在，我的要求是:您能建议从字符串webPage中提取链接的方法吗？或者还有其他方法来提取这些链接呢？我更喜欢在不使用任何外部包的情况下这样做。

Answer 1

一个快速的解决方案是使用regex Matcher对象来提取URL：

Pattern p = Pattern.compile("<a +href=\"([a-zA-z0-9\\:\\-\\/\\.]+)\">");
Matcher m = p.matcher(webPage);

ArrayList<String> foundUrls = new ArrayList<String>();

while(m.find()) {
  foundUrls.add(m.group(1));
}

您可能需要稍微利用URL模式来使其更加密闭，但这是一个快速而肮脏的解决方案，无需使用外部库。