【已解决】HtmlAgilityPack中通过sibling才能得到对应的InnerText和form,option等tag的子节点

【背景】

之前使用HtmlAgilityPack期间,遇到了2个bug:

1. InnerText没有包含对应字符串(但是用NextSibling.InnerText却可以得到)

对于html:

<option value="search-alias=instant-video">Amazon Instant Video</option>

用如下的代码:

//<option value="search-alias=instant-video">Amazon Instant Video</option>
string searchValue = singleOptionNode.Attributes["value"].Value; //search-alias=instant-video
//instant-video
string generalCategory = singleOptionNode.InnerText; //CAN NOT get: Amazon Instant Video

是不工作的。

后来经过调试,改为:

//<option value="search-alias=instant-video">Amazon Instant Video</option>
string searchValue = singleOptionNode.Attributes["value"].Value; //search-alias=instant-video
//instant-video
string generalCategory = singleOptionNode.NextSibling.InnerText; //can get: Amazon Instant Video

却是可以的。

很是尼玛的诡异。

很明显是一个bug。

 

和:

2.丢失了form节点的input子节点

访问:

http://www.amazon.com/gp/offer-listing/B0083PWAPW/ref=dp_olp_all_mbc?ie=UTF8&condition=all

得到的html中,对应的部分是:

<form method="POST" action="/gp/item-dispatch/ref=olp_atc_fm_1" >
    <input type="hidden" name="session-id" value="182-0726239-4848949">
    <input type="hidden" name="qid" value="">
    <input type="hidden" name="sr" value="">
    <input id="signInToHUC" type="hidden" value="0" name="signInToHUC">
    <input type="hidden" name="metric-asin.B0083PWAPW" value="1">
    <input type="hidden" name="registryItemID.1" value="">
    <input type="hidden" name="registryID.1" value="">
    <input type="hidden" name="itemCount" value="1">
    <input type="hidden" name="offeringID.1" value="%2F%2FeHHmpktM3oPoQj%2FOWhDI%2FpHyvwwFCwEfNIBEgFcfAHzKHAzVK%2BZfhkmBFO%2BPbow9JfdOmrE6eKME4ydhLTTK1Dgaf8O3N7SyOR%2F136TvVh0lfJypEt4Q%3D%3D">
    <input type="hidden" name="isAddon" value="0">
    <input type="image" src="http://g-ecx.images-amazon.com/images/G/01/x-locale/nav2/images/add-to-cart-md-p._V192250398_.gif" align="absmiddle" alt="Add to cart" border="0" height="21" name="submit.addToCart" width="112"/>
</form>

可以通过:

            htmlDoc = crl.htmlToHtmlDoc(respHtml);
            HtmlNodeCollection postItemNodeList = htmlDoc.DocumentNode.SelectNodes("//form[starts-with(@action, '/gp/item-dispatch/ref=') and @method='POST']");

搜索到form节点,但是结果其下,再去搜input节点:

HtmlNodeCollection inputTypeNodeList = postItemNode.SelectNodes(".//input[@type='hidden' and @name and @value]");

竟然得到的inputTypeNodeList是null:

inputTypeNodeList is null

即form下面,没有找到任何的child,即,所有的input节点,都丢失了!

再回去查看postItemNode,结果其下就是没有child的:

first child is null and no child

 

所以,应该是对应的HtmlAgilityPack的bug。

 

【折腾过程】

1. 后来看到:

No child nodes for FORM object

中提到了,说是:

In Html specification form tag can overlap, so Htmlagilitypack handle this node a little different. 
。。。

After adding this call all form elements are added as children.

然后就去看看,结果果然是从child变成了sibling了,而且此处还是很变态的,NextSibling的NextSibling才是我们要的input节点:

nextsibling then nextsibling can get input

所以,此处,看来只能是说动的,类似于上面那个问题一样的,写成NextSibling的NextSibling

不过,真是这样写的话,那也够变态的。。。。

2.然后也看到别人也遇到同样问题:

Problem parsing children of a node with HtmlAgilityPack

而且某人也是放弃了HtmlAgilityPack而转到了SGMLReader了。

不过,另外有人说,不是bug,而是可以配置的。

其相关的讨论见:

http://htmlagilitypack.codeplex.com/workitem/21782

再参考:

HtmlAgilityPack — Does <form> close itself for some reason?

去,在将html转为htmlDoc之前,添加:

HtmlNode.ElementsFlags.Remove("form");

变为:

            //http://www.crifan.com/htmlagilitypack_html_tag_form_option_no_child_via_sibling_get_innertext/
            HtmlNode.ElementsFlags.Remove("form");

            htmlDoc = crl.htmlToHtmlDoc(respHtml);
            HtmlNodeCollection postItemNodeList = htmlDoc.DocumentNode.SelectNodes("//form[starts-with(@action, '/gp/item-dispatch/ref=') and @method='POST']");
            if (postItemNodeList == null)
            {
                //something error
            }
            else
            {
                foreach (HtmlNode postItemNode in postItemNodeList)
                {
                    //http://www.amazon.com/gp/item-dispatch/ref=olp_atc_used_1
                    string itemDispatchUrl = postItemNode.Attributes["action"].Value; ///gp/item-dispatch/ref=olp_atc_used_1
                    itemDispatchUrl = constAmazonDomainUrl + itemDispatchUrl;//http://www.amazon.com/gp/item-dispatch/ref=olp_atc_used_1

                    Dictionary<string, string> postDict = new Dictionary<string, string>();

                    HtmlNodeCollection inputTypeNodeList = postItemNode.SelectNodes(".//input[@type='hidden' and @name and @value]");

然后得到的inputTypeNodeList,的确不是null了,也有了child了:

indeed has the input node as child for form

 

【总结】

之前还夸奖HtmlAgilityPack好用呢,结果还没用多久,就出现这么多的bug。看来真的没法继续使用了。

每次都要很小心,不知道啥时候就会出错,真郁闷。。。

即使不是bug,其本身把form下面的节点,都弄成其sibling这个策略,还是很变态的。至少让更多人的,都容易误解。


【后记】

后来的后来,经过参考别人的解释:

<option> have no child, why?

发现,

其实上述两个,所谓的bug,就是同一个问题:

对于HtmlAgilityPack,实际上,对于option,form等tag,其默认的处理的结果是:其下的子节点,会变成sibling

所以,上面的:

对于option需要通过NextSibling才能获得对应的InnerText;

对于form子节点为空,也是需要通过NextSibling(的NextSibling)才能获得对应的input子节点;

其本质都是:

HtmlAgilityPack是针对HTML 3.2的规范去实现的,而HTML 3.2就是这样规定的。

其不是bug,而是feature

但是很明显,是属于让人蛋疼的feature。

解决办法有两种:

1.改源码

把HtmlNode.cs中的下面这行注释掉:

ElementsFlags.Add("form", HtmlElementFlag.CanOverlap | HtmlElementFlag.Empty);

2.不改源码

在HtmlDocument类型的变量执行LoadHtml之前,加上:

HtmlNode.ElementsFlags.Remove("tagName");

即,对于我之前的crifanlib.cs中的:

public HtmlAgilityPack.HtmlDocument htmlToHtmlDoc(string html)
{
	HtmlAgilityPack.HtmlDocument htmlDoc = new HtmlAgilityPack.HtmlDocument();

	htmlDoc.LoadHtml(html);

	return htmlDoc;
}

换成:

public HtmlAgilityPack.HtmlDocument htmlToHtmlDoc(string html)
{
	HtmlAgilityPack.HtmlDocument htmlDoc = new HtmlAgilityPack.HtmlDocument();

	//http://www.crifan.com/htmlagilitypack_html_tag_form_option_no_child_via_sibling_get_innertext/
	//make some html tag: form/option, has child
	HtmlNode.ElementsFlags.Remove("form");
	HtmlNode.ElementsFlags.Remove("option");

	htmlDoc.LoadHtml(html);

	return htmlDoc;
}

即可。

如此,后续解析html得到的form,option等tag,其child就是我们所希望的内容了。

 

另外:

1.对于是否还有其他特殊的html的tag,也是默认被处理为子节点变为sibling的,就不知道了。

2.等有空再去深究背后的那个HTML 3.2规范是怎么定义的。



2 Thoughts on “【已解决】HtmlAgilityPack中通过sibling才能得到对应的InnerText和form,option等tag的子节点

  1. Pingback: 解决HtmlAgilityPack无法获取form标签子节点的问题 – Stan Zhai's blog

  2. Pingback: 解决HtmlAgilityPack无法获取form标签子节点的问题 | Stan Zhai's blog

发表评论

电子邮件地址不会被公开。 必填项已用*标注

无觅相关文章插件,快速提升流量