百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

你没有看错,爬网页数据,C# 也可以像 Jquery 那样

zhezhongyun 2025-02-10 15:12 39 浏览

一:背景

1. 讲故事

前段时间搞了一个地方性民生资讯号,资讯嘛,都是我抄你的,你抄官媒的,小市民都喜欢奇闻异事,所以就存在一个需求,如何去定向抓取奇闻异事的地方号上的新闻,其实做起来很简单,用逻辑回归即可,这篇主要讨论如何去抓取,在 C# 中大家都知道抓取通用的库是 HtmlAgilityPack,但是这个库主流的做法是采用 xpath 提取网页内容,这就让我很不爽了,毕竟不熟悉莫名的抵抗哈,像我这个年纪的码农,被 Jquery 教育了至少 5-6 年,所以必须用 类Jquery 的方式,在 python 中有 cquery 做这件事情,那在 C# 中有没有类似的方式呢? 嘿嘿,万能的 github 上还真有。。。 就是本篇介绍的 CSQuery。

二:CSQuery

1. 安装

github的地址:
https://github.com/zone117x/CsQuery 然后在vs中 nuget 一下即可:

2. 举几个例子

一切都准备就绪了,那怎么用呢? 不着急,我以博客园举两个例子。

1) 将首页中的 友情连接 提取到

如上图,要想获取这里的 友情链接几个大字,直接用 text() 肯定是不行的,默认情况它会将所有的子节点的文本也会抓到,如下图:

那怎么处理呢? 可以用 jquery 提供的 contents 方法,然后在获取的所有子节点中判断是否有 文本节点,最后获取文本节点的内容即可,如下代码:

用js是搞定了,那用 CSQuery 代码怎么搞定呢?模仿呗,如下代码:


        static void Main(string[] args)
        {
            var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com"));

            var content = jquery["#friend_link"].Contents().Filter((dom) =>
            {
                return dom.NodeType == NodeType.TEXT_NODE;
            }).Text();

            Console.WriteLine(content);
        }

我不知道用 xpath 提取这样的内容麻不麻烦,不过用 jquery 方式不简单,但轻车熟路。

2) 如何将 html 中的某些元素标颜色

有时候为了业务需要将某些 html 标签改一下颜色,比如说将首页的 tabmenu 中 博问 和 专区 改成红色,如下图:

那用 CSQuery 怎么处理呢? 如果玩过 jquery,一般来说步骤如下:

  • 使用 each 遍历每一个子 li 标签
  • 使用 CSS 方法给 li 中 a 标签赋样式
  • 使用 Render 渲染生成一个新的的html

有了步骤,C#代码如下:


        static void Main(string[] args)
        {
            Config.HtmlEncoder = HtmlEncoders.None;

            var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com"));

            var html = jquery["#nav_left li"].Each(dom =>
               {
                   var self = jquery[dom];

                   var text = self.Text();

                   if (text == "博问" || text == "专区")
                   {
                       self.Find("a").CssSet(new { color = "red" });
                   }
               }).Render();
        }

3) 其他的操作方法

除了上面两个操作方法外,你还可以使用 after,before,replaceAll,IS 等等一百来个实用的方法,这篇肯定也无法一一介绍了,大家有兴趣可以下载下来看一看,捣鼓捣鼓。

三:其他用途

除了抓取html中的元素,我觉得这玩意还可以用在发送邮件时操控邮件模板,毕竟在很久以前大家都是用jquery来绘制 html,所以用 CSQuery 也是可以的,相对使用 xslt 有利有弊吧,接下来做一个例子:

1. 生成一个html模板






    
    


    

    2. 使用 CSQuery 给 ul 追加 li

    可以用 Append 将内容追加到

      节点内。

      
          class Program
          {
              static void Main(string[] args)
              {
                  Config.HtmlEncoder = HtmlEncoders.None;
      
                  var strlist = new string[2] { "1", "2" };
      
                  var path = Environment.CurrentDirectory + "\\2.html";
                  var jquery = CQ.CreateFromFile(path);
      
                  foreach (var str in strlist)
                  {
                      jquery.Find("#main").Append($"
    • {str}
    • "); } var html = jquery.Render(); } }

      3. 部分渲染 RenderSelection

      Render方法是将整个Dom渲染成html,但有时候你只需要得到你修改的那部分内容,而不是整个html,这就涉及到了部分渲染,可以用 RenderSelection 方法即可,代码如下:

      
              static void Main(string[] args)
              {
                  Config.HtmlEncoder = HtmlEncoders.None;
      
                  var strlist = new string[2] { "1", "2" };
      
                  var path = Environment.CurrentDirectory + "\\2.html";
                  var jquery = CQ.CreateFromFile(path);
      
                  var current = jquery.Find("#main");
      
                  foreach (var str in strlist)
                  {
                      current.Append($"
    • {str}
    • "); } var html = current.RenderSelection(); Console.WriteLine(html); } ------------- output ----------------
      • 1
      • 2

      四:总结

      Jquery 这种操作模式对我个人来说还是比较舒服的,毕竟熟! 不过在 html5 中也新增了 querySelector 和 querySelectorAll 支持 css3 选择器,非常强大,可 jquery 不光在选择器的灵活上,还在于对节点的灵活操作上,总的来说不是特别富交互的情况下可以怀旧一把。

    相关推荐

    HashMap详解(hashmap lru)

    讲解步骤基础知识工作原理关键代码核心方法基础知识数组结构数组接口,在查询数据方面,具备优势链表结构链表结构,在增删数据方面,具备优势红黑树结构红黑树结构,在查询数据方面,数据量较大的时候,具备一定的优...

    升级内核,UC浏览器电脑版v2.0.570.0下载

    IT之家(www.ithome.com):升级内核,UC浏览器电脑版v2.0.570.0下载7月21日晚,UC浏览器电脑版发布了v2.0正式版,最新的版本号是2.0.570.0。此次更新的最大亮点是内...

    MySQL惊天陷阱:left join时选on还是where?

    前天写SQL时本想通过AleftBjoinonand后面的条件来使查出的两条记录变成一条,奈何发现还是有两条。后来发现joinonand不会过滤结果记录条数,只会根据and后的条...

    一个高效使用cursor开发项目的方法,怎么让 AI 写的代码不跑题?

    最近又用cursor做了一个小应用,番茄时钟,用来管理自己的时间,提高效率。然后使用cursor开发的过程中。有了一些新的感悟。找到了一条可以让Curosr不跑题的办法。生成一份详细的项目资...

    某通信公司笔试题,你会做几道?(通信行业行测题)

    笔试部分1.描述下面代码中两个static各自的含义:staticvoidfunc(void){staticunsignedinti;}参考答案:行1,static表示静态...

    新手学Python避坑,学习效率狂飙! 二、Python 代码缩进

    在Python里,缩进有着极其重要的作用,它被用于界定代码块。与其他多数编程语言使用大括号{}来划分代码块不同,Python依靠缩进来明确代码的层次结构。下面分享缩进问题,并且给出避坑的方法...

    Python缩进规范详解与最佳实践(python缩进讲解)

    Python的缩进规则是强制性的语法要求,绝对不能乱缩进!作为一门用缩进表示代码块的语言,Python的缩进错误会导致程序直接崩溃。以下是关于缩进规范的全面解析:一、Python缩进的底层逻辑代...

    深度解析ConcurrentHashMap1.8源码分析

    想必大家对HashMap数据结构并不陌生,JDK1.7采用的是数组+链表的方式,JDK1.8采用的是数组+链表+红黑树的方式。虽然JDK1.8对于HashMap有了很大的改进,提高了存取效率,但是线程...

    星河战神暴风旋转刃好不好 暴风旋转刃属性详解

    星河战神暴风旋转刃好不好?暴风旋转刃怎么得?小编为大家分享星河战神暴风旋转刃属性图鉴,希望可以帮助到大家。暴风旋转刃85级满级属性战力加成暴风旋转刃分类:僚机初始:1星属性:风满星:5星暴风旋...

    假面骑士亚极陀全形态盘点(假面骑士亚极陀形态合集)

    《假面骑士亚极陀》的形态设计延续了空我的属性差异化思路,但更强调“觉醒”与“进化”的主题。从基础形态的属性专精到闪耀形态的等离子爆发,每个形态都承载着角色成长与剧情转折。数据对比不仅揭示了力量...

    膛线磨没了子弹精度到底是怎么受影响的呢?

    这是一个回复:那么咱们就来深究这个问题吧——当膛线磨没了,子弹的精度到底是怎么受影响的呢?到底是不是就成了“滑膛枪”射程、精度是不是差了一点?先说结论——膛线磨没了,只能让这把枪成为“信仰之枪”,根本...

    【莫莫老师亲授】公考行测图形推理3大属性规律!提分利器

    在公务员考试的行测科目中,图形推理是高频考点之一,而属性规律作为基础题型中的核心模块,常通过图形的对称性、曲直性、开闭性三大属性考查考生的观察与归纳能力。本文将从定义、特点、常见考法及例题分析入手,系...

    DNF驱魔属性合并,技能重做解读(dnf驱魔加强了吗)

    作者:B蜀黍前言本轮职业平衡驱魔进行了力驱法驱合二为一,部分技能重做和技能优化。形态方面:新增四神系技能且可柔化,力系技能加快出手速度,一觉从1秒瞬发单段脱手改为3秒站桩多段,形态逆向优化,实战体验...

    拉满一个3级配件?还是升6个2级配件,橙装升级最优解方案揭秘!

    各位车长,试验型配件已经重新发放!即日起至3月31日,在这期间登录游戏就能免费领到6个试验型配件和700个合金原件(已领取的玩家不再重复获得)。今天就和各位车长简单聊一聊:活动期间一共能获得多少合金元...

    CAD动态块制作方法—旋转动态块(cad动态块制作教程 视频教程)

    CAD动态块制作方法—可见性动态块CAD动态块制作方法—拉伸动态块今天来讲一下含有旋转动作的动态块制作方法。我们用立面索引符号来举例。旋转动态块首先制作一个带有属性定义的立面索引符号的图块。(此步...