百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

Spring boot + Jsoup 搭建,解析系统接口只需1分钟

zhezhongyun 2025-04-07 21:11 21 浏览

前几天有个小姐姐想看《天使陷落》的大片问有没有资源的渠道。本着不给广大程序小老哥的脸,想也没想的就答应给小姐姐找资源。但是凄惨的是把以前经常用的网站烦了个遍都没有。



这点小问题肯定难不到勤奋的小老弟,一通谷歌、百度、dogedoge终于找了可靠资源。


既然现在资源这么匮乏,网站都找到了何不试试抓包看看接口。说干就干,按照一贯的操作流程,打开Chrome->开发者工具->NextWork->All


经过一顿猛操作终于于发现接口,其实就是通过调用https://xxx/jx.php?do=h5&id=视频唯一标识来获取到原视频播放地址。

到这一步的时候,已经是觉得都成了,可是打开Postman跑接口一看,人都傻了。


根本就没有返回视频播放源的地址,当然对于爬虫分析都得有耐心,像这种通过Postman跑出来的数据和浏览器控制台抓的数据不一样,大几率就是header参数缺失的问题,知道问题出在哪里问题就迎刃而解。然后一个一个参数的copy过来果不其然少了一个referer参数。

接口参数抓到了就开始拿到我们需要的video路径。我们请求接口的参数返回的是html代码块。



 
 
 
 
 电影盒子
 
 
 
 
 
<script src="https://cdn.bootcss.com/flv.js/1.4.2/flv.min.js"></script> <script src="https://cdn.bootcss.com/dplayer/1.22.2/DPlayer.min.js"></script> <script type="text/javascript"> var isiPad = navigator.userAgent.match(/iPad|iPhone|Android|Linux|iPod/i) != null; if(isiPad){ document.getElementById('player').innerHTML = ' '; }else { var pic = ""; var dplayer = new DPlayer({ element: document.getElementById("player"), autoplay: true, hotkey: true, preload: 'auto', video: { url: 'http://sh-download.weiyun.com/ftn_handler/d77c3b67df5795dcbdd3a69d3cf3503753d6559d01114d3904e741eb27d266c9/%E7%83%88%E7%81%AB%E8%8B%B1%E9%9B%842019.mp4', pic: 'http://jx.178du.com/Dplayer/loading.png' } }); } </script> <script> var _hmt = _hmt || []; (function() { var hm = document.createElement("script"); hm.src = "https://hm.baidu.com/hm.js?71034aa175241a731523ac24bdd3406d"; var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(hm, s); })(); </script>

这个时候我们可以通过正则从下面代码块里,拿到video标签里面的src值。

说干就干,打开强大的IEDA,新建Spring boot项目。在Maven配置pom.xml加入Jsoup解析插件。


 org.jsoup
 jsoup
 1.8.1

先通过Jsoup调用之前抓取到的接口解析得到Html。

/**
 * https://www.fenggoudy.com
 *
 * @Param null
 * @Author:tianminghai
 * @Date:5:28 PM 2019/11/15
 */
 public static String getVideoUrlForFengGou(String apiUrl,String refeurl)throws Exception{

 // 参数详情 https://www.fenggoudy.com 采集
 apiUrl = "https://jx33.178du.com/jx.php?do=h5&id=7aa7f493692edb4a.mp4";
 refeurl = "https://www.fenggoudy.com";

 Document html = null;

 try {
 html = Jsoup.connect(apiUrl).header("referer",refeurl).get();


 } catch (IOException e) {
 throw e;
 }

 String videoUrl = getHtmlVideoStr(html.outerHtml()).get("src");

 System.out.print("------原始数据:"+getHtmlVideoStr(html.outerHtml()));

 if (videoUrl.contains("download.weiyun.com")){
 return videoUrl;
 }else {
 throw new Exception("数据解析问题");
 }

 }

具体通过正则表达式解析网页得到video中的src值方法。

/**
 *得到html中的 video src
 *
 * @Param null
 * @Author:tianminghai
 * @Date:5:25 PM 2019/11/15
 */
 public static Map getHtmlVideoStr(String htmlStr) {

 Map pics = new HashMap();
 String regEx_video="]*?>";
 Pattern p = Pattern.compile(regEx_video,Pattern.CASE_INSENSITIVE);
 Matcher m = p.matcher(htmlStr);
 String video="";
 Map maps = new HashMap();
 while (m.find()) {
 video=m.group();
 Matcher mPoster = Pattern.compile("poster\\s*=\\s*\"?(.*?)(\"|>|\\s+)").matcher(video);
 Matcher mSrc = Pattern.compile("src\\s*=\\s*\"?(.*?)(\"|>|\\s+)").matcher(video);
 String poster ="";
 String src="";
 while (mPoster.find()){
 poster=mPoster.group(1);
 }

 while (mSrc.find()){
 src=mSrc.group(1);
 }
 maps.put("poster", poster);
 maps.put("src", src);
 maps.put("srcs", src);
 }

 return maps;

 }

这个时候一切都准备就绪就差把数据通过接口来实现了,新建一个Controller。

@RestController
public class VideoController {

 @RequestMapping(value = "/video")
 public ResultModel test(){

 
 ResultModel resultModel = new ResultModel();

 resultModel.setMsg("成功");

 try {
 resultModel.setCode(JsonConfigModel.SUSSESS);

 JSONObject obj = new JSONObject();

 obj.put("url",VideoUtils.getVideoUrlForFengGou("",""));

 resultModel.setObj(obj);

 } catch (Exception e) {
 resultModel.setCode(JsonConfigModel.ERROR_VIDEO);
 }
 

 return resultModel;
 }
}

小程序访问接口看看到底能不能观看视频。新建一个小程序项目,添加一个视频播放组件。Vide.WXML;


 返回
 列表
 



 

Video.js

var http = require('../../utils/httputils.js');

Page({
 data: {
 voideUrl:''
 
 },

 onLoad: function (options) {

 var that = this;

 console.log("-------")
 var prams = {
 username: "1111",
 password: "123456"
 }
 http.getRequest("http://192.168.0.103:8081/video", prams,
 function (res) {
 console.log("----aa---"+res.obj.url)
 that.setData({
 voideUrl:res.obj.url,
 })
 },
 function (err) {

 })
 
 },

 onReady() {
 
 }

 
});


万事具备,来给我动作整齐划一的走起!

那么问题来了,今天下午小姐姐约我去吃饭,老哥们能否指点招?

相关推荐

激光手术矫正视力对眼睛到底有没有伤害?

因为大家询问到很多关于“基质不能完全愈合”的问题,有必要在这里再详细解释一下。谢谢@珍惜年少时光提出的疑问:因为手头刚好在看组织学,其中提到:”角膜基质约占角膜的全厚度的90%,主要成分是胶原板层,...

OneCode核心概念解析——View(视图)

什么是视图?在前面的章节中介绍过,Page相关的概念,Page是用户交互的入口,具有Url唯一性。但Page还只是一个抽象的容器,而View则是一个具备了具体业务能力的特殊的Page,它可以是一个...

精品博文图文详解Xilinx ISE14.7 安装教程

在软件安装之前,得准备好软件安装包,可从Xilinx官网上下载:http://china.xilinx.com/support/download/index.html/content/xilinx/z...

卡片项目管理(Web)(卡片设计的流程)

简洁的HTML文档卡片管理,简单框架个人本地离线使用。将个人工具类的文档整理使用。优化方向:添加图片、瀑布式布局、颜色修改、毛玻璃效果等。<!DOCTYPEhtml><html...

GolangWeb框架Iris项目实战-JWT和中间件(Middleware)的使用EP07

前文再续,上一回我们完成了用户的登录逻辑,将之前用户管理模块中添加的用户账号进行账号和密码的校验,过程中使用图形验证码强制进行人机交互,防止账号的密码被暴力破解。本回我们需要为登录成功的用户生成Tok...

sitemap 网站地图是什么格式?有什么好处?

sitemap网站地图方便搜索引擎发现和爬取网页站点地图是一种xml文件,或者是txt,是将网站的所有网址列在这个文件中,为了方便搜索引擎发现并收录的。sitemap网站地图分两种:用于用户导...

如何在HarmonyOS NEXT中处理页面间的数据传递?

大家好,前两天的Mate70的发布,让人热血沸腾啊,不想错过,自学的小伙伴一起啊,今天分享的学习笔记是关于页面间数据伟递的问题,在HarmonyOSNEXT5.0中,页面间的数据传递可以有很多种...

从 Element UI 源码的构建流程来看前端 UI 库设计

作者:前端森林转发链接:https://mp.weixin.qq.com/s/ziDMLDJcvx07aM6xoEyWHQ引言由于业务需要,近期团队要搞一套自己的UI组件库,框架方面还是Vue。而业界...

jq+ajax+bootstrap改了一个动态分页的表格

最近在维护一个很古老的项目,里面是用jq的dataTable方法实现一个分页的表格,不过这些表格的分页是本地分页。现在想要的是点击分页去请求数据。经过多次的修改,以失败告终。分页的不准确,还会有这个错...

学习ES6- 入门Vue(大量源代码及笔记,带你起飞)

ES6学习网站:https://es6.ruanyifeng.com/箭头函数普通函数//普通函数this指向调用时所在的对象(可变)letfn=functionfn(a,b){...

青锋微服务架构之-Ant Design Pro 基本配置

青锋(msxy)-Gitee.com1、更换AntDesignPro的logo和名称需要修改文件所在位置:/config/defaultSetting.jsconstproSett...

大数据调度服务监控平台(大数据调度服务监控平台官网)

简介SmartKettle是针对上述企业的痛点,对kettle的使用做了一些包装、优化,使其在web端也能具备基础的kettle作业、转换的配置、调度、监控,能在很大一定程度上协助企业完成不同...

Flask博客实战 - 实现博客首页视图及样式

本套教程是一个Flask实战类教程,html/css/javascript等相关技术栈不会过多的去详细解释,那么就需要各位初学者尽可能的先去掌握这些基础知识,当然本套教程不需要你对其非常精通,但最起码...

Web自动化测试:模拟鼠标操作(ActionChains)

在日常的测试中,经常会遇到需要鼠标去操作的一些事情,比如说悬浮菜单、拖动验证码等,这一节我们来学习如何使用webdriver模拟鼠标的操作首页模拟鼠标的操作要首先引入ActionChains的包fro...

DCS F-16C 中文指南 16.9ILS仪表降落系统教程

10–ILS教程我们的ILS(仪表着陆进近)将到达Batumi巴统机场。ILS频率:110.30跑道航向:120磁航向/126真航向无线电塔频率:131.0001.设置雷达高度表开关打开(前)并...