网页源码无目标数据是因JS渲染,requests仅获原始HTML;应通过开发者工具Network标签抓XHR/Fetch请求,补全User-Agent、Referer、Cookie等Headers,并检查动态参数、分页及请求体内容。
网页源码里找不到要的数据,是因为内容由 JavaScript 渲染
直接
拿到的 HTML 里没有目标内容,不是代码写错了,而是页面用了前端框架(Vue/React)或通过
/
异步加载数据。浏览器开发者工具里「Elements」看到的内容 ≠ 「Page Source」里的内容。
用
(或右键「查看网页源代码」)看到的是服务端返回的原始 HTML,不含 JS 渲染结果
「Elements」面板显示的是 DOM 树,已包含 JS 执行后的修改,但这个状态
无法复现
真要拿渲染后的内容,得用
或
,但多数时候没必要——先查 XHR
在 Chrome 开发者工具里定位 XHR 请求
隐藏内容大概率来自 XHR/Fetch 请求,而不是 DOM 插入。关键不是“找接口”,而是“找触发时机”:滚动、点击、输入后出现的数据,往往对应一个新请求。
打开开发者工具 → 切到
标签 → 勾选
(有时也要勾
)
刷新页面,或执行触发动作(比如点「加载更多」),观察列表里新增的请求
点开可疑请求 → 看
是否含你要的 JSON 数据;看
里的
和
,这些后续要用
注意过滤:有些请求是埋点、广告、统计,和业务数据无关;优先看状态码
、响应类型
的
直接调 API 时必须补全的头信息
很多网站对 XHR 请求做了简单反爬:没带
或
就返回空数据、403 或重定向到登录页。
至少加上
,否则部分接口直接拒绝
复制浏览器里该 XHR 请求的
字段值,加进 headers,否则可能返回
或空列表
如果请求带
,且你之前没登录过,
默认不会携带,得手动加;或者先用浏览器登录,导出 Cookie 字符串填进
某些接口需要
,不加可能被识别为非 AJAX 请求而拦截
JSON 接口返回 200 但 data 是空的,检查参数和签名
看起来请求成功,但
里关键字段为空,常见于带分页、时间戳、加密参数的接口。
Python 3.14.3
微软官方的 Python 扩展,是 VS Code 安装量最高的扩展(209M+)。集成 IntelliSense(通过 Pylance)、调试(通过 Python Debugger)、代码检查、格式化、重构和单元测试等功能。支持 Jupyter Notebook、虚拟环境管理和多 Python 版本切换。
下载
立即学习
“
Python免费学习笔记(深入)
”;
对比浏览器发出的请求,检查 URL 中是否有
、
、
这类动态参数
分页接口常依赖
/
或
/
,填错值会导致返回空数组
有些站点把关键参数塞在请求体(
+
),而不是 URL,漏看
标签就会白忙活
极少数会校验请求体的 MD5 或对参数做简单拼接签名,这时光靠抓包不够,得去 JS 文件里搜
、
、
相关逻辑
真实情况往往是:URL 对了、头对了、方法对了,就差一个没注意的参数。别急着换方案,回到 Network 里多点几个类似请求,横向比对差异项。
requests.get()fetchXMLHttpRequestCtrl+UrequestsseleniumplaywrightNetworkXHRFetch/XHRResponseHeadersRequest URLReferer200application/jsonrequestsUser-AgentRefererheaders={'User-Agent': 'Mozilla/5.0...'}Referer403 ForbiddenCookierequestsheaders['Cookie']X-Requested-With: XMLHttpRequestresponse.json()timestamp=sign=token=offsetlimitpagesizePOSTapplication/jsonPayloadsignmd5crypto