用爬虫抓取网页得到的源代码和浏览器中看到的不一样运用了啥技术？

Posted 2023-04-24

网页源代码和浏览器中看到的不一样是因为网站采用了动态网页技术（如AJAX、JavaScript等）来更新网页内容。这些技术可以在用户与网站进行交互时，通过异步加载数据、动态更新页面内容，实现更加流畅、快速的用户体验。而这些动态内容无法通过简单的网页源代码获取，需要通过浏览器进行渲染后才能看到。
当使用爬虫抓取网页时，一般只能获取到网页源代码，而无法获取到经过浏览器渲染后的页面内容。如果要获取经过浏览器渲染后的内容，需要使用一个浏览器渲染引擎（如Selenium）来模拟浏览器行为，从而获取到完整的页面内容。
另外，网站为了防止爬虫抓取数据，可能会采用一些反爬虫技术，如设置验证码、限制IP访问频率等。这些技术也会导致爬虫获取到的页面内容与浏览器中看到的不一样。 参考技术A 有可能是因为网页采用了动态网页技术，如AJAX、JavaScript等，导致浏览器中看到的网页内容与通过爬虫抓取的网页源代码不同。
动态网页技术可以使网页在加载后通过JavaScript代码动态地修改或添加页面内容，而这些修改和添加的内容是在浏览器中执行的，而不是在服务器端。因此，如果使用传统的爬虫工具，只能获取到最初加载的网页源代码，而无法获取动态生成的内容。
解决这个问题的方法是使用支持JavaScript渲染的爬虫工具，例如Selenium和Puppeteer。这些工具可以模拟浏览器行为，实现动态网页的加载和渲染，从而获取完整的网页内容。
另外，有些网站也可能采用反爬虫技术，例如IP封禁、验证码、限制访问频率等，这些技术也可能导致爬虫抓取的网页源代码与浏览器中看到的不一样。针对这些反爬虫技术，需要使用相应的反反爬虫策略。

怎么用VBA或网络爬虫程序抓取网站数据

VBA网抓常用方法
1、xmlhttp/winhttp法：
用xmlhttp/winhttp模拟向服务器发送请求，接收服务器返回的数据。
优点：效率高，基本无兼容性问题。
缺点：需要借助如fiddler的工具来模拟http请求。
2、IE/webbrowser法：
创建IE控件或webbrowser控件，结合htmlfile对象的方法和属性，模拟浏览器操作，获取浏览器页面的数据。
优点：这个方法可以模拟大部分的浏览器操作。所见即所得，浏览器能看到的数据就能用代码获取。
缺点：各种弹窗相当烦人，兼容性也确实是个很伤脑筋的问题。上传文件在IE里根本无法实现。
3、QueryTables法：
因为它是excel自带，所以勉强也算是一种方法。其实此法和xmlhttp类似，也是GET或POST方式发送请求，然后得到服务器的response返回到单元格内。
优点：excel自带，可以通过录制宏得到代码，处理table很方便
。代码简短，适合快速获取一些存在于源代码的table里的数据。
缺点：无法模拟referer等发包头

也可以利用采集工具进行采集网页端的数据，无需写代码。 参考技术A 可以呀
目前最好用的还是　　618IP爬虫　代理。
企业网页的最好选择。 参考技术B 　　ForeSpider数据采集系统是天津市前嗅网络科技有限公司自主知识产权的通用性互联网数据采集软件。软件几乎可以采集互联网上所有公开的数据，通过可视化的操作流程，从建表、过滤、采集到入库一步到位。支持正则表达式操作，更有强大的面向对象的脚本语言系统。
　　台式机单机采集能力可达4000-8000万，日采集能力超过500万。服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。并行情况下可支撑百亿以上规模数据链接，堪与百度等搜索引擎系统媲美。
　　　　软件特点：
　　一．通用性：可以抓取互联网上几乎100 %的数据
　　1.支持用户登录。
　　2.支持Cookie技术。
　　3.支持验证码识别。
　　4.支持HTTPS安全协议。
　　5.支持OAuth认证。
　　6.支持POST请求。
　　7.支持搜索栏的关键词搜索采集。
　　8.支持JS动态生成页面采集。
　　9.支持IP代理采集。
　　10.支持图片采集。
　　11.支持本地目录采集。
　　12.内置面向对象的脚本语言系统，配置脚本可以采集几乎100%的互联网信息。
　　
　　二．高质量数据：精准采集所需数据
　　1.独立知识产权JS引擎，精准采集。
　　2.内部集成数据库，数据直接采集入库。
　　3.内部创建数据表结构，抓取数据后直接存入数据库相应字段。
　　4.根据dom结构自动过滤无关信息。
　　5.通过模板配置链接抽取和数据抽取，目标网站的所有可见内容均可采集，智能过滤无关信息。
　　6.采集前数据可预览采集，随时调整模板配置，提升数据精度和质量。
　　7.字段的数据支持多种处理方式。
　　8.支持正则表达式，精准处理数据。
　　9.支持脚本配置，精确处理字段的数据。
　　
　　三．高性能：千万级的采集速度
　　1.C++编写的爬虫，具备绝佳采集性能。
　　2.支持多线程采集。
　　3.台式机单机采集能力可达4000-8000万，日采集能力超过500万。
　　4.服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。
　　5.并行情况下可支撑百亿以上规模数据链接，堪与百度等搜索引擎系统媲美。
　　6.软件性能稳健，稳定性好。
　　
　　四．简易高效：节约70%的配置时间
　　1.完全可视化的配置界面，操作流程顺畅简易。
　　2.基本不需要计算机基础，代码薄弱人员也可快速上手，降低操作门槛，节省企业爬虫工程师成本。
　　3.过滤采集入库一步到位，集成表结构配置、链接过滤、字段取值、采集预览、数据入库。
　　4.数据智能排重。
　　5.内置浏览器，字段取值直接在浏览器上可视化定位。
　　
　　五． 数据管理：多次排重
　　1. 内置数据库，数据采集完毕直接存储入库。
　　2. 在软件内部创建数据表和数据字段，直接关联数据库。
　　3. 采集数据时配置数据模板，网页数据直接存入对应数据表的相应字段。
　　4. 正式采集之前预览采集结果，有问题及时修正配置。
　　5. 数据表可导出为csv格式，在Excel工作表中浏览。
　　6. 数据可智能排除，二次清洗过滤。
　　
　　六． 智能：智能模拟用户和浏览器行为
　　1.智能模拟浏览器和用户行为，突破反爬虫限制。
　　2.自动抓取网页的各类参数和下载过程的各类参数。
　　3.支持动态IP代理加速，智能过滤无效IP代理，提升代理的利用效率和采集质量。
　　4.支持动态调整数据抓取策略，多种策略让您的数据无需重采，不再担心漏采，数据采集更智能。
　　5.自动定时采集。
　　6.设置采集任务条数，自动停止采集。
　　7.设置文件大小阈值，自动过滤超大文件。
　　8.自由设置浏览器是否加速，自动过滤页面的flash等无关内容。
　　9.智能定位字段取值区域。
　　10.可以根据字符串特征自动定位取值区域。
　　11.智能识别表格的多值，表格数据可以完美存入相应字段。
　　
　　七． 优质服务
　　1.数据采集完全在本地进行，保证数据安全性。
　　2.提供大量的各个网站配置模板在线下载，用户可以自由导入导出。
　　3.升级后续不断开发的更多功能。
　　4.更换2次绑定的计算机。
　　5.为用户提供各类高端定制化服务，全方位来满足用户的数据需求。