盘点一下,2021我靠Python兼职赚了多少钱
Posted Python_chichi
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了盘点一下,2021我靠Python兼职赚了多少钱相关的知识,希望对你有一定的参考价值。
去年三月学习python到现在转眼又到三月,感觉时间过的飞快,作为一名普通的程序员,总觉得不应该这么颓废,趁着还有精力学习,总觉得该学点什么。
于是有了这样一个决定,学习一门新的语言。
一、学习何种语言
其实一直很纠结去学习哪种语言,说实话,如今技术迭代真的很快,想要不被淘汰,就要不断自我充电。
在选择语言方面,我考虑了这么几点:
1.学一门热门语言
全世界差不多有600多种编程语言,主流的有20多种。
为什么要选择热门语言呢?首先它的社区一定很活跃,有一群人在,在你自学的道路上能帮助你很多。其次,网上有很多较为全面的参考资料,源码项目供你学习,同时一些大牛的博客心得你都可以参考学习,大大降低了自学成本。
2.学一门高级语言
对于我来说,首先自身的基本功相对来说没有那么扎实。其次,对我来说,编写代码最终是为了解决实际的应用问题。
我不是研究底层,开发高效率的应用系统那块料的人。所以找一门高级语言,通过学习,通过利用第三方库,第三方组件,自己去处理拼接从而开发出满足自己需求的小工具,这对我来说意义比较大。
3.最重要的,学一门你感兴趣的语言
如果你学习的过程中一点兴趣都没有,那你是痛苦的,同时学习的效果也一定不理想。
二、为何选择Python
最初我有三个方向,java、js、python。
至于为什么最后选择了Python,也是最后根据自己的实习情况来的。
首先排除了java,因为自己本身是c#方向的,再学一门java其实对于自身来说需求不大,java能开发的c#也基本都能够满足,复杂度来说两者也较为接近,兴趣度上也不是很高。
其次是js,目前来说js真的越来越火了,身边的很多同时也在学,对于纯后端的我来说确实学习js也不错,自己本身也有一定的基础。js也能开发一些有趣实用的脚本,对于工作和生活都有一定的帮助。
但是后来为什么没有选择呢,我想是因为从心底来说,还是更想学Python吧。
Python目前来说真的很火,很多产品和其他职业的人或多或少也都会点,其实Python真的可以做很多事情,主要也希望通过学习Python去开发一些有意思的小工具,丰富下生活,提高下工作效率。
三、学习计划
1.学习 Python 包并实现基本的爬虫过程
大部分爬虫都是按“发送请求——获得页面——解析页面——抽取并储存内容”这样的流程来进行,这其实也是模拟了我们使用浏览器获取网页信息的过程。Python中爬虫相关的包很多:urllib、requests、bs4、scrapy、pyspider 等,建议从requests+Xpath 开始,requests 负责连接网站,返回网页,Xpath 用于解析网页,便于抽取数据。
如果你用过 BeautifulSoup,会发现 Xpath 要省事不少,一层一层检查元素代码的工作,全都省略了。这样下来基本套路都差不多,一般的静态网站根本不在话下。当然如果你需要爬取异步加载的网站,可以学习浏览器抓包分析真实请求或者学习Selenium来实现自动化。
2.了解非结构化数据的存储
爬回来的数据可以直接用文档形式存在本地,也可以存入数据库中。开始数据量不大的时候,你可以直接通过 Python 的语法或 pandas 的方法将数据存为csv这样的文件。当然你可能发现爬回来的数据并不是干净的,可能会有缺失、错误等等,你还需要对数据进行清洗,可以学习 pandas 包的基本用法来做数据的预处理,得到更干净的数据。
3.学习scrapy,搭建工程化爬虫
掌握前面的技术一般量级的数据和代码基本没有问题了,但是在遇到非常复杂的情况,可能仍然会力不从心,这个时候,强大的 scrapy 框架就非常有用了。scrapy 是一个功能非常强大的爬虫框架,它不仅能便捷地构建request,还有强大的 selector 能够方便地解析 response,然而它最让人惊喜的还是它超高的性能,让你可以将爬虫工程化、模块化。学会 scrapy,你可以自己去搭建一些爬虫框架,你就基本具备Python爬虫工程师的思维了。
4.学习数据库知识,应对大规模数据存储与提取
爬回来的数据量小的时候,你可以用文档的形式来存储,一旦数据量大了,这就有点行不通了。所以掌握一种数据库是必须的,学习目前比较主流的MongoDB就OK。MongoDB 可以方便你去存储一些非结构化的数据,比如各种评论的文本,图片的链接等等。你也可以利用PyMongo,更方便地在Python中操作MongoDB。因为这里要用到的数据库知识其实非常简单,主要是数据如何入库、如何进行提取,在需要的时候再学习就行。
5.掌握各种技巧,应对特殊网站的反爬措施
当然,爬虫过程中也会经历一些绝望啊,比如被网站封IP、比如各种奇怪的验证码、userAgent访问限制、各种动态加载等等。遇到这些反爬虫的手段,当然还需要一些高级的技巧来应对,常规的比如访问频率控制、使用代理IP池、抓包、验证码的OCR处理等等。往往网站在高效开发和反爬虫之间会偏向前者,这也为爬虫提供了空间,掌握这些应对反爬虫的技巧,绝大部分的网站已经难不到你了。
6.分布式爬虫,实现大规模并发采集,提升效率
爬取基本数据已经不是问题了,你的瓶颈会集中到爬取海量数据的效率。这个时候,相信你会很自然地接触到一个很厉害的名字:分布式爬虫。
分布式这个东西,听起来很恐怖,但其实就是利用多线程的原理让多个爬虫同时工作,需要你掌握Scrapy+ MongoDB + Redis 这三种工具。
Scrapy 前面我们说过了,用于做基本的页面爬取,
MongoDB 用于存储爬取的数据,
Redis 则用来存储要爬取的网页队列,也就是任务队列。
所以有些东西看起来很吓人,但其实分解开来,也不过如此。当你能够写分布式的爬虫的时候,那么你可以去尝试打造一些基本的爬虫架构了,实现一些更加自动化的数据获取。
Python学习福利
学好 Python 不论是就业还是做副业赚钱都不错,但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!
基础阶段视频
对于从来没有接触过Python的同学,帮你们准备了入门级的视频教程。这些都是比较基础的知识点,大家先跟着学习。如果你有需要我都可以分享给你!
不求一开始都能整明白,先做到基础知识心中有数,因为我在后面帮你们准备了进阶课程。
因篇幅有限,仅展示部分资料
趣味十足的Python进阶教程
如果学习完上面的基础视频后,你仍是一种蒙蔽的状态,没有关系,下面这套教程就帮你正式开启Python的学习之路。
在我学习python之前,一度以为这是非常枯燥的事情,但直到我遇到这个老师的课,我才知道,原来编程可以如此有趣。
每一节课以实际案例来作为课程内容,再加上老师幽默风趣的教学风格,相信你的学习过程会趣味十足。
因篇幅有限,仅展示部分资料
项目实战教学
如果上面的课程你都看完了,就来做一些项目实战锻炼一下吧。学了知识,就要用,通过实际案例,你会更深入地掌握这些知识。
因篇幅有限,仅展示部分资料
Python就业班
如果你希望将来能找到一份高薪程序员的工作,那么这部分资料不容错过哦~
因篇幅有限,仅展示部分资料
精选Python书籍
帮你找来Python学习的相关书籍,想要系统学习编程的同学可以看一看。
由于篇幅原因,这里就不一一展开了,朋友们如果有需要全套《python从入门到精通》,点赞+评论入门即可,我都会回复的!
以上是关于盘点一下,2021我靠Python兼职赚了多少钱的主要内容,如果未能解决你的问题,请参考以下文章
背着室友用Python在宿舍兼职接单3天赚了一千块,实现生活费自由,室友都羡慕哭了