下面分别从这四个方面来带大家学习数据分析:
- 第一,做数据分析要精通Python吗?
- 第二,数据分析流程是什么?学什么?
- 第三,如何培养数据分析思维?
- 第四,数据分析书籍推荐
做数据分析不必精通Python,但至少要掌握Python基础内容。第一步是要了解一些Python的编程基础,知道Python的数据结构,什么是向量、列表、数组、字典等等;了解Python的各种函数及模块。
二、数据分析流程是什么?学什么?
一个完整的数据分析项目,大概可以分为这五个流程:数据获取——数据存储——数据清洗——数据分析——可视化分析,具体每部分都要掌握什么,下面给大家说清楚。
数据获取
数据获取是数据分析的第一步,关于一些内部数据大家可以找公司内部的人去要,其他外部数据如市场调研、竞品分析这些报告,大家可以在这些网站获取:
- 艾瑞网-数据报告:https://report.iresearch.cn/
- 易观分析-热门报告:https://www.analysys.cn/
- 友盟 数据报告:https://www.umeng.com/reports.html?from=hp
- 赛迪满天星行业报告:http://www.mtx.cn/#/
- 世界经济论坛报告:https://www.weforum.org/reports
- 普华永道行业报告:https://www.pwccn.com/zh/research-a
数据存储
企业常用的存储数据的数据库有哪些?不同数据库的存储区别又有哪些?下面跟我一起来了解常见数据库:
- Access数据库:是一个关系型数据库管理系统;本地桌面型数据库,存储的数据量较少,是小型的数据库;查询语句为SQL。
- MYSQL数据库:是一个关系型数据库管理系统;是开源的,总体拥有成本低;支持多种操作系统;
- SQL Server 数据库:是一个关系型数据库管理系统;是非开源的;中型的数据库;
- Oracle数据库:是一个关系型数据库管理系统;不是开源的;支持多种操作系统;
- Hive 数据库:是非关系型数据库管理系统;数据规模大;主要进行离线的大数据分析; 查询语句为HQL;
以上就是几种常见的数据库及介绍,方便大家在做数据分析的时候提取数据。
数据清洗
数据清洗是利用相关技术将“脏”数据转换为满足质量要求的数据。下面通过一张图描述数据清洗的原理。
从图中可以看出,同一值的不同表示、拼写错误、不同的命名习惯、不合法的值以及空值都会导致“脏”数据出现,通过定义好的数据清洗策略和清洗规则(即数理统计技术、数据挖掘技术等清洗策略)对“脏”数据进行清洗,得到满足数据质量要求的数据。
需要注意的是,数据清洗的目的是解决“脏”数据问题,即不是将“脏”数据洗掉,而是将“脏”数据洗干净。干净的数据指的是满足质量要求的数据。
数据分析与可视化分析
Python中常会用到一些专门的库,如NumPy、SciPy、Pandas和Matplotlib。数据处理常用到NumPy、SciPy和Pandas,数据分析常用到Pandas和Scikit-Learn,数据可视化常用到Matplotlib,而对大规模数据进行分布式挖掘时则可以使用Pyspark来调用Spark集群的资源。
- NumPy官方文档:https://numpy.org/
- SciPy官方文档:https://scipy.org/
- Pandas官方文档:pandas documentation
- Matplotlib官方文档:Matplotlib - Visualization with Python
- Scikit-learn官方文档:scikit-learn: machine learning in Python
- Keras官方文档:the Python deep learning API
数据分析属于分析思维的一个子类,有专门的数据方法论,只有养成正确的分析思维才能做好数据分析。什么是好的分析思维,网上有张图是这样的:
第一个分析思维是依赖经验和直觉的线性思维,第二个分析思维则注重逻辑推导,属于结构化的思维。这两种思维也往往会导致不同的结果。
除了Excel、Tableau、SQL、Python 等工具技能的学习,另一个关键点则是数据分析思维的培养。大家在做数据分析之前需要构建分析框架、理清思路、学会运用常见的分析方法等结合具体业务进行分析。
这需要我们去做案例 看书来不断积累经验,形成自己的数据分析思维。
四、数据分析好书推荐- 入门篇:《深入浅出数据分析》、《利用Python进行数据分析》、《笨方法学Python》
- 工具篇:《零基础学 SQL》、《R 语言实战》、《数据图形化,分析更给力》、《PPT,要你好看》、《金字塔原理》
- 统计篇:《深入浅出统计学》、《赤裸裸的统计学》
- 进阶篇:《精益数据分析》、《贝叶斯数据分析》