浅析网络大数据的商业价值和采集方法

据赛迪顾问统计,在技术领域中最近10,000条专利中常见的关键词中,数据采集、存储介质、海量数据、分布式成为技术领域最热词汇。其中,数据采集是提到最多的词汇。

数据采集是进行大数据分析的前提也是必要条件,在整个数据利用流程中占据重要地位。数据采集方式分为三种:系统日志采集法、网络数据采集法以及其他数据采集法。随着Web2.0的发展,整个Web系统涵盖了大量的价值化数据,目前针对Web系统的数据采集通常通过网络爬虫来实现,本文将对网络大数据和网络爬虫进行系统描述。

什么是网络大数据

网络大数据,是指非传统数据源,例如通过抓取搜索引擎获得的不同形式的数据。网络大数据也可以是从数据聚合商或搜索引擎网站购买的数据,用于改善目标营销。这种类型的数据可以是结构化的,也可以是非结构化的(更有可能的),可以由网络链接,文本数据,数据表,图像,视频等组成。
网络构成了当今提供给我们的大部分数据,根据许多研究可知,非结构化数据占据了其中的80%。尽管这些形式的数据较早被忽略了,但是竞争加剧以及需要更多数据的需求使得必须使用尽可能多的数据源。

网络大数据可以用来干什么

互联网拥有数十亿页的数据,网络大数据作为潜在的数据来源,对于行业的战略性业务发展来说拥有巨大的利用潜力。
以下举例说明网络大数据在不同行业的利用价值:

除此之外,在《How Web Scraping is Transforming the World with its Applications》文章中详细得罗列出网络大数据在制造业、金融研究、风险管理等众多领域的利用价值。

如何收集网络数据

目前网络数据采集有两种方法:一种是API,另一种是网络爬虫法。API又叫应用程序接口,是网站的管理者为了使用者方便,编写的一种程序接口。目前主流的社交媒体平台如新浪微博、百度贴吧以及Facebook等均提供API服务,可以在其官网开放平台上获取相关DEMO。但是API技术毕竟受限于平台开发者,为了减小网站(平台)的负荷,一般平台均会对每天接口调用上限做限制,这给我们带来极大的不便利。为此我们通常采用第二种方式——网络爬虫。

利用爬虫技术采集网络大数据

网络爬虫是指按照一定的规则自动地抓取万维网信息的程序或者脚本。该方法可以将非结构化数据从网页中抽取出来,将其存储为统一的本地数据文件,并以结构化的方式存储。它支持图片、音频、视频等文件或附件的采集,附件与正文可以自动关联。
在互联网时代,网络爬虫主要是为搜索引擎提供最全面和最新的数据。在大数据时代,网络爬虫更是从互联网上采集数据的有利工具。

网络爬虫原理

网络爬虫是一种按照一定的规则,自动地抓取网络信息的程序或者脚本。网络爬虫可以自动采集所有其能够访问到的页面内容,为搜索引擎和大数据分析提供数据来源。从功能上来讲,爬虫一般有网络数据采集、处理和存储 3 部分功能,如图所示:

网络爬虫采集

网络爬虫通过定义采集字段对网页中的文本信息、图片信息等进行爬取。并且在网页中还包含一些超链接信息,网络爬虫系统正是通过网页中的超链接信息不断获得网络上的其他网页。网络爬虫从一个或若干初始网页的 URL 开始,获得初始网页上的 URL,爬虫将网页中所需要提取的资源进行提取并保存,同时提取出网站中存在的其他网站链接,经过发送请求,接收网站响应以及再次解析页面,再将网页中所需资源进行提取......以此类推,通过网页爬虫便可将搜索引擎上的相关数据完全爬取出来。

数据处理

数据处理是对数据(包括数值的和非数值的)进行分析和加工的技术过程。网络爬虫爬取的初始数据是需要“清洗”的,在数据处理步骤,对各种原始数据的分析、整理、计算、编辑等的加工和处理,从大量的、可能是杂乱无章的、难以理解的数据中抽取并推导出有价值、有意义的数据。

数据中心

所谓的数据中心也就是数据储存,是指在获得所需的数据并将其分解为有用的组件之后,通过可扩展的方法来将所有提取和解析的数据存储在数据库或集群中,然后创建一个允许用户可及时查找相关数据集或提取的功能。

网络爬虫工作流程

如下图所示,网络爬虫的基本工作流程如下。首先选取一部分种子 URL。

  • 将这些 URL 放入待抓取 URL 队列。
  • 从待抓取 URL 队列中取出待抓取 URL,解析 DNS,得到主机的 IP 地址,并将 URL 对应的网页下载下来,存储到已下载网页库中。此外,将这些 URL 放进已抓取 URL 队列。
  • 分析已抓取 URL 队列中的 URL,分析其中的其他 URL,并且将这些 URL 放入待抓取 URL 队列,从而进入下一个循环。

总结

当前,网络大数据在规模与复杂度上的快速增长对现有IT架构的处理和计算能力提出了挑战,据IDC发布的研究报告,预计到2020年,网络大数据总量将达到35ZB,网络大数据将成为行业数字化、信息化的重要推手。

 

相关阅读:

探码Web大数据采集系统

实现网络大数据价值最大化的最优途径

蜀ICP备15035023号-4