● 在宽带化、移动互联网、物联网、社交网络、云计算的催生下,大数据时代翩然而至
● 21世纪是数据钻出石油的时代,从庞大的数据集合中找寻有价值的数据和知识,通过分析挖掘为各行业提供真正的智慧
● 大数据带来的挑战不仅在于硬件层面,在大数据挖掘开发利用和安全以及隐私保护方面,我国还缺乏相应法律保障
当你用一分钟,看完这行文字的时候:
新浪已经发送了2万条微博,苹果已经下载了4.7万次应用,淘宝已经卖出了6万件商品,人人网发生了30万次访问,百度产生了90万次搜索查询。
2010年印刷版《大英百科全书》,32册,重达58.5公斤。然而,它的全部内容,还装不满一个4G的U盘。有鉴于此,《大英百科全书》出版社今年3月对外宣布,不再推出印刷版,内容全面数字化。
在宽带化、移动互联网、物联网、社交网络、云计算的催生下,一个大数据的时代,不经意间顺理成章地翩然而至。不久前,沣西大数据产业园悄然落户陕西省西咸新区,发展大数据产业正在“试水”。
全球数据总量在以每两年翻一番的速度增长
从事广告文化创意行业的何先生,清晰地记得,从12年前购买的仅有20GB硬盘容量的家用计算机,到为满足使用需求而不断扩容的80GB、120GB、250GB、500GB的主机存储空间,变化很快。“如今2TB的硬盘都不够用,还得靠移动存储设备来备份。”
根据IDC(国际数据公司)的监测统计,2011年全球数据总量已经达到1.8ZB(1ZB等于1万亿GB,1.8ZB也就相当于18亿个1TB的移动硬盘),而这个数值还在以每两年翻一番的速度增长,预计到2020年全球将总共拥有35ZB的数据量,增长近20倍。
由于数据规模的急剧膨胀,各行业累积的数据量越来越巨大,数据类型也越来越多、越来越复杂,已经超越了传统数据管理系统、处理模式的能力范围,于是“大数据”这样一个在含义上趋近于“无穷大”的概念才会应运而生。
“首先在于体量大,是一个数据全集的概念”,国家工信部软件服务业司司长陈伟为大数据概括出四方面特征,“第二是类型多,包括结构化数据、半结构化数据、非结构化数据等多种类型,其中视频数据在目前占到了90%以上的总额;第三要求速度快,需要以秒级为目标进行实时动态处理。”
“最后在于价值密度”,陈伟认为,由于大量有用和可能没用的数据并存,“遍地是金子,又遍地是沙子”,所以大数据的目的就在于从庞大的数据集合中找寻有价值的数据和知识,通过分析挖掘为各行业提供真正的智慧,“可以说21世纪是‘数据钻出石油’的时代。”
“以交互数据为例,目前一些自媒体平台,比如新浪微博,每天都有超过2500万条的微博信息在发布,里面有很多有价值的信息尚未得到发掘”,中国电子信息产业发展研究院副总工程师李峻认为,在这样庞大的非结构化数据背后,如何利用大数据技术,从海量堆积的交互数据当中发现带有趋势性、前瞻性的讯息,就能够发现并产生巨大的社会价值和商业价值。
一个小苹果背后的大数据:数据之和的价值远大于数据的价值之和
“由于数据的存储、分析、应用等方面的商业运营方式还没有定型,这个行业发展的潜力、创新空间都十分巨大”,陕西省西咸新区管委会副主任、沣西新城管委会主任刘宇斌打了一个“小苹果背后的大数据”的简单比方:
以陕西省苹果产业发展为例,诸如某品种苹果种在哪里最适宜生长所需要的空间地理信息数据,与具体产区的苹果产量、含糖量等数据叠加,并通过物联网等手段赋予苹果可追溯的唯一“身份”,在种植过程中实时监控,由每一个苹果“反馈”收集而成的数据,假如足够海量,就整合而成了大数据。
拥有了这些数据,首先可以通过数据租售服务的方式与潜在客户产生价值,“此类商业模式体现了数据之和的价值远远大于数据的价值之和。”
其次,如能运用组群分析、数据挖掘等科学方法,辅以云计算、分布式存储等手段,则可以对数据展开深层次分析和预测服务,“哪些苹果品质最好,市场反应更好,明年产量销量会怎样,各地市场对苹果购买的喜好会有何变化”,这种数据深挖及其背后的消费者行为预测分析,曾是统计学家的特权,未来则可能花费几分钟时间就可以完成。
数据经过积累,并与全国其他地方进行比对,则可为陕西苹果产业发展提供决策支持服务,并成为政府、行业指导果农生产的决策依据,避免产品滞销和果农利益受损。
最后,随着数据和分析方法权威性的建立,数据服务商有可能搭建一个第三方大数据分析平台,为更多的数据持有者提供数据整理、过滤、分析和处理服务,甚至有朝一日发展出类似于ebay、淘宝等电子商务交易平台一样的第三方数据共享交易平台。
陕西在大数据产业布局中执行大工业电价,中国联通项目一期8000个机柜一天节省电费40多万元
在西咸新区规划的25平方公里信息产业园中,国内首家大数据处理与服务专业园区——沣西大数据产业园正在布局建设,园区面积为3平方公里,分为基础数据聚集区、数据应用研发区和数据拓展区三个板块。陕西省力争到2017年,建成以西咸为核心的国家级大数据处理与服务产业集群,到2020年底,沣西大数据产业园区将实现产值500亿元,陕西省工信厅副厅长蔡苏昌介绍说。
百度公司每购买一台服务器,成本在3万元左右,但是使用维护费用要超过3万元,“这种情况下我们要不断地保证数据中心节能降耗。”百度技术委员会理事长陈尚义说。
据了解,目前陕西省已在大数据产业布局、项目聚集、资金配套、基础设施建设方面制定了相关政策,其中包括对入园企业执行大工业电价,并免除过网费。“电价占到数据企业成本的75%左右,目前园区已有三大运营商和全国人口信息处理与备份(西安)中心等项目落户,拿中国联通项目一期8000个机柜为例,一天就可以减少40多万元的电价成本”,刘宇斌介绍。
大数据带来的挑战不仅在于“硬件”层面。“100年前的医生可以了解医学的所有分支,可是今天一名医生面对的是大约10000种疾病综合征、3000种药品、1100种检验方法的海量知识”,国家信息化专家咨询委员会副主任、中国工程院院士邬贺铨认为,大数据产业需要从业人员既懂数据分析工具,又懂行业分析,而这样的创新人才是奇缺的,“同时在大数据挖掘开发利用和安全以及隐私保护方面,我国还缺乏相应法律保障,需要通过机制创新来推动数据共享的实现。”