2014年12月12-14日,大数据领域最具影响、规模最大的IT盛会——中国大数据技术大会暨第二届中国计算机学会(CCF)大数据学术会议在北京盛大召开。大会分享了海内外大数据技术的发展趋势;从技术与实践角度探讨大数据新技术应用和行业实践经验,为产业界、科技界与政府部门提供了一个密切交流合作的平台,助力我国大数据的产学研用深度结合。
本次大会上,百度表现尤为亮眼,百度大数据、人工智能技术强势吸睛,现场反响热烈。笔者特别盘点了百度的三位演讲嘉宾的主要观点,以飨读者。
余凯:大数据人工智能
百度研究院副院长、深度学习实验室主任、图片搜索部高级总监余凯以“大数据人工智能”为主题,介绍了百度在人工智能方面的发展状况和技术成果。
余凯老师分享“大数据人工智能”主题演讲
余凯指出,“得人心者得天下” — 对于互联网公司来说, 几乎所有业务的核心就是读懂人心,理解用户。这其中最关键的技术是基于大数据的人工智能。什么是人工智能?感知、思考和控制是人工智能的几个重要方面。真正智能的系统,必须能够随着经验的演化,越变越聪明!一个智能的互联网服务,用户使用得越多,它就获得越多经验,也就越懂用户。这里经验是什么?经验就是数据。当前,从大数据实现人工智能的一项重要技术是深度学习。在百度深度学习已经被应用到连接人和信息,连接人和服务/广告的各个环节中。
深度学习之所以取得巨大成功,原因有三:第一,模型足够复杂,建模能力强大;第二,分层模型实现end-to-end学习,不需或减少人工特征抽取;第三,深度学习是一套非常灵活的建模框架,针对不同问题,基于对问题的深刻理解,可以设计最适合的算法。余老师指出,不要把深度学习认为是一个黑箱,它其实是一个语言,你对这个语言越熟练,对具体问题理解越深,就能越能做出好文章。
余凯列举了百度深度学习取得的一些关键性进展,比如百度率先把深度学习成功应用于广告变现,搜索排序,还有业界高度关注的BaiduEye,DuBike、百度自动驾驶项目等。在使用深度学习之后,百度优于竞争对手的差距显著拉大。比如,在物体检测模型上百度取得了世界上最好的成绩,百度第一,谷歌第二。
展望未来,余凯分享了自己对于人与机器的思考。他认为伟大的技术不在于让机器更伟大,而在于让每个平凡的人变得更伟大。最后他幽默的结束发言:世界是我们的,也是机器人的,但归根结地,是属于会做机器人的人的!
柴华:百度分布式计算“七剑下天山”
在大数据基础设施专场,百度高级架构师柴华主要分享了百度分布式计算“七剑下天山”,并且基于这些雄厚的基础技术,开发并实现了规模大、效率高、种类全、使用易的计算平台整体架构。目前,已通过开放API将其强大的计算能力输出。
柴华分享百度分布式计算平台
百度分布式计算“七剑下天山”,到底是什么呢?现场柴华做了详细的解析。
l 大规模离线计算平台DCE。百度MR单集群规模达1.3万台,是业内已公布的最大规模单集群,日均百万作业吞吐能力。追求卓越的INF团队,将DAG执行引擎的性能大幅提升;通过对Shuffle模式不断优化,benchmark作业性能提升30%,完全避免随机读IO。
l 高性能分布式计算平台MPI。平台支持数十种大规模并行机器学习算法,经过数年优化和完善,性能业界领先。其中,逻辑回归算法和深度神经网络,均支持千亿特征,千亿样本的训练。
l 大数据机器学习框架ELF。为大数据应用提供学习/挖掘算法开发支持,用户最便捷高效地实现大数据机器学习算法,轻松玩转超大规模数据下的机器学习并行计算。
l 实时计算系统Dstream。该系统用于满足实时性要求较高的计算业务的需求,目前已实现毫秒级的支持。该系统具有全局无中心节点,低延迟、高可靠性和高可扩展性等特点,用户只需要关心计算单元的拓扑关系和业务处理逻辑,极大的简化了业务代码。
l 流式计算系统Task Manager。该系统用于满足准实时小批量的流式计算需求,具有高内聚松耦合架构、高可靠性和高吞吐量的特性,且易被方便地管理和监控,硬件故障时可以做到数据不丢不重。
l 基于内存的开源分布式计算框架Spark。目前Spark规模的集群能力不断提升,以满足规模式增长的计算需求。
l 分布式trace系统Rid。提供实时、批量两种数据接入方式,方便业务快速、便捷定位复杂系统的深层次问题,夯实基础架构支撑,提供通用监控、分析和可视化解决方案。
沈志勇:从数据到智能
在大数据应用专场,大数据实验室数据科学家沈志勇博士围绕从数据到智能这个话题,分享了百度大数据智能分析技术和应用实践现状。百度智能分析技术不仅用于百度公司内部众多产品线,并随着百度大数据引擎发布的发布,百度将大数据、人工智能等技术能力输出,应用于更多行业,助力产业升级。
沈志勇分享从数据到智能
沈志勇例举了一些百度与具体行业结合的应用案例,除了业界已熟悉的旅游预测、赛事预测等,他还介绍了在其他垂直领域应用的一些新探索,引发了现场听众的巨大兴趣。
l 智能运维。通过监控了百度系统和基础软件的运行指标,以及产品运营指标,利用智能分析技术实现了时序异常检测和故障预测、预警。
l 金融大数据调研。该项目是希望基于大数据,通过智能分析技术来预测金融产品。从现场展示的模拟结果来看,该项目已取得初步进展。
l 百度时空大脑。该项目基于用户定位数据,用户轨迹数据和浮动车GPS轨迹数据,挖掘百度时空大数据,发现用户时空行为规律,预测性洞察用户需求,更精准匹配用户,从而为用户提供更个性化的服务。
2014年,大数据技术正在互联网、运营商、IT服务提供商,以及众多传统企业中尝试落地实践,百度用实力再次向产业界、科技界与政府部门充分展示了其在大数据、人工智能等领域领先的技术水平和应用实践。