普诺飞思
对于电影胶片感兴趣的读者可能会知道,一秒钟的画面需要有至少要有24帧连续的胶片,才不会导致画面卡顿。而我们的图像传感器也正是基于这个原理进行设计的,基于帧阵列的逻辑,通过预设好的帧率触发,记录下大量的原始数据,以生成连续的画面。
这种设计对于拍摄视频而言,相对比较实用,并且每秒钟记录下的帧数越多,画面的流畅度也就越高。然而,这种采样机制对于现在的某些应用场景却未必是优势。
就拿当下关注最多的辅助驾驶为例,现在都基于传统传统图像传感器研发出来的算法,需要依赖一定程度的高算力才能处理采集的大量原始图像数据。
法国一家名为普诺飞思(Prophesee)的企业提出了一种新解决方案:神经拟态视觉。以人眼为灵感,研发出了「硅视网膜」。
仅「采样」动态帧,算力要求大幅下降
与传统图像传感器有着本质的区别,普诺飞思基于事件的视觉传感器突破了传统机器视觉的局限,从「Frame-based」转变为「Event-based」,补全了传统传感器每帧图像之间的信息空缺。
基于事件采样的原理图
这种传感器的工作原理与传统图像传感器有着本质的区别。通过神经拟态视觉和生物启发算法,传感器每个像素都异步独立,且由信号变化来控制触发,只有在场景信息发生变化时,像素才会作出反应,进而采集图像数据。相对而言,场景中静态信息则不会触发传感器采集。
普诺飞思-传感器
据普诺飞思联合创始人兼CEO 卢卡维雷(Luca Verre)介绍,从第一代的QVGA到现在的HD高清视觉传感器,普诺飞思的视觉产品开发技术在不断优化和创新。
在传感器制造层面上,普诺飞思选择了与目前市场上规模最大的图像传感器企业索尼合作。通过与索尼的合作,两者共同推出了市面上尺寸最小的高清图像传感器,Luca表示这批传感器马上就能得到大规模量产。
「普诺飞思最新的技术进展,将我们先进的机器视觉技术与索尼的生产制造工艺相结合,共同开发了市面上尺寸最小的视觉传感器,为智能手机、笔记本电脑、机器人等领域提供更易于集成、成本更低的视觉方案。」Luca Verre表示。
普诺飞思的神经拟态传感器技术,具有无限接近人类视觉的场景感知能力。此外,该技术解决了带宽瓶颈及算力不够等问题,较之传统图像传感器,产生的数据量减少近千倍,实现了大于10000fps的帧速率。
相较于传统视觉系统,Luca表示普诺飞思的传感器有三大优势:
减少冗余数据,减少需要处理的数据量
响应速度快,同时加速识别检测的速度
增加动态范围,适应极端的光照条件
普诺飞思还提供了与传感器相配套的软件解决方案MetaVision智能套件,包括六个主要的模块,包括机器学习、3D计算机视觉,还有分析等,可提供95种计算机视觉或者AI的算法、67种代码示例、11个即用型应用程序。
从工业界到医学界,多场景应用已落地
目前普诺飞思的解决方案已经在诸多领域得到了应用: Xperi旗下的子公司DTS开发了全球首个基于神经拟态视觉系统的驾驶员监控解决方案(DMS)。
Xperi与普诺飞思合作打造的驾驶员监控解决方案(DMS)
相较于传统的解决方案,由于普诺飞思的检测是基于事件,因此算力需求更低,从而能做到更快速度的响应,甚至能测算出驾驶者的眨眼频率。通过对驾驶员眼睛、表情的监测,以及计数驾驶员的眨眼频率,从而对其目光注视的情况进行监测,从而达到提醒驾驶员疲劳驾驶的目的。
在座舱之外,普诺飞思的传感器还能应用在自动驾驶系统中,用来提升自动驾驶汽车和ADAS系统检测环境的速度。
在工业领域,普诺飞思的传感器则可以用于针对机械零件等物体的计数和测量,以超千个零件每秒地吞吐量实时计算,有效提高生产效率,降低成本和设备复杂性。
普诺飞思的传感器还能与传统的相机相结合,用以提升实时画面的清晰度,消除低光照条件下因手抖带来的画面模糊。
「我们的这套算法是与手机上传统RGB传感器协同实现的。这个功能的实现无需占用ISP(图像处理器),可以直接调用SoC的算力。」普诺飞思大中华区商务发展主管Johney Lu解释道。
在医学场景中,普诺飞思也有应用落地:
检测活动的细菌
标准的无菌检测依旧参照几十年前的微生物学的方法,通常需要7-14天来完成,这大大延迟了有关细胞治疗的发展。
普诺飞思和Campidge Consultants共同开发的通过细胞实时无菌检测方式实现的下一代细胞疗法,能在几毫秒内进行反溃
C轮融资超千万美金,技术市场广阔
据悉,此前普诺飞思已完成由欧洲投资银行、雷诺集团、英特尔资本等机构投资的多轮融资,今年7月份普诺飞思宣布拿到了C轮融资,由创新工场领投、小米及上海韦豪创芯跟投,数家老股东加码。
目前普诺飞思的技术已经在工业场景、汽车(自动驾驶汽车)、AR/VR、物联网等领域落地,而这一笔融资将会被继续应用在下一代软硬件解决方案的研发和公司的运营上。
「得益于本轮融资,普诺飞思将进一步在神经拟态机器视觉,以及人工智能相关领域树立领导地位。我们将扩大在全球,尤其是中国市场的客户规模,并推广普诺飞思革命性的基于事件的视觉传感方案。」Luca表示。
随着自动驾驶和人工智能大规模应用,未来各类设备对于算力的要求也会进一步地扩大。普诺飞思的解决方案对于算力的要求相较于传统的解决方案更低,并且还能实现传统图像传感器无法实现的功能。一旦得到广泛的应用,将推动多个行业进一步地发展。(本文首发钛媒体APP,作者/唐植潇)