2020年3D深度相机助力智能人机交互进入新时代,即将迎来快速发展,后置前景广阔[图]

一、3D深度相机助力智能人机交互进入新时代

在科技与需求的双轮驱动下,人机交互从鼠标、多点触控,发展到了今天的体感技术。每一次交互的变革,都会带来新的突破和体验。DOS系统+键盘形成一维人机交互;Windows+鼠标形成了PC二维人机交互;触摸屏和摄像头形成了智能手机二维人机交互;体感游戏机、手机3D成像技术实现三维人机交互。利用体感技术,人们可以直接使用肢体动作与手机、电脑等设备进行互动,无需使用鼠标、键盘、触控屏等任何控制设备,即可以达到自然舒适的用户体验。体感交互将取代鼠标、触屏,成为智能设备人机交互的未来方向。

3D深度相机指的是可以测量物体到相机距离(深度)的相机。这类相机不仅可以拍摄到场景的二维图像,而且能获取物体之间的位置关系,再经过进一步深化处理,还能完成三维建模等应用。

体感交互技术经历了三个阶段

但是传统的人机交互是在2D平面图像的基础上进行处理的,普通摄像头只能实现影像的记录和平面图像的采集,分析算法难度大,功能十分有限;而3D成像技术,利用光学摄像头和红外深度传感器确定人体空间位置。1)普通光学摄像头,实现人体的二维捕捉;2)红外深度传感器,通过发出或接收红外光来确定深度信息;二者结合即可获得人体的三维空间位置。

随着硬件端技术的不断进步,算法与软件层面的不断优化,3D深度视觉的精度和实用性得到大幅提升。基于3D视觉的手势/人脸识别将对现有的消费电子产品产生颠覆性的变化,在大型设备(如智能电脑、智能电视等)中得到了广泛应用(体育类游戏、虚拟乐器弹奏、3D雕塑、机器人控制等),掀起了体感技术的热潮。

二、深度3D相机具有立体视觉,迎来快速发展

苹果新iPadPro配备了大量增强现实类功能,真实感强烈:能即时完成放置虚拟物体,具有逼真的物体遮挡效果,可让虚拟物体在现实场景结构中前后穿插。动作捕捉和人物遮挡效果也经过优化,精准度更高。新款iPadPro还能实现身高测量、AR游戏、AR装修、丰富视频动画等。媒体报道,即将在今年9月发布的iPhone12系列手机也有望采用3DTOF技术。相比此前安卓手机厂商采用的3DiToF技术,苹果采用的3DdToF技术响应快、功耗低、功能完善。此外,当前只有较少的应用app支持ToF技术,苹果的采用有望加速ToF生态的建设,让ToF的渗透率快速提升。

oF深度相机主要包含以下几个组件:

3D深度相机成为下一阶段相机创新的重点方向之一。从2000年夏普首次将相机和手机相结合以后,手机相机的创新一直以惊人的速度在前进,主要可分为以下4个阶段:1)相机和手机相结合,手机具备照相功能,此后相机模组尺寸不断减小,像素不断提高;2)前置摄像头添加,像素不断提高,自拍功能不断完善;3)双摄和三摄突破单相机瓶颈,夜视暗拍、大光圈、潜望式、超广角功能不断提升相机性能;4)3D深度相机带来立体视觉,增加了脸部解锁、支付、测距等功能。苹果在2017年开创了前置3D深度相机的先例,各大手机厂商不断尝试后置3D相机的应用,苹果新款iPadPro正加速后置3D相机的推进。

2018年3D传感技术市场规模为37.43亿美元,预测2023年为186.14亿美元,CAGR为38%。其中增长最快的属于消费电子,主要归功于几大手机厂商的应用。消费电子领域,2018年市场规模为18.1亿美元,预计2023年为137.7亿美元,CAGR超过50%。

三、3DToF技术优势突出,后置前景广阔

深度3D传感技术根据工作原理可以分为三种:RGB双目、TOF和结构光。RGB双目技术算法要求高,并容易受光线影响,在较暗或者高度曝光的情况下效果都非常差,因此很少被采用。目前应用比较多的是TOF和结构光。

TOF传感技术对算法要求低、响应更快、支持更高帧率。结构光因为需要对编码的结构光进行解码,所以复杂度要比直接测距的TOF高一些。TOF不需要后续处理,因此可以避免延迟,同时对算法要求更低。另外,TOF方案可以达到非常高的帧率,支持上百fps。结构光方案帧率会低一些,典型的是30fps。如:MelexisMLX75023的TOF传感器支持135fps。汽车辅助驾驶要求快速响应、远距离探测,3DTOF传感技术具备以上特点,因而也更适合汽车辅助驾驶,例如Melexis的MLX75027采用3DTOF技术对车内人员和物品进行监控,并具有手势检测功能。TOF结构简单、模组尺寸更小,材料成本更低。在红外发射端,TOF基本不需要使用光学棱镜,而结构光需要形成特定的光学图案,因此需要添加DOE(衍射光栅)和lens(光学棱镜)。因此TOF的模组尺寸更小,材料成本也更低。结构光的BOM成本大约20美元,而ToF约为15美元,中低端ToF甚至在10美元以下,ToF更具成本优势。

TOF技术优势更明显

2017年苹果发布的iPhoneX采用结构光FaceID用于人脸识别,开启了3D深度相机在手机的应用先例,在随后的iPhoneXS和iPhone11系列手机中延续了这一设计,但是结构光技术占用较大屏幕正面区域,且应用场景较少,该项技术一直未获得其他厂商的采用。新款iPadPro的dToF发射的点光源密度远低于iPhone前置的结构光,也说明了两个技术的不同用途。ToF技术更适用于远距离识别场景,如:智能手机后置摄像头、VR/AR手势交互、汽车电子ADAS、安防监控以及新零售等等领域。未来随着技术的进一步成熟、生态逐步完善,TOF产业有望进一步提升。

3DToF技术在2018年就被VIVO、OPPO、荣耀的部分旗舰机所采用,随后LG、华为、三星高端旗舰机接连加入。

TOF相机应用于少数安卓旗舰机型

目前OPPO、荣耀、华为和三星的TOF深度传感器大都是索尼的IMX316芯片。IMX316传感器尺寸为1/6英寸,有效像素仅为4.32万。

军事和无人驾驶汽车上用的工业级激光雷达(LiDAR)也采用到了ToF技术,利用激光束来探测目标的位置、速度等特征量,结合了激光、全球定位系统GPS和惯性测量装置(InertialMeasurementUnit,IMU)三者的作用,进行逐点扫描来获取整个探测物体的深度信息。

而从全球领先的高性能模拟技术巨头ADI近日在台北举行的智慧物联应用方案巡展上的展示可窥,目前随着各大应用市场对ToF深度视觉技术需求的日益增长,外加越来越多的国内外半导体大厂们持续的“推波助澜”,ToF产业及应用市场有望开启新一轮的加速发展。以现阶段体量最大的智能手机与汽车电子两个领域来看,产品存量的持续扩大带来微创新模式的加速渗透,对深度摄像技术的强烈需求加之智能手机交互方式的不断变化正促进全球ToF市场快速扩张;而汽车电子领域以ADAS渗透率不断提高为代表的汽车智能化趋势也正加速演进,作为激光雷达、智能摄像头等深度测距传感器领域最主流的方案,ToF市场正持续受益。

四、苹果3DdToF加速ToF成熟

ToF与iToF技术对比

当前,ST和AMS的1DToF基本采用dToF技术,而安卓厂商的3DToF全部采用iToF技术。

2020年3月13日消息,2020年至少有一款iPhone会在背后安装三维深度摄像头,用以提升手机照片和视频效果,还能提供更好的增强现实(AR)效果。

去年发布的iPhone11Pro和iPhone11ProMax有三个摄像头,可以为拍摄场景的宽度提供更多选择,而三维相机系统将增加深度信息。现在,iPhone的主要深度效果是竖屏模式,可以有背景虚化效果。在增加了深度相机后,背景虚化效果会更加真实。在编辑模式下,可以调整照片中的不同图层,改变哪些图层聚焦哪些模糊。

据9to5Mac的BenjaminMayo报道,苹果公司目前正在为iOS14系统开发一款AR应用,用户可以将iPhone对准苹果商店和星巴克的商品,从而在手机屏幕上看到商品的更多信息,以AR叠层形式显现。

在苹果之前,已经有多家手机在后摄上用了三维视觉,比如三星GalaxyNote10+、GalaxyS20+和GalaxyS20Ultra。但苹果可能能会找到一些更新颖的方式来提升用户体验,并且更擅长包装营销。

手机作为观看AR的载体还是有很大限制,但这种情况可能不会持续太久。这是硅谷最不为人知的秘密之一,苹果正在研发一款AR耳机或眼镜,从长远来看,它可能会成为苹果公司主要的空间计算设备。

五、AR生态逐步完善,促进ToF共成长

AR是未来最重要的一大科技创新,全球科技巨头都积极参与,包括苹果、谷歌、微软、华为、亚马逊等。早在2012年,谷歌就曾发布拓展现实的GoogleGlass产品,微软在2015年发布了HoloLens全息头盔,但是由于硬件技术不成熟和生态不完善,AR市场一直不温不火。

科技巨头深度布局完善AR生态,有望打开AR消费级市场。从苹果的ARSDK(软件开发工具包)ARKit到安卓的ARSDKARCore,再到2019年华为推出的cyberverse数字平台,这些平台极大地降低了应用软件的开发难度,推动AR生态发展,带动应用场景的繁荣,从而打开AR的消费级市场。

苹果于2017年WWDC大会上首次发布了基于iOS版本的ARKit。初代ARKit可实现稳定快速的运动定位、平面和边界的估计、光照估计和尺度估计,并且支持各个开发平台或引擎。此后苹果在每年的WWDC大会上更新ARKit版本。在2018年的ARKit2版本中,增加了、环境纹理、图像跟踪和物体检测等功能,提升后的ARKit2可对真实场景中的2D图像和3D物体进行跟踪,渲染更逼真的增强现实场景。2019年发布的ARKit3增加了对人物遮挡、动作捕捉、多面部追踪、同时使用前后摄像头等功能的支持。

基于iOS的ARKit应该场景逐步丰富

3D视觉交互成为ARKit中重要的应用场景。在ARKit2中,苹果加入了对真实场景中的3D物体进行跟踪,在最新的ARKit3中,更是加入了实时捕捉人的动作、人物遮挡、多元化AR交互等功能。

TOF相机作为最优的3D交互输入端,能大幅提升AR体验感。3D输入能提供3维信息,减少AR的算法难度以及计算量,能显著提升AR体验的精准度和流畅度,另外功耗也会大大降低。具备TOF相机的iPadpro能提供更真实、流畅的AR游戏体验,甚至可以利用AR玩逼真的在线游戏。具备TOF相机的iPadpro能提供学习和工作上的便利,例如进行3D扫描和建模,可以让用户更直观的学习模型,配合其他软件,甚至可以做修改装饰为了促进AndroidAR生态的发展,谷歌在2017年推出了第一款ARSDK:ARCore。ARCore不需要额外的硬件支持,在现有的Android系统上就能实现AR功能;谷歌在2018年2月发布了ARCore1.0版本,使用运动跟踪、环境理解和光照估测三个主要技术来实现AR功能。仅在3个月后谷歌就发布了ARCore1.2,增加了Sceneform、AugmentedImages和CloudAnchors三大功能,并对某些iOS设备提供有限支持。谷歌在2019年2月也更新了ARCore版本至ARCore1.7,引入了AugmentedFaces(脸部增强)API,并发布了用于基本原理学习的ARCoreElements应用程序。

基于Android的ARCore应用场景逐步丰富,3D应用成为新亮点

3D应用场景成为新ARCore中重要的应用场景之一。ARCore1.2中AugmentedImages部分功能的实现就需要利用以3D方式对它们进行跟踪和移动。在ARCore1.7版本中3D应用场景更加富,此次更新加入了自拍AR滤镜和动画API:AugmentedFaces,以及优化的应用UX。AugmentedFaces支持前置镜头,它可生成一种高质量的3D人脸网格,支持468点追踪,开发者可以在网格上加入有趣的特效,如动画面具、眼镜、虚拟帽子,它还支持皮肤润色。开发者只需要操控网格上的坐标和特定区域的锚状点,就可以加入特效。华为也加入了AR生态的建设。2019华为发布了Cyberverse数字平台。该平台为AR实景地图服务平台,可使用手机进行厘米级定位,Cyberverse是开放平台,其中的AR部分是全面开放的,可以接入Google的ARCore和苹果的ARKit。目前Cyberverse已有开放接口,包括3DMap、数据信息接入等。

Cyberverse目前已有3D步行导航、虚拟楼宇信息、智慧园区IoT信息等应用场景,覆盖150个国家40种语言。Cyberverse可用于在景点、博物馆、智慧园区、机场高铁站等空间,2019年已经在国内5个著名景点进行开发者测试,到2020年年末,将在1000个地点提供服务。该平台也可作为导航汽车进行左右车道、一二三车道的转换的高精定位导航系统

ARKit和ARCore打破AR硬件和软件相持的困局后,AR的成长空间已被打开,未来将是一个硬件和内容相互推动升级的过程,可划分为三个阶段:

未来几年,ToF技术在在终端将迎来高速增长。2018年全球TOFsensor传感器市场规模为3.7亿美元,占整个3D感测市场的33%,2019年其市场规模同比增长35%,市场份额达到5亿美金,占比提高至40%左右。基于TOF方案的多方面优势,尤其是成本优势,预计2022年,TOFsensor市场规模有望达到15亿美金。

随着TOF技术的不断成熟和应用场景的不断丰富,手机摄像头、VR/AR手势交互、汽车电子ADAS、

安防监控及新零售等多个领域都将对TOF深度传感器的数量需求增长。不难看出,在各类新型智能终端市场的持续催动下,计算机视觉技术如今已然进入了大爆发时代也越来越地明显感受到了全球各大应用市场对诸如ToF这类的3D深度视觉技术日益旺盛的需求,不过对于技术的全面落地需解决的基础性问题仍很多。未来如何通过技术手段去真正实现成本、功耗、体积、速度、寿命、稳定性以及抗干扰能力等多方面的平衡,达到一个相对目前来说更为优化的水平,进而实现ToF视觉传感技术实际应用中可靠性的成倍提升,是诸如ADI之类的技术方案提供商应当考虑的重点,也是ToF技术普及乃至整个市场健康发展的前提。

智研咨询推崇信息资源共享,欢迎各大媒体和行研机构转载引用。但请遵守如下规则:

THE END
1.2020中国新茶饮行业发展白皮书沙利文喜茶2021.22.pdf2020年也是新茶饮市场自2015年 市场发展现状,趋势的研究结论 蓬勃起步后的第一个五年。五年来,新茶饮品牌们重新定 ◆ 消费者调研主要通过对全国15座主要 义了中国现制茶饮市场,从品牌文化本身的塑造、市场发 城市的2,285位消费者进行的网络问 展趋势、消费者行为偏好、新冠疫情下的数字化升级等方 卷调查,调研...https://max.book118.com/html/2022/0125/8107032143004055.shtm
2.星巴克在华发展进入调整期预计2020财年中国同店销售额仅增3%公司股票回报率和公司业绩、投资资本回报率直接挂钩,这些年星巴克业绩和股价均处在突飞猛进的态势,但是增速却出现放缓,尤其是中国市场,前段时间更是下调2020财年增长预期,称2020财年每股收益将低于其“10%的持续增长模式”。此外,更早一些时候,星巴克早前曾将净新增门店的数量预期下调了100家,完成“悬赏”似乎存在较大...https://wap.eastmoney.com/a/201912161324835444.html
3.2019年中国咖啡市场发展数据报告:破译瑞幸咖啡估值密码.docx...肯定达不到星巴克的收入结构,但是通过目前瑞幸咖啡引入轻食和其他产品的动态来看,已经有意调整产品结构,亿欧智库假设2019年咖啡/在上述条件都成立的情况下,2019年瑞幸咖啡仍是亏损状态,但是瑞幸年咖啡销量如果能达到4.4亿杯,已经可以和目前星巴克(中国)的年咖啡销量(4亿杯亿欧智库2019年中国咖啡市场发展数据报告算我们...https://www.renrendoc.com/paper/358580587.html
1.星巴克在中国星巴克我们的使命和价值观 激发并孕育人文精神,每人,每杯,每个社区。 以我们的伙伴、咖啡和顾客为核心,我们努力践行以下价值观: 营造一种温暖而有归属感的文化,欣然接纳和欢迎每一个人。 积极行动,勇于挑战现状,打破陈规,以创新方式实现公司与伙伴的共同成长。 https://www.starbucks.com.cn/about/
2.专栏财新周刊频道社会融资增速目前下行的持续时间以及幅度,参照过去规律都难言到位;在没有经历一轮债券牛市之前,不太可能出现社融的重新回升 (0) 专栏|中国经济的“奇幻旅程” 在2020年新冠疫情对经济产生巨大负面影响的背景下,为何中国政府可以避免一次大规模经济刺激政策? (0) 专栏|美联储会再次坠入“量宽缩减恐慌症”吗? 虽然美...https://m.weekly.caixin.com/m/finance_columns/
3.咖啡市场研究报告2025中企顾问网发布的《2025-2031年中国咖啡产业发展现状与投资战略报告》报告中的资料和数据来源于对行业公开信息的分析、对业内资深人士和相关企业高管的深度访谈,以及共研分析师综合以上内容作出的专业性判断和评价。分析内容中运用共研自主建立的产业分析模型,并结合市场分析、行业分析和厂商分析,能够反映当前市场现状,...https://www.cction.com/report/202411/473168.html
4.星巴克招聘要求(招聘条件,发展前景)行业报告:发展现状前景分析 咖啡 -14% 餐饮 -20% 连锁餐饮 -20% 咖啡零售 -24% 饮品 -6% 精品咖啡 -28% 找客户:行业名企 上海人气公司Top500 上海“咖啡”人气公司 餐饮 连锁餐饮 咖啡零售 饮品 精品咖啡 咖啡店 零售 美洲跨境电商 欧洲跨境电商 外资 规模“10000人以上”公司...https://www.jobui.com/company/11712188/jobs/analysis/
5.大数据的社会价值12篇(全文)商学院学费水涨船高,一流院校现状如何? 大数据管理的战略价值 第3篇 大数据管理提升组织能力 美国奥巴马政府宣布推出的“大数据的研究和发展倡议”(Big Data Research and Development Initiative)是大数据从商业行为上升到国家战略的标志,这表明大数据的研究正式提升到战略层面,大数据在经济社会各个层面、各个领域都开始受...https://www.99xueshu.com/w/ikey2wkv2sju.html
6.大连市发展和改革委员会沪连合作工作动态2020年第5期(总第38期)7月13日至17日,大连市中山区委书记王守宇、区长赵云峰带队开展“中山区2020上海(长三角)产业招商周”活动并举办“中山区2020上海(长三角)产业招商恳谈会”。 活动期间,中山区代表团实地考察了上海星巴克烘焙工坊、上海蔚来汽车太古汇展厅,会见企业负责人,王守宇表示将持续支持大连公司发展经营,并希望企业能够扩大在连投资...https://pc.dl.gov.cn/art/2020/8/3/art_1721_451760.html
7.20142020年中国餐饮连锁行业市场分析预测报告为了全面而准确地反映餐饮连锁产业的发展现状以及未来趋势,中商情报网推出本报告在大量周密的市场调研基础上,主要依据中国国家统计局、国家海关总署、相关行业协会、国内外相关报刊杂志的基础信息以及专业研究单位等公布和提供的大量资料。对我国餐饮连锁业现状、餐饮连锁市场供需状况、餐饮连锁产业链现状、餐饮连锁重点企业状...https://www.askci.com/reports/2014/09/26/91429j0a.shtml
8.汽车动力总成智能测试企业供应链建设和优化解决策略制...(1)发动机智能测试设备市场发展现状及发展趋势 ...14 (2)变速箱测试设备市场发展现状及发展趋势 ...16 (3)新能源汽车动力总成测试设备市场发展现状及发展趋势 ...17 (4)涡轮增压器测试设备市场发展现状及发展趋势 ...https://doc.mbalib.com/view/cb1be5405d6a5664736b64065dbebbe4.html
9.民航运输学院2019级2020级贯通学生第二批论文答辩安排答辩时间:2022年5月13日13:30-15:30序号班级学号姓名论文指导教师论文题目腾讯会议号答辩教师11911101191110102高新宇程诚嘉宾饭店服务岗位现状与改善意见753-313-636陈烜华21911101191110108王柯然庞敏新兴行业剧本杀行业发展中存在的问题及改善方案曲倩倩3191110119111https://ysx.shcac.edu.cn/info/1068/1456.htm
10.2020年中国咖啡行业十大事件盘点目前来看,退市可能只是瑞幸咖啡长远发展的一个小插曲。在最新公布的数据显示,瑞幸咖啡在今年前三季度持续增长。 销售收入:瑞幸咖啡2020年前三个季度销售收入分别为:5.65亿元,9.8亿元和11.5亿元,同比增长分别为:18.1%,49.9%和35.8%。 门店数量:截止2020年11月30日,瑞幸咖啡门店数量从年初的4507家减少至3898家,其中包括...https://www.yicai.com/news/100947779.html
11.MondayMorning2020年4月中国商业资管行业动态周报(第八期...4月13日,上海市政府正式印发《上海市促进在线新经济发展行动方案(2020-2022年)》。方案指出,上海市计划在近三年内聚焦无人工厂、工业互联网、远程办公、在线服务、在线文娱、在线展览展示、生鲜电商零售、“无接触”配送、新型移动出行、在线教育、在线研发设计、在线医疗等12大“在线新经济”重点发展领域。 https://news.hexun.com/2020-04-20/201081140.html
12....滴滴成立“出网生态发展部”;洋码头启动“奢品官方直营”3、星巴克中国啡快服务登陆微信小程序,创建“在线咖啡社交”新场景 4、百胜中国收购福建圣农发展5%股权,加强供应链保障 5、恒天然拟出售与雅培合资牧场,计划本财年彻底退出贝因美的投资 汽车出行 1、Faraday Future任命陈雪峰为FF中国区CEO,中美双主场战略全面提速 ...https://maimai.cn/article/detail?fid=1603566261&efid=6jFSPuRR2qpIvEcnZa3HIA
13.最新数据曝光:星巴克全年营收265亿美元!平均每4小时开一家店?星巴克的发展除了得益于其运营战略外,其庞大的门店也是不可忽视的。 数据显示,星巴克在第四季度中新开了630家门店,截至10月29日,门店总数达到了31256家,与去年同期相比增长7%。 对于未来一年的发展,星巴克在2020财年指南中称,2020年将在全球新增2000家门店,美洲大约新增600家门店,增长率为3%~4%。国际地区新开门店将...http://www.360doc.com/content/21/0226/17/73934614_964122004.shtml
14.最新版2020中国公关公司30强排行榜出炉国际公关(中国)有限公司(简称:爱德曼)于1990年进入中国,是最早落户中国且发展最迅猛的国际公关公司之一,在北京、上海和广州设有办事处。结合全球网络与国际经验,爱德曼为各领域的跨国及本土客户提供了专业的服务,主要包括3M、Coach、HP、星巴克、塔塔集团等,涉及金融投资、IT、快速消费品、化工、能源、汽车等行业。 https://m.gongguanshe.com/nd.jsp?id=113&id=113