基于Kinect的实时障碍物检测AET

(杭州电子科技大学计算机学院,浙江杭州310018)

关键词:Kinect;障碍物检测;实时

中图分类号:TP311文献标识码:ADOI:10.19358/j.issn.1674-7720.2017.07.006

引用格式:丁亮.基于Kinect的实时障碍物检测[J].微型机与应用,2017,36(7):1921,25.

0引言

移动机器人是机器人学中的一个重要分支,指通过自身的传感器获取周围的环境信息和自身状态,实现在有障碍物的环境中自主向目标移动,最终完成任务的机器人。

关于获取环境信息,众多科研工作者目前的尝试可以概括为以下五方面:基于超声波的检测方法[12]、基于激光雷达的检测方法[3]、基于红外的检测方法[4]、基于视觉的检测方法[56]以及基于传感器组合的检测方法[7]。

这些方法都可以有效地感知周围环境信息,但也都有其局限性。本文使用微软的Kinect传感器,其不同于一般的视觉传感器,Kinect除了具有RGB彩色摄像头可提供二维视觉图像外,还具有深度传感器可以获取距离信息。Kinect属于主动探测,其探测深度信息使用“光编码”技术[8]。Kienct价格低廉,获取信息丰富,非常适用于移动机器人实时障碍物检测。

1Kinect障碍物检测

1.1Kinect标定

使用Kinect传感器进行深度信息测量前,需要先对Kinect传感器进行标定[9]。标定之后所获取的校准参数是从原始深度图像坐标计算3D坐标所必需的。其深度测量的三角测量原理如图1所示,图中显示了待测量物体的点k相对于参考平面的距离与测量的视差d之间的关系。为了表示对象点的3D坐标,本文采用深度坐标系,其原点在左下角红外摄像机的透视原点。z轴正交于朝向物体的像平面;x轴在基线b的方向上并垂直于z轴,y轴与x轴正交。

图1相对深度和测量差异之间的关系假设物体在距离传感器距离为Z0的参考平面上,并且在红外相机的图像平面上捕获物体的斑点,如果物体移动得离传感器更近或者更远,则在图像平面上的斑点位置将在x方向上移位。这在图像空间中被测量为对应对象空间中点k的视差d。从三角形相似性可知:

其中Zk表示物体空间中点k的距离(深度),b是基本长度表示两个相机之间的距离,f是红外相机的焦距,D是点k在物体空间中的位移,且d是在图像空间观察到的视差。将D从式(2)代入式(1),并根据其他变量,得到:

其中(xk,yk)是点的图像坐标,(x0,y0)是图像坐标的原点,(δx,δy)是透镜畸变的校正参数。

综上所述,用于从原始图像坐标测量计算3D坐标的数学模型中涉及的校准参数包括:焦距(f)、主点偏移(x0,y0)、透镜畸变系数(δx,δy)、基底长度(b)、参考图案的距离(Z0)。这些校准参数完全限定了图像测量(x,y,d)与每一个点空间坐标(X,Y,Z)之间的关系。

在标定完成之后,可以把深度图像的像素点坐标与投影到Kinect三维空间的点坐标进行转换。转换后,该Kinect三维空间坐标系,即是以Kinect传感器为坐标原点,x轴沿水平方向,y轴与x轴垂直,且平行于像素点成像平面,z轴垂直于xy平面。

1.2深度图像和RGB图像的配准

由图2可以看到,Kinect的彩色摄像头和红外摄像头并不在同一个位置且视角不同,所以Kinect的彩色图像和深度图像的每一帧的数据空间坐标系是不同的,前者的原点是RGB摄像头,后者的原点是红外摄像头,因此两者之间会有相应的误差。

可以在代码处理时把深度生成器的视角设定为彩色生成器的视角,让它们的视角保持一致。最主要的处理过程是实现两个映射函数:DepthToWorld从深度相机(x,y,d)映射到世界坐标,WorldToColor将世界坐标中的点映射到彩色摄像机中的像素索引。经过深度图像与彩色图像对准之后,彩色图像的每一个像素点都能在深度图像中找到对应点的深度信息。

2基于深度信息障碍物获取

在经过1.1节和1.2节的步骤之后,相当于在每一帧RGB图像的每一个像素上又包含了高度信息。以此为基础,就可以进一步获取每一帧图像中的障碍物与地平面区域。其处理过程如图3所示。

(1)在图像上提取地平线。因为本文认为阻碍移动机器人运动轨迹的障碍物为在地面上的凸障碍物,所以可以认为障碍物与地面之间的交界线就是地平线。场景中高于地平线的距离超过一个阈值的即可以认为是障碍物。所以,可以计算各行像素在移动机器人坐标系的高度平均值:

Hi=∑N-1j=0yi,jN(4)

式中,N表示列的数目。

(2)识别地平面。通常像素如果处在同一个平面上,其高度变化的趋势是缓慢的,当出现障碍物时,高度会出现阶跃性的变化。可以从图像由下至上遍历每一行像素的高度值,如果某一行的高度的平均值大于其下面区域的高度平均值时,该行就被认为是地平线,而地平线以下的区域即被认为是地平面,如:

式中,l1、ln分别表示起始行和结束行。

(3)标记远景和地面。如果像素的高度值与G的差的绝对值小于阈值GA,即可以认为是地面,则将该点的像素值灰度值置为0。

C(i,j)=0,If|yi,j-G|

式中,C(i,j)表示像素点(i,j)的灰度值,yi,j表示该像素点的高度。

同时,由于深度相机随距离增加的随机误差,需要使用类似的方式标记出2.5m以外的远景区域,即如果深度值大于阈值DA,则将该点的像素灰度值置为0。

C(i,j)=0,Ifzi,j>DA(7)

式中,zi,j表示该像素点的高度。

(4)障碍物检测。经过步骤(3)标记之后,即非感兴趣的区域的灰度值已经被置为0,余下的就是感兴趣的区域。接下来就需要对感兴趣区域做进一步处理,以检测障碍物。文中使用一个3×3结构对二进制感兴趣区域进行扩张(腐蚀)操作,以闭合障碍物像素之间的间隙,这样就初步得到了障碍物的区域。不过还不能区分不同深度的障碍物与同一深度不相连的障碍物。还需要在初步得到的障碍物区域的基础上,查看其点的x轴和z轴坐标,在z轴与x轴不连续的位置进行分割,将不同深度与同一深度不相连的障碍物分离出来,这样就获得了障碍物个体。

为了进一步说明该障碍物检测算法的流程,下面将在一个场景中应用这个算法来说明,场景选择为实验室楼梯口,如图4所示。其中(a)为场景图,包括贴近地面的障碍物、普通障碍物和贴有反光带具有反射干扰的障碍物;(b)为1.1小节Kinect标定后,深度图像各点对应空间的三维坐标,为了易于查看,使用AntTweakBar将结果渲染出来;(c)为预处理之后的深度图;(d)中实线部分为提取的地平线;(e)显示了标记远景和地面的结果,因为该场景为室内场景,所以没有远景,只是标记了地平面区域;(f)为经过x轴、z轴不连续区域的分割,得到分离后的障碍物。

从图4可以看到,本文算法可以基于Kinect有效检测到障碍物。

3结论

本文研究了基于Kinect传感器的障碍物检测方法。首先经过Kinect标定与配准之后,可以获得RGB图像像素点的三维空间坐标;第二,根据每一行像素点高度的平均值确定地平面;第三,以地平线为基础,确定地平面和障碍物区域,把障碍物区域作为感兴趣区域;最后,在感兴趣区域中,根据像素的空间坐标的x、z值的连续性进行切分,分割出障碍物。通过实验验证了本文算法的有效性。

参考文献

[1]SANTANAP,GUEDESM,CORREIAL,etal.Stereobasedallterrainobstacledetectionusingvisualsaliency[J].JournalofFieldRobotics,2011,28(2):241-263.

[2]MANSOLJ,BUSTOSP,BURGOSPB,etal.Multicuevisualobstacledetectionformobilerobots[J].JournalofPhysicalAgents,2010,4(1):3-10.

[3]CRISTINAD,LVAROH,ANAJ,etal.UltrasonicarrayforobstacledetectionbasedonCDMAwithKasamicodes[J].Sensors,2011,11(12):11464-11475.

THE END
1.智沃物联申请角测量传感器敏感组件检测系统及方法专利,有利于在动态环...智沃物联申请角测量传感器敏感组件检测系统及方法专利,有利于在动态环境变化条件下持续确保角位传感器具备高测量精度和高可靠性,脉冲,可靠性,智沃物联,敏感组件,角位传感器,角测量传感器https://www.163.com/dy/article/JGUSQ7Q70519QIKK.html
2.复杂野外环境下基于多传感器融合的机器人障碍物检测地址: 浙江大学紫金港校区 浙江大学玉泉校区 电话: 0571-87953027 E-mail : isee@zju.edu.cn 版权所有 Copyright ? 浙江大学信息与电子工程学院 技术支持 : 创高软件 管理登录 您是第 1766913 位访问者 http://www.isee.zju.edu.cn/2018/1114/c23330a892892/page.psp
3.机器人障碍物检测系统及方法[0005]一种机器人障碍物检测系统,其特征在于:包括机器人壳体、机器人底座、控制主板、两个行动轮、两个驱动马达、马达电流检测模块、障碍物检测传感器、至少两个碰撞检测机构;壳体为圆盘盒状,底座固定连接于壳体底部,两个行动轮并排设置于底座上,两个驱动马达分别驱动一个行动轮,两个驱动马达的控制端连接控制主板的...https://www.xjishu.com/zhuanli/54/CN105137994.html
4.以下传感器对障碍物检测精度最高的是以下传感器对障碍物检测精度最高的是___。 A、激光雷达 B、超声波雷达 C、视觉 D、毫米波雷达 点击查看答案进入小程序搜题 你可能喜欢 受自身经济条件的限制,对医药产品的价格非常敏感,这类消费者往往属于 A. 理智型购买者 B. 经济型购买者 C. 疑虑型购买者 D. 习惯型购买者 点击查看答案进入小程...https://m.ppkao.com/wangke/daan/9fdf13153b9c4db9918c8889b7d90c89
5.汽车雷达探测多近会响是什么问题(无级变速器)且车速约为10km/h(公里/小时)或更低的时候就会自动开启,后雷达当换挡杆置于R挡的时候就会开启,传感器检测到障碍物时,蜂鸣器将鸣响;4、传感器指示灯也将闪烁,多个传感器检测到障碍物时,蜂鸣器鸣响将以传感器检测到最近障碍物为准,当车身距离障碍物越近,蜂鸣器将鸣响和指示灯闪烁的频率也就越高,车主...https://m.yoojia.com/ask/6-9655548796769460300.html
6.解剖时尚家电~地贝X500智能扫地机器人,结构功能电路长篇分析拆机...传感器系统采用红外光电传感器、接触传感器等构成多障碍物检测系统。 红外反射式传感器: 由8路红外发射与接收对管组成检测单元,用于主动探测机器人周边障碍物和地面落差。该电路简单、安装调试方便。其中在机器人左前方和右前方各安装2路,实现周边障碍物的检测;另4路分别安装在机器人前端左下方和右下方,用于检测地面是否...http://www.360doc.com/content/17/0524/10/4268306_656696907.shtml
7.日本北阳HOKUYOPBS03JN激光扫描障碍物检测器型号: 日本北阳HOKUYO PBS-03JN 激光扫描障碍物检测器 价格: 0.00 品牌: 产品介绍:HOKUYO公司PBS-03JN 2D激光扫描障碍检测产品为红外线LED照明,距离测量型障碍检测传感器,监测区域设置方便,比反射型光电传感器性能可靠,180°测量范围,DC24V输入。PBS-03JN 2维激光扫描障碍检测 ...http://www.gkong.com/products/pro_content.asp?products_id=1038525
8.红外传感器·古德微机器人帮助手册基础应用(图形化) * **点击参考[红外传感器积木块](/BlockDescrib/zhinengyingjian/changyong/hongwai.md)** **1.障碍物检测:** * 在10秒(等待0.1秒*100次重复)内进行障碍物检测,当在检测距离内出现障碍物时,LOG输出会显示为1,反之则为0。如图5所示。 图5 障碍物检测...http://gdwrobot.cn/courses/hardware/inputoutput/input/hongwai.html
1.障碍物检测传感器设计资源TI.com.cn查看TI 障碍物检测传感器方框图,产品建议,参考设计并开始设计。https://www.ti.com.cn/solution/cn/obstacle-detection-sensor
2.sicktim32障碍物探测传感器行人障碍物识别资源SICK中距离传感器DT50的中文操作说明,希望可以帮助到您! 激光雷达障碍物探测:传感器融合纳米程序C ++下的第一个项目 浏览:26 传感器融合课程-第一个项目-激光雷达障碍物检测 激光雷达原理 激光雷达传感通过发送数千个激光信号为我们提供高分辨率数据。 这些激光从物体反射回来,返回到传感器,然后我们可以通过定时返回信号...https://download.csdn.net/download/chenyl78/86867704
3.广东上川AGV小车仓库运输车安装检测传感器遇障碍物时可缓停前方障碍物检测传感器+机械防撞机构双重防护 广东上川AGV小车、仓库运输车 安装检测传感器 遇障碍物时可缓停 AGV搬运机器人 自动搬运车 首选广东上川()广东上川智能装备股份有限公司是一家专业研发https://m.makepolo.com/product/100828450277.html
4.基于超声波传感器的自主移动机器人的探测系统采用步进电机带动超声波传感器旋转的方式在功能上近似于多传感器检测。移动机器人通常采用周身围绕固定多个超声波传感器来获取更多的信息,从而增加搜索障碍物的范围,确定目标方向和边界信息。与之相比,采用旋转的方式的一个优点,就是可以根据障碍物的紧密程度自动调整检测的密度。采用增加传感器的数量是受自身条件限制的,而...https://www.hqew.com/tech/news/188234.html
5....传感器提升日本Avatarin公司的机器人障碍物检测能力极客公园Acconeer 的 XM132 模块采用 PCR 毫米波雷达传感器 A111,应用于虚拟化身机器人的前端,以检测宽视野范围内的障碍物。之所以选择 PCR 毫米波雷达传感器 A111,是因为它在阳光直射下依然可以稳定使用,并且对光的干扰和噪声不敏感。此外,使用 PCR 毫米波雷达传感器可以用单个传感器监测更大的区域。PCR 毫米波雷达传感器...https://www.geekpark.net/news/305444
6.智能宠物狗的红外光电传感器的作用是检测障碍物。()智能宠物狗的红外光电传感器的作用是检测障碍物。() A. 正确 B. 错误 如何将EXCEL生成题库手机刷题 如何制作自己的在线小题库 > 手机使用 分享 反馈 收藏 举报 参考答案: A 复制 纠错举一反三 往复式压缩机的压缩过程主要有_(1)_、_(2)_、_(3)_、_(4)_几部分组成。 查看完整题目与答案 设备四...https://www.shuashuati.com/ti/1f93282ce5254c6d940f03c73dda4ad6.html
7.UR机械臂的安全传感技术实现人机协作1、动态障碍物检测 UR机械臂的安全传感技术,实时检测周围环境中的障碍物,包括移动的人员、物体等。通过视觉传感器和激光雷达等技术,机械臂能预测障碍物的轨迹,并做出相应规避动作,避免与障碍物碰撞。 2、接触力控制 UR机械臂配备了力传感器,可实时监测机械臂与人体的接触力。当机械臂与人体接触时,力传感器能够感知到...https://xiamen0128611.11467.com/news/4111822.asp