机器人抓取的三维手眼标定方法研究

张禹,马君桥,王永志,王绮梦

(沈阳工业大学机械工程学院,辽宁沈阳 110870)

随着工业机器人自动化水平日渐提高,机器视觉成为自动化加工重要的一部分。通过视觉来实现对目标物体的定位、抓取、搬运工作时,首先要通过相机来获得目标物体的三维空间信息,于是需要进行手眼标定。传统九点法工业手眼标定局限于二维平面,只能获取目标物体的二维平面信息,缺少空间内的轴信息,只能在固定高度的平面上进行抓取。若机器人在空间中进行抓取,需进行三维空间手眼标定,即获取机器人坐标系与摄像机坐标系之间的转换关系。

张正友所提出的相机标定方法,是通过相机提取棋盘格角点,对摄像机的内、外参进行矫正。其他标定方法大多数是在张氏标定法基础上进行改进。但摄像机标定只能对摄像机本身的误差进行矫正,使机器人通过摄像机获得目标物点三维坐标还需要进行手眼标定,手眼标定是进行机器人抓取、装配等的前提条件。林嘉睿等借助一个特制的具有3个标记圆的靶标进行标定,通过控制机器人在固定高度移动,识别3个圆的圆心坐标,求得转换矩阵。此方法具有较强的鲁棒性,但仅标定了二维平面,无法进行立体识别。

AXELROD和HUANG通过将标定靶安装在机器人末端,简化了手眼标定的过程,但要求标定靶有较高精度。HU和CHANG为简化标定过程,提出一种仅需一只激光笔的方法,无需手动测量即可工作,适用于机器人不在摄像机视场范围的情况,但对设备要求较高且不易操作。YANG等采用标定球代替标定板或其他复杂的三维模型进行手眼标定,这种方法参数化表示简单,但获得的球体中心的坐标易出现误差,标定过程较为复杂。杨伟姣等采用Halcon软件进行手眼标定,机器人末端抓取标定靶,但易受光照影响,抗噪能力弱,需要人为调整。ZENG等为实现抓取任务将传统九点标定法改进为三维手眼标定,不需要末端工具夹取标定靶,精度良好,但标定所需时间较长。

对于手眼标定缺少空间轴信息、过程繁琐、所需外部工具较多的情况,提出一种机器人三维手眼标定方法,不需要人为参与,自主完成手眼标定工作,减少标定所需时间的同时保证标定的精度,最后对方法进行实验验证。

在摄像机标定过程中,建立了4个坐标系,来更好地说明三维空间中一点在摄像机内的成像原理。像素坐标系是描述目标物体成像在相机内部产生的像点的坐标系,是二维坐标系,单位是像素;图像坐标系原点为成像平面与相机光轴的交点,为建立在相机成像平面上的坐标系,是二维坐标系,单位是m;视觉传感器坐标系是为描述三维空间一点投影到视觉传感器上所产生的坐标系,是三维坐标系,单位是m;世界坐标系是描绘真实世界任意一点位置坐标的坐标系,是三维坐标系,单位是m。

视觉传感器成像的问题可以用小孔成像模型来模拟。(,)为像素坐标,(,)为图像坐标,(,,)为视觉传感器坐标,(,,)为世界坐标,为视觉传感器的焦距。

像素坐标系与图像坐标系之间的关系为

(1)

其中:、为像素尺寸;、为图像中心;为两个坐标系轴之间的倾斜程度。

图像坐标系与视觉传感器坐标系间关系可建立数学模型:

(2)

视觉传感器坐标系与世界坐标系转换关系是:

(3)

视觉传感器所识别到的物点经过旋转矩阵与平移矩阵即可转换到世界坐标系下。

传统的标定方式都局限于二维平面上,缺少轴的深度信息,无法通过视觉使机器人进行空间抓取。双目立体视觉根据视差原理,通过获取多组图像,进而得到物体空间坐标信息。图1为双目摄像机视差法获得深度的原理,其中、为空间一点在左右相机成像平面上的映射点。

图1 立体视觉三维空间示意

根据相似三角形原理有

(4)

求解方程得到相机坐标系下一点、、坐标:

(5)

其中:(,)、(,)分别为、在图像坐标系下的坐标,mm;为相机的焦距;为左右两相机之间基线的距离,mm;为视差,mm。

手眼标定按照视觉传感器与机器人的位置关系共有两种形式:一种是眼在手上(eye-in-hand)型,视觉传感器与机器人相对静止,随机器人运动而运动;一种是眼在手外(eye-to-hand)型,视觉传感器与机器人作相对运动,摆放在机器人外侧位置,如图2所示。

图2 eye-to-hand手眼标定模型为标定板坐标系到相机坐标系的转换矩阵,为相机坐标系到机器人基坐标系的转换矩阵,为机器人基坐标系到机器人末端坐标系的转换矩阵,为标定板坐标系到机器人末端坐标系的转换矩阵,其为已知,未知但恒定不变,于是有:

(7)

将式(7)转换成:

(8)

手眼关系采取eye-to-hand的形式,棋盘格标定板置于机器人末端执行器上,通过视觉传感器获取棋盘格的彩色图像与深度图像,得到中心点二维坐标。通过双目成像原理计算棋盘格中心点深度,并转换成视觉传感器坐标系下的空间坐标。在机器人坐标系中测量棋盘格中心点到末端执行器中心点之间的偏移量,以获得该点机器人坐标系下的坐标。

在机器人坐标系下、、方向上设定限位,构成一个机器人的标定空间。设置机器人移动步长,在标定空间内按照步长进行轨迹移动,移动轨迹设置为三角形轨迹或者N形轨迹,加快标定速度。

标定过程中机器人每经过标定轨迹所设定一路点,视觉传感器采集标定板中心点一次,并记录当前中心点在视觉传感器坐标系下的坐标。标定空间轨迹及路点如图3所示。

图3 手眼标定轨迹及路点

对摄像机识别到的点与机器人坐标系下的点进行转换,求解旋转矩阵则变为point-to-point Iterative Closest Points(ICP)问题:

(9)

(10)

(11)

通过奇异值(SVD)分解得到:

(12)

其中:是分解得到的3×3阶的右奇异矩阵;是3×3阶的左奇异矩阵的共轭转置;是3×3阶的半正定对角矩阵。

设定迭代次数,经过ICP算法进行迭代,获得变换旋转矩阵与平移向量的最优解为

(13)

(14)

设置相机深度比例因子初值为1,比例因子与从相机捕获的每个深度像素相乘获得轴方向坐标值。为减少视觉传感器出现的缩放问题,通过下山单纯形(Nelder-Mead)法对深度比例因子进行迭代优化,求取比例因子最优解,缩小点云配准的误差。

于是获得两坐标系之间的转换矩阵为

(15)

实验采用六自由度UR5e系列机器人,Intel Realsense D415视觉传感器,PC端采用Intel 3060显卡,系统Ubuntu 16.04 LTS,PyCharm编译软件,使用Python与OpenCV计算机视觉库进行开发。棋盘格采用3×3阵列图案,方格边长为1.4 mm,粘贴在RG6抓手中心。整个系统采取eye-to-hand的手眼标定方式,UR5e控制RG6抓手始终平行于水平面,标定板中心与机器人工具中心在轴、轴方向偏移量分别为-0.266 2、0.022 m,如图4所示。

图4 手眼标定实验系统(a),Intel Realsense D415摄像机(b),RG6抓手与标定板黏贴位置(c)

分别对三角形、N形、基准法手眼标定移动轨迹进行实验,使用movel指令控制机器人遍历标定点阵。如图5(a)(b)分别为N形标定轨迹与三角形标定轨迹实际标定过程,展示在标定空间上的一个平面的轨迹,并获得两种轨迹转换矩阵与:

图5 手眼标定实验轨迹

(16)

(17)

基准法手眼标定是传统九点标定法的三维形式,设定、、三个方向上的限位,机器人按照步长遍历整个工作空间,将相机坐标系下与机器人坐标系下的点云进行转换,进而获得转换矩阵。

采取、、三个方向上的平均误差与定位误差作为改进算法精度指标的判定标准,其中(,,)为理论标准坐标值,(,,)为实验所得坐标值,为所对比点数:

(18)

(19)

(20)

(21)

表1 3种标定精度平均误差对比

表2 3种标定效率对比

由实验结果知:三角形标定轨迹精度最高,在、、3个坐标轴上的平均误差为0.902 1、0.885 3、0.808 4 mm,最大误差分别为1.318 8、1.221 4、1.518 8 mm,最小误差分别为0.244 1、0.295 4、0.074 3 mm,定位误差为0.863 6 mm。所提出方法缩短了标定操作时间,标定精度能够满足机器人进行视觉定位、抓取的工作需求。

为完成机器人空间抓取任务,提高机器人三维手眼标定精度与效率,分析并建立了机器人手眼标定数学模型,提出一种无需外接其他设备的手眼标定方法,标定过程无需人为参与。对眼在手外的手眼模式进行标定实验,通过棋盘格角点识别、ICP变换、SVD求解得到转换矩阵,采用Nelder-Mead法对深度比例因子进行优化,缩小标定误差。建立实验平台对所提出三维手眼标定方法的性能进行验证,由实验结果可得,改进方法的平均标定误差比标准方法减小了18.90%,标定时间减少了49.12%,可见所提出方法相比基准法的效率更高,能够满足标定需求。

该方法的局限性包括光线干扰仍对标定精度有着一定影响,对棋盘格中心与末端执行器中心的偏移量存在测量误差。未来的研究方向是进一步减少光照的影响,避免测量误差,增强方法的鲁棒性。

THE END
0.武汉市第四十九初级中学八年级物理备课组开展“小孔成像”模型一个个灵活轻巧的小孔成像模型从他们的手中“诞生”了! 特别是初一的同学 带着自己准备的材料 在限定的时间内也独立完成了属于自己的“小孔成像”模型 效果十分明显 盲选评奖资鼓励 制作结束后 教研组长曾祥胜老师以及晏红老师、柏杨老师、詹慕鸣老师、汪彦祥老师 当场盲选评出“鲁班传人奖”、“光影达人奖”、“创意奇人奖”以及优秀奖jvzquC41yy}/onnrkct/ew46{6€uzjw
1.相机模型相机坐标系到图像坐标系的转换满足小孔成像模型(暂不考虑图像畸变),如下图所示(成像平面放在 轴原点前或后都可以,放在原点后侧则图像相反,此处以原点前侧为例),通过简单的相似三角形原理即可得到: 将相机坐标系中的三维坐标 映射到成像平面中得到 ,其中 jvzquC41yy}/lrfpuj{/exr1r16fhj:2e2j5d>
2.北师大版八年级物理上册知识点2、光在同种均匀的介质中沿直线传播,生活中应用光的直线传播的事例有:日食、月食,小孔成像,排队瞄准等。 八年级物理学习方法 重视思维方法 (1)方法迁移。 初学物理,你会读到《摆的故事的启示》,同时,你第一次接触了利用控制变量法“研究影响摆的周期的因素”。渐渐地,你从“研究声音的音调跟哪些因素有关”、jvzquC41yy}/qq6220ipo8|wnk572953894ivvq
3.基于Pix4Dmapper软件的运动结构恢复SFM无人机遥感影像三维模型重建其中,这一方法的知识基础包括相机成像模型、相机标定与多视几何等[1]。以下先分别对各知识基础所对应原理加以描述,并最终将各独立部分结合,得到运动结构恢复方法的完整原理。   在计算机视觉中,最常用的相机成像模型即小孔成像模型[7]。小孔成像原理如图1所示。jvzquC41yy}/lrfpuj{/exr1r1i57?98cc?8:B
4.经济学案例及分析汇总十篇本文通过实际经济活动―消费者购买行为研究作为教学案例,运用SPSS计算机软件具体操作和应用,而不是从概念到概念,抽象地讲解理论和方法。其目的在于使学生能够掌握并运用计量经济学方法和一般范式对实际实证项目进行分析与研究,能够让学生完成较高质量、有数据及数学模型支撑的“课程论文”或“毕业论文”,并达到教学效果的改jvzquC41yy}/z~jujw4dqv3ep1nbq€jp16>16>3jvor
5.入选论文解读:从虚拟数据学习可泛化的三维人体姿态估计模型图1. 小孔成像模型中的投影几何。影响深度估计的因素包括相机焦距、相机位姿、人的身高和姿态等。 现有的方法大多直接学习从图像到人体深度的映射关系,尽管它们能在公开数据集上取得比较好的效果,但由于数据集在相机位姿、人体姿态以及图像背景上缺乏多样性,训练出的模型的泛化性能较弱。 jvzquC41ehit0ypw0gjv0ls1pg}t1;929;6/j}r
6.光电智造摄像机标定技术及其应用——单目摄像机也就是将任意坐标平面通过旋转和平移映射到理想坐标平面上,对有畸变的图像进行校正,让它成为符合小孔成像模型的像平面。有了这种方法,我们只要确定转换算法、校正算法以及【1】式中的参数就可以实现三维空间中任意平面上尺寸与位置的测量。我们将这种确定参数的过程称之为标定。jvzquC41yy}/gny/ejooc7hqo1sq1j74;4870qyon
7.一种基于特征点不确定性的单目相机位姿估计方法.pdf5.根据权利要求4所述的基于特征点不确定性的相机位姿估计方法,其特征在于,根据 加权代数误差函数得到线性方程模型,包括: 在加权代数误差函数两边同时乘d,根据相机小孔成像模型, i T 中间参数e=[0 0 1],得到测量方程: 将测量方程改写为矩阵形式,得线性方程模型: 其中,M为系数矩阵,x由外参R和t组成,为误差项;jvzquC41oc~/dxtm33>/exr1jvsm1;5451732B4842;1696322712;50ujzn
8.自制小孔成像,如何制作简易的小孔成像模型1,如何制作简易的小孔成像模型 很简单,拿一个挡光板(什么板子都行,只要不透光就可以了),拿针在板上穿一个小孔(越小成的像越清晰,但所成像的亮度就会减小),晚上将挡光板平行靠近墙面(越十几厘米)你就会看到挡光板对面物体所成的像了,当然不能在日光灯下看,最好找个台灯照亮所观测的物体,效果挺明显的。我亲jvzq<84yyy4mk|ip0eun1vsul1ni||46867467mvon
9.针孔相机成像模型51CTO博客大部分相机成像原理都可以简化为小孔成像,如下图所示: 和以前课本上学习的一样,上图中蜡烛透过相机的针孔,在感光器上成倒立的像,这一个简单的模型即为针孔相机的成像模型。基于这个模型,我们最希望解决的问题是:蜡烛在现实世界中的位置和图片中蜡烛像素点之间有着怎样的关系呢? jvzquC41dnuh0>6evq4dqv4wa3;1:953619:79=;9