主要负责RealMan六自由度机械臂与五指灵巧手的目标视觉识别与抓取算法研发,支撑团队多机器人取餐配送系统。实现闭环抓取工作流,融合视觉模型与控制模块,构建从视觉感知到精准抓取的完整解决方案,进行较为可靠的抓取操作。
基于YOLOv8模型,构建并优化专用数据集,训练特定物体(如水杯、饮料罐)检测模型,由置信度筛选出目标物体,使用Tens orRT实现实时加速推理。
使用IntelRealSenseD435相机实时采集图像,利用双目立体视觉SGBM算法获取深度信息。对原始RGB图像和深度图像进行重新对齐,结合生成点云数据,准确获取目标物体的三维空间信息。
实施并完成了手眼分离标定流程,成功建立了相机坐标系与机械臂基坐标系之间的转换关系,为视觉引导抓取奠定了准确的定位基础。复现并集成了GraspNet抓取位姿预测模型,利用点云数据生成目标物体的可行抓取位姿。
基于MPC方法实现闭环抓取工作流,融合视觉模型与控制模块,最终构建了从视觉感知到精准抓取的完整解决方案,能够进行较为可靠的抓取操作。