系统仿真学报 ›› 2025, Vol. 37 ›› Issue (7): 1804-1822.doi: 10.16182/j.issn1004731x.joss.25-0600
• 特约论文 • 上一篇
李向阳1,2, 张志利1, 王蕊1, 汪潇1, 迟骋1
收稿日期:
2025-06-25
修回日期:
2025-06-30
出版日期:
2025-07-18
发布日期:
2025-07-30
通讯作者:
张志利
第一作者简介:
李向阳(1984-),男,副教授,博士,研究方向为协同式人机交互控制与仿真。
基金资助:
Li Xiangyang1,2, Zhang Zhili1, Wang Rui1, Wang Xiao1, Chi Cheng1
Received:
2025-06-25
Revised:
2025-06-30
Online:
2025-07-18
Published:
2025-07-30
Contact:
Zhang Zhili
摘要:
为克服特装车辆驾驶指挥训练存在的现实短板,提出一种基于手势行为认知与指令交互的模拟训练技术框架。利用体感交互式动捕设备及人体骨骼模型对指挥训练人员的手势动作进行实时动态识别和空间坐标转换,并运用中值滤波法消除其突变数据和随机噪声;采用人体骨骼中心化和归一化方法进行空间坐标的一致化处理,基于指挥手势动作行为模型库创建和手臂骨骼空间姿态角度解算,确定不同指挥手势动作的姿态特征,实现基于动作特征的手势行为认知;通过手势指令关联映射形成智能车辆运动指令信息和控制参数,并通过无线通信协议发送至运动控制模块,经解析和处理后转化为电压、电流信号驱动智能车辆前后运动和左右转向,最终实现不同指挥手势对其运动过程的实时交互控制。经多组指挥训练人员测试验证,所提技术手段和方法途径具有较好的通用性、一致性和准确性,能够为特装车辆驾驶指挥训练提供经济高效的解决途径。
中图分类号:
李向阳,张志利,王蕊等 . 基于手势行为认知交互的特装车辆指挥模拟训练技术研究[J]. 系统仿真学报, 2025, 37(7): 1804-1822.
Li Xiangyang,Zhang Zhili,Wang Rui,et al . Research on Simulation Training Technology for Special Vehicle Command Based on Gesture Behavior Cognition Interaction[J]. Journal of System Simulation, 2025, 37(7): 1804-1822.
表2
指挥手势动作姿态特征 (º)
序号 | 指挥命令 | 手势动作姿态特征 | |||||||||
---|---|---|---|---|---|---|---|---|---|---|---|
1 | 车辆启动 | 85±5 | / | 90±5 | / | 80±10 | / | 85±5 | / | + | / |
2 | 车辆前进 | -30±10 | -30±10 | 90±5 | 90±5 | -30±5 | -30±5 | 110±10 | 110±10 | - | - |
3 | 车辆后退 | -30±10 | -30±10 | 90±5 | 90±5 | -30±5 | -30±5 | 110±10 | 110±10 | + | + |
4 | 车辆停止 | 85±10 | 85±10 | 90±5 | 90±5 | 85±5 | 85±5 | 90±5 | 90±5 | + | + |
5 | 车辆前进左转 | -40±5 | 0±10 | 90±5 | 0±5 | 0±10 | / | 90±5 | / | - | + |
6 | 车辆前进右转 | 0±10 | -40±5 | 0±5 | 90±5 | / | 0±10 | / | 90±5 | + | - |
7 | 车辆后退左转 | -40±5 | 0±10 | 90±5 | 0±5 | 0±10 | / | 90±5 | / | + | + |
8 | 车辆后退右转 | 0±10 | -40±5 | 0±5 | 90±5 | / | 0±10 | / | 90±5 | + | + |
表3
手势指令交互数据协议
序号 | 指挥命令 | 头部信息 | 对象类型 | 指令代码 | 控制参数 | 尾部信息 |
---|---|---|---|---|---|---|
1 | 车辆启动 | 0xFF | 0x00 | 0x00 | CarStart | 0xFF |
2 | 车辆前进 | 0xFF | 0x00 | 0x01 | MoveSpeed | 0xFF |
3 | 车辆后退 | 0xFF | 0x00 | 0x02 | BackSpeed | 0xFF |
4 | 车辆停止 | 0xFF | 0x00 | 0x03 | CarStop | 0xFF |
5 | 车辆前进左转 | 0xFF | 0x01 | 0x04 | MoveLeftAngle | 0xFF |
6 | 车辆前进右转 | 0xFF | 0x01 | 0x05 | MoveRightAngle | 0xFF |
7 | 车辆后退左转 | 0xFF | 0x01 | 0x06 | BackLeftAngle | 0xFF |
8 | 车辆后退右转 | 0xFF | 0x01 | 0x07 | BackRightAngle | 0xFF |
[1] | 李向阳, 汪潇, 张志利, 等. 基于虚实结合的特装车辆驾驶训练模拟系统[J]. 系统仿真学报, 2021, 33(12): 2919-2934. |
Li Xiangyang, Wang Xiao, Zhang Zhili, et al. Special Vehicle Driving Training Simulation System Based on Integration of Virtuality and Reality[J]. Journal of System Simulation, 2021, 33(12): 2919-2934. | |
[2] | 梁丰, 张志利, 李向阳, 等. 力反馈特种车辆驾驶舱半实物仿真模型研究[J]. 系统仿真学报, 2021, 33(12): 2935-2943. |
Liang Feng, Zhang Zhili, Li Xiangyang, et al. Research on Semi-physical Simulation Model of Special Vehicle Cockpit with Force Feedback[J]. Journal of System Simulation, 2021, 33(12): 2935-2943. | |
[3] | 李亦豪, 张志利, 李向阳, 等. 特种车辆模拟驾驶训练中六自由度平台控制研究[J]. 系统仿真学报, 2021, 33(11): 2681-2690. |
Li Yihao, Zhang Zhili, Li Xiangyang, et al. Research on Six Degrees of Freedom Platform Control in Special Vehicle Simulated Driving Training[J]. Journal of System Simulation, 2021, 33(11): 2681-2690. | |
[4] | 唐传谦, 刘志强, 苏毅俊, 等. 基于Kinect的皮影动作实时匹配研究[J]. 系统仿真学报, 2022, 34(3): 633-639. |
Tang Chuanqian, Liu Zhiqiang, Su Yijun, et al. Research on Real-time Motion Matching of Shadow Play Based on Kinect[J]. Journal of System Simulation, 2022, 34(3): 633-639. | |
[5] | 王沐晴, 张磊, 范秀敏, 等. VR外设驱动的虚拟人姿态优化仿真方法[J]. 系统仿真学报, 2022, 34(6): 1296-1303. |
Wang Muqing, Zhang Lei, Fan Xiumin, et al. Simulation Method of Virtual Human Pose Optimization Based on VR Peripherals[J]. Journal of System Simulation, 2022, 34(6): 1296-1303. | |
[6] | 詹燕, 陈志慧, 朱宝昌, 等. 基于自适应颜色快速点特征直方图的托盘识别方法[J]. 上海交通大学学报, 2023, 57(3): 297-308. |
Zhan Yan, Chen Zhihui, Zhu Baochang, et al. A Pallet Recognition Method Based on Adaptive Color Fast Point Feature Histogram[J]. Journal of Shanghai Jiao Tong University, 2023, 57(3): 297-308. | |
[7] | 肖志刚, 周猛祥, 袁洪波, 等. 光照强度对Kinect v2深度数据测量精度的影响[J]. 农业机械学报, 2021, 52(增1): 108-117. |
Xiao Zhigang, Zhou Mengxiang, Yuan Hongbo, et al. Influence Analysis of Light Intensity on Kinect v2 Depth Measurement Accuracy[J]. Transactions of the Chinese Society for Agricultural Machinery, 2021, 52(S1): 108-117. | |
[8] | 边存灵, 吕伟刚, 冯伟. 骨架人体行为识别研究回顾、现状及展望[J]. 计算机工程与应用, 2024, 60(20): 1-29. |
Bian Cunling, Weigang Lü, Feng Wei. Skeleton-based Human Action Recognition: History, Status and Prospects[J]. Computer Engineering and Applications, 2024, 60(20): 1-29. | |
[9] | 甘建旺, 沙芸, 张国英. 基于图像中值灰度相似度函数加权曲率滤波算法[J]. 电子学报, 2021, 49(6): 1187-1194. |
Gan Jianwang, Sha Yun, Zhang Guoying. Weighted Curvature Filtering Algorithm Based on Image Median Gray Similarity Function[J]. Acta Electronica Sinica, 2021, 49(6): 1187-1194. | |
[10] | 叶瑞乾, 何浩, 郑鹏, 等. 一种基于中值滤波和统计学的拉曼光谱spike剔除算法[J]. 光谱学与光谱分析, 2022, 42(10): 3174-3179. |
Ye Ruiqian, He Hao, Zheng Peng, et al. A Spike Removal Algorithm Based on Median Filter and Statistic for Raman Spectra[J]. Spectroscopy and Spectral Analysis, 2022, 42(10): 3174-3179. | |
[11] | 戴江涛. 基于深度学习的人体动作识别方法研究[D]. 沈阳: 沈阳工业大学, 2022. |
Dai Jiangtao. Research on Human Action Recognition Method Based on Deep Learning[D]. Shenyang: Shenyang University of Technology, 2022. | |
[12] | 全燕鸣, 覃镇波, 李维诗, 等. 基于归一化算法的一维标定物多相机标定[J]. 光学学报, 2019, 39(4): 247-254. |
Quan Yanming, Qin Zhenbo, Li Weishi, et al. Multi-camera Calibration of One-dimensional Calibration Objects Based on Normalization Algorithm[J]. Acta Optica Sinica, 2019, 39(4): 247-254. | |
[13] | 宋玉琴, 曾贺东, 高师杰, 等. 基于改进高分辨表征的人体姿态估计算法[J]. 计算机工程与设计, 2022, 43(4): 1045-1051. |
Song Yuqin, Zeng Hedong, Gao Shijie, et al. Human Pose Estimation Algorithm Based on Improved High Resolution Representation[J]. Computer Engineering and Design, 2022, 43(4): 1045-1051. | |
[14] | 邓平, 吴明辉. 基于机器学习的人体运动姿态识别方法[J]. 中国惯性技术学报, 2022, 30(1): 37-43. |
Deng Ping, Wu Minghui. Human Motion Attitude Recognition Method Based on Machine Learning[J]. Journal of Chinese Inertial Technology, 2022, 30(1): 37-43. | |
[15] | 曹恩国, 徐祺, 沈峰岑, 等. 多运动复合型被动式下肢外骨骼设计及其智能交互评估[J]. 机械工程学报, 2023, 59(11): 43-53. |
Cao Enguo, Xu Qi, Shen Fengcen, et al. Multi-motion Compound Passive Lower Limb Exoskeleton Design and Its Intelligent Interaction Evaluation[J]. Journal of Mechanical Engineering, 2023, 59(11): 43-53. | |
[16] | 袁小庆, 邹缓, 吴涛, 等. 基于运动意图识别的上肢助力外骨骼复合控制方法研究[J]. 机械工程学报, 2023, 59(15): 73-82. |
Yuan Xiaoqing, Zou Huan, Wu Tao, et al. Compound Control Method for Human-powered Augmentation Upper Exoskeleton Based on Motion Intent Recognition[J]. Journal of Mechanical Engineering, 2023, 59(15): 73-82. | |
[17] | 姚栋伟, 吴锋, 杨志家, 等. 基于增量式数字PID的汽油机怠速控制研究[J]. 浙江大学学报(工学版), 2010, 44(6): 1122-1126. |
Yao Dongwei, Wu Feng, Yang Zhijia, et al. Design of Idle Speed Controller for an SI Engine Based on Incremental Digital PID[J]. Journal of Zhejiang University(Engineering Science), 2010, 44(6): 1122-1126. | |
[18] | 赵远, 许云鹏, 汪子楷, 等. 原子重力仪激光系统数字PID闭环控制设计及实现[J]. 中国惯性技术学报, 2025, 33(5): 495-501. |
Zhao Yuan, Xu Yunpeng, Wang Zikai, et al. Design and Implementation of Digital PID Closed-loop Control for Laser System of Atomic Gravimeter[J]. Journal of Chinese Inertial Technology, 2025, 33(5): 495-501. | |
[19] | 柴天佑, 周正, 郑锐, 等. 端边云协同的PID整定智能系统[J]. 自动化学报, 2023, 49(3): 514-527. |
Chai Tianyou, Zhou Zheng, Zheng Rui, et al. PID Tuning Intelligent System Based on End-edge-cloud Collaboration[J]. Acta Automatica Sinica, 2023, 49(3): 514-527. | |
[20] | 周志勇, 莫非, 赵凯, 等. 基于PPO的自适应PID控制算法研究[J]. 系统仿真学报, 2024, 36(6): 1425-1432. |
Zhou Zhiyong, Mo Fei, Zhao Kai, et al. Adaptive PID Control Algorithm Based on PPO[J]. Journal of System Simulation, 2024, 36(6): 1425-1432. |
[1] | 李永玲, 刘凌志, 周百顺, 雷经发, 张淼, 赵汝海. 基于视觉动捕的仿真掘进机操作系统[J]. 系统仿真学报, 2025, 37(6): 1531-1541. |
[2] | 陈佳昕, 周国辉, 杨建柏. 基于虚拟仿真方法的手部姿态数据集构建技术[J]. 系统仿真学报, 2023, 35(4): 862-870. |
[3] | 李智杰, 马爽予, 李昌华, 梁霄, 张颉. 基于BIM与MR的楼层疏散仿真[J]. 系统仿真学报, 2023, 35(3): 658-669. |
[4] | 刘俊, 高阳, 徐涛, 赵青, 单桂华, 迟学斌. 基于过程挖掘的科学工作流交互式构建[J]. 系统仿真学报, 2022, 34(7): 1547-1558. |
[5] | 卢柏宏, 赵建军, 刘戈三. 电影虚拟摄影半实物仿真的研究与实现[J]. 系统仿真学报, 2021, 33(8): 1938-1946. |
[6] | 李弋豪, 黄天羽, 李鹏, 丁刚毅. 基于密集人群的表演行为建模与仿真方法研究[J]. 系统仿真学报, 2021, 33(7): 1617-1625. |
[7] | 李向阳, 汪潇, 张志利, 李亦豪, 龙勇. 基于虚实结合的特装车辆驾驶训练模拟系统[J]. 系统仿真学报, 2021, 33(12): 2919-2934. |
[8] | 郭园, 童倩倩, 郑宇铠, 王子琦, 张玉茹, 王党校. 融合多元触觉和沉浸式视觉的可移植VR软件框架[J]. 系统仿真学报, 2020, 32(7): 1385-1392. |
[9] | 梁丰, 张志利, 李向阳. 协同虚拟维修过程中的虚拟人体维修操作控制[J]. 系统仿真学报, 2020, 32(7): 1201-1210. |
[10] | 薛艳萍, 王学松, 武仲科, 王醒策, 周明全. Myo手势识别方法在古建筑漫游系统中的应用[J]. 系统仿真学报, 2019, 31(9): 1907-1915. |
[11] | 吴佳佳, 刘箴, 许辉煌, 刘婷婷, 王瑾, 柴艳杰. 面向康复训练的严肃游戏人机交互设计[J]. 系统仿真学报, 2019, 31(5): 909-918. |
[12] | 朱晓强, 潘虹艺, 徐浩, 宋磊, 朱梦尧, 王向阳. 头戴设备VR环境下光滑加权等距面交互建模[J]. 系统仿真学报, 2018, 30(7): 2459-2464. |
[13] | 王志文, 张子豪, 贾玉祥, 魏毅, 沈燕飞. 基于语音识别控制的人体运动仿真[J]. 系统仿真学报, 2018, 30(11): 4203-4209. |
[14] | 韩亮, 公璇, 王江云, 杜阳华. 跳伞模拟器人机交互可视化功能研究[J]. 系统仿真学报, 2017, 29(8): 1747-1752. |
[15] | 王晓慧, 马昕, 秦斌, 李贻斌. 仿生眼注视转移运动控制策略研究[J]. 系统仿真学报, 2016, 28(6): 1380-1386. |
阅读次数 | ||||||
全文 |
|
|||||
摘要 |
|
|||||