[go: up one dir, main page]

CN106681516A - 一种基于虚拟现实的自然人机交互系统 - Google Patents

一种基于虚拟现实的自然人机交互系统 Download PDF

Info

Publication number
CN106681516A
CN106681516A CN201710108639.5A CN201710108639A CN106681516A CN 106681516 A CN106681516 A CN 106681516A CN 201710108639 A CN201710108639 A CN 201710108639A CN 106681516 A CN106681516 A CN 106681516A
Authority
CN
China
Prior art keywords
control
focus
ball
vector
handss
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710108639.5A
Other languages
English (en)
Other versions
CN106681516B (zh
Inventor
黄琦雅
霍达
吴赛
叶小卉
晁建刚
张炎
林万洪
杨进
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shengshi Light (beijing) Technology Co Ltd
Original Assignee
Shengshi Light (beijing) Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shengshi Light (beijing) Technology Co Ltd filed Critical Shengshi Light (beijing) Technology Co Ltd
Priority to CN201710108639.5A priority Critical patent/CN106681516B/zh
Publication of CN106681516A publication Critical patent/CN106681516A/zh
Application granted granted Critical
Publication of CN106681516B publication Critical patent/CN106681516B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Position Input By Displaying (AREA)
  • Processing Or Creating Images (AREA)

Abstract

一种基于虚拟现实的自然人机交互系统,包括虚拟头盔,所述的虚拟头盔包括数据处理系统、手动作识别设备、控制球生成系统,其中,所述的主计算机连接所述的手动作识别设备和控制球生成系统,所述的手动作识别设备获取用户手的控制焦点姿态,所述的控制球生成系统将手的控制焦点姿态位置映射产生控制球,所述的控制球将手姿态的位置参数传导至数据处理系统,由数据处理系统解算并给出控制参数,供被控制对象使用;该一种基于虚拟现实的自然人机交互系统通过了用户实验进行评估,实验将60人次分为了两个小组,对照实验结果表明,和传统交互界面相比,学习效率比传统方式提高了60%;操作效果提高了15%;开发效率提高了10%。

Description

一种基于虚拟现实的自然人机交互系统
技术领域
本发明涉及虚拟现实技术领域,尤其是一种基于虚拟现实的自然人机交互系统。
背景技术
虚拟现实系统的交互是制约虚拟现实系统发展的关键环节,当前虚拟现实系统的交互方法主要使用了射线、手势、语音等方式,在使用射线检测或者手势表达的系统中,典型的方式为:用户选择一个感兴趣区域或者物体,系统会根据模糊逻辑对不同的交互函数进行排序,并自动给出用户最可能想要的可视化结果,不需要用户去操作复杂的菜单或工具栏;也有人设计了一种基于射线检测的交互隐喻,采用 Wanda 作为空间输入设备,将虚拟射线映射到的区感兴趣区域,用另一种传递函数进行绘制,通过改变射线涉及区域的传递函数参数可以改变虚拟现实场景,从而实现简洁易用的交互功能;此外手柄的兴起,很多人采用了一种手柄隐喻用于实现虚拟环境的基本操作,先用虚拟手柄穿过并绑定虚拟现实环境下的三维物体,然后通过 Kinect 传感器识别用户双手在 3D 空间的手势和移动,从而驱动虚拟手柄带动三维物体进行旋转、平移和缩放操作;经典的手势控制模式通过手势事件模拟鼠标/笔对 GUI 的控制和操作,并在 Buxton 状态模型的基础上提出基于视觉手势交互的状态转移模型;
但上述方法都忽略了操作时操作界面的设计,往往不同的操作输入方式,设计不同的输入操作界面,让虚拟现实系统的使用者在不同设备不同操作界面间不停做出选择,带来如下几个问题:
(1)操作不直观自然,用户需要经过一定的学习;
(2)交互不统一,容易使用不同交互输入设备时概念模糊;
(3)系统设计及后期维护的代价较高,需要满足不同输入设备的不同输入操作界面。
发明内容
为了克服现有技术存在的不足,本发明提供了一种基于虚拟现实的自然人机交互系统,该一种基于虚拟现实的自然人机交互方法基于不同输入设备的三维用户交互界面,实现在没有预先告知任何指定手势的情况下,通过形成性实验观察用户如何使用手势远距离操控现实环境中的物体的交互规范,建立工作区域和虚拟现实空间之间的映射,将实时解算的手运动数据和矢量数据相结合,完成一个连续的交互系统,不仅降低了系统设计及后期维护的成本,而且达到了提高用户输入设备开发效率、 操作效果、学习效率的目的。
本发明解决其技术问题所采用的技术方案为,包括虚拟头盔,所述的虚拟头盔包括数据处理系统、手动作识别设备、控制球生成系统,其中,所述的数据处理系统连接所述的手动作识别设备和控制球生成系统,所述的手动作识别设备获取用户手的控制焦点姿态,所述的控制球生成系统将手的控制焦点姿态位置映射产生控制球,所述的控制球将手姿态的位置参数传导至数据处理系统,由数据处理系统解算并给出控制参数,供被控制对象使用;所述的控制球包括上边界、三维空间的控制焦点、控制矢量、控制区、球心、下边界区和下边界,所述的控制焦点是指手姿态在三维空间中的位置;所述的控制矢量是指从球心到控制焦点发射一条射线,射线与下边界和控制焦点之间的矢量;所述的下边界区是指在下边界内的球体部分;所述的控制区是指在下边界与上边界之间的区域,在此区域内控制焦点和控制矢量有效;
所述的控制参数的坐标设置为坐标系设置为右手系,原点在球心,Z轴向上。
所述的控制矢量的计算过程为:当控制焦点落入下边界的球体内时,控制矢量为零,控制参数输出为零;当控制焦点在下边界之外时,控制矢量为球心发射射线到控制焦点,下边界与上边界处两个交点之间的矢量值恒定;当控制焦点在位于上边界和下边界的控制区内时,计算控制焦点相对于控制球心的位置矢量;
所述的控制球参数的设置是根据人机工效测试的情况,将控制球的上边界球的直径设置为五十厘米,下边界球的直径为五厘米;
该一种基于虚拟现实的自然人机交互系统是这样实现的,此交互应用于虚拟现实系统中对物体移动等控制,利用输出的归一化控制矢量参数的X,Y,Z分量分别表示不同的控制轴变量,输入为空间中的位置以及选择的开关信号量,通过这两个输入形成了交互球,交互球以直观方式显示在场景中,辅助用户进行交互;当用户的手在空间中做出控制焦的动作时,控制焦点的初始帧在空间中的位置为控制球的球心位置;控制焦点手姿态保持并根据用户意愿移动,此时实时计算新的控制焦点并按照控制矢量的计算过程计算出当前的控制矢量并进行归一化后输出;当控制焦点手姿态改变,控制球消失,控制输出0参数,表示无控制产生。
本发明的有益效果是:一种基于虚拟现实的自然人机交互系统通过了用户实验进行评估,实验将60人次分为了两个小组,对照实验结果表明,和传统交互界面相比,用户体验和表现更为自然、直观和高效,用户在虚拟现实系统中进行导航、虚拟物体运动控制等交互时,学习效率比传统方式提高了60%;通过导航和虚拟物体运动控制的时间、精度综合比较,操作效果提高了15%;通过LeapMotion、Kinect、Intel RealSense、手柄等不同输入设备在同一虚拟现实系统的开发过程比较不同用户输入设备开发效率提高了10%。
附图说明:
下面结合附图对本发明进一步说明。
图1为本发明的流程图;
图2为本发明的示意图;
图3为本发明控制球的示意图;
图4为本发明控制参数坐标设置的示意图。
具体实施方式:
本发明的具体实施方式是:参照图1、图2、图3、图4,包括虚拟头盔3,所述的虚拟头盔3包括数据处理系统2、手动作识别设备4、控制球生成系统5,其中,所述的数据处理系统2连接所述的手动作识别设备4和控制球生成系统5,所述的手动作识别设备4获取用户1手的控制焦点7姿态,所述的控制球生成系统5将手的控制焦点7姿态位置映射产生控制球6,所述的控制球6将手姿态的位置参数传导至数据处理系统2,由数据处理系统2解算并给出控制参数,供被控制对象使用;所述的控制球6包括上边界10、三维空间的控制焦点7、控制矢量8、控制区11、球心9、下边界区13和下边界12,所述的控制焦点7是指手姿态在三维空间中的位置;所述的控制矢量8是指从球心到控制焦点发射一条射线,射线与下边界12和控制焦点7之间的矢量;所述的下边界区13是指在下边界12内的球体部分;所述的控制区11是指在下边界12与上边界10之间的区域,在此区域内控制焦点7和控制矢量8有效;
参照图4,所述的控制参数的坐标设置为坐标系设置为右手系,原点在球心9,Z轴向上。
参照图3、图4,所述的控制矢量的计算过程为:当控制焦点7落入下边界12的球体内时,控制矢量8为零,控制参数输出为零;当控制焦点7在下边界12之外时,控制矢量8为球心9发射射线到控制焦点7,下边界12与上边界10处两个交点之间的矢量值恒定;当控制焦点7在位于上边界10和下边界12的控制区11内时,计算控制焦点7相对于控制球心9的位置矢量;
参照图3,所述的控制球参数的设置是根据人机工效测试的情况,将控制球6的上边界10球的直径设置为五十厘米,下边界12球的直径为五厘米。为了适应不同的系统在获取到控制矢量后进行归一化处理;
参照图1、图2、图3、图4,该一种基于虚拟现实的自然人机交互系统是这样实现的,此交互应用于虚拟现实系统中对物体移动等控制,利用输出的归一化控制矢量参数的X,Y,Z分量分别表示不同的控制轴变量,输入为空间中的位置以及选择的开关信号量,通过这两个输入形成了交互球,交互球以直观方式显示在场景中,辅助用户进行交互;当用户1的手在空间中做出控制焦7的动作时,控制焦点7的初始帧在空间中的位置为控制球6的球心位置;控制焦点7手姿态保持并根据用户1意愿移动,此时实时计算新的控制焦点7并按照控制矢量8的计算过程计算出当前的控制矢量8并进行归一化后输出;当控制焦点7手姿态改变,控制球6消失,控制输出零参数,表示无控制产生。

Claims (5)

1.一种基于虚拟现实的自然人机交互系统,包括虚拟头盔,所述的虚拟头盔包括数据处理系统、手动作识别设备、控制球生成系统,其特征是:所述的数据处理系统连接所述的手动作识别设备和控制球生成系统,所述的手动作识别设备获取用户手的控制焦点姿态,所述的控制球生成系统将手的控制焦点姿态位置映射产生控制球,所述的控制球将手姿态的位置参数传导至数据处理系统,由数据处理系统解算并给出控制参数,供被控制对象使用;所述的控制球包括上边界、三维空间的控制焦点、控制矢量、控制区、球心、下边界区和下边界,所述的控制焦点是指手姿态在三维空间中的位置;所述的控制矢量是指从球心到控制焦点发射一条射线,射线与下边界和控制焦点之间的矢量;所述的下边界区是指在下边界内的球体部分;所述的控制区是指在下边界与上边界之间的区域,在此区域内控制焦点和控制矢量有效。
2.根据权利要求1所述的一种基于虚拟现实的自然人机交互系统,其特征是:所述的控制参数的坐标设置为坐标系设置为右手系,原点在球心,Z轴向上。
3.根据权利要求1所述的一种基于虚拟现实的自然人机交互系统,其特征是:所述的控制矢量的计算过程为:当控制焦点落入下边界的球体内时,控制矢量为零,控制参数输出为零;当控制焦点在下边界之外时,控制矢量为球心发射射线到控制焦点,下边界与上边界处两个交点之间的矢量值恒定;当控制焦点在位于上边界和下边界的控制区内时,计算控制焦点相对于控制球心的位置矢量。
4.根据权利要求1所述的一种基于虚拟现实的自然人机交互系统,其特征是:所述的控制球参数的设置是根据人机工效测试的情况,将控制球的上边界球的直径设置为五十厘米,下边界球的直径为五厘米。
5.根据权利要求1所述的一种基于虚拟现实的自然人机交互系统,其特征是:该一种基于虚拟现实的自然人机交互系统是这样实现的,此交互应用于虚拟现实系统中对物体移动等控制,利用输出的归一化控制矢量参数的X,Y,Z分量分别表示不同的控制轴变量,输入为空间中的位置以及选择的开关信号量,通过这两个输入形成了交互球,交互球以直观方式显示在场景中,辅助用户进行交互;当用户的手在空间中做出控制焦的动作时,控制焦点的初始帧在空间中的位置为控制球的球心位置;控制焦点手姿态保持并根据用户意愿移动,此时实时计算新的控制焦点并按照控制矢量的计算过程计算出当前的控制矢量并进行归一化后输出;当控制焦点手姿态改变,控制球消失,控制输出0参数,表示无控制产生。
CN201710108639.5A 2017-02-27 2017-02-27 一种基于虚拟现实的自然人机交互系统 Active CN106681516B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710108639.5A CN106681516B (zh) 2017-02-27 2017-02-27 一种基于虚拟现实的自然人机交互系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710108639.5A CN106681516B (zh) 2017-02-27 2017-02-27 一种基于虚拟现实的自然人机交互系统

Publications (2)

Publication Number Publication Date
CN106681516A true CN106681516A (zh) 2017-05-17
CN106681516B CN106681516B (zh) 2024-02-06

Family

ID=58861416

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710108639.5A Active CN106681516B (zh) 2017-02-27 2017-02-27 一种基于虚拟现实的自然人机交互系统

Country Status (1)

Country Link
CN (1) CN106681516B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109284000A (zh) * 2018-08-10 2019-01-29 西交利物浦大学 一种虚拟现实环境下三维几何物体可视化的方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101449265A (zh) * 2006-03-15 2009-06-03 杰里·M·惠特克 具有浏览并与万维网交互的头戴式显示器的移动全球虚拟浏览器
WO2014113507A1 (en) * 2013-01-15 2014-07-24 Leap Motion, Inc. Dynamic user interactions for display control and customized gesture interpretation
CN104699247A (zh) * 2015-03-18 2015-06-10 北京七鑫易维信息技术有限公司 一种基于机器视觉的虚拟现实交互系统及方法
US20150169156A1 (en) * 2012-06-15 2015-06-18 Realitygate (Pty) Ltd. Method and Mechanism for Human Computer Interaction
CN104808790A (zh) * 2015-04-08 2015-07-29 冯仕昌 一种基于非接触式交互获取无形透明界面的方法
CN105912110A (zh) * 2016-04-06 2016-08-31 北京锤子数码科技有限公司 一种在虚拟现实空间中进行目标选择的方法、装置及系统
CN106462231A (zh) * 2014-03-17 2017-02-22 Itu 商业发展公司 计算机实现的视线交互方法和装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101449265A (zh) * 2006-03-15 2009-06-03 杰里·M·惠特克 具有浏览并与万维网交互的头戴式显示器的移动全球虚拟浏览器
US20150169156A1 (en) * 2012-06-15 2015-06-18 Realitygate (Pty) Ltd. Method and Mechanism for Human Computer Interaction
WO2014113507A1 (en) * 2013-01-15 2014-07-24 Leap Motion, Inc. Dynamic user interactions for display control and customized gesture interpretation
CN106462231A (zh) * 2014-03-17 2017-02-22 Itu 商业发展公司 计算机实现的视线交互方法和装置
CN104699247A (zh) * 2015-03-18 2015-06-10 北京七鑫易维信息技术有限公司 一种基于机器视觉的虚拟现实交互系统及方法
CN104808790A (zh) * 2015-04-08 2015-07-29 冯仕昌 一种基于非接触式交互获取无形透明界面的方法
CN105912110A (zh) * 2016-04-06 2016-08-31 北京锤子数码科技有限公司 一种在虚拟现实空间中进行目标选择的方法、装置及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
AILING QI; WENHUI KANG; HUAN WANG; HAIYAN WU: "Study on realization technology of virtual reality for coal mining face", IEEE *
徐崇斌;周明全;沈俊辰;骆岩林;武仲科;: "一种基于Leap Motion的直观体交互技术", 电子与信息学报, no. 02 *
鲁明;王真水;田元;李琳;: "一种基于Kinect的虚拟现实姿态交互工具", 系统仿真学报, no. 09 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109284000A (zh) * 2018-08-10 2019-01-29 西交利物浦大学 一种虚拟现实环境下三维几何物体可视化的方法及系统

Also Published As

Publication number Publication date
CN106681516B (zh) 2024-02-06

Similar Documents

Publication Publication Date Title
Krupke et al. Comparison of multimodal heading and pointing gestures for co-located mixed reality human-robot interaction
Mossel et al. 3DTouch and HOMER-S: intuitive manipulation techniques for one-handed handheld augmented reality
CN106313049B (zh) 一种仿人机械臂体感控制系统及控制方法
Kim et al. SketchingWithHands: 3D sketching handheld products with first-person hand posture
CN111694428B (zh) 基于Kinect的手势与轨迹远程控制机器人系统
CN100484726C (zh) 基于虚拟现实机器人灵巧手遥操作平台
CN105912110A (zh) 一种在虚拟现实空间中进行目标选择的方法、装置及系统
US20080225041A1 (en) Method and System for Vision-Based Interaction in a Virtual Environment
Bai et al. 3D gesture interaction for handheld augmented reality
CN103257707B (zh) 利用视线跟踪技术和常规鼠标控制设备的三维漫游方法
CN105500370A (zh) 一种基于体感技术的机器人离线示教编程系统及方法
Boruah et al. Development of a learning-aid tool using hand gesture based human computer interaction system
Jang et al. Airsculpt: A wearable augmented reality 3d sculpting system
Sun et al. PhoneCursor: improving 3d selection performance with mobile device in AR
CN106502416B (zh) 一种智能识别双手手势的模拟驾驶系统及其控制方法
CN117075725A (zh) 一种基于增强现实的人—集群交互方法及系统
CN106681516A (zh) 一种基于虚拟现实的自然人机交互系统
Vélaz et al. Natural and hybrid bimanual interaction for virtual assembly tasks
KR20160141023A (ko) 액션이벤트·실감미디어컨텐츠연동을 수행하는 비접촉 스마트제스처인식장치 및 방법
CN117237526A (zh) 一种手势识别绘画方法、装置、设备及存储介质
CN111857364A (zh) 交互装置、虚拟内容的处理方法、装置以及终端设备
CN107738256A (zh) 一种手把手仿人示教机器人编程系统
CN115481489A (zh) 基于增强现实的白车身与生产线适配性验证系统及方法
Ansari et al. Air Pose Canvas with Hand Pose Estimation using Machine Learning
Naef et al. Autoeval mkII-interaction design for a VR design review system

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant