KR102816781B1 - Augmented reality game system and method for rehabilitation of patients with spinal disease - Google Patents
Augmented reality game system and method for rehabilitation of patients with spinal disease Download PDFInfo
- Publication number
- KR102816781B1 KR102816781B1 KR1020240039222A KR20240039222A KR102816781B1 KR 102816781 B1 KR102816781 B1 KR 102816781B1 KR 1020240039222 A KR1020240039222 A KR 1020240039222A KR 20240039222 A KR20240039222 A KR 20240039222A KR 102816781 B1 KR102816781 B1 KR 102816781B1
- Authority
- KR
- South Korea
- Prior art keywords
- rehabilitation
- patient
- stage
- mission
- augmented reality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/30—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
- A61B5/6801—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B24/00—Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
- A63B24/0003—Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
- A63B24/0006—Computerised comparison for qualitative assessment of motion sequences or the course of a movement
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/06—Indicating or scoring devices for games or players, or for other sports activities
- A63B71/0619—Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
- A63B71/0622—Visual, audio or audio-visual systems for entertaining, instructing or motivating the user
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/80—Special adaptations for executing a specific game genre or game mode
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B24/00—Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
- A63B24/0003—Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
- A63B24/0006—Computerised comparison for qualitative assessment of motion sequences or the course of a movement
- A63B2024/0012—Comparing movements or motion sequences with a registered reference
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/06—Indicating or scoring devices for games or players, or for other sports activities
- A63B2071/0675—Input for modifying training controls during workout
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B2220/00—Measuring of physical parameters relating to sporting activity
- A63B2220/80—Special sensors, transducers or devices therefor
- A63B2220/806—Video cameras
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Physical Education & Sports Medicine (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Data Mining & Analysis (AREA)
- Human Computer Interaction (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Business, Economics & Management (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Rehabilitation Tools (AREA)
Abstract
본 발명은 척추 질환 환자 재활을 위한 증강현실 게임 시스템 및 방법을 개시한다.
본 발명의 일 실시예에 따른 척추 질환 환자 재활을 위한 증강현실 게임 시스템은, 환자의 척추 질환 재활을 위한 재활 프로그램을 증강현실 게임의 앱 형태로 제공하는 서버; 상기 환자의 위치에 기초하여 재활 가능한 신체 부위 및 보조 운동 기구의 사용 여부를 결정하는 재활 구성 결정부; 상기 증강현실 게임의 복수의 스테이지(stage) 중 적어도 하나의 미션 스테이지를 활성화시키는 활성 재활 스테이지 결정부; 및 상기 미션 스테이지의 완료시 리액션(reaction)을 제공하는 미션 클리어 리액션 제공부;를 포함하되, 상기 증강현실 게임의 각각의 스테이지는 상기 보조 운동 기구를 활용하거나 활용하지 않고서 상기 재활 가능한 신체 부위를 활용한 적어도 하나의 척추 재활 동작을 포함하고, 상기 활성 재활 스테이지 결정부에서 활성화되는 상기 미션 스테이지는 상기 환자의 위치에 따라 달라지는 것을 특징으로 한다.
본 발명의 척추 질환 환자 재활을 위한 증강현실 게임 시스템 및 방법은 환자의 위치에 따라 달리 구성되는 미션 스테이지를 통하여 효율적으로 재활 프로그램을 수행할 수 있다.The present invention discloses an augmented reality game system and method for rehabilitation of patients with spinal diseases.
An augmented reality game system for the rehabilitation of a patient with a spinal disease according to one embodiment of the present invention comprises: a server providing a rehabilitation program for the rehabilitation of a patient with a spinal disease in the form of an augmented reality game app; a rehabilitation configuration determining unit determining whether to use a rehabilitable body part and an auxiliary exercise device based on the patient's location; an active rehabilitation stage determining unit activating at least one mission stage among a plurality of stages of the augmented reality game; and a mission clear reaction providing unit providing a reaction upon completion of the mission stage; wherein each stage of the augmented reality game includes at least one spinal rehabilitation motion utilizing the rehabilitable body part with or without utilizing the auxiliary exercise device, and the mission stage activated by the active rehabilitation stage determining unit is characterized in that it varies depending on the patient's location.
The augmented reality game system and method for rehabilitation of patients with spinal diseases of the present invention can efficiently perform a rehabilitation program through mission stages configured differently depending on the patient's position.
Description
본 발명은 척추 질환 환자 재활 분야에 관한 것으로, 보다 상세하게는 환자의 위치에 따라 재활을 위한 증강 현실 게임의 미션 스테이지를 다양하게 구성함으로써 환자가 위치에 구애받지 않고 자세 교정 및 척추 재활을 가능하게 하는 척추 질환 환자 재활을 위한 증강현실 게임 시스템 및 방법에 관한 것이다.The present invention relates to the field of rehabilitation of patients with spinal diseases, and more specifically, to an augmented reality game system and method for rehabilitation of patients with spinal diseases, which enables posture correction and spinal rehabilitation of patients without being restricted by location by configuring mission stages of an augmented reality game for rehabilitation in various ways depending on the location of the patient.
재활운동(Rehabilitation Exercise)은 부상, 질병 또는 신경계 장애 등으로 인해 기능이 손상된 사람의 기능을 회복하는 데 도움을 주는 운동이다. 근골격계 재활운동의 목표는 통증이 없는 최대한의 동작을 회복시켜 신체의 균형을 이루고, 통증이 없는 움직임을 회복하는 것이다. 이때 적절한 운동 처방이나 지도 없이 운동을 수행하다가 자칫 증상을 더 악화시키기도 하기 때문에 전문가가 지정한 운동 프로그램을 통해 수행하는 것이 안전하다.Rehabilitation Exercise is an exercise that helps restore the function of a person whose function has been impaired due to injury, disease, or neurological disorder. The goal of musculoskeletal rehabilitation exercise is to restore the maximum pain-free movement, restore the balance of the body, and restore pain-free movement. At this time, it is safe to perform an exercise program designated by a specialist because performing exercise without proper exercise prescription or guidance can worsen symptoms.
그러나, 재활 운동 프로그램을 수행하기 위해 매번 병원을 방문하는 것은 환자에게 시간적으로 비용적으로 매우 부담스러운 일이다.However, visiting the hospital every time to perform a rehabilitation exercise program is a huge burden on the patient in terms of time and cost.
이에, 척추 질환을 갖는 환자가 장소에 구애받지 않고 효율적으로 재활 운동 프로그램을 수행할 수 있는 장치 또는 방법에 대한 요구가 있다.Accordingly, there is a need for a device or method that allows patients with spinal diseases to perform a rehabilitation exercise program efficiently regardless of location.
본 발명은 환자의 위치에 따라 재활을 위한 증강 현실 게임의 미션 스테이지를 다양하게 구성함으로써 환자가 위치에 구애받지 않고 자세 교정 및 척추 재활을 가능하게 하는 척추 질환 환자 재활을 위한 증강현실 게임 시스템 및 방법을 제공한다.The present invention provides an augmented reality game system and method for the rehabilitation of patients with spinal diseases, which enables posture correction and spinal rehabilitation of patients regardless of their location by configuring mission stages of an augmented reality game for rehabilitation in various ways according to the location of the patient.
본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The tasks of the present invention are not limited to the tasks mentioned above, and other tasks not mentioned will be clearly understood by those skilled in the art from the description below.
본 발명의 일 실시예에 따른 척추 질환 환자 재활을 위한 증강현실 게임 시스템은,An augmented reality game system for rehabilitation of a spinal disease patient according to one embodiment of the present invention,
환자의 척추 질환 재활을 위한 재활 프로그램을 증강현실 게임의 앱 형태로 제공하는 서버;A server that provides a rehabilitation program for patients with spinal disease in the form of an augmented reality game app;
상기 환자의 위치에 기초하여 재활 가능한 신체 부위 및 보조 운동 기구의 사용 여부를 결정하는 재활 구성 결정부;A rehabilitation configuration decision unit that determines whether to use rehabilitable body parts and assistive exercise equipment based on the patient's position;
상기 증강현실 게임의 복수의 스테이지(stage) 중 적어도 하나의 미션 스테이지를 활성화시키는 활성 재활 스테이지 결정부; 및An active rehabilitation stage determining unit that activates at least one mission stage among multiple stages of the augmented reality game; and
상기 미션 스테이지의 완료시 리액션(reaction)을 제공하는 미션 클리어 리액션 제공부;를 포함하되, Including a mission clear reaction providing unit that provides a reaction upon completion of the above mission stage;
상기 증강현실 게임의 각각의 스테이지는 상기 보조 운동 기구를 활용하거나 활용하지 않고서 상기 재활 가능한 신체 부위를 활용한 적어도 하나의 척추 재활 동작을 포함하고, 상기 활성 재활 스테이지 결정부에서 활성화되는 상기 미션 스테이지는 상기 환자의 위치에 따라 달라지는 것을 특징으로 한다.Each stage of the augmented reality game includes at least one spinal rehabilitation movement utilizing the rehabilitable body part with or without utilizing the assistive exercise device, and the mission stage activated in the active rehabilitation stage determination unit is characterized in that it varies depending on the position of the patient.
바람직하게는,Preferably,
상기 재활 구성 결정부는 상기 환자에 부착된 웨어러블 센서를 이용하여 상기 환자의 자세를 탐지하고 상기 환자의 자세가 상기 환자의 척추 질환을 악화시키는 자세인지 여부를 판단하고,The above rehabilitation composition determination unit detects the patient's posture using a wearable sensor attached to the patient and determines whether the patient's posture is one that worsens the patient's spinal disease.
상기 활성 재활 스테이지 결정부는 활성화되는 상기 미션 스테이지에 상기 환자의 자세를 교정하는 데 필요한 교정 동작이 포함된 교정 스테이지를 포함시키는 것을 특징으로 한다.The above active rehabilitation stage determining unit is characterized by including a correction stage including a correction movement necessary to correct the patient's posture in the activated mission stage.
바람직하게는,Preferably,
상기 활성 재활 스테이지 결정부는 상기 환자가 상기 척추 질환을 악화시키는 자세를 유지하는 동안 상기 교정 스테이지를 반복적으로 수행하도록 반복 횟수 및 반복 주기를 조절하도록 구성된 것을 특징으로 한다.The above active rehabilitation stage determining unit is characterized in that it is configured to adjust the number of repetitions and the repetition cycle so that the correction stage is repeatedly performed while the patient maintains a posture that worsens the spinal disease.
바람직하게는,Preferably,
상기 환자의 재활 운동 영상을 수집 및 처리하는 영상 처리부; An image processing unit for collecting and processing images of the patient's rehabilitation exercises;
상기 환자의 재활 운동 영상으로부터 각 관절의 적어도 하나의 공간 좌표를 일정한 시간 간격으로 추출하여 상기 환자의 재활 운동 범위를 산출하는 재활 운동 범위 산출부; 및A rehabilitation motion range calculation unit that extracts at least one spatial coordinate of each joint from the rehabilitation motion image of the patient at regular time intervals to calculate the rehabilitation motion range of the patient; and
상기 환자의 재활 운동 범위가 의사에 의해 미리 진단된 상기 환자의 제한 재활 운동 범위를 초과하는 횟수를 카운팅하는 초과 횟수 카운팅부;를 더 포함하고,Further comprising an excess counting unit for counting the number of times the patient's rehabilitation exercise range exceeds the patient's limited rehabilitation exercise range diagnosed in advance by a doctor;
상기 활성 재활 스테이지 결정부는 임계치를 초과하는 횟수의 동작을 포함하는 미션 스테이지를 비활성화시키는 것을 특징으로 한다.The above active rehabilitation stage determining unit is characterized by deactivating a mission stage that includes a number of operations exceeding a threshold.
바람직하게는,Preferably,
상기 활성 재활 스테이지 결정부는 상기 환자의 위치에 따라 결정된 상기 재활 가능한 신체 부위 및 상기 보조 운동 기구의 유형에 기초하여 상기 미션 스테이지의 난이도, 상기 미션 스테이지를 구성하는 아이템의 개수, 상기 아이템의 크기를 조정하는 것을 특징으로 한다.The above active rehabilitation stage determining unit is characterized by adjusting the difficulty of the mission stage, the number of items constituting the mission stage, and the size of the items based on the type of the rehabilitable body part and the assistive exercise device determined according to the position of the patient.
바람직하게는,Preferably,
상기 재활 구성 결정부, 상기 활성 재활 스테이지 결정부 및 상기 미션 클리어 리액션 제공부는 환자의 이동 단말에 구성되고,The above rehabilitation configuration determining unit, the active rehabilitation stage determining unit and the mission clear reaction providing unit are configured in the patient's mobile terminal,
상기 환자의 위치는 상기 환자의 이동 단말에 장착된 위치 센서에 의해 탐지되는 것을 특징으로 한다.The location of the patient is characterized in that it is detected by a location sensor mounted on the patient's mobile terminal.
바람직하게는,Preferably,
상기 미션 클리어 리액션 제공부는 상기 미션 스테이지를 구성하는 상기 아이템의 특성에 변화를 부여하거나 상기 환자의 재활 신체 부위에 미세 자극을 부여하는 것을 특징으로 한다.The above mission clear reaction providing unit is characterized by providing a change in the characteristics of the items constituting the above mission stage or providing micro-stimulation to the patient's rehabilitation body part.
본 발명의 다른 실시예에 따른 척추 질환 환자 재활을 위한 증강현실 게임 방법은,An augmented reality game method for rehabilitation of a spinal disease patient according to another embodiment of the present invention,
서버로부터 환자의 척추 질환 재활을 위한 증강현실 게임의 앱 형태의 재활 프로그램을 다운로드하는 단계;Step of downloading a rehabilitation program in the form of an app of an augmented reality game for rehabilitation of a patient's spinal disease from a server;
상기 환자의 위치에 기초하여 재활 가능한 신체 부위 및 보조 운동 기구의 사용 여부를 결정하는 재활 구성 결정 단계;A rehabilitation configuration determination step for determining whether to use rehabilitable body parts and assistive exercise equipment based on the patient's position;
상기 증강현실 게임의 복수의 스테이지(stage) 중 적어도 하나의 미션 스테이지를 활성화시키는 활성 재활 스테이지 결정 단계; 및An active rehabilitation stage determination step for activating at least one mission stage among multiple stages of the augmented reality game; and
상기 미션 스테이지의 완료시 리액션(reaction)을 제공하는 미션 클리어 리액션 제공 단계;를 포함하되, A mission clear reaction providing step that provides a reaction upon completion of the above mission stage; including,
상기 증강현실 게임의 각각의 스테이지는 상기 보조 운동 기구를 활용하거나 활용하지 않고서 상기 재활 가능한 신체 부위를 활용한 적어도 하나의 척추 재활 동작을 포함하고, 상기 활성 재활 스테이지 결정부에서 활성화되는 상기 미션 스테이지는 상기 환자의 위치에 따라 달라지는 것을 특징으로 한다.Each stage of the augmented reality game includes at least one spinal rehabilitation movement utilizing the rehabilitable body part with or without utilizing the assistive exercise device, and the mission stage activated in the active rehabilitation stage determination unit is characterized in that it varies depending on the position of the patient.
바람직하게는,Preferably,
상기 재활 구성 결정 단계는 상기 환자에 부착된 웨어러블 센서를 이용하여 상기 환자의 자세를 탐지하고 상기 환자의 자세가 상기 환자의 척추 질환을 악화시키는 자세인지 여부를 판단하는 단계를 포함하고,The above rehabilitation composition determination step includes a step of detecting the patient's posture using a wearable sensor attached to the patient and determining whether the patient's posture is a posture that worsens the patient's spinal disease.
상기 활성 재활 스테이지 결정 단계는 활성화되는 상기 미션 스테이지에 상기 환자의 자세를 교정하는 데 필요한 교정 동작이 포함된 교정 스테이지를 포함시키는 것을 특징으로 한다.The above active rehabilitation stage determination step is characterized by including a correction stage including a correction movement necessary to correct the patient's posture in the activated mission stage.
바람직하게는,Preferably,
상기 활성 재활 스테이지 결정 단계는 상기 환자가 상기 척추 질환을 악화시키는 자세를 유지하는 동안 상기 교정 스테이지를 반복적으로 수행하도록 반복 횟수 및 반복 주기를 조절하는 단계를 포함한다.The above active rehabilitation stage determination step includes a step of adjusting the number of repetitions and repetition cycle so that the patient repeatedly performs the correction stage while maintaining a posture that aggravates the spinal disease.
바람직하게는,Preferably,
상기 활성 재활 스테이지 결정 단계는,The above active rehabilitation stage determination step is:
상기 환자의 재활 운동 영상을 수집 및 처리하는 영상 처리 단계; An image processing step of collecting and processing a video of the patient's rehabilitation exercises;
상기 환자의 재활 운동 영상으로부터 각 관절의 적어도 하나의 공간 좌표를 일정한 시간 간격으로 추출하여 상기 환자의 재활 운동 범위를 산출하는 재활 운동 범위 산출 단계; A rehabilitation movement range calculation step for calculating the rehabilitation movement range of the patient by extracting at least one spatial coordinate of each joint from the rehabilitation movement image of the patient at regular time intervals;
상기 환자의 재활 운동 범위가 의사에 의해 미리 진단된 상기 환자의 제한 재활 운동 범위를 초과하는 횟수를 카운팅하는 초과 횟수 카운팅 단계; 및An excess counting step for counting the number of times the patient's rehabilitation range of motion exceeds the patient's limited rehabilitation range of motion diagnosed in advance by a doctor; and
임계치를 초과하는 횟수의 동작을 포함하는 미션 스테이지를 비활성화시키는 단계를 포함한다.Includes a step of disabling a mission stage that includes a number of operations exceeding a threshold.
바람직하게는,Preferably,
상기 활성 재활 스테이지 결정 단계는 상기 환자의 위치에 따라 결정된 상기 재활 가능한 신체 부위 및 상기 보조 운동 기구의 유형에 기초하여 상기 미션 스테이지의 난이도, 상기 미션 스테이지를 구성하는 아이템의 개수, 상기 아이템의 크기를 조정하는 단계를 포함한다.The above active rehabilitation stage determination step includes a step of adjusting the difficulty of the mission stage, the number of items constituting the mission stage, and the size of the items based on the type of the rehabilitable body part and the assistive exercise device determined according to the position of the patient.
바람직하게는,Preferably,
상기 재활 구성 결정 단계, 상기 활성 재활 스테이지 결정 단계 및 상기 미션 클리어 리액션 제공 단계는 환자의 이동 단말의 적어도 하나의 프로세서에 의해 수행되고,The above rehabilitation configuration determination step, the active rehabilitation stage determination step and the mission clear reaction provision step are performed by at least one processor of the patient's mobile terminal,
상기 환자의 위치는 상기 환자의 이동 단말에 장착된 위치 센서에 의해 탐지되는 것을 특징으로 한다.The location of the patient is characterized in that it is detected by a location sensor mounted on the patient's mobile terminal.
바람직하게는,Preferably,
상기 미션 클리어 리액션 제공 단계는 상기 미션 스테이지를 구성하는 상기 아이템의 특성에 변화를 부여하거나 상기 환자의 재활 신체 부위에 미세 자극을 부여하는 단계를 포함한다.The above mission clear reaction providing step includes a step of changing the characteristics of the items constituting the above mission stage or providing micro-stimulation to the patient's rehabilitation body part.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.Specific details of other embodiments are included in the detailed description and drawings.
본 발명의 척추 질환 환자 재활을 위한 증강현실 게임 시스템 및 방법은 환자의 위치에 따라 달리 구성되는 미션 스테이지를 통하여 효율적으로 재활 프로그램을 수행할 수 있다.The augmented reality game system and method for rehabilitation of patients with spinal diseases of the present invention can efficiently perform a rehabilitation program through mission stages configured differently depending on the patient's position.
본 발명의 척추 질환 환자 재활을 위한 증강현실 게임 시스템 및 방법은 환자의 위치에 따라 신체 재활 부위를 달리 구성하고, 미션 스테이지의 아이템 등을 다양하게 구성함으로써 환자가 재활 프로그램을 용이하게 수행할 수 있도록 한다.The augmented reality game system and method for rehabilitation of patients with spinal diseases of the present invention configures rehabilitation parts of the body differently depending on the patient's position, and configures various items of the mission stage, thereby enabling the patient to easily perform the rehabilitation program.
다만, 본 발명의 효과들은 이상에서 언급한 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.However, the effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the description below.
도 1은 본 발명의 일 실시예에 따른 척추 질환 환자 재활을 위한 증강현실 게임 시스템의 구성을 개략적으로 도시한 도면이다.
도 2a는 본 발명의 척추 질환 환자 재활을 위한 증강현실 게임 시스템의 환자용 단말의 구성 개략도를 도시한 도면이다.
도 2b는 본 발명의 활성 재활 스테이지 결정부의 동작을 개념적으로 도시한 도면이다.
도 3은 본 발명의 일 실시예에 따른 인공 지능에 의한 재활 동작 인식을 수행하기 위한 영상 처리 과정을 개략적으로 도시한 도면이다.
도 4는 본 발명의 일 실시예에 따른 환자용 단말의 영상 처리부의 전처리 과정을 개략적으로 도시한 도면이다.
도 5는 본 발명의 재활 운동 범위 산출부의 환자의 재활 운동 범위를 산출 과정을 개략적으로 도시한 도면이다.
도 6은 본 발명의 척추 질환 환자 재활을 위한 증강현실 게임 방법의 흐름도를 도시한 도면이다.
도 7은 본 발명의 다양한 실시예에 따른 장치 및/또는 시스템을 구현할 수 있는 예시적인 컴퓨팅 장치를 도시한 도면이다.FIG. 1 is a drawing schematically illustrating the configuration of an augmented reality game system for rehabilitation of a spinal disease patient according to one embodiment of the present invention.
FIG. 2a is a drawing schematically illustrating the configuration of a patient terminal of the augmented reality game system for rehabilitation of patients with spinal diseases of the present invention.
FIG. 2b is a diagram conceptually illustrating the operation of the active rehabilitation stage determination unit of the present invention.
FIG. 3 is a diagram schematically illustrating an image processing process for performing rehabilitation motion recognition using artificial intelligence according to one embodiment of the present invention.
FIG. 4 is a diagram schematically illustrating a preprocessing process of an image processing unit of a patient terminal according to one embodiment of the present invention.
Figure 5 is a drawing schematically illustrating a process of calculating a patient's rehabilitation exercise range by the rehabilitation exercise range calculation unit of the present invention.
FIG. 6 is a drawing illustrating a flow chart of an augmented reality game method for rehabilitation of a spinal disease patient of the present invention.
FIG. 7 is a diagram illustrating an exemplary computing device that may implement devices and/or systems according to various embodiments of the present invention.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.The advantages and features of the present invention, and the methods for achieving them, will become clearer with reference to the embodiments described in detail below together with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various different forms, and the present embodiments are provided only to make the disclosure of the present invention complete and to fully inform those skilled in the art of the scope of the invention, and the present invention is defined only by the scope of the claims. Like reference numerals refer to like elements throughout the specification.
본 명세서에서 기술하는 실시예들은 본 발명의 이상적인 예시도인 단면도 및/또는 평면도들을 참고하여 설명될 것이다. 도면들에 있어서, 구성들의 두께는 기술적 내용의 효과적인 설명을 위해 과장된 것이다. 따라서, 도면에서 예시된 구성들은 개략적인 속성을 가지며, 도면에서 예시된 구성들의 모양은 구성의 특정 형태를 예시하기 위한 것이며 발명의 범주를 제한하기 위한 것이 아니다. 본 명세서의 다양한 실시예들에서 제1, 제2, 제3 등의 용어가 다양한 구성요소들을 기술하기 위해서 사용되었지만, 이들 구성요소들이 이 같은 용어들에 의해서 한정되어서는 안 된다. 이들 용어들은 단지 어느 구성요소를 다른 구성요소와 구별시키기 위해서 사용되었을 뿐이다. 여기에 설명되고 예시되는 실시예들은 그것의 상보적인 실시예들도 포함한다.The embodiments described herein will be described with reference to cross-sectional and/or plan views, which are ideal illustrations of the present invention. In the drawings, the thicknesses of the components are exaggerated for the purpose of effectively explaining the technical contents. Accordingly, the components illustrated in the drawings have a schematic nature, and the shapes of the components illustrated in the drawings are intended to illustrate specific forms of the components and are not intended to limit the scope of the invention. Although the terms first, second, third, etc. have been used to describe various components in various embodiments of the present specification, these components should not be limited by these terms. These terms are only used to distinguish one component from another. The embodiments described and illustrated herein also include complementary embodiments thereof.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소, 단계, 동작 및/또는 소자에 하나 이상의 다른 구성요소, 단계, 동작 및/또는 소자의 존재 또는 추가를 배제하지 않는다.The terminology used herein is for the purpose of describing embodiments only and is not intended to be limiting of the invention. In this specification, the singular also includes the plural unless the context clearly dictates otherwise. The terms "comprises" and/or "comprising" as used herein do not exclude the presence or addition of one or more other components, steps, operations, and/or elements to the mentioned components, steps, operations, and/or elements.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.Unless otherwise defined, all terms (including technical and scientific terms) used in this specification may be used with a meaning that can be commonly understood by a person of ordinary skill in the art to which the present invention belongs. In addition, terms defined in commonly used dictionaries shall not be ideally or excessively interpreted unless explicitly specifically defined.
이하, 도면을 참조하여, 본 발명의 개념 및 이에 따른 실시예들에 대해 상세히 설명하기로 한다. Hereinafter, with reference to the drawings, the concept of the present invention and embodiments thereof will be described in detail.
도 1은 본 발명의 일 실시예에 따른 척추 질환 환자 재활을 위한 증강현실 게임 시스템의 구성을 개략적으로 도시한 도면이다.FIG. 1 is a diagram schematically illustrating the configuration of an augmented reality game system for rehabilitation of a spinal disease patient according to one embodiment of the present invention.
본 발명의 일 실시예에 따른 척추 질환 환자 재활을 위한 증강현실 게임 시스템은, 환자용 단말(110) 및 서버(120)를 포함한다.An augmented reality game system for rehabilitation of a spinal disease patient according to one embodiment of the present invention includes a patient terminal (110) and a server (120).
도 1에 도시된 바와 같이 환자용 단말(110)은 서버(120)로부터 환자의 척추 질환 재활을 위한 재활 프로그램을 다운로드한다.As shown in Fig. 1, the patient terminal (110) downloads a rehabilitation program for the patient's spinal disease rehabilitation from the server (120).
본 발명의 재활 프로그램은 증강현실 게임의 앱 형태로 제공된다.The rehabilitation program of the present invention is provided in the form of an augmented reality game app.
본 발명의 증강현실 게임은 복수의 스테이지로 구성된다. 각각의 스테이지는 보조 운동 기구를 활용하거나 활용하지 않고서 재활 가능한 신체 부위를 활용한 적어도 하나의 척추 재활 동작을 포함한다.The augmented reality game of the present invention comprises a plurality of stages, each stage including at least one spinal rehabilitation movement utilizing a body part that can be rehabilitated with or without the use of an assistive exercise device.
본 발명의 재활 프로그램은 환자의 척추 질환의 재활을 위하여 특정 신체 부위를 활용하여 재활을 수행하도록 구성된다.The rehabilitation program of the present invention is configured to perform rehabilitation by utilizing specific body parts to rehabilitate a patient's spinal disease.
증강현실 게임의 복수의 스테이지는 환자의 척추 질환 부위에 따라 동일하게 구성될 수 있다.Multiple stages of the augmented reality game can be configured identically depending on the location of the patient's spinal disease.
본 발명의 증강현실 게임은 척추 질환 부위에 따라 동일하게 구성된 스테이지를 포함하고 있다고 하더라도, 환자의 중증 상태에 따라, 환자의 위치에 따라 복수의 스테이지 중 활성화되는 미션 스테이지가 달라지고, 각 미션 스테이지를 구성하는 아이템의 개수, 난이도, 및 아이템의 크기 등이 서로 다르게 구성됨으로써 실제 각 환자가 수행하는 미션 스테이지의 각 척추 재활 동작은 상이하게 구성될 수 있다. 환자의 위치는 환자의 이동 단말(110)에 장착된 위치 센서(예를 들어, GPS센서)에 의해 탐지될 수 있다.Even though the augmented reality game of the present invention includes stages configured identically according to the spinal disease site, depending on the patient's severe condition and location, the mission stage activated among the multiple stages may vary, and the number of items, difficulty, and size of items constituting each mission stage may be configured differently, so that each spinal rehabilitation movement of the mission stage actually performed by each patient may be configured differently. The patient's location may be detected by a location sensor (e.g., a GPS sensor) mounted on the patient's mobile terminal (110).
도 1에 도시된 바와 같이, 환자용 단말(110)은 미션 완료된 스테이지 정보를 서버(120)로 주기적으로 전송할 수 있다.As illustrated in Figure 1, the patient terminal (110) can periodically transmit mission completed stage information to the server (120).
서버(120)는 미션이 완료되지 않은 스테이지에 대하여 수행을 독려하는 메시지를 환자용 단말(110)에 통지할 수 있다.The server (120) can notify the patient terminal (110) of a message urging performance of a stage where the mission has not been completed.
추가로 서버(120)는 미션이 완료된 스테이지 정보와 미션이 완료되지 않은 스테이지 정보 그리고, 각각의 스테이지의 미션 완료 횟수 등의 재활 프로그램 수행 정보를 의사에 전달함으로써 환자의 재활 진단 정보로 활용할 수 있다.Additionally, the server (120) can transmit to the doctor information on stages where missions have been completed, stages where missions have not been completed, and information on rehabilitation program performance such as the number of missions completed for each stage, thereby utilizing the information as rehabilitation diagnosis information for the patient.
도 2a는 본 발명의 척추 질환 환자 재활을 위한 증강현실 게임 시스템의 환자용 단말의 구성 개략도를 도시한 도면이다.FIG. 2a is a drawing schematically illustrating the configuration of a patient terminal of the augmented reality game system for rehabilitation of patients with spinal diseases of the present invention.
본 발명의 환자용 단말은 환자의 위치에 기초하여 재활 가능한 신체 부위 및 보조 운동 기구의 사용 여부를 결정하는 재활 구성 결정부(112), 증강현실 게임의 복수의 스테이지(stage) 중 적어도 하나의 미션 스테이지를 활성화시키는 활성 재활 스테이지 결정부(114) 및 미션 스테이지의 완료시 리액션(reaction)을 제공하는 미션 클리어 리액션 제공부(116)를 포함한다. The patient terminal of the present invention includes a rehabilitation configuration determination unit (112) that determines whether to use a rehabilitable body part and an assistive exercise device based on the patient's location, an active rehabilitation stage determination unit (114) that activates at least one mission stage among a plurality of stages of an augmented reality game, and a mission clear reaction provision unit (116) that provides a reaction upon completion of the mission stage.
본 발명의 활성 재활 스테이지 결정부(114)는 활성화되는 미션 스테이지를 환자의 위치에 따라 다르게 구성할 수 있다. The active rehabilitation stage determination unit (114) of the present invention can configure the activated mission stage differently depending on the patient's position.
일 예로서, 환자가 버스나 지하철 등의 대중 교통 수단을 이용하는 동안에 간단한 목 스트레칭 등을 수행하도록 미션 스테이지를 구성할 수 있다.As an example, a mission stage could be configured to have the patient perform simple neck stretches while riding public transportation such as a bus or subway.
다른 예로서, 환자가 집에 머무르고 있는 동안에는 적어도 하나의 보조 운동 기구를 이용하여 상대적으로 고난도의 재활 동작이 포함된 미션 스테이지를 수행하도록 구성할 수 있다.As another example, the patient may be configured to perform mission stages involving relatively difficult rehabilitation movements using at least one assistive exercise device while remaining at home.
일 실시예에서, 재활 구성 결정부(112)는 환자의 위치에 따라 재활 가능한 신체 부위를 매칭시킨 매칭 테이블을 미리 저장할 수 있다. 매칭 테이블은 환자의 위치에 따라 보조 운동 기구를 추가로 매칭시킬 수 있다. 매칭 테이블은 환자에 의해 미리 설정 저장될 수 있다.In one embodiment, the rehabilitation configuration determination unit (112) may pre-store a matching table that matches rehabilitable body parts according to the patient's position. The matching table may additionally match auxiliary exercise equipment according to the patient's position. The matching table may be pre-set and stored by the patient.
재활 구성 결정부(112)는 환자에 부착된 웨어러블 센서를 이용하여 환자의 자세를 탐지하고 환자의 자세가 환자의 척추 질환을 악화시키는 자세인지 여부를 판단할 수 있다.The rehabilitation composition decision unit (112) can detect the patient's posture using a wearable sensor attached to the patient and determine whether the patient's posture is one that worsens the patient's spinal disease.
또한, 본 발명의 활성 재활 스테이지 결정부(114)는 활성화되는 미션 스테이지에 환자의 자세를 교정하는 데 필요한 교정 동작이 포함된 교정 스테이지를 포함시킬 수 있다.Additionally, the active rehabilitation stage determination unit (114) of the present invention may include a correction stage that includes a correction movement necessary to correct the patient's posture in the activated mission stage.
예를 들어, 환자가 장시간 고개를 숙이고 스마트폰을 시청하고 있다고 탐지된 경우, 활성 재활 스테이지 결정부(114)는 환자의 경추 자세 교정을 위하여 환자의 시선을 위쪽으로 이동시킬 수 있는 아이템의 이동을 포함하는 교정 스테이지를 활성화시킬 수 있다.For example, if it is detected that a patient is looking at a smartphone with his head down for a long time, the active rehabilitation stage determination unit (114) can activate a correction stage that includes movement of an item that can move the patient's gaze upward to correct the patient's cervical posture.
추가 실시예로서, 환자가 척추 측만증을 악화시키는 자세로 의자에 장시간 앉아있는 경우, 활성 재활 스테이지 결정부(114)는 환자의 척추를 세울 수 있는 교정 스테이지를 미션 스테이지에 추가시킬 수 있다.As a further example, if a patient sits on a chair for a long time in a posture that worsens scoliosis, the active rehabilitation stage determination unit (114) can add a correction stage to the mission stage that can straighten the patient's spine.
일 실시예에서, 활성 재활 스테이지 결정부(114)는 환자가 척추 질환을 악화시키는 자세를 유지하는 동안 교정 스테이지를 반복적으로 수행하도록 반복 횟수 및 반복 주기를 조절하도록 구성할 수 있다.In one embodiment, the active rehabilitation stage determination unit (114) can be configured to adjust the number of repetitions and the repetition cycle so that the patient repeatedly performs the correction stage while maintaining a posture that worsens the spinal disorder.
일 실시예에서, 환자용 단말(110)은 환자의 재활 운동 영상을 수집 및 처리하는 영상 처리부, 환자의 재활 운동 영상으로부터 각 관절의 적어도 하나의 공간 좌표를 일정한 시간 간격으로 추출하여 환자의 재활 운동 범위를 산출하는 재활 운동 범위 산출부 및 환자의 재활 운동 범위가 의사에 의해 미리 진단된 환자의 제한 재활 운동 범위를 초과하는 횟수를 카운팅하는 초과 횟수 카운팅부를 더 포함할 수 있다.In one embodiment, the patient terminal (110) may further include an image processing unit that collects and processes a rehabilitation exercise image of the patient, a rehabilitation exercise range calculation unit that extracts at least one spatial coordinate of each joint from the rehabilitation exercise image of the patient at regular time intervals to calculate the rehabilitation exercise range of the patient, and an excess counting unit that counts the number of times the rehabilitation exercise range of the patient exceeds the patient's limited rehabilitation exercise range diagnosed in advance by a doctor.
일 실시예예에서, 활성 재활 스테이지 결정부(114)는 임계치를 초과하는 횟수의 동작을 포함하는 미션 스테이지를 비활성화시킬 수 있다. 재활 운동 범위를 반복적으로 초과한다는 것은 환자의 재활 동작이 올바르지 않다는 것을 추측할 수 있고, 무리한 재활 동작은 환자에 척추 질환을 악화시킬 수 있으므로 해당 재활 동작을 수행하지 않도록 조치하는 것이다.In one embodiment, the active rehabilitation stage determination unit (114) can deactivate a mission stage that includes a number of motions exceeding a threshold. Repeatedly exceeding the rehabilitation range of motion can be inferred to mean that the patient's rehabilitation motion is not correct, and excessive rehabilitation motions can worsen spinal disease in the patient, so measures are taken to prevent the patient from performing the rehabilitation motions.
일 실시예에서, 활성 재활 스테이지 결정부(114)는 환자의 위치에 따라 결정된 재활 가능한 신체 부위 및 보조 운동 기구의 유형에 기초하여 미션 스테이지의 난이도, 미션 스테이지를 구성하는 아이템의 개수, 아이템의 크기를 조정하는 것을 특징으로 한다.In one embodiment, the active rehabilitation stage determination unit (114) is characterized by adjusting the difficulty of the mission stage, the number of items constituting the mission stage, and the size of the items based on the type of rehabilitable body part and assistive exercise equipment determined according to the patient's position.
일 실시예에서, 미션 클리어 리액션 제공부(116)는 미션 스테이지를 구성하는 아이템의 특성에 변화를 부여하거나 환자의 재활 신체 부위에 미세 자극을 부여하는 것을 특징으로 한다.In one embodiment, the mission clear reaction providing unit (116) is characterized by providing a change in the characteristics of an item constituting a mission stage or providing micro-stimulation to a patient's rehabilitation body part.
예를 들어, 화면에 게임 아이템을 표시하고 환자가 손을 뻗어 해당 아이템을 파지하는 운동 동작을 포함하는 미션 스테이지를 수행하게 하고, 환자가 해당 미션 스테이지를 수행하여 아이템을 파지한 경우 미션 클리어 리액션 제공부(116)는 아이템이 터지도록 구성할 수 있다. 아이템이 환자용 단말(110)에서 터짐으로써 환자는 자신이 해당 미션 스테이지를 잘 수행하였음을 인지할 수 있다.For example, a game item may be displayed on the screen and a patient may be made to perform a mission stage including a motor action of reaching out and grabbing the item, and when the patient performs the mission stage and grabs the item, the mission clear reaction providing unit (116) may be configured to cause the item to burst. As the item bursts on the patient terminal (110), the patient may recognize that he or she has successfully performed the mission stage.
다른 실시예에서, 환자가 미션 스테이지를 완료한 경우, 미션 클리어 리액션 제공부(116)는 해당 미션 스테이지에서 재활된 근육 부위에 미세 자극을 주어 해당 근육 부위가 운동되었음을 환자가 인지하도록 구성할 수 있다.In another embodiment, when a patient completes a mission stage, the mission clear reaction provider (116) can be configured to provide microstimulation to a muscle area rehabilitated in the corresponding mission stage so that the patient recognizes that the corresponding muscle area has been exercised.
도 2b는 본 발명의 활성 재활 스테이지 결정부의 동작을 개념적으로 도시한 도면이다.FIG. 2b is a diagram conceptually illustrating the operation of the active rehabilitation stage determination unit of the present invention.
본 발명의 활성 재활 스테이지 결정부(114)는 증강현실 게임의 복수의 스테이지(stage) 중 적어도 하나의 미션 스테이지를 활성화시킨다.The active rehabilitation stage determining unit (114) of the present invention activates at least one mission stage among multiple stages of the augmented reality game.
본 발명의 활성 재활 스테이지 결정부(114)는 활성화되는 미션 스테이지를 환자의 위치에 따라 다르게 구성할 수 있다.The active rehabilitation stage determination unit (114) of the present invention can configure the activated mission stage differently depending on the patient's position.
도 2b에 도시된 바와 같이, 서버(120)로부터 다운로드된 재활 프로그램은 총 n개의 스테이지로 구성될 수 있다.As illustrated in Fig. 2b, the rehabilitation program downloaded from the server (120) may consist of a total of n stages.
활성 재활 스테이지 결정부(114)는 환자가 장소 1에 위치하고 있을 때는 2번, 4번, n번 스테이지를 활성화시킬 수 있다.The active rehabilitation stage determination unit (114) can activate stages 2, 4, and n when the patient is located at location 1.
그러나, 환자가 장소 2에 위치하고 있을 때는 활성 재활 스테이지 결정부(114)는 1번, 3번, 4번, n-2번 스테이지를 활성화시킬 수 있다. However, when the patient is located at location 2, the active rehabilitation stage determination unit (114) can activate stages 1, 3, 4, and n-2.
각 미션 스테이지는 환자의 위치가 변할 때 마다 즉각적으로 위치에 따라 다르게 구성될 수 있다.Each mission stage can be configured differently depending on the location of the patient, on an instantaneous basis, as the patient's location changes.
도 3은 본 발명의 일 실시예에 따른 인공 지능에 의한 재활 동작 인식을 수행하기 위한 영상 처리 과정을 개략적으로 도시한 도면이다.FIG. 3 is a diagram schematically illustrating an image processing process for performing rehabilitation motion recognition using artificial intelligence according to one embodiment of the present invention.
인공 지능을 기반으로 동작인식 기술은 입력 데이터에 의존한다. Based on artificial intelligence, gesture recognition technology relies on input data.
각 입력 데이터는 그 양식에 따라 행동을 식별하는 데 장점이 있기도 하지만 단점도 있다. 예를 들어, RGB 이미지는 비디오에서 사람의 색상 외관의 추출을 통해 동작을 인식하는 데 능숙하다. 그러나 영상의 3D 구조에 대한 단서를 제공하지 않으며 조명 변화에 민감하다.Each input data has its own strengths and weaknesses in identifying actions, depending on its format. For example, RGB images are good at recognizing actions by extracting the color appearance of people in a video. However, they do not provide clues about the 3D structure of the image and are sensitive to lighting changes.
이처럼 사람의 동작 인식에서 단일한 양식을 사용하는 것은 대부분의 제한된 시야를 가지고 있고 폐색을 극복할 수 없으며 조명 변화에 민감하기 때문에 최적의 인식성을 보장하지 않는다.In this way, using a single modality in human gesture recognition does not guarantee optimal recognition because most of them have limited fields of view, cannot overcome occlusion, and are sensitive to illumination changes.
따라서 본 발명에서는 RGB 영상(310), 심도(Depth) 영상(320), 골격(Skeleton) 영상(330)을 결합하여 사용하는 다중 모드 동작 인식 기술을 이용한다. Therefore, the present invention uses a multi-mode motion recognition technology that combines an RGB image (310), a depth image (320), and a skeleton image (330).
다중 모드 동작 인식 기술은 보다 강력한 동작 인식을 제공하며 조명에 변화에도 민감하지 않고 다양한 환경에서 좋은 인식성을 보장한다.Multi-mode gesture recognition technology provides more powerful gesture recognition, is insensitive to changes in lighting, and ensures good recognition in various environments.
먼저 인공 지능은 RGB 영상(310)에 심도 영상(320)과 골격 영상(330)을 결합하여 실시간 생성되는 영상을 시간에 따라 저장한다(340). First, the artificial intelligence combines the RGB image (310) with the depth image (320) and the skeleton image (330) to create an image in real time and stores it over time (340).
인공지능은 입력 데이터를 전처리 후 특징(feature) 표현 및 동작 분류에 따라 피사체를 자르기(Cropping)를 수행한다(350). 이 과정에서 인간 골격의 모양을 활용하고 2D 골격 좌표를 사용하여 영상에서 피사체를 효율적으로 자를 수 있다. After preprocessing the input data, artificial intelligence performs cropping of the subject based on feature expression and motion classification (350). In this process, the shape of the human skeleton can be utilized and the subject can be cropped efficiently from the image using 2D skeletal coordinates.
인공 지능은 고유한 합성곱 신경망(CNN: Convolution Neural Network)을 이용하여 각 동작 영상에 대하여 특징(feature)을 추출하고 변환되어 최종 영상을 생성한다(360).Artificial intelligence uses a unique convolutional neural network (CNN) to extract features for each motion image and transform them to create a final image (360).
각 RGB 영상, 심도 영상, 골격 영상은 고유한 양식의 차이로 인해 이들을 결합하면 인식성능이 크게 향상될 수 있다.Each RGB image, depth image, and skeleton image has its own unique format differences, so combining them can greatly improve recognition performance.
동작 인식은 CNN(Convolution Neural Network)을 기반으로 하며 입력 영상 데이터의 벡터값을 으로 정의한다. 여기에서 n은 입력 샘플의 수를 의미한다. Motion recognition is based on CNN (Convolution Neural Network) and vector values of input image data. is defined as , where n represents the number of input samples.
각 합성곱 계층의 출력 영상은 식 (1)과 같다.The output image of each convolution layer is as shown in Equation (1).
식(1) Equation (1)
여기서, 은 계층의 인덱스에 해당하고, 는 시그모이드 활성화 함수이다. 는 번째 특징에 해당하는 편향이고, 은 필터 크기이다. 은 번째 특징 맵과 번째 필터 인덱스에 대한 가중치를 나타낸다.Here, corresponds to the index of the silver layer, is the sigmoid activation function. Is The bias corresponding to the th feature, is the filter size. silver The second feature map and Indicates the weight for the th filter index.
도 4는 본 발명의 일 실시예에 따른 환자용 단말의 영상 처리부의 전처리 과정을 개략적으로 도시한 도면이다.FIG. 4 is a diagram schematically illustrating a preprocessing process of an image processing unit of a patient terminal according to one embodiment of the present invention.
본 발명의 환자용 단말(110)은 영상 처리부를 포함한다.The patient terminal (110) of the present invention includes an image processing unit.
영상 처리부는 카메라로부터 실시간 영상을 입력받아 영상 전처리를 수행하고 인공지능에서 사용할 RGB 영상, 심도 영상, 골격 영상을 생성하는 기능을 한다.The image processing unit receives real-time images from the camera, performs image preprocessing, and generates RGB images, depth images, and skeleton images to be used in artificial intelligence.
인체는 3차원의 구조이지만 카메라로부터 들어오는 실시간 이미지는 2차원 이미지로서 인공 지능이 재활 동작 인식을 수행하기 위해서는 3차원 이미지로 변환해야 한다.The human body is a three-dimensional structure, but the real-time images coming from the camera are two-dimensional images that must be converted into three-dimensional images for artificial intelligence to perform rehabilitation movement recognition.
사용자를 3차원으로 인식해야 신체 부위를 정확하게 인식할 수 있다.To accurately recognize body parts, the user must be recognized in three dimensions.
따라서 본 발명의 영상 처리부는 카메라의 2차원 이미지를 3차원 이미지로 변화하는 역투사 매트릭스(Back-Projection Matrix) 알고리즘을 이용하여 실시간 사용자 이미지를 가상의 3차원 객체화한다. Therefore, the image processing unit of the present invention converts a real-time user image into a virtual 3D object by using a back-projection matrix algorithm that changes a 2D image of a camera into a 3D image.
2차원 이미지를 3차원 이미지로 변화하기 위해서는 기본적으로 2차원 영상과 3차원 공간 사이의 관계를 알아야 한다. 이는 몇 개의 카메라 파라미터(예를 들어, 내부 파라미터 및 외부 파라미터)로 이루어진 카메라 역투사 매트릭스를 이용하여 얻을 수 있는데, 이를 이용하면 2차원 영상에서의 한 점을 3차원 공간으로 역투사할 때 필요한 정보를 얻을 수 있다. 이와 같이 카메라 역투사 매트릭스는 3차원 정보를 얻는 작업에 핵심적인 역할을 한다.In order to change a 2D image into a 3D image, you basically need to know the relationship between the 2D image and the 3D space. This can be obtained by using a camera backprojection matrix consisting of several camera parameters (e.g., internal parameters and external parameters), and by using this, you can obtain the information necessary to backproject a point in a 2D image into a 3D space. In this way, the camera backprojection matrix plays a key role in the task of obtaining 3D information.
역투사 매트릭스는 카메라로부터 입력되는 실시간 이미지에서 재활 동작 영상을 가상의 3차원 이미지로 변환한다. The backprojection matrix converts the rehabilitation motion images from real-time images input from the camera into virtual three-dimensional images.
영상 처리부에서 생성된 가상의 3차원 사용자 이미지를 인공 지능으로 전달하여 인공 지능이 사용자 재활 동작을 인식할 수 있도록 한다.The virtual 3D user image generated by the image processing unit is transferred to the artificial intelligence so that the artificial intelligence can recognize the user's rehabilitation movements.
도 5는 본 발명의 재활 운동 범위 산출부의 환자의 재활 운동 범위를 산출 과정을 개략적으로 도시한 도면이다.Figure 5 is a drawing schematically illustrating a process of calculating a patient's rehabilitation exercise range by the rehabilitation exercise range calculation unit of the present invention.
본 발명의 재활 운동 범위 산출부는 환자의 재활 운동 영상으로부터 각 관절의 적어도 하나의 공간 좌표(510)를 일정한 시간 간격으로 추출하여 환자의 재활 운동 범위를 산출한다.The rehabilitation exercise range calculation unit of the present invention extracts at least one spatial coordinate (510) of each joint from the patient's rehabilitation exercise image at regular time intervals to calculate the patient's rehabilitation exercise range.
본 발명의 재활 운동 범위 산출부는 환자의 재활 동작을 분석하여 안전 운동 범위를 가이드하는 기술을 사용한다. 영상기반 자세 추정을 통해 운동 콘텐츠별 사용자의 현재 운동 가동 범위를 측정한 후, 의사가 입력한 개인별 운동 목표를 넘어서는 무리한 동작을 수행할 경우 해당 미션 스테이지를 비활성화시킬 수 있다.The rehabilitation exercise range calculation unit of the present invention uses a technology that analyzes the patient's rehabilitation movements to guide a safe exercise range. After measuring the user's current exercise range of motion for each exercise content through image-based posture estimation, if an excessive movement is performed that exceeds the individual exercise goal entered by the doctor, the corresponding mission stage can be deactivated.
본 발명의 재활 운동 범위 산출부는 환자의 모바일 단말의 카메라 또는 별도 설치된 웹캠 등으로 촬영되는 사용자의 재활 운동 영상 정보로부터 각 관절의 적어도 하나의 공간좌표를 일정 시간 간격으로 추출한다. The rehabilitation exercise range calculation unit of the present invention extracts at least one spatial coordinate of each joint at regular time intervals from the user's rehabilitation exercise image information captured by a camera of the patient's mobile terminal or a separately installed webcam.
환자마다 상이한 통증 한계에 기반한 운동 가동 범위를 자동 측정하여 의사에게 환자 건강상태 정보를 제공함으로써 개별 환자의 재활 수준과 운동목표를 결정할 수 있도록 지원한다. It automatically measures the range of motion based on each patient's different pain threshold and provides doctors with information on the patient's health status, thereby helping determine the level of rehabilitation and exercise goals for each patient.
본 발명의 재활 운동 범위 산출부는 재활 운동 수행 시에 의사가 설정한 환자 개개인의 안전 운동 가동 범위를 벗어나는 무리한 동작을 자동으로 인식하여 재활 부위의 손상이 없도록 실시간 가이드해 주는 개인화 서비스를 통해, 무리한 동작으로 인한 손상을 방지하도록 구성될 수 있다.The rehabilitation exercise range calculation unit of the present invention can be configured to prevent damage caused by excessive movement through a personalized service that automatically recognizes excessive movement that exceeds the safe exercise range of each patient set by a doctor when performing rehabilitation exercise and provides real-time guidance to prevent damage to the rehabilitation area.
도 6은 본 발명의 척추 질환 환자 재활을 위한 증강현실 게임 방법의 흐름도를 도시한 도면이다.FIG. 6 is a drawing illustrating a flow chart of an augmented reality game method for rehabilitation of a spinal disease patient of the present invention.
본 발명의 다른 실시예에 따른 척추 질환 환자 재활을 위한 증강현실 게임 방법은 서버로부터 환자의 척추 질환 재활을 위한 증강현실 게임의 앱 형태의 재활 프로그램을 다운로드하는 단계(S610).An augmented reality game method for rehabilitation of a patient with spinal disease according to another embodiment of the present invention includes a step (S610) of downloading a rehabilitation program in the form of an app of an augmented reality game for rehabilitation of a patient with spinal disease from a server.
S620 단계에서, 환자의 위치에 기초하여 재활 가능한 신체 부위 및 보조 운동 기구의 사용 여부를 결정하는 재활 구성 결정 단계를 포함한다.At step S620, a rehabilitation configuration determination step is included to determine whether to use rehabilitable body parts and assistive exercise equipment based on the patient's position.
S630 단계에서, 증강현실 게임의 복수의 스테이지(stage) 중 적어도 하나의 미션 스테이지를 활성화시키는 활성 재활 스테이지 결정 단계를 포함한다.At step S630, an active rehabilitation stage determination step is included that activates at least one mission stage among a plurality of stages of the augmented reality game.
S640 단계에서, 미션 스테이지의 완료시 리액션(reaction)을 제공하는 미션 클리어 리액션 제공 단계를 포함한다. At step S640, a mission clear reaction providing step is included, which provides a reaction upon completion of the mission stage.
본 발명의 증강현실 게임의 각각의 스테이지는 보조 운동 기구를 활용하거나 활용하지 않고서 재활 가능한 신체 부위를 활용한 적어도 하나의 척추 재활 동작을 포함한다. Each stage of the augmented reality game of the present invention includes at least one spinal rehabilitation movement utilizing a rehabilitable body part, with or without the use of an assistive exercise device.
본 발명의 활성 재활 스테이지 결정부에서 활성화되는 미션 스테이지는 환자의 위치에 따라 달라진다.The mission stage activated in the active rehabilitation stage determination unit of the present invention varies depending on the patient's position.
일 실시예에서, 재활 구성 결정 단계는 환자에 부착된 웨어러블 센서를 이용하여 환자의 자세를 탐지하고 환자의 자세가 환자의 척추 질환을 악화시키는 자세인지 여부를 판단하는 단계를 포함한다.In one embodiment, the rehabilitation configuration determination step includes detecting the patient's posture using a wearable sensor attached to the patient and determining whether the patient's posture is a posture that worsens the patient's spinal condition.
일 실시예에서, 활성 재활 스테이지 결정 단계는 활성화되는 미션 스테이지에 환자의 자세를 교정하는 데 필요한 교정 동작이 포함된 교정 스테이지를 포함시키는 것을 특징으로 한다.In one embodiment, the active rehabilitation stage determination step is characterized by including a correction stage that includes a corrective motion necessary to correct the patient's posture in the mission stage being activated.
일 실시예에서, 활성 재활 스테이지 결정 단계는 환자가 척추 질환을 악화시키는 자세를 유지하는 동안 교정 스테이지를 반복적으로 수행하도록 반복 횟수 및 반복 주기를 조절하는 단계를 포함한다.In one embodiment, the active rehabilitation stage determination step includes adjusting the number of repetitions and the repetition frequency so that the patient repeatedly performs the correction stage while maintaining a posture that worsens the spinal disorder.
일 실시예에서, 활성 재활 스테이지 결정 단계는, 환자의 재활 운동 영상을 수집 및 처리하는 영상 처리 단계, 환자의 재활 운동 영상으로부터 각 관절의 적어도 하나의 공간 좌표를 일정한 시간 간격으로 추출하여 환자의 재활 운동 범위를 산출하는 재활 운동 범위 산출 단계, 환자의 재활 운동 범위가 의사에 의해 미리 진단된 환자의 제한 재활 운동 범위를 초과하는 횟수를 카운팅하는 초과 횟수 카운팅 단계 및 임계치를 초과하는 횟수의 동작을 포함하는 미션 스테이지를 비활성화시키는 단계를 포함한다.In one embodiment, the active rehabilitation stage determination step includes an image processing step of collecting and processing a rehabilitation motion image of the patient, a rehabilitation motion range calculation step of extracting at least one spatial coordinate of each joint from the rehabilitation motion image of the patient at regular time intervals to calculate a rehabilitation motion range of the patient, an excess counting step of counting the number of times the rehabilitation motion range of the patient exceeds a limited rehabilitation motion range of the patient diagnosed in advance by a doctor, and a step of deactivating a mission stage including a number of operations exceeding a threshold.
일 실시예에서, 활성 재활 스테이지 결정 단계는 환자의 위치에 따라 결정된 상기 재활 가능한 신체 부위 및 상기 보조 운동 기구의 유형에 기초하여 미션 스테이지의 난이도, 미션 스테이지를 구성하는 아이템의 개수, 아이템의 크기를 조정하는 단계를 포함한다.In one embodiment, the active rehabilitation stage determination step includes adjusting the difficulty of the mission stage, the number of items constituting the mission stage, and the size of the items based on the type of the rehabilitable body part and the assistive exercise device determined according to the patient's position.
일 실시예에서, 재활 구성 결정 단계, 활성 재활 스테이지 결정 단계 및 미션 클리어 리액션 제공 단계는 환자의 이동 단말의 적어도 하나의 프로세서에 의해 수행된다.In one embodiment, the rehabilitation configuration determination step, the active rehabilitation stage determination step, and the mission clear reaction provision step are performed by at least one processor of the patient's mobile terminal.
일 실시예에서, 환자의 위치는 환자의 이동 단말에 장착된 위치 센서에 의해 탐지되는 것을 특징으로 한다.In one embodiment, the patient's location is characterized by being detected by a location sensor mounted on the patient's mobile terminal.
일 실시예에서, 미션 클리어 리액션 제공 단계는 미션 스테이지를 구성하는 상기 아이템의 특성에 변화를 부여하거나 환자의 재활 신체 부위에 미세 자극을 부여하는 단계를 포함한다.In one embodiment, the mission clear reaction providing step includes a step of applying a change to a characteristic of the item constituting the mission stage or applying microstimulation to a rehabilitation body part of the patient.
도 7은 본 발명의 다양한 실시예에 따른 장치 및/또는 시스템을 구현할 수 있는 예시적인 컴퓨팅 장치를 도시한 도면이다.FIG. 7 is a diagram illustrating an exemplary computing device that may implement devices and/or systems according to various embodiments of the present invention.
도 7을 참조하여 본 개시의 몇몇 실시예에 따른 장치들을 구현할 수 있는 예시적인 컴퓨팅 장치(700)를 보다 구체적으로 설명하기로 한다.An exemplary computing device (700) that can implement devices according to some embodiments of the present disclosure will be described in more detail with reference to FIG. 7.
컴퓨팅 장치(700)는 하나 이상의 프로세서(710), 버스(750), 통신 인터페이스(770), 프로세서(710)에 의하여 수행되는 컴퓨터 프로그램(791)을 로드(load)하는 메모리(730)와, 컴퓨터 프로그램(791)을 저장하는 스토리지(790)를 포함할 수 있다. 다만, 도 7에는 본 개시의 실시예와 관련 있는 구성 요소들 만이 도시되어 있다.A computing device (700) may include one or more processors (710), a bus (750), a communication interface (770), a memory (730) for loading a computer program (791) executed by the processor (710), and a storage (790) for storing the computer program (791). However, only components related to the embodiment of the present disclosure are illustrated in FIG. 7.
따라서, 본 개시가 속한 기술분야의 통상의 기술자라면 도 7에 도시된 구성 요소들 외에 다른 범용적인 구성 요소들이 더 포함될 수 있음을 알 수 있다.Accordingly, a person skilled in the art will appreciate that the present disclosure may further include general components other than those illustrated in FIG. 7.
프로세서(710)는 컴퓨팅 장치(700)의 각 구성의 전반적인 동작을 제어한다. 프로세서(710)는 CPU(Central Processing Unit), MPU(Micro Processor Unit), MCU(Micro Controller Unit), GPU(Graphic Processing Unit) 또는 본 개시의 기술 분야에 잘 알려진 임의의 형태의 프로세서(710)를 포함하여 구성될 수 있다. 또한, 프로세서(710)는 본 개시의 실시예들에 따른 방법을 실행하기 위한 적어도 하나의 어플리케이션 또는 프로그램에 대한 연산을 수행할 수 있다. 컴퓨팅 장치(700)는 하나 이상의 프로세서(710)를 구비할 수 있다. 컴퓨팅 장치(700)는 인공 지능(AI)을 지칭할 수 있다.The processor (710) controls the overall operation of each component of the computing device (700). The processor (710) may be configured to include a CPU (Central Processing Unit), an MPU (Micro Processor Unit), an MCU (Micro Controller Unit), a GPU (Graphics Processing Unit), or any other form of processor (710) well known in the technical field of the present disclosure. In addition, the processor (710) may perform operations for at least one application or program for executing a method according to embodiments of the present disclosure. The computing device (700) may be equipped with one or more processors (710). The computing device (700) may refer to artificial intelligence (AI).
메모리(730)는 각종 데이터, 명령 및/또는 정보를 저장한다. 메모리(730)는 본 개시의 실시예들에 따른 방법을 실행하기 위하여 스토리지(790)로부터 하나 이상의 프로그램(791)을 로드 할 수 있다. 메모리(730)는 RAM과 같은 휘발성 메모리로 구현될 수 있을 것이나, 본 개시의 기술적 범위가 이에 한정되는 것은 아니다.The memory (730) stores various data, commands, and/or information. The memory (730) can load one or more programs (791) from the storage (790) to execute a method according to embodiments of the present disclosure. The memory (730) may be implemented as a volatile memory such as RAM, but the technical scope of the present disclosure is not limited thereto.
버스(750)는 컴퓨팅 장치(700)의 구성 요소 간 통신 기능을 제공한다. 버스(750)는 주소 버스(Address Bus), 데이터 버스(Data Bus) 및 제어 버스(Control Bus) 등 다양한 형태의 버스로 구현될 수 있다.The bus (750) provides a communication function between components of the computing device (700). The bus (750) may be implemented as various types of buses such as an address bus, a data bus, and a control bus.
통신 인터페이스(770)는 컴퓨팅 장치(700)의 유무선 인터넷 통신을 지원한다. 또한, 통신 인터페이스(770)는 인터넷 통신 외의 다양한 통신 방식을 지원할 수도 있다. 이를 위해, 통신 인터페이스(770)는 본 개시의 기술 분야에 잘 알려진 통신 모듈을 포함하여 구성될 수 있다.The communication interface (770) supports wired and wireless Internet communication of the computing device (700). In addition, the communication interface (770) may support various communication methods other than Internet communication. To this end, the communication interface (770) may be configured to include a communication module well known in the technical field of the present disclosure.
몇몇 실시예들에 따르면, 통신 인터페이스(770)는 생략될 수도 있다.According to some embodiments, the communication interface (770) may be omitted.
스토리지(790)는 하나 이상의 프로그램(791)과 각종 데이터를 비임시적으로 저장할 수 있다.Storage (790) can non-temporarily store one or more programs (791) and various data.
스토리지(790)는 ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리 등과 같은 비휘발성 메모리, 하드 디스크, 착탈형 디스크, 또는 본 개시가 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터 판독 가능 기록 매체를 포함하여 구성될 수 있다.Storage (790) may be configured to include non-volatile memory such as Read Only Memory (ROM), Erasable Programmable ROM (EPROM), Electrically Erasable Programmable ROM (EEPROM), flash memory, a hard disk, a removable disk, or any form of computer-readable recording medium well known in the art to which the present disclosure pertains.
컴퓨터 프로그램(791)은 메모리(730)에 로드 될 때 프로세서(710)로 하여금 본 개시의 다양한 실시예에 따른 방법/동작을 수행하도록 하는 하나 이상의 명령들을 포함할 수 있다. 즉, 프로세서(710)는 하나 이상의 명령들을 실행함으로써, 본 개시의 다양한 실시예에 따른 방법/동작들을 수행할 수 있다.The computer program (791) may include one or more instructions that cause the processor (710) to perform methods/operations according to various embodiments of the present disclosure when loaded into the memory (730). That is, the processor (710) may perform methods/operations according to various embodiments of the present disclosure by executing the one or more instructions.
이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 특허청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.Although the preferred embodiments of the present invention have been illustrated and described above, the present invention is not limited to the specific embodiments described above, and various modifications may be made by those skilled in the art without departing from the gist of the present invention as claimed in the claims. Furthermore, such modifications should not be understood individually from the technical idea or prospect of the present invention.
Claims (14)
상기 서버로부터 상기 재활 프로그램을 다운로드하여 실행하는 환자용 단말;을 포함하되, 상기 환자용 단말은,
상기 환자의 위치에 기초하여 재활 가능한 신체 부위 및 보조 운동 기구의 사용 여부를 결정하는 재활 구성 결정부;
상기 증강현실 게임의 복수의 스테이지(stage) 중 적어도 하나의 미션 스테이지를 활성화시키는 활성 재활 스테이지 결정부;
상기 미션 스테이지의 완료시 리액션(reaction)을 제공하는 미션 클리어 리액션 제공부;
상기 환자의 재활 운동 영상을 수집 및 처리하는 영상 처리부;
상기 환자의 재활 운동 영상으로부터 각 관절의 적어도 하나의 공간 좌표를 일정한 시간 간격으로 추출하여 상기 환자의 재활 운동 범위를 산출하는 재활 운동 범위 산출부; 및
상기 환자의 재활 운동 범위가 의사에 의해 미리 진단된 상기 환자의 제한 재활 운동 범위를 초과하는 횟수를 카운팅하는 초과 횟수 카운팅부;를 포함하되,
상기 증강현실 게임의 각각의 스테이지는 상기 보조 운동 기구를 활용하거나 활용하지 않고서 상기 재활 가능한 신체 부위를 활용한 적어도 하나의 척추 재활 동작을 포함하고, 상기 활성 재활 스테이지 결정부에서 활성화되는 상기 미션 스테이지는 상기 환자의 위치에 따라 달라지고,
상기 미션 클리어 리액션 제공부는 상기 미션 스테이지를 구성하는 아이템의 특성에 변화를 부여하거나 상기 환자의 재활 신체 부위에 미세 자극을 부여하고,
상기 활성 재활 스테이지 결정부는 임계치를 초과하는 횟수의 동작을 포함하는 미션 스테이지를 비활성화시키는 것을 특징으로 하는, 척추 질환 환자 재활을 위한 증강현실 게임 시스템.A server that provides a rehabilitation program for the rehabilitation of a patient's spinal disease in the form of an augmented reality game app; and
A patient terminal for downloading and executing the rehabilitation program from the server; wherein the patient terminal comprises:
A rehabilitation configuration decision unit that determines whether to use rehabilitable body parts and assistive exercise equipment based on the patient's position;
An active rehabilitation stage determining unit that activates at least one mission stage among a plurality of stages of the augmented reality game;
A mission clear reaction providing unit that provides a reaction upon completion of the above mission stage;
An image processing unit for collecting and processing images of the patient's rehabilitation exercises;
A rehabilitation movement range calculation unit that extracts at least one spatial coordinate of each joint from the rehabilitation movement image of the patient at regular time intervals to calculate the rehabilitation movement range of the patient; and
Including an excess counting unit that counts the number of times the patient's rehabilitation exercise range exceeds the patient's limited rehabilitation exercise range diagnosed in advance by a doctor;
Each stage of the augmented reality game includes at least one spinal rehabilitation movement utilizing the rehabilitable body part with or without utilizing the assistive exercise device, and the mission stage activated in the active rehabilitation stage determination unit varies depending on the position of the patient.
The above mission clear reaction providing unit changes the characteristics of the items that make up the above mission stage or provides micro-stimulation to the patient's rehabilitation body parts.
An augmented reality game system for rehabilitation of patients with spinal diseases, characterized in that the active rehabilitation stage determining unit deactivates a mission stage that includes a number of operations exceeding a threshold.
상기 재활 구성 결정부는 상기 환자에 부착된 웨어러블 센서를 이용하여 상기 환자의 자세를 탐지하고 상기 환자의 자세가 상기 환자의 척추 질환을 악화시키는 자세인지 여부를 판단하고,
상기 활성 재활 스테이지 결정부는 활성화되는 상기 미션 스테이지에 상기 환자의 자세를 교정하는 데 필요한 교정 동작이 포함된 교정 스테이지를 포함시키는 것을 특징으로 하는, 척추 질환 환자 재활을 위한 증강현실 게임 시스템.In claim 1,
The above rehabilitation composition determination unit detects the patient's posture using a wearable sensor attached to the patient and determines whether the patient's posture is a posture that worsens the patient's spinal disease.
An augmented reality game system for rehabilitation of patients with spinal diseases, characterized in that the active rehabilitation stage determining unit includes a correction stage including a correction movement necessary to correct the patient's posture in the activated mission stage.
상기 활성 재활 스테이지 결정부는 상기 환자가 상기 척추 질환을 악화시키는 자세를 유지하는 동안 상기 교정 스테이지를 반복적으로 수행하도록 반복 횟수 및 반복 주기를 조절하도록 구성된 것을 특징으로 하는, 척추 질환 환자 재활을 위한 증강현실 게임 시스템.In claim 2,
An augmented reality game system for rehabilitation of a spinal disease patient, characterized in that the active rehabilitation stage determining unit is configured to adjust the number of repetitions and the repetition cycle so that the correction stage is repeatedly performed while the patient maintains a posture that worsens the spinal disease.
상기 활성 재활 스테이지 결정부는 상기 환자의 위치에 따라 결정된 상기 재활 가능한 신체 부위 및 상기 보조 운동 기구의 유형에 기초하여 상기 미션 스테이지의 난이도, 상기 미션 스테이지를 구성하는 상기 아이템의 개수, 상기 아이템의 크기를 조정하는 것을 특징으로 하는, 척추 질환 환자 재활을 위한 증강현실 게임 시스템. In claim 1,
An augmented reality game system for rehabilitation of patients with spinal diseases, characterized in that the active rehabilitation stage determining unit adjusts the difficulty of the mission stage, the number of items constituting the mission stage, and the size of the items based on the types of the rehabilitable body parts and the assistive exercise equipment determined according to the position of the patient.
상기 재활 구성 결정부, 상기 활성 재활 스테이지 결정부 및 상기 미션 클리어 리액션 제공부는 환자의 이동 단말에 구성되고,
상기 환자의 위치는 상기 환자의 이동 단말에 장착된 위치 센서에 의해 탐지되는 것을 특징으로 하는, 척추 질환 환자 재활을 위한 증강현실 게임 시스템. In claim 5,
The above rehabilitation configuration determining unit, the active rehabilitation stage determining unit and the mission clear reaction providing unit are configured in the patient's mobile terminal,
An augmented reality game system for rehabilitation of patients with spinal diseases, characterized in that the location of the patient is detected by a location sensor mounted on the patient's mobile terminal.
상기 환자의 위치에 기초하여 재활 가능한 신체 부위 및 보조 운동 기구의 사용 여부를 결정하는 재활 구성 결정 단계;
상기 증강현실 게임의 복수의 스테이지(stage) 중 적어도 하나의 미션 스테이지를 활성화시키는 활성 재활 스테이지 결정 단계; 및
상기 미션 스테이지의 완료시 리액션(reaction)을 제공하는 미션 클리어 리액션 제공 단계;를 포함하되,
상기 증강현실 게임의 각각의 스테이지는 상기 보조 운동 기구를 활용하거나 활용하지 않고서 상기 재활 가능한 신체 부위를 활용한 적어도 하나의 척추 재활 동작을 포함하고, 상기 활성 재활 스테이지 결정부에서 활성화되는 상기 미션 스테이지는 상기 환자의 위치에 따라 달라지고,
상기 미션 클리어 리액션 제공 단계는 상기 미션 스테이지를 구성하는 아이템의 특성에 변화를 부여하거나 상기 환자의 재활 신체 부위에 미세 자극을 부여하는 단계를 포함하고,
상기 활성 재활 스테이지 결정 단계는,
상기 환자의 재활 운동 영상을 수집 및 처리하는 영상 처리 단계;
상기 환자의 재활 운동 영상으로부터 각 관절의 적어도 하나의 공간 좌표를 일정한 시간 간격으로 추출하여 상기 환자의 재활 운동 범위를 산출하는 재활 운동 범위 산출 단계;
상기 환자의 재활 운동 범위가 의사에 의해 미리 진단된 상기 환자의 제한 재활 운동 범위를 초과하는 횟수를 카운팅하는 초과 횟수 카운팅 단계; 및
임계치를 초과하는 횟수의 동작을 포함하는 미션 스테이지를 비활성화시키는 단계를 포함하는, 척추 질환 환자 재활을 위한 증강현실 게임 방법.Step of downloading a rehabilitation program in the form of an app of an augmented reality game for rehabilitation of a patient's spinal disease from a server;
A rehabilitation configuration determination step for determining whether to use rehabilitable body parts and assistive exercise equipment based on the patient's position;
An active rehabilitation stage determination step for activating at least one mission stage among multiple stages of the augmented reality game; and
A mission clear reaction providing step that provides a reaction upon completion of the above mission stage; including,
Each stage of the augmented reality game includes at least one spinal rehabilitation movement utilizing the rehabilitable body part with or without utilizing the assistive exercise device, and the mission stage activated in the active rehabilitation stage determination unit varies depending on the position of the patient.
The above mission clear reaction providing step includes a step of changing the characteristics of an item constituting the above mission stage or providing micro-stimulation to a rehabilitation body part of the patient.
The above active rehabilitation stage determination step is:
An image processing step of collecting and processing a video of the patient's rehabilitation exercises;
A rehabilitation movement range calculation step for calculating the rehabilitation movement range of the patient by extracting at least one spatial coordinate of each joint from the rehabilitation movement image of the patient at regular time intervals;
An excess counting step for counting the number of times the patient's rehabilitation range of motion exceeds the patient's limited rehabilitation range of motion diagnosed in advance by a doctor; and
An augmented reality game method for rehabilitation of a patient with a spinal disorder, comprising the step of disabling a mission stage that includes a number of movements exceeding a threshold.
상기 재활 구성 결정 단계는 상기 환자에 부착된 웨어러블 센서를 이용하여 상기 환자의 자세를 탐지하고 상기 환자의 자세가 상기 환자의 척추 질환을 악화시키는 자세인지 여부를 판단하는 단계를 포함하고,
상기 활성 재활 스테이지 결정 단계는 활성화되는 상기 미션 스테이지에 상기 환자의 자세를 교정하는 데 필요한 교정 동작이 포함된 교정 스테이지를 포함시키는 것을 특징으로 하는, 척추 질환 환자 재활을 위한 증강현실 게임 방법.In claim 8,
The above rehabilitation composition determination step includes a step of detecting the patient's posture using a wearable sensor attached to the patient and determining whether the patient's posture is a posture that worsens the patient's spinal disease.
An augmented reality game method for rehabilitation of a patient with a spinal disease, characterized in that the above active rehabilitation stage determination step includes a correction stage including a correction movement necessary to correct the patient's posture in the activated mission stage.
상기 활성 재활 스테이지 결정 단계는 상기 환자가 상기 척추 질환을 악화시키는 자세를 유지하는 동안 상기 교정 스테이지를 반복적으로 수행하도록 반복 횟수 및 반복 주기를 조절하는 단계를 포함하는, 척추 질환 환자 재활을 위한 증강현실 게임 방법.In claim 9,
An augmented reality game method for rehabilitation of a patient with a spinal disease, wherein the step of determining the active rehabilitation stage includes a step of adjusting the number of repetitions and the repetition cycle so that the patient repeatedly performs the correction stage while maintaining a posture that worsens the spinal disease.
상기 활성 재활 스테이지 결정 단계는 상기 환자의 위치에 따라 결정된 상기 재활 가능한 신체 부위 및 상기 보조 운동 기구의 유형에 기초하여 상기 미션 스테이지의 난이도, 상기 미션 스테이지를 구성하는 상기 아이템의 개수, 상기 아이템의 크기를 조정하는 단계를 포함하는, 척추 질환 환자 재활을 위한 증강현실 게임 방법. In claim 8,
An augmented reality game method for rehabilitation of a patient with spinal disease, wherein the step of determining the active rehabilitation stage includes a step of adjusting the difficulty of the mission stage, the number of items constituting the mission stage, and the size of the items based on the types of the rehabilitable body parts and the assistive exercise equipment determined according to the position of the patient.
상기 재활 구성 결정 단계, 상기 활성 재활 스테이지 결정 단계 및 상기 미션 클리어 리액션 제공 단계는 환자의 이동 단말의 적어도 하나의 프로세서에 의해 수행되고,
상기 환자의 위치는 상기 환자의 이동 단말에 장착된 위치 센서에 의해 탐지되는 것을 특징으로 하는, 척추 질환 환자 재활을 위한 증강현실 게임 방법.
In claim 12,
The above rehabilitation configuration determination step, the active rehabilitation stage determination step and the mission clear reaction providing step are performed by at least one processor of the patient's mobile terminal,
An augmented reality game method for rehabilitation of patients with spinal diseases, characterized in that the location of the patient is detected by a location sensor mounted on the patient's mobile terminal.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020240039222A KR102816781B1 (en) | 2024-03-21 | 2024-03-21 | Augmented reality game system and method for rehabilitation of patients with spinal disease |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020240039222A KR102816781B1 (en) | 2024-03-21 | 2024-03-21 | Augmented reality game system and method for rehabilitation of patients with spinal disease |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR102816781B1 true KR102816781B1 (en) | 2025-06-05 |
Family
ID=96016587
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020240039222A Active KR102816781B1 (en) | 2024-03-21 | 2024-03-21 | Augmented reality game system and method for rehabilitation of patients with spinal disease |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102816781B1 (en) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102447195B1 (en) | 2019-12-31 | 2022-09-27 | 주식회사 에스알파테라퓨틱스 | Digital devices and applications for the treatment of mild cognitive impairment and dementia |
| KR102457571B1 (en) * | 2022-04-04 | 2022-10-24 | 하스테라 주식회사 | Augmented reality-based lumbar core twist exercise treatment system and lumbar core twist exercise treatment method |
| KR102538856B1 (en) * | 2022-10-27 | 2023-06-02 | (주)엘앤에이치랩스 | Apparatus and method for providing customized content for cardiac rehabilitation |
| KR20230103209A (en) * | 2021-12-31 | 2023-07-07 | 공주대학교 산학협력단 | System and method for posture correction, rehabilitation and exercise therapy using motion capture and haptic feedback |
| KR20240034094A (en) * | 2022-09-05 | 2024-03-13 | 히즈케어스 주식회사 | Rehabilitation recovery exercise recommendation system and method based on living environment sensing using digital image recoginition |
-
2024
- 2024-03-21 KR KR1020240039222A patent/KR102816781B1/en active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102447195B1 (en) | 2019-12-31 | 2022-09-27 | 주식회사 에스알파테라퓨틱스 | Digital devices and applications for the treatment of mild cognitive impairment and dementia |
| KR20230103209A (en) * | 2021-12-31 | 2023-07-07 | 공주대학교 산학협력단 | System and method for posture correction, rehabilitation and exercise therapy using motion capture and haptic feedback |
| KR102457571B1 (en) * | 2022-04-04 | 2022-10-24 | 하스테라 주식회사 | Augmented reality-based lumbar core twist exercise treatment system and lumbar core twist exercise treatment method |
| KR20240034094A (en) * | 2022-09-05 | 2024-03-13 | 히즈케어스 주식회사 | Rehabilitation recovery exercise recommendation system and method based on living environment sensing using digital image recoginition |
| KR102538856B1 (en) * | 2022-10-27 | 2023-06-02 | (주)엘앤에이치랩스 | Apparatus and method for providing customized content for cardiac rehabilitation |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10898755B2 (en) | Method for providing posture guide and apparatus thereof | |
| JP6045139B2 (en) | VIDEO GENERATION DEVICE, VIDEO GENERATION METHOD, AND PROGRAM | |
| EP2726164B1 (en) | Augmented-reality range-of-motion therapy system and method of operation thereof | |
| US11262844B2 (en) | Rehabilitation robot, rehabilitation system, rehabilitation method and rehabilitation device | |
| JP6742405B2 (en) | Head-mounted display with facial expression detection function | |
| KR102556863B1 (en) | User customized exercise method and system | |
| Colantonio et al. | Computer vision for ambient assisted living | |
| JP6884306B1 (en) | System, method, information processing device | |
| JP2018007792A (en) | Expression recognition diagnosis support device | |
| KR20210141197A (en) | Method, apparatur, computer program and computer readable recording medium for providing augmented reality interface for telemedicine | |
| WO2022034771A1 (en) | Program, method, and information processing device | |
| JP2023168557A (en) | Program, method, and information processing device | |
| JP7150387B1 (en) | Programs, methods and electronics | |
| Blanco-Diaz et al. | Decoding lower-limb kinematic parameters during pedaling tasks using deep learning approaches and EEG | |
| KR102457571B1 (en) | Augmented reality-based lumbar core twist exercise treatment system and lumbar core twist exercise treatment method | |
| JP6276456B1 (en) | Method and system for evaluating user posture | |
| KR102816781B1 (en) | Augmented reality game system and method for rehabilitation of patients with spinal disease | |
| KR102749035B1 (en) | Customized alarm method and system through rehabilitation perofrmance pattern analysis | |
| JP2022158701A (en) | program, method, information processing device | |
| JP6869417B1 (en) | Programs, methods, information processing equipment, systems | |
| KR102733778B1 (en) | Method and system for rehabilitation monitoring and feature motion extraction for patients with spinal disease using artificial intelligence image analysis technology | |
| KR102749037B1 (en) | Method and system for sharing side effect from exercise treatment | |
| KR20230173823A (en) | Method and system for sensing motion signals and biological signals of elderly and weak people | |
| KR102737119B1 (en) | Human body motion tracking method and system through augmented reality reference point creation and image analysis | |
| CN117095789A (en) | Systems and methods for providing rehabilitation guidance in virtual environments |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20240321 |
|
| PA0201 | Request for examination |
Patent event code: PA02011R01I Patent event date: 20240321 Comment text: Patent Application |
|
| PA0302 | Request for accelerated examination |
Patent event date: 20240321 Patent event code: PA03022R01D Comment text: Request for Accelerated Examination Patent event date: 20240321 Patent event code: PA03021R01I Comment text: Patent Application |
|
| PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20240529 Patent event code: PE09021S01D |
|
| PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20241126 Patent event code: PE09021S01D |
|
| E701 | Decision to grant or registration of patent right | ||
| PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20250528 |
|
| GRNT | Written decision to grant | ||
| PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20250530 Patent event code: PR07011E01D |
|
| PR1002 | Payment of registration fee |
Payment date: 20250530 End annual number: 3 Start annual number: 1 |
|
| PG1601 | Publication of registration |