[go: up one dir, main page]

JP6937473B2 - Image processing device, vital information acquisition system equipped with this, and image processing method - Google Patents

Image processing device, vital information acquisition system equipped with this, and image processing method Download PDF

Info

Publication number
JP6937473B2
JP6937473B2 JP2020001881A JP2020001881A JP6937473B2 JP 6937473 B2 JP6937473 B2 JP 6937473B2 JP 2020001881 A JP2020001881 A JP 2020001881A JP 2020001881 A JP2020001881 A JP 2020001881A JP 6937473 B2 JP6937473 B2 JP 6937473B2
Authority
JP
Japan
Prior art keywords
image
operation mode
data compression
noise reduction
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020001881A
Other languages
Japanese (ja)
Other versions
JP2020054014A (en
Inventor
匡夫 濱田
匡夫 濱田
忠則 手塚
忠則 手塚
中村 剛
中村  剛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2015213348A external-priority patent/JP6653459B2/en
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2020001881A priority Critical patent/JP6937473B2/en
Publication of JP2020054014A publication Critical patent/JP2020054014A/en
Priority to JP2021098876A priority patent/JP2021166389A/en
Application granted granted Critical
Publication of JP6937473B2 publication Critical patent/JP6937473B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Description

本発明は、人体と接触することなく人物画像から脈拍を推定するための技術に関し、特に、脈拍の推定に好適な画像を取得するための画像処理装置及びこれを備えた脈拍推定システムならびに画像処理方法に関する。 The present invention relates to a technique for estimating a pulse from a person image without contacting the human body, and in particular, an image processing device for acquiring an image suitable for estimating the pulse, a pulse estimation system including the image processing device, and image processing. Regarding the method.

従来、人の脈拍の測定に関し、被検者の手首に測定者(看護師等)が指を当てて人的に脈動を確認する方法や、被検者の手首や指などに専用の測定機器を取り付けることにより、自動で脈動を検出する方法などが知られている。一方、そのような測定方法は、被検者の自由な行動が一時的に制限されたり、被検者に測定機器を取り付ける必要が生じたりするため、被検者(人体)と接触せずに脈拍を推定(検出)するための技術が開発されている。 Conventionally, regarding the measurement of a person's pulse, a method in which a measurer (nurse, etc.) puts a finger on the subject's wrist to check the pulsation personally, or a measuring device dedicated to the subject's wrist or finger, etc. There is known a method of automatically detecting pulsation by attaching the. On the other hand, such a measurement method does not come into contact with the subject (human body) because the free movement of the subject is temporarily restricted or the subject needs to be equipped with a measuring device. Techniques for estimating (detecting) the pulse have been developed.

例えば、人体に接触せずに心拍数(通常は脈拍数と同等)を検出する技術に関し、被検者を撮影して得られた画像データから時系列信号のスペクトル分布を抽出し、そのスペクトル分布から,心拍信号に起因するピーク周波数を特定することにより、心拍数を自動的に検出する心拍数検出装置が知られている(特許文献1参照)。 For example, regarding a technique for detecting a heart rate (usually equivalent to a pulse rate) without contacting the human body, a spectral distribution of a time-series signal is extracted from image data obtained by photographing a subject, and the spectral distribution is obtained. Therefore, a heart rate detection device that automatically detects a heart rate by specifying a peak frequency caused by a heart rate signal is known (see Patent Document 1).

特開2012−239661号公報Japanese Unexamined Patent Publication No. 2012-239661

ところで、カメラによって撮影された画像(動画)については、データ量が大きくなる傾向にあるため、画像データの保存や送受信を容易とするためのデータ圧縮技術(例えば、MPEG(Moving Picture Experts Group)規格に準拠したデータ符号化方式)が普及している。 By the way, since the amount of data tends to be large for images (moving images) taken by a camera, data compression technology (for example, MPEG (Moving Picture Experts Group) standard) for facilitating storage and transmission / reception of image data (for example, MPEG (Moving Picture Experts Group) standard). Data coding method based on the above) is widespread.

しかしながら、本願発明者らは、上記特許文献1のようにカメラで撮影した顔画像などから脈拍を推定する場合には、その画像データから抽出される脈拍信号の変動量(すなわち、画素値の変動量)が微少であるため、上記のようなデータ圧縮を適用した画像については、脈拍を推定することが困難な場合や、推定の精度が著しく低下する場合があることを見出した。より詳細には、例えば、フレーム間予測を用いてデータ圧縮処理が施された画像に関して周波数解析により脈拍を推定する場合には、GOP(Group of picture)におけるIピクチャ(Intra Picture)がPピクチャ(Predictive Picture)に、またはPピクチャがIピクチャに切り替わる際に、上述のようなスペクトル分布における脈拍の周波数成分に近い周波数成分(ノイズ)が生じ得るという問題がある。 However, when the inventors of the present application estimate the pulse from a face image or the like taken by a camera as in Patent Document 1, the fluctuation amount of the pulse signal extracted from the image data (that is, the fluctuation of the pixel value). Since the amount) is very small, it has been found that it may be difficult to estimate the pulse or the accuracy of the estimation may be significantly lowered for the image to which the above data compression is applied. More specifically, for example, when the pulse is estimated by frequency analysis for an image that has been subjected to data compression processing using inter-frame prediction, the I picture (Intra Picture) in the GOP (Group of picture) is a P picture (P picture). Predictive Picture), or when the P picture is switched to the I picture, there is a problem that a frequency component (noise) close to the frequency component of the pulse in the spectrum distribution as described above may occur.

本発明は、このような従来技術の課題を鑑みて案出されたものであり、画像のデータ圧縮処理を適切に実行することにより、画像のデータ量の増大を抑制しつつ脈拍の推定に好適な画像を取得することを可能とする画像処理装置及びこれを備えた脈拍推定システムならびに画像処理方法を提供することを主目的とする。 The present invention has been devised in view of such problems of the prior art, and is suitable for estimating the pulse while suppressing an increase in the amount of image data by appropriately executing the image data compression process. An object of the present invention is to provide an image processing device capable of acquiring various images, a pulse estimation system equipped with the image processing device, and an image processing method.

本発明の画像処理装置は、脈拍を推定するための画像を取得する画像処理装置であって、入力された撮像画像に対してフレーム間予測に基づくデータ圧縮処理を実行するデータ圧縮処理部と、ユーザからの指示に基づき、通常撮影用の第1動作モードおよび脈拍推定用の第2動作モードのいずれかを選択可能な動作モード選択部とを備え、前記データ圧縮処理部は、前記第2動作モードが選択された場合、前記データ圧縮処理により生成される圧縮画像を構成するIピクチャの間隔を、前記第1動作モードが選択された場合とは異なる間隔に設定することを特徴とする。 The image processing device of the present invention is an image processing device that acquires an image for estimating a pulse, and includes a data compression processing unit that executes data compression processing based on inter-frame prediction on the input captured image. Based on an instruction from the user, the data compression processing unit includes an operation mode selection unit capable of selecting either a first operation mode for normal shooting or a second operation mode for pulse estimation, and the data compression processing unit performs the second operation. When the mode is selected, the interval of the I pictures constituting the compressed image generated by the data compression process is set to a different interval from the case where the first operation mode is selected.

本発明によれば、画像のデータ圧縮処理を適切に実行することにより、画像のデータ量の増大を抑制しつつ脈拍の推定に好適な画像を取得することが可能となる。 According to the present invention, by appropriately executing the image data compression process, it is possible to acquire an image suitable for estimating the pulse while suppressing an increase in the amount of image data.

本発明に係る脈拍推定システムの全体構成図Overall configuration diagram of the pulse estimation system according to the present invention 脈拍推定システムの機能ブロック図Functional block diagram of pulse estimation system カメラのノイズ低減処理部による処理の概略を示す説明図Explanatory drawing which shows the outline of processing by a noise reduction processing part of a camera 脈拍推定装置の脈拍算出部による脈波抽出処理の説明図Explanatory diagram of pulse wave extraction processing by pulse calculation part of pulse estimation device 通常撮影モードのカメラのデータ圧縮処理部において発生し得るノイズの一例を示す説明図Explanatory drawing which shows an example of the noise which may occur in the data compression processing part of the camera of a normal shooting mode カメラのノイズ低減処理部におけるノイズリダクションに関する設定方法を示すフロー図A flow chart showing a setting method for noise reduction in the noise reduction processing section of a camera. カメラのデータ圧縮処理部におけるデータ圧縮処理に関する設定方法を示すフロー図A flow chart showing a setting method for data compression processing in the data compression processing unit of the camera. 図7中のステップST203の処理およびその処理結果を示す説明図Explanatory drawing which shows the process of step ST203 in FIG. 7 and the process result 図8に示した処理および処理結果の変形例を示す説明図Explanatory drawing which shows transformation example of processing and processing result shown in FIG.

上記課題を解決するためになされた第1の発明は、脈拍を推定するための画像を取得する画像処理装置であって、入力された撮像画像に対してフレーム間予測に基づくデータ圧縮処理を実行するデータ圧縮処理部と、ユーザからの指示に基づき、通常撮影用の第1動作モードおよび脈拍推定用の第2動作モードのいずれかを選択可能な動作モード選択部とを備え、前記データ圧縮処理部は、前記第2動作モードが選択された場合、前記データ圧縮処理により生成される圧縮画像を構成するIピクチャの間隔を、前記第1動作モードが選択された場合とは異なる間隔に設定することを特徴とする。 The first invention made to solve the above problems is an image processing device that acquires an image for estimating a pulse, and executes data compression processing based on inter-frame prediction on an input captured image. The data compression processing unit is provided with an operation mode selection unit capable of selecting either a first operation mode for normal shooting or a second operation mode for pulse estimation based on an instruction from the user. When the second operation mode is selected, the unit sets the interval of the I pictures constituting the compressed image generated by the data compression process to a different interval from the interval when the first operation mode is selected. It is characterized by that.

この第1の発明に係る画像処理装置によれば、通常撮影用の第1動作モードにおいて、Iピクチャの間隔(すなわち、Iピクチャから他のピクチャへの切り替わり)に起因して脈拍の周波数成分に近い周波数を有するノイズが発生する場合でも、脈拍推定用の第2動作モードにおいて、画像のデータ圧縮処理を適切に実行する(すなわち、Iピクチャの間隔を、第1動作モードが選択された場合とは異なる間隔に設定する)ことにより、画像のデータ量の増大を抑制しつつ脈拍の推定に好適な画像を取得することが可能となる。 According to the image processing apparatus according to the first invention, in the first operation mode for normal shooting, the frequency component of the pulse is caused by the interval between the I pictures (that is, the switching from the I picture to another picture). Even when noise having a similar frequency is generated, the image data compression process is appropriately executed in the second operation mode for pulse estimation (that is, the I-picture interval is set to the case where the first operation mode is selected. By setting different intervals), it is possible to acquire an image suitable for estimating the pulse while suppressing an increase in the amount of image data.

また、第2の発明では、上記第1の発明において、前記データ圧縮処理部は、前記第2動作モードが選択された場合、前記Iピクチャの間隔を、前記第1動作モードが選択された場合よりも大きな間隔に設定することを特徴とする。 Further, in the second invention, in the first invention, when the second operation mode is selected, the data compression processing unit sets the interval between the I pictures and the first operation mode is selected. It is characterized by setting the interval larger than.

この第2の発明に係る画像処理装置によれば、脈拍推定用の第2動作モードにおいて、Iピクチャの間隔を、第1動作モードが選択された場合よりも大きな間隔に設定することにより、Iピクチャの間隔に起因して発生するノイズを脈拍の周波数成分よりもより低周波数側に変位させることができ、その結果、脈拍の推定に好適な画像を取得することが可能となる。 According to the image processing apparatus according to the second invention, in the second operation mode for pulse estimation, the interval between the I pictures is set to a larger interval than when the first operation mode is selected. The noise generated due to the interval between the pictures can be displaced to a lower frequency side than the frequency component of the pulse, and as a result, an image suitable for estimating the pulse can be obtained.

また、第3の発明では、上記第1の発明において、前記データ圧縮処理部は、前記第1動作モードが選択された場合、前記圧縮画像を少なくともIピクチャ及びPピクチャによって構成する一方、前記第2動作モードが選択された場合、前記圧縮画像をIピクチャのみによって構成することを特徴とする。 Further, in the third invention, in the first invention, when the first operation mode is selected, the data compression processing unit comprises at least an I picture and a P picture, while the first operation mode is selected. When the two operation modes are selected, the compressed image is composed of only I-pictures.

この第3の発明に係る画像処理装置によれば、脈拍推定用の第2動作モードにおいて、圧縮画像をIピクチャのみによって構成することにより、Iピクチャの間隔(Pピクチャ等への切り替わり)に起因するノイズの発生を確実に防止することができ、その結果、脈拍の推定に好適な画像を取得することが可能となる。 According to the image processing apparatus according to the third invention, in the second operation mode for pulse estimation, the compressed image is composed only of the I-pictures, which is caused by the interval between the I-pictures (switching to the P-picture or the like). It is possible to surely prevent the generation of noise, and as a result, it is possible to acquire an image suitable for estimating the pulse rate.

また、第4の発明では、上記第1から第3の発明いずれかにおいて、前記撮像画像のノイズ低減処理を実行するノイズ低減処理部を更に備え、前記ノイズ低減処理部は、前記第2動作モードが選択された場合、前記第1動作モードが選択された場合よりも前記ノイズ低減処理を軽減することを特徴とする。 Further, in the fourth invention, in any one of the first to third inventions, the noise reduction processing unit for executing the noise reduction processing of the captured image is further provided, and the noise reduction processing unit is the second operation mode. When is selected, the noise reduction processing is reduced as compared with the case where the first operation mode is selected.

この第4の発明に係る画像処理装置によれば、脈拍推定用の第2動作モードにおいて、ノイズ低減処理を軽減することにより、撮像画像に含まれる脈拍推定に有用な情報について、撮像画像からノイズと共に除去されてしまう情報量を抑制することができ、その結果、脈拍の推定に好適な画像を取得することが可能となる。 According to the image processing apparatus according to the fourth invention, in the second operation mode for pulse estimation, the noise reduction processing is reduced to obtain noise from the captured image regarding information useful for pulse estimation included in the captured image. It is possible to suppress the amount of information that is removed together with the above, and as a result, it is possible to acquire an image suitable for estimating the pulse rate.

また、第5の発明では、上記第1から第3の発明いずれかにおいて、前記撮像画像のノイズ低減処理を実行するノイズ低減処理部を更に備え、前記ノイズ低減処理部は、前記第1動作モードが選択された場合、前記ノイズ低減処理を実行する一方、前記第2動作モードが選択された場合、前記ノイズ低減処理を実行しないことを特徴とする。 Further, in the fifth invention, in any one of the first to third inventions, the noise reduction processing unit for executing the noise reduction processing of the captured image is further provided, and the noise reduction processing unit is the first operation mode. When is selected, the noise reduction process is executed, while when the second operation mode is selected, the noise reduction process is not executed.

この第5の発明に係る画像処理装置によれば、脈拍推定用の第2動作モードにおいて、ノイズ低減処理を実行しないことにより、撮像画像に含まれる脈拍推定に有用な情報が、撮像画像からノイズと共に除去されてしまうことを防止することができ、その結果、脈拍の推定に好適な画像を取得することが可能となる。 According to the image processing apparatus according to the fifth invention, in the second operation mode for pulse estimation, by not executing the noise reduction processing, information useful for pulse estimation included in the captured image is noise from the captured image. It is possible to prevent the image from being removed together with the image, and as a result, it is possible to acquire an image suitable for estimating the pulse rate.

また、第6の発明では、上記第4または第5の発明において、前記ノイズ低減処理部は、前記撮像画像から顔領域が抽出された場合、前記顔領域のみにおいて前記ノイズ低減処理を軽減するか、または前記顔領域のみにおいて前記ノイズ低減処理を実行しないことを特徴とする。 Further, in the sixth invention, in the fourth or fifth invention, when the face region is extracted from the captured image, does the noise reduction processing unit reduce the noise reduction processing only in the face region? , Or the noise reduction process is not executed only in the face region.

この第6の発明に係る画像処理装置によれば、脈拍推定用の第2動作モードでは、顔領域のみにおいてノイズ低減処理を軽減するか、または顔領域のみにおいてノイズ低減処理を実行しないことにより、顔領域以外のノイズを適切に低減しつつ、撮像画像に含まれる脈拍推定のための情報が、撮像画像からノイズと共に除去されてしまうことを抑制または防止することができる。 According to the image processing apparatus according to the sixth invention, in the second operation mode for pulse estimation, the noise reduction processing is reduced only in the face region, or the noise reduction processing is not executed only in the face region. While appropriately reducing noise other than the face region, it is possible to suppress or prevent the information for pulse estimation included in the captured image from being removed from the captured image together with the noise.

また、第7の発明は、上記第1から第6の発明のいずれかに係る前記画像処理装置と、前記画像処理装置において前記データ圧縮処理が実行された圧縮画像に基づき脈拍を推定する脈拍推定装置とを備えたことを特徴とする脈拍推定システムである。 Further, the seventh invention is a pulse estimation that estimates a pulse based on the image processing apparatus according to any one of the first to sixth inventions and a compressed image in which the data compression processing is executed in the image processing apparatus. It is a pulse estimation system characterized by being equipped with a device.

この第7の発明に係る脈拍推定システムによれば、画像処理装置における通常撮影用の第1動作モードにおいて、Iピクチャの間隔に起因して脈拍の周波数成分に近い周波数を有するノイズが発生する場合でも、脈拍推定用の第2動作モードにおいて、画像のデータ圧縮処理を適切に実行することにより、画像のデータ量の増大を抑制しつつ脈拍推定装置における脈拍の推定に好適な画像を取得することが可能となる。 According to the pulse estimation system according to the seventh invention, in the first operation mode for normal photographing in the image processing apparatus, when noise having a frequency close to the frequency component of the pulse is generated due to the interval of the I-pictures. However, in the second operation mode for pulse estimation, by appropriately executing the image data compression process, it is possible to acquire an image suitable for pulse estimation in the pulse estimation device while suppressing an increase in the amount of image data. Is possible.

また、第8の発明は、脈拍を推定するための画像を取得する画像処理方法であって、入力された撮像画像に対してフレーム間予測に基づくデータ圧縮処理を実行するデータ圧縮処理ステップと、ユーザからの指示に基づき、通常撮影用の第1動作モードおよび脈拍推定用の第2動作モードのいずれかを選択可能な動作モード選択ステップとを含み、前記データ圧縮処理ステップでは、前記第2動作モードが選択された場合、前記データ圧縮処理により生成される圧縮画像を構成するIピクチャの間隔が、前記第1動作モードが選択された場合とは異なる間隔に設定されることを特徴とする。 The eighth invention is an image processing method for acquiring an image for estimating a pulse, which comprises a data compression processing step of executing data compression processing based on inter-frame prediction on an input captured image. In the data compression processing step, the second operation includes an operation mode selection step in which one of a first operation mode for normal shooting and a second operation mode for pulse estimation can be selected based on an instruction from the user. When the mode is selected, the interval of the I pictures constituting the compressed image generated by the data compression process is set to a different interval from the case where the first operation mode is selected.

この第8の発明に係る画像処理方法によれば、通常撮影用の第1動作モードにおいて、Iピクチャの間隔に起因して脈拍の周波数成分に近い周波数を有するノイズが発生する場合でも、脈拍推定用の第2動作モードにおいて、画像のデータ圧縮処理を適切に実行することにより、画像のデータ量の増大を抑制しつつ脈拍の推定に好適な画像を取得することが可能となる。 According to the image processing method according to the eighth invention, even when noise having a frequency close to the frequency component of the pulse is generated due to the interval of the I-picture in the first operation mode for normal shooting, the pulse is estimated. By appropriately executing the image data compression process in the second operation mode for the above, it is possible to acquire an image suitable for estimating the pulse while suppressing an increase in the amount of image data.

以下、本発明の実施の形態について図面を参照しながら説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1および図2は、それぞれ本発明に係る脈拍推定システム1の全体構成図および機能ブロック図であり、図3は、カメラ2のノイズ低減処理部15による処理の概略を示す説明図であり、図4は、脈拍推定装置3の脈拍算出部23による脈波抽出処理の説明図であり、図5は、通常撮影モードのカメラ2のデータ圧縮処理部16において発生し得るノイズの一例を示す説明図である。 1 and 2 are an overall configuration diagram and a functional block diagram of the pulse estimation system 1 according to the present invention, respectively, and FIG. 3 is an explanatory diagram showing an outline of processing by the noise reduction processing unit 15 of the camera 2. FIG. 4 is an explanatory diagram of pulse wave extraction processing by the pulse calculation unit 23 of the pulse estimation device 3, and FIG. 5 is an explanation showing an example of noise that can be generated in the data compression processing unit 16 of the camera 2 in the normal shooting mode. It is a figure.

脈拍推定システム1は、人体と接触せずに得られる情報(撮像画像)からその脈拍(通常は心拍と同じ)を推定するものであり、図1に示すように、被検体である人物Hの少なくとも一部を被写体として撮影するカメラ(画像処理装置)2と、カメラ2の撮影により得られる撮像画像(動画)から人物Hの脈拍(脈拍数や脈波)を推定する脈拍推定装置3とを備えている。また、脈拍推定システム1において、カメラ2および脈拍推定装置3は、インターネットやLAN(Local Area Network)等のネットワーク4を介して互いに通信可能に接続されている。ただし、これに限らず、カメラ2および脈拍推定装置3が、公知の通信ケーブルによって通信可能に直接接続される構成であってもよい。 The pulse estimation system 1 estimates the pulse (usually the same as the heartbeat) from the information (image taken) obtained without contacting the human body, and as shown in FIG. 1, the person H who is the subject A camera (image processing device) 2 that captures at least a part of the subject, and a pulse estimation device 3 that estimates the pulse (pulse rate and pulse wave) of the person H from the captured image (moving image) obtained by the image taken by the camera 2. I have. Further, in the pulse estimation system 1, the camera 2 and the pulse estimation device 3 are connected to each other so as to be able to communicate with each other via a network 4 such as the Internet or a LAN (Local Area Network). However, the present invention is not limited to this, and the camera 2 and the pulse estimation device 3 may be directly connected so as to be communicable by a known communication cable.

カメラ2は、公知の撮影機能を有するビデオカメラであり、図2に示すように、被写体からの光を図示しないレンズ機構を通してイメージセンサ(CCD、CMOS等)に結像させる撮像部11と、この撮像部11から入力された撮像画像(デジタル映像信号)に所定の画像処理を施す画像処理部12とを備えている。画像処理部12は、撮像画像の画質を低下させるノイズを低減または抑制するためのノイズリダクション(ノイズ低減処理)を実行するノイズ低減処理部15と、撮像画像のデータを圧縮するための処理(データ圧縮処理)を実行するデータ圧縮処理部16と、それらノイズ低減処理部15及びデータ圧縮処理部16の処理を含む各種画像処理に関する各部の動作を統括制御する画像処理制御部(動作モード選択部)17と、画像処理(ここでは、ノイズリダクションおよびデータ圧縮)された撮像画像のデータを記憶する画像記憶部18とを備えている。 The camera 2 is a video camera having a known photographing function, and as shown in FIG. 2, an imaging unit 11 for forming an image of light from a subject on an image sensor (CCD, CMOS, etc.) through a lens mechanism (not shown), and the imaging unit 11 thereof. It includes an image processing unit 12 that performs predetermined image processing on the captured image (digital video signal) input from the image capturing unit 11. The image processing unit 12 includes a noise reduction processing unit 15 that executes noise reduction (noise reduction processing) for reducing or suppressing noise that deteriorates the image quality of the captured image, and a process (data) for compressing the data of the captured image. Data compression processing unit 16 that executes compression processing), and an image processing control unit (operation mode selection unit) that comprehensively controls the operation of each unit related to various image processing including the processing of the noise reduction processing unit 15 and the data compression processing unit 16. It includes 17 and an image storage unit 18 that stores data of captured images that have undergone image processing (here, noise reduction and data compression).

後に詳述するように、カメラ2は、その動作モードとして、通常撮影用(例えば、人物撮影用や、風景撮影用など)の画像処理を実行する通常撮影モード(第1動作モード)と、脈拍推定用の画像処理を実行するバイタル情報取得モード(第2動作モード)とを備えている。画像処理制御部17は、ユーザからの指示(例えば、ボタン操作や、タッチパネル入力等)に基づき、それら通常撮影モードおよびバイタル情報取得モードのいずれかを選択することが可能である。なお、画像処理部12は、ここに示すものに限らず、他の公知の信号処理(例えば、色調補正、輪郭強調等)を適宜実行することが可能である。また、画像処理部12は、上述の通常撮影モード及びバイタル情報取得モードに加え、他の動作モードを更に備えた構成も可能である。 As will be described in detail later, the camera 2 has two operation modes, a normal shooting mode (first operation mode) for executing image processing for normal shooting (for example, for portrait shooting, landscape shooting, etc.) and a pulse. It has a vital information acquisition mode (second operation mode) for executing image processing for estimation. The image processing control unit 17 can select either the normal shooting mode or the vital information acquisition mode based on an instruction from the user (for example, button operation, touch panel input, etc.). The image processing unit 12 is not limited to the one shown here, and can appropriately perform other known signal processing (for example, color tone correction, contour enhancement, etc.). Further, the image processing unit 12 can be configured to further include other operation modes in addition to the above-mentioned normal shooting mode and vital information acquisition mode.

ノイズ低減処理部15は、ノイズリダクションとして、時間的に隣接する複数フレームの間の相関に基づいて撮像画像のノイズを低減する3次元ノイズリダクション(3DNR)を実行可能である。より詳細には、ノイズ低減処理部15では、図3に示すように、加算器19において、現フレームの画像(画素値)に対して所定の比率で前フレームの画像が加算される(現フレーム及び前フレームが所定のフィルタ係数(M:N)に基づき合成される)ことで、S/N比を向上させた3DNR処理済みの現フレームが生成される。例えば、画像処理制御部17は、フィルタ係数に関し、通常撮影モードでは、M:N=0.5:0.5に設定し、バイタル情報取得モードでは、M:N=0.9:0.1に設定することができる。ノイズリダクションが施された撮像画像は、データ圧縮処理部16に入力される。 As noise reduction, the noise reduction processing unit 15 can perform three-dimensional noise reduction (3DNR) that reduces noise in a captured image based on the correlation between a plurality of frames that are adjacent in time. More specifically, in the noise reduction processing unit 15, as shown in FIG. 3, in the adder 19, the image of the previous frame is added at a predetermined ratio to the image (pixel value) of the current frame (current frame). And the previous frame is synthesized based on a predetermined filter coefficient (M: N)), so that the current frame processed by 3DNR with an improved S / N ratio is generated. For example, the image processing control unit 17 sets the filter coefficient to M: N = 0.5: 0.5 in the normal shooting mode, and M: N = 0.9: 0.1 in the vital information acquisition mode. Can be set to. The captured image subjected to noise reduction is input to the data compression processing unit 16.

なお、上記フィルタ係数の設定(または変更)については、画像全体に対して1つのフィルタ係数を設定する方法に限らず、画像内に設けられた分割領域毎に設定する方法を採用してもよい。例えば、バイタル情報取得モードにおいて、画像から肌色領域(または顔領域)を抽出し、その肌色領域以外の領域に関するフィルタ係数を通常撮影モードと同一に設定すると共に、肌色領域に関するフィルタ係数を通常撮影モードとは異なる値に設定することが可能である。 The setting (or change) of the filter coefficient is not limited to the method of setting one filter coefficient for the entire image, and a method of setting each divided area provided in the image may be adopted. .. For example, in the vital information acquisition mode, the skin color area (or face area) is extracted from the image, the filter coefficient for the area other than the skin color area is set to be the same as the normal shooting mode, and the filter coefficient for the skin color area is set to the normal shooting mode. It is possible to set a value different from.

このように、バイタル情報取得モードでは、ノイズリダクションを敢えて軽減する(ノイズ除去効果を小さくする)ことにより、撮像画像に含まれる脈拍推定に有用な情報について、撮像画像からノイズと共に除去されてしまう情報量を抑制する。 In this way, in the vital information acquisition mode, by intentionally reducing noise reduction (reducing the noise removal effect), information contained in the captured image that is useful for pulse estimation is removed from the captured image together with noise. Suppress the amount.

また、別法として、バイタル情報取得モードにおいて、ノイズリダクションを実行しない(通常撮影モードでのみノイズリダクションを実行する)構成も可能である。これによると、通常撮影モードでは、撮像画像のノイズを適切に低減しつつ、バイタル情報取得モードでは、撮像画像に含まれる脈拍推定に有用な情報が、撮像画像からノイズと共に除去されてしまうことを防止できる。 Alternatively, in the vital information acquisition mode, it is possible to configure the noise reduction not to be executed (the noise reduction is executed only in the normal shooting mode). According to this, in the normal shooting mode, the noise of the captured image is appropriately reduced, and in the vital information acquisition mode, the information useful for pulse estimation contained in the captured image is removed from the captured image together with the noise. Can be prevented.

また、ノイズ低減処理部15が、後述する領域抽出部22と同様に撮像画像における顔領域の抽出機能を備えることにより、撮像画像から顔領域が抽出された場合に、その顔領域のみにおいて上述のようにノイズ低減処理を軽減し、或いはその顔領域のみにおいてノイズ低減処理を実行しない構成としてもよい。これにより、顔領域以外のノイズを適切に低減しつつ、上述と同様の効果が得られる。 Further, when the noise reduction processing unit 15 has a function of extracting a face region in the captured image as in the region extraction unit 22 described later, when the face region is extracted from the captured image, the above-mentioned is described only in the face region. As described above, the noise reduction processing may be reduced, or the noise reduction processing may not be executed only in the face region. As a result, the same effect as described above can be obtained while appropriately reducing noise other than the face region.

データ圧縮処理部16は、MPEG規格に準拠したデータ符号化方式に基づき、撮像画像のデータ圧縮処理を実行することが可能である。データ圧縮処理された撮像画像(圧縮画像)は、画像記憶部18に記憶されると共に、必要に応じて(バイタル情報取得モードが実行された場合に)脈拍推定装置3に送信される。 The data compression processing unit 16 can execute the data compression processing of the captured image based on the data coding method conforming to the MPEG standard. The captured image (compressed image) that has undergone data compression processing is stored in the image storage unit 18 and, if necessary, transmitted to the pulse estimation device 3 (when the vital information acquisition mode is executed).

図示は省略するが、上述のようなカメラ2は、例えば、所定の撮影制御プログラムに基づき各種画像処理や周辺機器の制御などを統括的に実行するプロセッサ、プロセッサのワークエリア等として機能する揮発性メモリとしてのRAM(Random Access Memory)、プロセッサが実行する制御プログラムやデータを格納する不揮発性メモリとしてのROM(Read Only Memory)、及び補助記憶装置等を備えている。上述のような画像処理部12の上記各部の機能は、それらのハードウェアや、プロセッサにより実行される撮影制御プログラムによって実現される。 Although not shown, the camera 2 as described above is volatile, for example, as a processor that comprehensively executes various image processing and control of peripheral devices based on a predetermined shooting control program, a work area of the processor, and the like. It is equipped with a RAM (Random Access Memory) as a memory, a ROM (Read Only Memory) as a non-volatile memory for storing control programs and data executed by a processor, an auxiliary storage device, and the like. The functions of the above-mentioned parts of the image processing unit 12 as described above are realized by the hardware thereof and the shooting control program executed by the processor.

なお、脈拍推定システム1では、ノイズリダクション及びデータ圧縮処理の少なくとも一方を実施可能であればよく、したがって、画像処理部12におけるノイズ低減処理部15及びデータ圧縮処理部16の少なくとも一方を省略した構成が可能である。また、カメラ2における画像処理部12の少なくとも一部の機能(ノイズリダクション、データ圧縮処理等)を脈拍推定システム1の他の装置(例えば、脈拍推定装置3)に実行させてもよい。 The pulse estimation system 1 may be capable of performing at least one of noise reduction and data compression processing. Therefore, at least one of the noise reduction processing unit 15 and the data compression processing unit 16 in the image processing unit 12 is omitted. Is possible. Further, at least a part of the functions (noise reduction, data compression processing, etc.) of the image processing unit 12 in the camera 2 may be executed by another device (for example, the pulse estimation device 3) of the pulse estimation system 1.

脈拍推定装置3は、人物Hの少なくとも一部を含む時間的に連続する撮像画像として、カメラ2からの撮像画像(映像信号)が入力される画像入力部21と、その撮像画像から人物Hの肌色領域(ここでは、顔領域)を抽出する領域抽出部22と、その抽出された人物Hの肌色領域に基づき、人物Hの脈拍を算出(推定)する脈拍算出部(脈拍推定部)23と、その脈拍の推定結果を含む各種情報をユーザに対して表示可能な公知のディスプレイ装置からなる表示部24とを備えている。なお、領域抽出部22によって抽出される肌色領域は、人体において肌が露出した領域であって、その領域の撮像画像データから脈拍を推定可能な領域である。また、画像入力部21に入力される撮像画像は、カメラ2から送信されるものに限らず、撮影後に公知のメモリ等に記憶された撮像画像であってもよい。 The pulse estimation device 3 has an image input unit 21 in which an image (video signal) captured from the camera 2 is input as a time-continuous captured image including at least a part of the person H, and the captured image of the person H. An area extraction unit 22 that extracts a skin color region (here, a face region), and a pulse calculation unit (pulse estimation unit) 23 that calculates (estimates) the pulse of the person H based on the extracted skin color region of the person H. The display unit 24 is composed of a known display device capable of displaying various information including the estimation result of the pulse to the user. The skin color region extracted by the region extraction unit 22 is a region where the skin is exposed in the human body, and the pulse can be estimated from the captured image data of that region. Further, the captured image input to the image input unit 21 is not limited to the one transmitted from the camera 2, and may be a captured image stored in a known memory or the like after shooting.

領域抽出部22は、各撮像画像(フレーム画像)に対し、顔の特徴量を認識する公知の顔検出処理を実行することにより、その検出された顔の領域を人物Hの肌色領域として抽出・追尾する。また、領域抽出部22は、抽出した顔領域に関する撮像画像のデータを脈拍算出部23に送出する。 The region extraction unit 22 executes a known face detection process for recognizing the feature amount of the face on each captured image (frame image), and extracts the detected face region as the skin color region of the person H. Track. Further, the region extraction unit 22 sends the data of the captured image relating to the extracted face region to the pulse calculation unit 23.

領域抽出部22では、上述の方法に限らず、撮像画像から予め設定された肌色成分(例えば、RGBの各画素値に関する予め設定された比率であって、人種等によって異なる値となる)を有する画素を抽出し、その画素が抽出された領域を肌色領域としてもよい。この場合、顔以外の肌が露出した部分(例えば、手や腕など)についても、肌色領域として抽出可能である。ただし、上述のように、人物Hの顔領域を肌色領域として抽出することにより、肌色領域を容易に抽出することができるという利点がある。なお、図1では、1人の人物Hのみを示しているが、撮像画像に複数の人物が含まれる場合、領域抽出部22では、複数の顔領域が抽出され得る。 In the region extraction unit 22, not limited to the above method, a preset skin color component (for example, a preset ratio for each pixel value of RGB, which is a value different depending on race or the like) is extracted from the captured image. The pixels may be extracted, and the region from which the pixels are extracted may be used as a skin color region. In this case, a portion other than the face where the skin is exposed (for example, a hand or an arm) can also be extracted as a skin color region. However, as described above, by extracting the face region of the person H as the skin color region, there is an advantage that the skin color region can be easily extracted. Although only one person H is shown in FIG. 1, when a plurality of people are included in the captured image, the area extraction unit 22 can extract a plurality of face areas.

脈拍算出部23は、時間的に連続する撮像画像において抽出された肌色領域を構成する各画素に関し、例えばRGBの各成分の画素値(0−255階調)を算出し、その代表値(ここでは、各画素の平均値)の時系列データを脈拍信号として生成する。ここでは、代表値として各画素の平均値を用いており、その平均値は小数点精度の値となる。また、この場合、脈動による変動が特に大きい緑成分(G)のみの画素値に基づき時系列データを生成することができる。 The pulse calculation unit 23 calculates, for example, the pixel values (0-255 gradations) of each component of RGB for each pixel constituting the skin color region extracted in the time-continuous captured images, and represents the representative value (here). Then, the time-series data of (the average value of each pixel) is generated as a pulse signal. Here, the average value of each pixel is used as a representative value, and the average value is a value with decimal point accuracy. Further, in this case, time series data can be generated based on the pixel value of only the green component (G) whose fluctuation due to pulsation is particularly large.

生成された画素値(平均値)の時系列データは、例えば、図4(A)に示すように、血液中のヘモグロビン濃度の変化に基づく微少な変動(例えば、画素値の1階調未満の変動)を伴う。そこで、脈拍算出部23は、その画素値に基づく時系列データに対し、FFT(Fast Fourier Transform)による周波数解析処理を実行することにより、図4(B)に示すようなパワースペクトルを抽出することができる。脈拍算出部23では、このパワースペクトルにおいて、パワーの高い周波数成分(例えば、スペクトルの極大値)を検出し、その周波数成分に基づき脈拍(数)を推定することができる。 The time-series data of the generated pixel value (average value) is, for example, as shown in FIG. 4 (A), a slight fluctuation (for example, less than one gradation of the pixel value) based on the change in the hemoglobin concentration in the blood. Fluctuation). Therefore, the pulse calculation unit 23 extracts the power spectrum as shown in FIG. 4B by executing the frequency analysis process by FFT (Fast Fourier Transform) on the time series data based on the pixel value. Can be done. In this power spectrum, the pulse calculation unit 23 can detect a high-power frequency component (for example, the maximum value of the spectrum) and estimate the pulse (number) based on the frequency component.

上述のような脈拍推定装置3は、例えば、PC(Personal Computer)などの情報処理装置から構成することが可能である。図示は省略するが、脈拍推定装置3は、所定の制御プログラムに基づき各種情報処理や周辺機器の制御などを統括的に実行するプロセッサ、プロセッサのワークエリア等として機能する揮発性メモリとしてのRAM、プロセッサが実行する制御プログラムやデータを格納する不揮発性メモリとしてのROM、ネットワークを介した通信処理を実行するネットワークインタフェース、モニタ(画像出力装置)、スピーカ、入力デバイス、及びHDD(Hard Disk Drive)などを含むハードウェア構成を有しており、図2に示した脈拍推定装置3の各部の機能の少なくとも一部については、プロセッサが所定の制御プログラムを実行することによって実現可能である。なお、脈拍推定装置3の機能の少なくとも一部を他の公知のハードウェアによる処理によって代替してもよい。 The pulse estimation device 3 as described above can be composed of, for example, an information processing device such as a PC (Personal Computer). Although not shown, the pulse estimation device 3 includes a processor that comprehensively executes various information processing and control of peripheral devices based on a predetermined control program, a RAM as a volatile memory that functions as a work area of the processor, and the like. ROM as a non-volatile memory that stores control programs and data executed by the processor, network interface that executes communication processing via the network, monitor (image output device), speaker, input device, HDD (Hard Disk Drive), etc. It has a hardware configuration including the above, and at least a part of the functions of each part of the pulse estimation device 3 shown in FIG. 2 can be realized by the processor executing a predetermined control program. At least a part of the function of the pulse estimation device 3 may be replaced by processing by other known hardware.

ここで、図5を参照して、データ圧縮処理部16でのデータ圧縮処理において発生し得るノイズについて説明する。図5(A)は、比較用として撮像画像にデータ圧縮処理を実施しない場合の周波数解析結果を示している。また、図5(A)では、説明の便宜上、脈拍に基づくスペクトルのみを模式的に示している。一方、図5(B)は、フレームレート30fpsの撮像画像に関し、Iピクチャ35及びPピクチャ36から構成されるGOP(Group of Picture)の先頭に、Iピクチャ35が30フレーム間隔で周期的に挿入される場合の周波数解析結果を示している。また、図5(B)では、説明の便宜上、脈拍に基づくスペクトル及びデータ圧縮処理に基づくノイズのみを模式的に示している。 Here, with reference to FIG. 5, noise that may occur in the data compression processing in the data compression processing unit 16 will be described. FIG. 5A shows the frequency analysis result when the captured image is not subjected to the data compression processing for comparison. Further, in FIG. 5A, for convenience of explanation, only the spectrum based on the pulse is schematically shown. On the other hand, in FIG. 5B, with respect to the captured image having a frame rate of 30 fps, the I picture 35 is periodically inserted at the head of the GOP (Group of Picture) composed of the I picture 35 and the P picture 36 at intervals of 30 frames. The frequency analysis result when it is done is shown. Further, in FIG. 5B, for convenience of explanation, only the spectrum based on the pulse and the noise based on the data compression process are schematically shown.

図5(A)に示すように、データ圧縮処理を実施しない場合には、例えば脈拍を約60拍/分とすると、約1Hzの周波数の位置に脈拍に基づくスペクトルが出現し、このスペクトルに基づき脈拍の推定が可能となる。 As shown in FIG. 5A, when the data compression process is not performed, for example, when the pulse rate is about 60 beats / minute, a spectrum based on the pulse appears at a frequency of about 1 Hz, and based on this spectrum. The pulse can be estimated.

一方、図5(B)に示すように、フレームレート30fpsの撮像画像においてIピクチャ35が30フレーム間隔で挿入された場合には、そのIピクチャ35からそれに続くPピクチャ36への切り替わりにより、脈拍の周波数(約1Hz)に近い周波数域にノイズが発生する。これは、Iピクチャ35とPピクチャ36との切り替わりの際に失われる情報量の差が、周波数解析においてスペクトルとして出現したものと考えられる。これにより、脈拍に基づくスペクトルとノイズとの区別が困難になり、その結果、上述の図4(B)に示したようなスペクトルに基づく脈拍の推定が困難となる。 On the other hand, as shown in FIG. 5B, when the I picture 35 is inserted at intervals of 30 frames in the captured image having a frame rate of 30 fps, the pulse is caused by the switching from the I picture 35 to the subsequent P picture 36. Noise is generated in the frequency range close to the frequency of (about 1 Hz). It is considered that this is because the difference in the amount of information lost when switching between the I picture 35 and the P picture 36 appears as a spectrum in the frequency analysis. This makes it difficult to distinguish between the pulse-based spectrum and noise, and as a result, it becomes difficult to estimate the pulse based on the spectrum as shown in FIG. 4 (B) above.

そこで、脈拍推定システム1では、後に詳述するように、カメラ2の動作モードに応じて、画像処理制御部17が、複数のピクチャ(Iピクチャ、Pピクチャ、Bピクチャ)から構成されるGOPに挿入されるIピクチャの時間的な間隔を変更(GOPを制御)することにより、脈拍の推定に好適な撮像画像を取得することを可能としている。 Therefore, in the pulse estimation system 1, as will be described in detail later, the image processing control unit 17 is set to a GOP composed of a plurality of pictures (I picture, P picture, B picture) according to the operation mode of the camera 2. By changing the temporal interval of the inserted I-picture (controlling the GOP), it is possible to acquire an captured image suitable for estimating the pulse rate.

なお、本実施形態では、撮像画像のフレームレートを30fpsとするが、これに限らず、他のフレームレートにおいてもGOPにおけるIピクチャの挿入間隔によっては、脈拍に基づくスペクトルの近傍にIピクチャの挿入に起因するノイズが発生し得る。また、ここでは、IピクチャからPピクチャへの切り替わりによって発生するノイズに注目しているが、IピクチャからBピクチャへの切り替わりによって発生するノイズについても同様である。 In the present embodiment, the frame rate of the captured image is 30 fps, but the frame rate is not limited to this, and the I picture is inserted in the vicinity of the spectrum based on the pulse depending on the insertion interval of the I picture in the GOP at other frame rates as well. Noise due to can occur. Further, here, attention is paid to the noise generated by the switching from the I picture to the P picture, but the same applies to the noise generated by the switching from the I picture to the B picture.

図6は、カメラ2のノイズ低減処理部15におけるノイズリダクションに関する設定方法を示すフロー図である。カメラ2が起動すると、画像処理制御部17は、ノイズ低減処理部15のノイズリダクションに関する初期設定を実行する(ST101)。本実施形態では、カメラ2の起動時には通常撮影モードが選択(ON)されており、画像処理制御部17は、ノイズリダクションに関し、3DNRのフィルタ係数を初期値(ここでは、M:N=0.5:0.5)に設定する。これにより、ユーザは、カメラ2による通常の撮影において、ノイズが適切に低減された撮像画像を取得することが可能となる。 FIG. 6 is a flow chart showing a setting method for noise reduction in the noise reduction processing unit 15 of the camera 2. When the camera 2 is activated, the image processing control unit 17 executes initial settings related to noise reduction of the noise reduction processing unit 15 (ST101). In the present embodiment, the normal shooting mode is selected (ON) when the camera 2 is activated, and the image processing control unit 17 sets the filter coefficient of 3DNR to an initial value (here, M: N = 0.) With respect to noise reduction. Set to 5: 0.5). As a result, the user can acquire an captured image in which noise is appropriately reduced in normal shooting by the camera 2.

続いて、ユーザの指示に基づき、バイタル情報取得モードが選択(ON)されると(ST102:Yes)、画像処理制御部17は、現フレームの画像に合成される前フレームの画像の割合を減少させるように3DNRのフィルタ係数を変更(ここでは、M:N=0.9:0.1に変更)する(ST103)。このとき、脈拍推定装置3における脈拍推定処理を阻害しない程度の軽度のノイズリダクションが施された撮像画像がカメラ2から脈拍推定装置3に対して出力される。これにより、撮像画像のノイズをある程度低減しつつ(すなわち、撮像画像の画質を可能な限り維持しつつ)、脈拍推定処理に好適な撮像画像を取得することが可能となる。 Subsequently, when the vital information acquisition mode is selected (ON) based on the user's instruction (ST102: Yes), the image processing control unit 17 reduces the ratio of the image of the previous frame to be combined with the image of the current frame. The filter coefficient of 3DNR is changed (here, changed to M: N = 0.9: 0.1) so as to be (ST103). At this time, the camera 2 outputs an image captured to the pulse estimation device 3 with a slight noise reduction that does not interfere with the pulse estimation process in the pulse estimation device 3. This makes it possible to acquire a captured image suitable for the pulse estimation process while reducing the noise of the captured image to some extent (that is, maintaining the image quality of the captured image as much as possible).

なお、別法として、ステップST103において、画像処理制御部17は、3次元ノイズリダクションをOFFとする(M:N=1.0:0.0に設定する)ことも可能である。その場合、ノイズリダクションが施されていない撮像画像がカメラ2から脈拍推定装置3に対して出力されることになる。これにより、ノイズの低減効果は得られないものの、脈拍推定処理にはより好適な撮像画像を取得することが可能となる。 Alternatively, in step ST103, the image processing control unit 17 can turn off the three-dimensional noise reduction (set it to M: N = 1.0: 0.0). In that case, the captured image without noise reduction is output from the camera 2 to the pulse estimation device 3. As a result, although the noise reduction effect cannot be obtained, it is possible to acquire a more suitable captured image for the pulse estimation process.

最終的にバイタル情報取得モードがOFFされる(ここでは、通常撮影モードが選択される)と(ST104:Yes)、再びステップST101に戻り、上述と同様のステップが繰り返し実行される。なお、ノイズリダクションの設定方法としては、カメラ2の起動時にバイタル情報取得モードが選択(ON)される(ステップST103から開始される)構成も可能である。 When the vital information acquisition mode is finally turned off (here, the normal shooting mode is selected) (ST104: Yes), the process returns to step ST101 again, and the same steps as described above are repeatedly executed. As a noise reduction setting method, a configuration in which the vital information acquisition mode is selected (ON) (started from step ST103) when the camera 2 is activated is also possible.

図7は、カメラ2のデータ圧縮処理部16におけるデータ圧縮処理に関する設定方法を示すフロー図であり、図8は、図7中のステップST203の処理およびその処理結果を示す説明図であり、図9は、図8に示した処理および処理結果の変形例を示す説明図である。 FIG. 7 is a flow chart showing a setting method regarding data compression processing in the data compression processing unit 16 of the camera 2, and FIG. 8 is an explanatory diagram showing the processing of step ST203 in FIG. 7 and the processing result thereof. 9 is an explanatory diagram showing a modified example of the processing and the processing result shown in FIG.

カメラ2が起動すると、画像処理制御部17は、データ圧縮処理部16のデータ圧縮処理に関する初期設定を実行する(ST201)。本実施形態では、カメラ2の起動時には通常撮影モードが選択(ON)されており、画像処理制御部17は、データ圧縮処理に関し、フレームレート30fpsの撮像画像(圧縮画像)においてIピクチャを30フレーム間隔で挿入するように設定する。これにより、ユーザは、通常の撮影において、データ容量が適切に圧縮された撮像画像を取得することが可能となる。 When the camera 2 is activated, the image processing control unit 17 executes the initial settings related to the data compression processing of the data compression processing unit 16 (ST201). In the present embodiment, the normal shooting mode is selected (ON) when the camera 2 is activated, and the image processing control unit 17 sets 30 frames of I-pictures in the captured image (compressed image) at a frame rate of 30 fps in relation to the data compression process. Set to insert at intervals. As a result, the user can acquire an image captured with an appropriately compressed data capacity in normal shooting.

続いて、ユーザの指示に基づき、バイタル情報取得モードが選択(ON)されると(ST202:Yes)、画像処理制御部17は、データ圧縮処理に関し、Iピクチャの挿入間隔を変更する(ST203)。このとき、図8に示すように、画像処理制御部17は、Iピクチャ35を例えば90〜120程度のフレーム間隔でPピクチャ36群の間に挿入するように設定する。これにより、脈拍の周波数に近い周波数域に発生していたノイズ(図5(B)参照)は、脈拍の周波数成分(ここでは、約1Hz)よりもより低周波数側に変位するため、脈拍推定装置3における脈拍推定処理において、脈拍に基づくスペクトルとノイズとの区別が容易となる。 Subsequently, when the vital information acquisition mode is selected (ON) based on the user's instruction (ST202: Yes), the image processing control unit 17 changes the insertion interval of the I picture regarding the data compression process (ST203). .. At this time, as shown in FIG. 8, the image processing control unit 17 is set so that the I picture 35 is inserted between the P picture 36 groups at a frame interval of, for example, about 90 to 120. As a result, the noise generated in the frequency range close to the pulse frequency (see FIG. 5B) is displaced to a lower frequency side than the pulse frequency component (here, about 1 Hz), so that the pulse is estimated. In the pulse estimation process in the device 3, it becomes easy to distinguish between the spectrum based on the pulse and the noise.

また、別法として、画像処理制御部17は、ステップST203におけるIピクチャの挿入間隔を変更する代わりに、例えば、図9に示すように、全てのフレームをIピクチャ35で構成するように設定することも可能である。この場合、データ圧縮の効果は低減されるものの、IピクチャからPピクチャへの切り替わりに起因するノイズの発生を確実に防止することができる。 Alternatively, the image processing control unit 17 sets all the frames to be composed of the I-picture 35, for example, as shown in FIG. 9, instead of changing the insertion interval of the I-picture in step ST203. It is also possible. In this case, although the effect of data compression is reduced, it is possible to reliably prevent the generation of noise due to the switching from the I picture to the P picture.

最終的にバイタル情報取得モードがOFFされる(ここでは、通常撮影モードが選択される)と(ST204:Yes)、再びステップST201に戻り、上述と同様のステップが繰り返し実行される。なお、データ圧縮処理に関する設定方法としては、カメラ2の起動時にバイタル情報取得モードが選択(ON)される(ステップST203から開始される)構成も可能である。 When the vital information acquisition mode is finally turned off (here, the normal shooting mode is selected) (ST204: Yes), the process returns to step ST201 again, and the same steps as described above are repeatedly executed. As a setting method related to the data compression process, a configuration in which the vital information acquisition mode is selected (ON) (started from step ST203) when the camera 2 is started is also possible.

以上、本発明を特定の実施形態に基づいて説明したが、これらの実施形態はあくまでも例示であって、本発明はこれらの実施形態によって限定されるものではない。例えば、上記本実施形態では、本発明に係る画像処理装置をカメラ2の機能の一部として実現した例を示したが、これに限らず、カメラ2から取得した撮像画像のデータ圧縮処理(またはノイズリダクション)を実行する装置であってもよい。また、カメラ2で画像処理された撮像画像は、必ずしも脈拍推定装置3に直接送信される必要はなく、画像記憶部18に記憶された撮像画像を別途他の装置による脈拍の推定に用いる構成も可能である。なお、上記画像処理装置及びこれを備えた脈拍推定システムならびに画像処理方法は、必ずしも全てが必須ではなく、少なくとも本発明の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。 Although the present invention has been described above based on specific embodiments, these embodiments are merely examples, and the present invention is not limited to these embodiments. For example, in the above embodiment, an example in which the image processing device according to the present invention is realized as a part of the function of the camera 2 is shown, but the present invention is not limited to this, and the data compression processing (or the image processing) of the captured image acquired from the camera 2 is not limited to this. It may be a device that executes noise reduction). Further, the captured image processed by the camera 2 does not necessarily have to be directly transmitted to the pulse estimation device 3, and the captured image stored in the image storage unit 18 may be separately used for pulse estimation by another device. It is possible. The image processing apparatus, the pulse estimation system provided with the image processing apparatus, and the image processing method are not necessarily all indispensable, and can be appropriately selected as long as they do not deviate from the scope of the present invention.

本発明に係る画像処理装置及びこれを備えた脈拍推定システムならびに画像処理方法は、画像のデータ圧縮処理を適切に実行することにより、画像のデータ量の増大を抑制しつつ脈拍の推定に好適な画像を取得可能とし、脈拍の推定に好適な画像を取得するための画像処理装置及びこれを備えた脈拍推定システムならびに画像処理方法などとして有用である。 The image processing apparatus according to the present invention, the pulse estimation system provided with the image processing apparatus, and the image processing method are suitable for estimating the pulse while suppressing an increase in the amount of image data by appropriately executing the image data compression process. It is useful as an image processing device for making an image available and an image suitable for pulse estimation, a pulse estimation system provided with the image processing device, an image processing method, and the like.

1 脈拍推定システム
2 カメラ(画像処理装置)
3 脈拍推定装置
11 撮像部
12 画像処理部
15 ノイズ低減処理部
16 データ圧縮処理部
17 画像処理制御部(動作モード選択部)
18 記憶部
21 画像入力部
22 領域抽出部
23 脈拍算出部
1 Pulse estimation system 2 Camera (image processing device)
3 Pulse estimation device 11 Imaging unit 12 Image processing unit 15 Noise reduction processing unit 16 Data compression processing unit 17 Image processing control unit (operation mode selection unit)
18 Storage unit 21 Image input unit 22 Area extraction unit 23 Pulse calculation unit

Claims (13)

画像を取得する画像処理装置であって、
入力された撮像画像に対してフレーム間予測に基づくデータ圧縮処理を実行し、圧縮画像を生成するデータ圧縮処理部と、
ユーザからの指示に基づき、通常撮影用の第1動作モードおよび脈拍推定用の第2動作モードのいずれかを選択可能な動作モード選択部と、を備え、
前記データ圧縮処理部は、
前記第1動作モードが選択された場合、Iピクチャ及びPピクチャを含むように構成される前記圧縮画像を生成し、
前記第1動作モードから前記第2動作モードに切り替えられた場合、前記圧縮画像の構成を切り替え、Iピクチャのみで構成される前記圧縮画像を生成する、画像処理装置。
An image processing device that acquires images
A data compression processing unit that executes data compression processing based on inter-frame prediction on the input captured image and generates a compressed image,
It is provided with an operation mode selection unit capable of selecting either a first operation mode for normal shooting or a second operation mode for pulse estimation based on an instruction from a user.
The data compression processing unit
When the first operation mode is selected, the compressed image configured to include an I picture and a P picture is generated.
An image processing device that switches the configuration of the compressed image and generates the compressed image composed of only I pictures when the first operation mode is switched to the second operation mode.
前記第1動作モードが選択された場合に前記データ圧縮処理部によって生成される前記圧縮画像はさらにBピクチャを含む、請求項1に記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the compressed image generated by the data compression processing unit when the first operation mode is selected further includes a B picture. 前記第1動作モードが選択された場合に前記データ圧縮処理部によって生成される前記圧縮画像において、Iピクチャの次はPピクチャまたはBピクチャである、請求項2に記載の画像処理装置。 The image processing apparatus according to claim 2, wherein in the compressed image generated by the data compression processing unit when the first operation mode is selected, the P picture or the B picture is next to the I picture. 前記撮像画像のノイズ低減処理を実行するノイズ低減処理部を更に備え、
前記ノイズ低減処理部は、前記第2動作モードが選択された場合、前記第1動作モードが選択された場合よりも前記ノイズ低減処理を軽減する、請求項1から請求項3のいずれかに記載の画像処理装置。
A noise reduction processing unit that executes noise reduction processing of the captured image is further provided.
The noise reduction processing unit according to any one of claims 1 to 3, wherein when the second operation mode is selected, the noise reduction processing is reduced as compared with the case where the first operation mode is selected. Image processing equipment.
前記撮像画像のノイズ低減処理を実行するノイズ低減処理部を更に備え、
前記ノイズ低減処理部は、前記第1動作モードが選択された場合、前記ノイズ低減処理を実行する一方、前記第2動作モードが選択された場合、前記ノイズ低減処理を実行しない、請求項1から請求項3のいずれかに記載の画像処理装置。
A noise reduction processing unit that executes noise reduction processing of the captured image is further provided.
The noise reduction processing unit executes the noise reduction processing when the first operation mode is selected, but does not execute the noise reduction processing when the second operation mode is selected, according to claim 1. The image processing apparatus according to any one of claims 3.
前記ノイズ低減処理部は、前記撮像画像から顔領域が抽出された場合、前記顔領域のみにおいて前記ノイズ低減処理を軽減するか、または前記顔領域のみにおいて前記ノイズ低減処理を実行しない、請求項4または請求項5に記載の画像処理装置。 4. The noise reduction processing unit reduces the noise reduction processing only in the face region or does not execute the noise reduction processing only in the face region when the face region is extracted from the captured image. Alternatively, the image processing apparatus according to claim 5. MPEG規格に準拠したデータ符号化方式に基づき、前記データ圧縮処理を実行する、請求項1から請求項6のいずれかに記載の画像処理装置。 The image processing apparatus according to any one of claims 1 to 6, which executes the data compression process based on a data coding method conforming to the MPEG standard. 請求項1から請求項7のいずれかに記載の前記画像処理装置と、前記画像処理装置において前記データ圧縮処理が実行された圧縮画像に基づきバイタル情報を取得するバイタル情報取得装置とを備えた、バイタル情報取得システム。 The image processing apparatus according to any one of claims 1 to 7, and a vital information acquisition apparatus for acquiring vital information based on a compressed image in which the data compression processing is executed in the image processing apparatus. Vital information acquisition system. 前記画像処理装置は、ネットワークを介して前記圧縮画像を前記バイタル情報取得装置に送信する、請求項8に記載のバイタル情報取得システム。 The vital information acquisition system according to claim 8, wherein the image processing device transmits the compressed image to the vital information acquisition device via a network. 前記画像処理装置は、前記圧縮画像を記憶する画像記憶部をさらに備え、
前記画像記憶部に記憶される前記圧縮画像は、前記第2動作モードは選択された場合に限り、前記バイタル情報取得装置に送信される、請求項8または請求項9に記載のバイタル情報取得システム。
The image processing device further includes an image storage unit that stores the compressed image.
The vital information acquisition system according to claim 8 or 9, wherein the compressed image stored in the image storage unit is transmitted to the vital information acquisition device only when the second operation mode is selected. ..
画像を取得する画像処理装置であって、
入力された撮像画像に対してフレーム間予測に基づくデータ圧縮処理を実行し、圧縮画像を生成するデータ圧縮処理部と、
ユーザからの指示に基づき、通常撮影用の第1動作モードおよび脈拍推定用の第2動作モードのいずれかを選択可能な動作モード選択部と、を備え、
前記データ圧縮処理部は、
前記第1動作モードが選択された場合、連続するIピクチャ及びPピクチャを含むように構成される前記圧縮画像を生成し、
前記第1動作モードから前記第2動作モードに切り替えられた場合、前記圧縮画像の構成を切り替え、連続する複数のIピクチャを含むように構成される前記圧縮画像を生成する、画像処理装置。
An image processing device that acquires images
A data compression processing unit that executes data compression processing based on inter-frame prediction on the input captured image and generates a compressed image,
It is provided with an operation mode selection unit capable of selecting either a first operation mode for normal shooting or a second operation mode for pulse estimation based on an instruction from a user.
The data compression processing unit
When the first operating mode is selected, the compressed image configured to include a series of I-pictures and P-pictures is generated.
An image processing device that, when switched from the first operation mode to the second operation mode , switches the configuration of the compressed image and generates the compressed image configured to include a plurality of consecutive I pictures.
画像を取得する画像処理方法であって、
入力された撮像画像に対してフレーム間予測に基づくデータ圧縮処理を実行し、圧縮画像を生成するデータ圧縮処理ステップと、
ユーザからの指示に基づき、通常撮影用の第1動作モードおよび脈拍推定用の第2動作モードのいずれかを選択可能な動作モード選択ステップと、を備え、
前記データ圧縮処理ステップでは、
前記第1動作モードが選択された場合、Iピクチャ及びPピクチャを含むように構成される前記圧縮画像を生成し、
前記第1動作モードから前記第2動作モードに切り替えられた場合、前記圧縮画像の構成を切り替え、Iピクチャのみで構成されるように前記圧縮画像を生成する、画像処理方法。
It is an image processing method to acquire an image.
A data compression processing step that executes data compression processing based on inter-frame prediction on the input captured image and generates a compressed image, and
It includes an operation mode selection step that can select either a first operation mode for normal shooting or a second operation mode for pulse estimation based on an instruction from the user.
In the data compression processing step,
When the first operation mode is selected, the compressed image configured to include an I picture and a P picture is generated.
An image processing method in which when the first operation mode is switched to the second operation mode, the configuration of the compressed image is switched and the compressed image is generated so as to be composed of only I pictures.
画像を取得する画像処理方法であって、
入力された撮像画像に対してフレーム間予測に基づくデータ圧縮処理を実行し、圧縮画像を生成するデータ圧縮処理ステップと、
ユーザからの指示に基づき、通常撮影用の第1動作モードおよび脈拍推定用の第2動作モードのいずれかを選択可能な動作モード選択ステップと、を備え、
前記データ圧縮処理ステップでは、
前記第1動作モードが選択された場合、連続するIピクチャ及びPピクチャを含むように構成される前記圧縮画像を生成し、
前記第1動作モードから前記第2動作モードに切り替えられた場合、前記圧縮画像の構成を切り替え、連続する複数のIピクチャを含むように構成される前記圧縮画像を生成する、画像処理方法。
It is an image processing method to acquire an image.
A data compression processing step that executes data compression processing based on inter-frame prediction on the input captured image and generates a compressed image, and
It includes an operation mode selection step that can select either a first operation mode for normal shooting or a second operation mode for pulse estimation based on an instruction from the user.
In the data compression processing step,
When the first operating mode is selected, the compressed image configured to include successive I-pictures and P-pictures is generated.
An image processing method that, when switched from the first operation mode to the second operation mode , switches the configuration of the compressed image and generates the compressed image configured to include a plurality of consecutive I pictures.
JP2020001881A 2015-10-29 2020-01-09 Image processing device, vital information acquisition system equipped with this, and image processing method Active JP6937473B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020001881A JP6937473B2 (en) 2015-10-29 2020-01-09 Image processing device, vital information acquisition system equipped with this, and image processing method
JP2021098876A JP2021166389A (en) 2020-01-09 2021-06-14 Image processing device, vital information acquisition system equipped with this, and image processing method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015213348A JP6653459B2 (en) 2015-10-29 2015-10-29 Image processing apparatus, pulse estimation system including the same, and image processing method
JP2020001881A JP6937473B2 (en) 2015-10-29 2020-01-09 Image processing device, vital information acquisition system equipped with this, and image processing method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015213348A Division JP6653459B2 (en) 2015-10-29 2015-10-29 Image processing apparatus, pulse estimation system including the same, and image processing method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021098876A Division JP2021166389A (en) 2020-01-09 2021-06-14 Image processing device, vital information acquisition system equipped with this, and image processing method

Publications (2)

Publication Number Publication Date
JP2020054014A JP2020054014A (en) 2020-04-02
JP6937473B2 true JP6937473B2 (en) 2021-09-22

Family

ID=69997761

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020001881A Active JP6937473B2 (en) 2015-10-29 2020-01-09 Image processing device, vital information acquisition system equipped with this, and image processing method
JP2021098876A Pending JP2021166389A (en) 2020-01-09 2021-06-14 Image processing device, vital information acquisition system equipped with this, and image processing method

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021098876A Pending JP2021166389A (en) 2020-01-09 2021-06-14 Image processing device, vital information acquisition system equipped with this, and image processing method

Country Status (1)

Country Link
JP (2) JP6937473B2 (en)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006157239A (en) * 2004-11-26 2006-06-15 Canon Inc Image processing apparatus and image processing method
JP4769695B2 (en) * 2005-12-16 2011-09-07 キヤノン株式会社 Imaging device and playback device
WO2008125995A1 (en) * 2007-04-12 2008-10-23 Koninklijke Philips Electronics, N.V. Image capture in combination with vital signs bedside monitor
JP2009296124A (en) * 2008-06-03 2009-12-17 Pioneer Electronic Corp Image processing apparatus and method and decoding device
JP5266895B2 (en) * 2008-06-12 2013-08-21 富士通株式会社 Pulse wave detection device, pulse wave detection program, and pulse wave detection method
US20130294505A1 (en) * 2011-01-05 2013-11-07 Koninklijke Philips N.V. Video coding and decoding devices and methods preserving
JP5920465B2 (en) * 2012-06-29 2016-05-18 富士通株式会社 Vital sign detection method, vital sign detection device, and vital sign detection program
JP6083162B2 (en) * 2012-09-10 2017-02-22 株式会社ニコン Image processing apparatus, imaging apparatus, and image processing program
JP6115263B2 (en) * 2013-04-02 2017-04-19 富士通株式会社 Pulse wave detection device, pulse wave detection method, and pulse wave detection program

Also Published As

Publication number Publication date
JP2021166389A (en) 2021-10-14
JP2020054014A (en) 2020-04-02

Similar Documents

Publication Publication Date Title
JP6653467B2 (en) Pulse estimation device, pulse estimation system, and pulse estimation method
US9286944B2 (en) Methods and systems for providing a combination of media data and metadata
EP3188650B1 (en) Method and apparatus for the continous estimation of human blood pressure using video images
US11647913B2 (en) Image processing apparatus and pulse estimation system provided therewith, and image processing method
JP6509605B2 (en) Estimation of physiological parameters
WO2014030439A1 (en) Biological state-monitoring system, biological state-monitoring method, and program
WO2016006027A1 (en) Pulse wave detection method, pulse wave detection program, and pulse wave detection device
JP6497218B2 (en) Pulse wave detection device, pulse wave detection method, pulse wave detection system, and program
CN119184647B (en) PTT estimation method, system, terminal and medium based on multi-camera equipment
JP6937473B2 (en) Image processing device, vital information acquisition system equipped with this, and image processing method
JP6436385B2 (en) Imaging apparatus, image processing apparatus, and image processing method
CN113841389B (en) Image processing apparatus and image processing method
JP6826733B2 (en) Signal control device, signal control program, and signal control method
KR102249234B1 (en) Apparatus and method for measuring heart rate
JP7514521B2 (en) HEART RATE MEASUREMENT SYSTEM, HEART RATE MEASUREMENT METHOD, AND HEART RATE MEASUREMENT PROGRAM
JP6585623B2 (en) Biological information measuring device, biological information measuring method, and biological information measuring program
JP7074817B2 (en) Vital data measuring device, vital data measuring method and computer program
JPH09233471A (en) Image information compression encoding device
JP2024139070A (en) Heartbeat information concealed video transmission method, program and device
CN120725948A (en) Heart rate detection method using composite remote photoplethysmography

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201215

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210209

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210316

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210614

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210614

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210623

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210629

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210713

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210809

R151 Written notification of patent or utility model registration

Ref document number: 6937473

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151