JP2003279845A - Imaging device - Google Patents
Imaging deviceInfo
- Publication number
- JP2003279845A JP2003279845A JP2002080881A JP2002080881A JP2003279845A JP 2003279845 A JP2003279845 A JP 2003279845A JP 2002080881 A JP2002080881 A JP 2002080881A JP 2002080881 A JP2002080881 A JP 2002080881A JP 2003279845 A JP2003279845 A JP 2003279845A
- Authority
- JP
- Japan
- Prior art keywords
- image pickup
- lens
- section
- evaluation value
- interpolation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Focusing (AREA)
- Lens Barrels (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Abstract
(57)【要約】
【課題】 撮像レンズの駆動範囲全域における合焦位置
の精度と導出時間のバランスの良い撮像装置を提供す
る。
【解決手段】 評価値を獲得した後、次に補間可能な区
間が存在するかどうかを判断し(S204)、補間可能な区
間が存在する場合には補間可能な区間について最小駆動
間隔ごとに補間値を与える(S205)。補間値の与え方
は、まず、境界において駆動位置に対して評価値を返す
補間関数を求め、各駆動位置を代入することにより実現
する。例として、補間関数の導出法は3次の自然スプラ
イン関数の導出法とする。補間済みの区間の傾向を調
べ、すでに合焦位置が判明しているかどうかを判断する
(S206)。合焦位置が判明している場合には、撮像レ
ンズを合焦位置へ駆動させて処理を終了する(S207、S
208)。
(57) [Problem] To provide an imaging device having a good balance between accuracy of a focus position and derivation time in the entire driving range of an imaging lens. After obtaining an evaluation value, it is determined whether or not there is a next interpolable section (S204). If there is an interpolable section, interpolation is performed on the interpolable section at every minimum drive interval. A value is given (S205). The way of providing the interpolated value is realized by first obtaining an interpolation function that returns an evaluation value for the drive position at the boundary, and substituting each drive position. As an example, the method of deriving the interpolation function is a method of deriving a cubic natural spline function. The tendency of the interpolated section is checked to determine whether the in-focus position has already been determined (S206). If the in-focus position is known, the image pickup lens is driven to the in-focus position and the process is terminated (S207, S207).
208).
Description
【0001】この発明は、デジタルカメラ等の撮像装置
に関し、例えばCCD−AFで合焦位置の検出を行う自動合
焦装置や自動合焦位置検出方法に応用することができ
る。The present invention relates to an image pickup device such as a digital camera, and can be applied to an automatic focusing device and an automatic focusing position detecting method for detecting a focusing position by CCD-AF, for example.
【0002】[0002]
【従来の技術】特開2000−281529号公報に
は、ビデオカメラ等の撮影装置においてオートフォーカ
スを行うために採用されているコントラスト方式の問題
点に鑑み、効率的に合焦位置を求めることのできるデジ
タルカメラが提案されている。これは、被写界深度より
も大きい間隔で撮像レンズを段階的に駆動させ、各駆動
段階で前記撮像素子から得られる撮像画像に基づいて評
価値を求め、複数の駆動段階における複数の前記評価値
に対して所定の補間処理を行うことで、合焦面を撮像面
に一致させるための前記撮像レンズの合焦位置を導出す
るとともに、前記合焦位置に前記撮像レンズを駆動させ
る制御手段を備えていることを特徴としている。評価値
の補間処理によって合焦位置導出時間の短縮化と高精度
の維持の両立を図ったものである。2. Description of the Related Art Japanese Unexamined Patent Publication No. 2000-281529 discloses an efficient focus position determination in view of a problem of a contrast method adopted for performing autofocus in a photographing device such as a video camera. A capable digital camera has been proposed. This is to drive the imaging lens stepwise at an interval larger than the depth of field, obtain an evaluation value based on the captured image obtained from the image sensor at each drive step, and perform a plurality of evaluations at a plurality of drive steps. By performing a predetermined interpolation process on the value, the focusing position of the imaging lens for matching the focusing surface with the imaging surface is derived, and a control unit for driving the imaging lens to the focusing position is provided. It is characterized by having. By the interpolation processing of the evaluation value, both shortening of the focusing position derivation time and maintenance of high accuracy are achieved.
【0003】[0003]
【発明が解決しようとする課題】しかしながら、被写界
深度より大きい間隔で撮像レンズを駆動しているため、
レンズの焦点距離や、レンズの明るさ(Fナンバ)によっ
ては、被写界深度より大きい間隔で自動合焦の走査範囲
を分割すると、補間演算の精度が出ない、または補間が
できない場合がある。However, since the image pickup lens is driven at an interval larger than the depth of field,
Depending on the focal length of the lens and the brightness (F number) of the lens, if the scanning range for automatic focusing is divided at intervals larger than the depth of field, the accuracy of interpolation calculation may not be obtained or interpolation may not be possible. .
【0004】図10(a)に上記問題点の一例の状況を
示す。図10(a)において横軸は焦点距離の逆数を基
にした撮像レンズの位置(Lim(∞)が焦点距離無限遠、Li
m(Nr)が同最至近)を示しており、縦軸は撮像レンズの位
置における合焦評価値を示している。この評価値は、評
価値が最大である地点を通る横軸の垂線と横軸との交点
が合焦位置である特徴を持っている。図11に凡例を示
す。図10(a)の場合は、被写界深度が50aと大きい
状況の例であり、標本化する箇所が少ないため、補間の
精度が出ない。また、図10(b)に示すように、撮像
レンズの焦点距離に対する評価値曲線の山が幾何的に非
対称の場合、精度の高い補間ができない場合がある。更
に、図10(c)、(d)に示すように、合焦位置が無
限遠の場合、最至近の場合、またはこれらの近傍の場合
において、従来技術において用いられる急傾斜延長法の
適用はできず、補間はできない。FIG. 10A shows a situation of an example of the above problem. In FIG. 10A, the horizontal axis represents the position of the imaging lens based on the reciprocal of the focal length (Lim (∞) is the focal length infinity, Li
m (Nr) is the same closest distance), and the vertical axis represents the focus evaluation value at the position of the imaging lens. This evaluation value has a feature that the intersection of the vertical axis of the horizontal axis passing through the point where the evaluation value is maximum and the horizontal axis is the in-focus position. Figure 11 shows the legend. The case of FIG. 10A is an example of a situation in which the depth of field is as large as 50a, and the number of sampling points is small, so that interpolation accuracy cannot be obtained. Further, as shown in FIG. 10B, when the peak of the evaluation value curve with respect to the focal length of the imaging lens is geometrically asymmetric, it may not be possible to perform highly accurate interpolation. Further, as shown in FIGS. 10 (c) and 10 (d), when the in-focus position is at infinity, at the closest position, or in the vicinity thereof, the application of the steep slope extension method used in the prior art is not possible. No, no interpolation is possible.
【0005】この発明はこれらのことを鑑みてなされた
ものであり、撮像レンズの駆動範囲全域における合焦位
置の精度と導出時間のバランスの良い撮像装置の提供
を、その目的とする。The present invention has been made in view of the above problems, and an object thereof is to provide an image pickup apparatus in which the precision of the in-focus position and the derivation time are well balanced in the entire drive range of the image pickup lens.
【0006】[0006]
【課題を解決するための手段】上記目的を達成するため
に、請求項1記載の発明では、被写体像の合焦面を移動
させることが可能な撮像レンズと、前記被写体像を受光
し光電変換した信号を撮像信号として出力する撮像素子
を有する撮像装置において、前記撮像レンズの駆動可能
範囲を補間が可能な最低数以上の区間に分割し、前記撮
像レンズの位置を分割した区間に順次駆動させ、前記各
駆動位置において前記撮像素子から得られる撮像信号に
基づいて合焦信号を求め、該合焦信号に基づいて求めた
評価値の補間処理を行うことで、合焦面を前記撮像面に
一致させるための前記撮像レンズの合焦位置を導出する
とともに、導出された合焦位置に前記撮像レンズを駆動
させることを特徴とする。In order to achieve the above object, according to the invention of claim 1, an image pickup lens capable of moving a focusing surface of a subject image and a photoelectric conversion for receiving the subject image. In an image pickup apparatus having an image pickup device that outputs the signal as an image pickup signal, the drivable range of the image pickup lens is divided into a minimum number of sections that can be interpolated, and the position of the image pickup lens is sequentially driven in the divided sections. , A focusing signal is obtained based on an image pickup signal obtained from the image pickup element at each of the driving positions, and an evaluation value obtained based on the focusing signal is interpolated to thereby set a focusing plane on the image pickup surface. A focusing position of the imaging lens for matching is derived, and the imaging lens is driven to the derived focusing position.
【0007】請求項2記載の発明では、請求項1記載の
撮像装置において、前記補間処理が、まず補間可能な区
間に対し補間関数を導出し、次に区間内の全撮像レンズ
駆動位置において補間関数を用いて擬似的に評価値を導
出することであることを特徴とする。According to a second aspect of the present invention, in the image pickup apparatus according to the first aspect, the interpolation processing first derives an interpolation function for an interpolable section, and then interpolates at all image pickup lens drive positions within the section. The feature is that the evaluation value is derived in a pseudo manner using a function.
【0008】請求項3記載の発明では、請求項2記載の
撮像装置において、補間可能な区間があれば前記評価値
の取得処理と並行して前記補間処理を行うことを特徴と
する。According to a third aspect of the present invention, in the image pickup apparatus according to the second aspect, if there is an interpolable section, the interpolation process is performed in parallel with the evaluation value acquisition process.
【0009】請求項4記載の発明では、請求項3記載の
撮像装置において、前記補間処理の結果、評価値が最大
である合焦位置が判明した時点で前記評価値の取得処理
及び未補間の区間の補間処理を中止し、前記撮像レンズ
を合焦位置を含む区間に駆動させることを特徴とする。According to a fourth aspect of the present invention, in the image pickup apparatus according to the third aspect, as a result of the interpolation processing, the evaluation value acquisition processing and the non-interpolation processing are performed when the focus position at which the evaluation value is maximum is found. It is characterized in that the interpolation processing of the section is stopped and the imaging lens is driven to the section including the in-focus position.
【0010】請求項5記載の発明では、請求項4記載の
撮像装置において、前記補間処理の結果、合焦位置に近
づいたと判明したとき微調に移行することを特徴とす
る。According to a fifth aspect of the present invention, in the image pickup apparatus according to the fourth aspect, when it is determined as a result of the interpolation processing that the focus position is approached, fine adjustment is performed.
【0011】請求項6記載の発明では、請求項5記載の
撮像装置において、上記微調が、前記撮像レンズの駆動
距離を区間幅未満かつ最小駆動距離以上として前記撮像
レンズを駆動させ、上記評価値を得ることであることを
特徴とする。According to a sixth aspect of the present invention, in the image pickup apparatus according to the fifth aspect, the fine adjustment drives the image pickup lens such that a drive distance of the image pickup lens is less than a section width and is a minimum drive distance or more, and the evaluation value is obtained. Is to obtain.
【0012】請求項5又は6記載の撮像装置において、
補間関数の微分係数によって合焦位置を定量的に予測
し、予測合焦位置に接近した場合に微調に移行するよう
にしてもよい。In the image pickup device according to claim 5 or 6,
The focus position may be quantitatively predicted by the differential coefficient of the interpolation function, and fine adjustment may be made when the predicted focus position is approached.
【0013】請求項1乃至6のうちの何れか1つ又は上
記構成において、前記撮像レンズを初期位置に駆動する
前に、現時点でにおける撮像レンズの駆動位置近傍の区
間における評価値を獲得し、近傍に合焦位置が存在する
と判断すれば、現時点でのレンズ駆動位置から予測され
る合焦位置の存在する方向に向けて自動合焦処理を行う
ようにしてもよい。現在のレンズ位置と次の合焦位置が
近いという状況が多いことを考慮したものである。この
場合、前記近傍に合焦位置が存在することの判断に、補
間関数の微分係数を用いてもよい。In any one of claims 1 to 6 or the above-mentioned structure, before driving the image pickup lens to an initial position, an evaluation value in a section near the current drive position of the image pickup lens is obtained, If it is determined that the in-focus position exists in the vicinity, the automatic in-focus process may be performed in the direction in which the in-focus position predicted from the current lens drive position exists. This is because it is often the case that the current lens position is close to the next focus position. In this case, the differential coefficient of the interpolation function may be used to determine that the in-focus position exists in the vicinity.
【0014】[0014]
【発明の実施の形態】以下、本発明の実施形態を図面に
基づいて説明する。図1は、本実施形態に係る撮像装置
のブロック図である。同図に示す撮像装置は、撮影レン
ズ2(ズームレンズ2A,フォーカスレンズ2B)、メカ機構
(メカニカルシャッタ、絞り、フィルタなど)101、CCD
(電荷結合素子)102、F/E(CDS回路、A/D変換回路、AGC
回路)103、IPP104、圧縮/伸張装置105、メモリーカード
106、DRAM107、液晶モニタ7、サブLCD10、操作部108、
モータ(ズームレンズモータ109A、フォーカスモータ109
B、絞り、シャッターモータ109C)109、ドライバ(ズーム
ドライバ110A,フォーカスドライバ110B、絞り、シャッ
タドライバ110C)110、TG111、電池112、DC/ACコンバー
タ113、ACアダプタ114、CPU115、SDRAM116を備えてい
る。BEST MODE FOR CARRYING OUT THE INVENTION Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram of an image pickup apparatus according to this embodiment. The image pickup apparatus shown in the figure includes a photographing lens 2 (zoom lens 2A, focus lens 2B), mechanical mechanism (mechanical shutter, diaphragm, filter, etc.) 101, CCD
(Charge-coupled device) 102, F / E (CDS circuit, A / D conversion circuit, AGC
(Circuit) 103, IPP 104, compression / expansion device 105, memory card
106, DRAM 107, LCD monitor 7, sub LCD 10, operation unit 108,
Motor (zoom lens motor 109A, focus motor 109
B, aperture, shutter motor 109C) 109, driver (zoom driver 110A, focus driver 110B, aperture, shutter driver 110C) 110, TG 111, battery 112, DC / AC converter 113, AC adapter 114, CPU 115, SDRAM 116 .
【0015】撮影レンズ2は、被写体を結像させるため
のものであり、ズーム機能を実現するためのズームレン
ズ2Aと、被写体に合焦させるためのフォーカスレンズ2B
を有している。メカ機構101は、メカニカルシャッタ、
被写体の明るさを調整するための絞りや、フィルタなど
を有している。CCD102は、撮影レンズ2により結像され
た被写体像を電気信号に変換して、アナログの画像デー
タとしてF/E103に出力する。The photographing lens 2 is for forming an image of a subject, and includes a zoom lens 2A for realizing a zoom function and a focus lens 2B for focusing on the subject.
have. The mechanical mechanism 101 is a mechanical shutter,
It has a diaphragm and a filter for adjusting the brightness of the subject. The CCD 102 converts the subject image formed by the taking lens 2 into an electric signal and outputs it as analog image data to the F / E 103.
【0016】F/E103は、CCD102から入力されるアナログ
の画像データに対して、前処理を施すものであり、CCD1
02から入力されるアナログの画像データを相関二重サン
プリングするCDS回路と、CDS回路から出力されるアナロ
グの画像データのゲインを調整するAGC回路と、AGC回路
から出力されるアナログの画像に対してA/D変換を行っ
て、デジタルの画像データをIPP104に出力するA/D変換
回路を有している。IPP104は、入力される画像データに
対して各種画像処理を施すものである。例えば、F/E103
から入力されるRGB(赤、緑、青)データを、YUVデータ
に変換する。圧縮/伸張回路105は、YUVデータを、JPEG
方式に準拠した圧縮方式で圧縮処理したり、また、メモ
リーカード106に格納されている圧縮画像データをJPEG
方式に準拠した伸張方式で伸張処理する。The F / E 103 performs preprocessing on the analog image data input from the CCD 102.
For the CDS circuit that performs correlated double sampling of the analog image data that is input from 02, the AGC circuit that adjusts the gain of the analog image data that is output from the CDS circuit, and the analog image that is output from the AGC circuit. It has an A / D conversion circuit that performs A / D conversion and outputs digital image data to the IPP 104. The IPP 104 performs various image processing on input image data. For example, F / E103
The RGB (red, green, blue) data input from is converted to YUV data. The compression / decompression circuit 105 converts YUV data into JPEG
The compressed image data stored in the memory card 106 can be compressed by JPEG.
Decompression is performed by the decompression method conforming to the method.
【0017】DRAM107は、撮像した画像データやメモリ
ーカード106から読み出した画像データなどを一時的に
格納するためのフレームメモリである。メモリカード10
6は、デジタルカメラ本体に対して着脱可能に設けら
れ、圧縮画像データを画像ファイルとして格納する。液
晶モニタ7は、画像データなどを表示するためのもので
ある。サブLCD8は、デジタルカメラの設定されている
モードや動作内容を表示するためのものである。ズーム
ドライバ110Aは、CPU115から入力される制御信号に応じ
て、ズームモータ109Aを駆動して、ズームレンズ2Aを光
軸方向に移動させる。The DRAM 107 is a frame memory for temporarily storing captured image data, image data read from the memory card 106, and the like. Memory card 10
Reference numeral 6 is detachably attached to the digital camera body and stores compressed image data as an image file. The liquid crystal monitor 7 is for displaying image data and the like. The sub LCD 8 is for displaying the set mode and operation contents of the digital camera. The zoom driver 110A drives the zoom motor 109A in accordance with a control signal input from the CPU 115 to move the zoom lens 2A in the optical axis direction.
【0018】フォーカスドライバ110Bは、CPU115から入
力される制御信号に応じて、フォーカスモータ109Bを駆
動して、フォーカスレンズ2Bを光軸方向に駆動させる。
絞り、シャッタドライバ110Cは、CPU115から入力される
制御信号に応じて、絞り、シャッタモータ119Cを駆動さ
せ、メカ機構101の絞り値の設定や、メカ機構101のメカ
ニカルシャッタの開閉駆動を行う。TG111は、IPP104か
ら入力される制御信号に基づいて、CCD102やF/E103を駆
動する。電池112は、例えば、NiCd、ニッケル水素、リ
チウム電池などの電池からなり、DC/ACコンバータ113
は、電池112やACアダプタ114から入力されるDC電圧のレ
ベルを変換して、撮像装置の各部に電力を供給する。The focus driver 110B drives the focus motor 109B according to a control signal input from the CPU 115 to drive the focus lens 2B in the optical axis direction.
The aperture / shutter driver 110C drives the aperture / shutter motor 119C according to a control signal input from the CPU 115 to set the aperture value of the mechanical mechanism 101 and open / close the mechanical shutter of the mechanical mechanism 101. The TG 111 drives the CCD 102 and F / E 103 based on the control signal input from the IPP 104. The battery 112 is, for example, a battery such as NiCd, nickel hydrogen, or a lithium battery, and includes a DC / AC converter 113.
Converts the level of the DC voltage input from the battery 112 or the AC adapter 114 and supplies electric power to each unit of the imaging device.
【0019】上述したCPU115によって、オートフォーカ
ス処理機構が構成されている。具体的にはCPU115の保持
するオートフォーカス処理プログラムによって処理がな
される。暫時記憶装置としてSDRAM116も使用することが
できる。CPU115がSDRAM116の機能を内包している場合に
は図1の構成においてSDRAM116はなくてもよい。CPU115
によって、撮像レンズの駆動可能範囲を複数の区間に分
割する手段が構成されている。CPU115によって、前記撮
像レンズの位置を分割した区間の境界に順次駆動させる
制御手段が構成されている。CPU115によって各区間につ
いて評価値を補間する手段が構成されている。また、CP
U115によって、各区間の補間関数を導出した後に、区間
内における撮像レンズの全駆動位置に対する評価値を補
間関数によって擬似的に導出する手段が構成されてい
る。すなわち、CPU115は全ての処理(区間の分割、撮像
レンズの駆動、補間関数の導出、評価値の算出)を行
い、その際、CPU115はフォーカスドライバ110Bへフ
ォーカスレンズを駆動させる命令信号を発信する。The CPU 115 described above constitutes an autofocus processing mechanism. Specifically, the processing is performed by the autofocus processing program held by the CPU 115. The SDRAM 116 can also be used as a temporary storage device. If the CPU 115 includes the function of the SDRAM 116, the SDRAM 116 may be omitted in the configuration of FIG. CPU115
Is configured to divide the drivable range of the imaging lens into a plurality of sections. The CPU 115 constitutes a control means for sequentially driving the position of the image pickup lens to the boundary of the divided sections. The CPU 115 constitutes a means for interpolating the evaluation value for each section. Also, CP
The U115 serves as means for deriving an interpolation function for each section and then deriving an evaluation value for all driving positions of the imaging lens in the section in a pseudo manner using the interpolation function. That is, the CPU 115 performs all the processes (segment division, driving of the imaging lens, derivation of the interpolation function, calculation of the evaluation value), and at that time, the CPU 115 sends a command signal for driving the focus lens to the focus driver 110B.
【0020】図2のフローチャートに基づいて自動合焦
処理における動作を説明する。オートフォーカス処理機
構は、CPU115から入力されるオートフォーカス信号を受
けて、図2の処理を実行する。まず、現在のレンズの位
置を、図3に示す初期位置x[0]へ駆動する(S200)。こ
こでは、焦点距離が無限遠となるレンズ位置Lim(∞)と
した。なお、本発明は初期位置をこの例に限定するもの
ではない。同時に、ズームレンズ2Aの焦点距離および
レンズの明るさに基づいて決定される被写界深度より、
区間幅(駆動間隔)を決定する(S200)。The operation of the automatic focusing process will be described with reference to the flowchart of FIG. The autofocus processing mechanism receives the autofocus signal input from the CPU 115 and executes the processing of FIG. First, the current lens position is driven to the initial position x [0] shown in FIG. 3 (S200). Here, the lens position Lim (∞) at which the focal length is infinity is set. The present invention does not limit the initial position to this example. At the same time, from the depth of field determined based on the focal length of the zoom lens 2A and the brightness of the lens,
The section width (driving interval) is determined (S200).
【0021】次に現時点でCCD102により得られた画像信
号を基に、IPP104を介して評価値を獲得する。獲得した
評価値はSDRAM116に記憶する(S203)。次に補間可能な
区間が存在するかどうかを判断し(S204)、補間可能な
区間が存在する場合には補間可能な区間について最小駆
動間隔ごとに補間値を与える(S205)。補間可能な区
間が存在しない場合は、次の駆動位置へ撮像レンズを移
動させる処理へ移行する。補間値の与え方は、まず、境
界において駆動位置に対して評価値を返す補間関数を求
め、各駆動位置を代入することにより実現する。例とし
て、補間関数の導出法は3次の自然スプライン関数の導
出法とする。3次自然スプライン関数は、標本となる点
(図3で示す例では各区間の境界における評価値をプロ
ットした点Y[i])を滑らかに通過する高々3次の連続関
数で、任意の駆動位置において1階および2階微分係数
を求めることができる特徴をもつ。Next, the evaluation value is acquired via the IPP 104 based on the image signal obtained by the CCD 102 at the present time. The acquired evaluation value is stored in the SDRAM 116 (S203). Next, it is determined whether there is an interpolable section (S204), and if an interpolable section exists, an interpolation value is given for each minimum drive interval for the interpolable section (S205). If there is no interpolable section, the process moves to the process of moving the imaging lens to the next drive position. The method of giving the interpolation value is realized by first obtaining an interpolation function that returns an evaluation value for the drive position at the boundary and substituting each drive position. As an example, the method of deriving the interpolation function is the method of deriving a third-order natural spline function. The cubic natural spline function is a continuous function of at most cubic that smoothly passes through a sample point (in the example shown in FIG. 3, a point Y [i] at which the evaluation value at the boundary of each section is plotted), and any driving It has the feature that the first and second derivatives can be obtained at the position.
【0022】補間済みの区間の傾向を調べ、すでに合焦
位置が判明しているかどうかを判断する(S206)。合
焦位置が判明している場合には、撮像レンズを合焦位置
へ駆動させて処理を終了する(S207、S208)。ここで、
合焦位置の判定方法を説明する。まず、山の最大値を判
定する方法を、図3の例で示す。いま、区間C1からC7ま
で補間が完了している。図3の例では区間C7内の駆動位
置fにおいて評価値の最大値y[f]がある。ここで、x
[7]における補間関数の1階微分係数d1および2階微分係
数d2を求める。直感的にはd1はその地点における曲線
の傾きであり、d2は傾きの増加率を表している。ここ
で、ノイズによる誤差dnを定義しておき、d1<−dnかつd
2 <0ならばx[f]が合焦位置と判定する。しかし、前記
の例だと、山の最大値が存在し、評価値が緩やかに減少
している場合に即時に終了できないので、隣り合った区
間の境界x[m]、x[m+1]及びx[m+2]においてd1<-dnの条件
を3回続けて満たした場合、つまりレンズ位置fを過ぎ
て3回続けて減少した場合も同様にする。ただし、後者
の条件について、本発明は判定条件を以上のものに限定
するものではない。The tendency of the interpolated section is examined to determine whether the in-focus position is already known (S206). If the in-focus position is known, the image pickup lens is driven to the in-focus position and the processing is ended (S207, S208). here,
A method of determining the in-focus position will be described. First, a method of determining the maximum value of the mountain is shown in the example of FIG. Interpolation is now complete from section C1 to section C7. In the example of FIG. 3, there is the maximum evaluation value y [f] at the driving position f within the section C7. Where x
Find the first derivative d1 and the second derivative d2 of the interpolation function in [7]. Intuitively, d1 is the slope of the curve at that point, and d2 is the rate of increase of the slope. Here, the error dn due to noise is defined, and d1 <−dn and d
If 2 <0, x [f] is determined to be the in-focus position. However, in the above example, when the maximum value of the mountain exists and the evaluation value is gradually decreasing, it cannot end immediately, so the boundaries x [m] and x [m + 1] of the adjacent sections Also, when the condition of d1 <-dn is satisfied three times in a row at x and [m + 2], that is, when the lens position f is passed and the value is decreased three times in a row, the same is done. However, regarding the latter condition, the present invention does not limit the determination condition to the above.
【0023】合焦位置が判明していない場合には、続い
て合焦位置が近傍にあると推定できるかどうかを判断す
る(S209)。ここで、合焦位置が近傍にあると判定す
る方法を図4の例で示す。区間C1からCkまで補間が完
了しているとする。この状況において、合焦位置が近傍
にあると判定するのは、x[k]における1階微分係数d1及
び2階微分係数d2を求め、ノイズによる誤差dnを用いてd
1>dnかつd2<0ならば合焦位置が近傍にあると判断する。
図4の場合、k=4のとき、合焦位置が近傍にあると判定
する。合焦位置が近傍にあると推定できる場合には次の
区間からより精度の高い微調処理へ移行する(S210)。
合焦位置が近傍にあると推定できない場合には、次の駆
動位置へ撮像レンズを駆動させ、ループの先頭に戻る
(S211)。If the in-focus position is not known, it is then determined whether or not the in-focus position can be estimated to be in the vicinity (S209). Here, a method of determining that the in-focus position is in the vicinity is shown in the example of FIG. It is assumed that the interpolation is completed from the section C1 to Ck. In this situation, the in-focus position is determined to be in the vicinity by determining the first-order differential coefficient d1 and the second-order differential coefficient d2 in x [k] and using the error dn due to noise to calculate d.
If 1> dn and d2 <0, it is determined that the focus position is in the vicinity.
In the case of FIG. 4, when k = 4, it is determined that the focus position is in the vicinity. If the focus position can be estimated to be in the vicinity, the process moves from the next section to a more accurate fine adjustment process (S210).
If the focus position cannot be estimated to be in the vicinity, the imaging lens is driven to the next drive position and the process returns to the beginning of the loop.
(S211).
【0024】図5のフローチャートに基づいて、精度の
高い微調の処理を説明する。微調時は区間の境界だけで
なく、区間内にもレンズを駆動させて評価値を獲得し
(S222、S223)、補間の精度を高める(図4の微調区間
がこれに該当)。微調の終了条件は合焦位置が判明した
場合または近傍に合焦点が無かったと判断し、微調の必
要がなくなった場合である。微調処理の終了条件(S22
4)の例としては、図4において、補間完了した範囲の端
点であるx[k]における1階微分係数d1および2階微分係数
d2を求め、ノイズ誤差dnを用いてd1<-dnまたはd2>0を満
たす場合である。図4の場合、k=10のときに微調処理の
終了条件を満たし、次の段階より微調処理を終了する
(S225、S226)。A highly accurate fine adjustment process will be described with reference to the flowchart of FIG. During fine adjustment, the lens is driven not only at the boundary of the section but also within the section to obtain the evaluation value.
(S222, S223), the accuracy of interpolation is increased (this corresponds to the fine adjustment section in FIG. 4). The condition for ending the fine adjustment is when the in-focus position is known or when it is determined that there is no in-focus point in the vicinity, and fine adjustment is no longer necessary. Condition for ending fine adjustment processing (S22
As an example of 4), in FIG. 4, the first-order differential coefficient d1 and the second-order differential coefficient at x [k], which is the end point of the range where interpolation is completed, are performed.
This is the case where d2 is obtained and d1 <-dn or d2> 0 is satisfied using the noise error dn. In the case of FIG. 4, when k = 10, the condition for ending the fine adjustment process is satisfied, and the fine adjustment process is ended from the next stage.
(S225, S226).
【0025】図6及び図7(準備処理)、図8(メイン
処理)のフローチャートは、自動合焦処理の開始時にx
[0]にある撮像レンズを初期位置へ駆動する際、駆動方
向の近傍x[1]、x[2]、x[3]およびx[4]について評価値を
獲得することにより、初期位置を変更する処理を追加す
る例を示している。例えば図6(a)の例では、前記微
分係数による判定法により現在の撮像レンズ位置に対し
駆動方向とは逆の方向に合焦位置が存在すると予測でき
るので、現在の撮像レンズ位置を初期位置とし、合焦位
置が存在する方向に対し、自動合焦処理(図8のS202乃
至S212)を行う。図6(b)の例では、同様に駆動方向
に合焦位置が存在すると予測できるので、現在の撮像レ
ンズ位置を初期位置とし、合焦位置が存在する方向に対
し、自動合焦処理(図8のS202乃至212)を行う。また、
図9の例では、合焦位置の存在方向が特定できないの
で、初期位置を規定位置lim(∞)とし、自動合焦処理(図
8のS202乃至S212)を行う。The flow charts of FIGS. 6 and 7 (preparation processing) and FIG. 8 (main processing) are x when starting the automatic focusing processing.
When the imaging lens at [0] is driven to the initial position, the initial position can be determined by acquiring evaluation values for x [1], x [2], x [3] and x [4] in the vicinity of the driving direction. The example which adds the process which changes is shown. For example, in the example of FIG. 6A, since it is possible to predict that the in-focus position exists in the direction opposite to the driving direction with respect to the current imaging lens position by the determination method using the differential coefficient, the current imaging lens position is set to the initial position. Then, automatic focusing processing (S202 to S212 in FIG. 8) is performed in the direction in which the focusing position exists. In the example of FIG. 6B, similarly, it can be predicted that the in-focus position exists in the driving direction. Therefore, the current imaging lens position is set as the initial position, and the automatic in-focus process is performed in the direction in which the in-focus position exists (see FIG. 8 S202 to 212) is performed. Also,
In the example of FIG. 9, since the existing direction of the in-focus position cannot be specified, the initial position is set to the specified position lim (∞), and the automatic in-focus process (S202 to S212 in FIG. 8) is performed.
【0026】[0026]
【発明の効果】請求項1記載の発明によれば、被写体像
の合焦面を移動させることが可能な撮像レンズと、前記
被写体像を受光し光電変換した信号を撮像信号として出
力する撮像素子を有する撮像装置において、前記撮像レ
ンズの駆動可能範囲を補間が可能な最低数以上の区間に
分割し、前記撮像レンズの位置を分割した区間に順次駆
動させ、前記各駆動位置において前記撮像素子から得ら
れる撮像信号に基づいて合焦信号を求め、該合焦信号に
基づいて求めた評価値の補間処理を行うことで、合焦面
を前記撮像面に一致させるための前記撮像レンズの合焦
位置を導出するとともに、導出された合焦位置に前記撮
像レンズを駆動させることとしたので、補間精度を確実
に出すことができ、撮像レンズの駆動範囲全域における
合焦位置の精度と導出時間のバランスを確保できる。According to the first aspect of the present invention, an image pickup lens capable of moving a focusing surface of a subject image, and an image pickup device which outputs a signal obtained by receiving the photoelectric conversion of the subject image as an image pickup signal. In the image pickup apparatus having the above-mentioned, the drivable range of the image pickup lens is divided into a minimum number of sections that can be interpolated, and the position of the image pickup lens is sequentially driven in the divided sections, and the image pickup device is driven at each of the drive positions The focus signal is obtained based on the obtained image pickup signal, and the evaluation value obtained based on the focus signal is interpolated to obtain the focus of the image pickup lens for matching the focus plane with the image pickup surface. Since the position is derived and the imaging lens is driven to the derived in-focus position, the interpolation accuracy can be reliably obtained, and the accuracy of the in-focus position in the entire driving range of the imaging lens can be obtained. Out can ensure the balance of the time.
【0027】請求項2記載の発明によれば、請求項1記
載の撮像装置において、前記補間処理が、まず補間可能
な区間に対し補間関数を導出し、次に区間内の全撮像レ
ンズ駆動位置において補間関数を用いて擬似的に評価値
を導出することであることとしたので、補間関数の導出
により、レンズの焦点距離やFナンバに影響を受けずに
効率的に合焦位置を導出できる。また、実際のレンズを
駆動する回数を削減することにより、合焦動作の高速化
に貢献できる。According to a second aspect of the present invention, in the image pickup apparatus according to the first aspect, the interpolation processing first derives an interpolation function for an interpolable section, and then all image pickup lens drive positions in the section. Since it was decided to derive the evaluation value in a pseudo manner using the interpolation function in, the derivation of the interpolation function allows the focus position to be derived efficiently without being affected by the focal length of the lens or the F number. . In addition, by reducing the number of times the lens is actually driven, it is possible to contribute to speeding up the focusing operation.
【0028】請求項3記載の発明によれば、請求項2記
載の撮像装置において、補間可能な区間があれば前記評
価値の取得処理と並行して前記補間処理を行うこととし
たので、純粋なソフトウェア処理である補間処理と機械
的な処理である撮像レンズの駆動を並行させることによ
り、両方の動作を逐次的に行う場合よりも高速に合焦処
理を行うことができる。According to a third aspect of the invention, in the image pickup apparatus according to the second aspect, if there is an interpolable section, the interpolation processing is performed in parallel with the evaluation value acquisition processing. By parallelizing the interpolation processing, which is a software processing, and the driving of the imaging lens, which is a mechanical processing, the focusing processing can be performed at a higher speed than a case where both operations are sequentially performed.
【0029】請求項4記載の発明によれば、請求項3記
載の撮像装置において、前記補間処理の結果、評価値が
最大である合焦位置が判明した時点で前記評価値の取得
処理及び未補間の区間の補間処理を中止し、前記撮像レ
ンズを合焦位置を含む区間に駆動させることとしたの
で、不必要なレンズ駆動が省略されることにより、合焦
処理の高速化を実現できる。According to a fourth aspect of the present invention, in the image pickup apparatus according to the third aspect, when the result of the interpolation processing is the focus position where the evaluation value is maximum, the evaluation value acquisition processing and Since the interpolation processing in the interpolation section is stopped and the image pickup lens is driven to the section including the in-focus position, unnecessary focusing of the lens is omitted, so that the focusing processing can be speeded up.
【0030】請求項5記載の発明によれば、請求項4記
載の撮像装置において、前記補間処理の結果、合焦位置
に近づいたと判明したとき微調に移行することとしたの
で、合焦処理時間を損なうことなく、補間関数演算によ
り導出する合焦位置の精度を高めることが可能になる。According to the fifth aspect of the invention, in the image pickup apparatus according to the fourth aspect, when it is determined as a result of the interpolation processing that the focus position is approached, fine adjustment is made, so the focus processing time It is possible to improve the accuracy of the in-focus position derived by the interpolation function calculation without degrading.
【0031】請求項6記載の発明によれば、請求項5記
載の撮像装置において、上記微調が、前記撮像レンズの
駆動距離を区間幅未満かつ最小駆動距離以上として前記
撮像レンズを駆動させ、上記評価値を得ることとしたの
で、合焦処理時間を損なうことなく、補間関数演算によ
り導出する合焦位置の精度を高めることが可能になるほ
か、制御自体も容易で、演算処理に負荷をかけない。According to a sixth aspect of the present invention, in the image pickup apparatus according to the fifth aspect, the fine adjustment drives the image pickup lens by setting the drive distance of the image pickup lens to be less than the section width and not less than the minimum drive distance. Since it is decided to obtain the evaluation value, it is possible to improve the accuracy of the focus position derived by the interpolation function calculation without impairing the focus processing time, and the control itself is easy, which puts a load on the calculation processing. Absent.
【0032】請求項5又は6記載の撮像装置において、
補間関数の微分係数によって合焦位置を定量的に予測
し、予測合焦位置に接近した場合に微調に移行するよう
にした場合、直後の区間における補間関数の傾向を予測
できるので、ほぼ最適な時点で微調に移行でき、合焦処
理時間の短縮と合焦位置の精度の向上を図ることができ
る。In the image pickup device according to claim 5 or 6,
If the in-focus position is quantitatively predicted by the differential coefficient of the interpolation function and a fine shift is made when the predicted in-focus position is approached, the tendency of the interpolation function in the immediately following section can be predicted, so it is almost optimal. It is possible to shift to fine adjustment at that time, and it is possible to shorten the focusing processing time and improve the accuracy of the focusing position.
【0033】請求項1乃至6のうちの何れか1つ又は上
記構成において、前記撮像レンズを初期位置に駆動する
前に、現時点でにおける撮像レンズの駆動位置近傍の区
間における評価値を獲得し、近傍に合焦位置が存在する
と判断すれば、現時点でのレンズ駆動位置から予測され
る合焦位置の存在する方向に向けて自動合焦処理を行う
ようにした場合、撮像レンズの位置と合焦位置が近傍に
あるとき、より短時間で合焦位置を導出することが可能
になる。また、この構成において、前記近傍に合焦位置
が存在することの判断に、補間関数の微分係数を用いた
場合、区間途中の変化が大きいとき、合焦位置が撮像レ
ンズの現在位置に対していずれの方向にあるか即時に判
明するため、より短時間で合焦位置を導出できる。In any one of claims 1 to 6 or the above structure, before driving the image pickup lens to an initial position, an evaluation value in a section near the current drive position of the image pickup lens is obtained, If it is determined that there is a focusing position in the vicinity, if the automatic focusing process is performed in the direction in which the focusing position predicted from the lens driving position at the present time exists, the position of the imaging lens and the focusing position are determined. When the positions are close to each other, the focus position can be derived in a shorter time. Further, in this configuration, when the differential coefficient of the interpolation function is used to determine that the in-focus position exists in the vicinity, when the change in the middle of the section is large, the in-focus position is relative to the current position of the imaging lens. Since it is immediately known in which direction the focus position can be derived in a shorter time.
【図1】本発明の実施形態における撮像装置の構成ブロ
ック図である。FIG. 1 is a configuration block diagram of an image pickup apparatus according to an embodiment of the present invention.
【図2】自動合焦処理のフローチャートである。FIG. 2 is a flowchart of automatic focusing processing.
【図3】合焦位置の判定例を説明するためのグラフであ
る。FIG. 3 is a graph for explaining an example of determining a focus position.
【図4】微調制御の例を説明するためのグラフである。FIG. 4 is a graph for explaining an example of fine adjustment control.
【図5】微調処理のフローチャートである。FIG. 5 is a flowchart of a fine adjustment process.
【図6】処理初期における合焦位置の予測を説明するた
めのグラフである。FIG. 6 is a graph for explaining prediction of a focus position at the initial stage of processing.
【図7】自動合焦処理における準備処理のフローチャー
トである。FIG. 7 is a flowchart of a preparation process in an automatic focusing process.
【図8】自動合焦処理におけるメイン処理のフローチャ
ートである。FIG. 8 is a flowchart of main processing in automatic focusing processing.
【図9】処理初期における撮像レンズの駆動方向が判明
しない場合の合焦位置の予測を説明するためのグラフで
ある。FIG. 9 is a graph for explaining the prediction of the in-focus position when the driving direction of the imaging lens at the initial stage of processing is not known.
【図10】従来における問題点を説明するためのグラフ
である。FIG. 10 is a graph for explaining a conventional problem.
【図11】合焦位置の凡例を示すグラフである。FIG. 11 is a graph showing a legend of a focus position.
2A、2B 撮像レンズ 102 撮像素子としてのCCD 2A, 2B imaging lens 102 CCD as an image sensor
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 5/232 G03B 3/00 A ─────────────────────────────────────────────────── ─── Continuation of front page (51) Int.Cl. 7 Identification code FI theme code (reference) H04N 5/232 G03B 3/00 A
Claims (6)
な撮像レンズと、前記被写体像を受光し光電変換した信
号を撮像信号として出力する撮像素子を有する撮像装置
において、 前記撮像レンズの駆動可能範囲を補間が可能な最低数以
上の区間に分割し、前記撮像レンズの位置を分割した区
間に順次駆動させ、前記各駆動位置において前記撮像素
子から得られる撮像信号に基づいて合焦信号を求め、該
合焦信号に基づいて求めた評価値の補間処理を行うこと
で、合焦面を前記撮像面に一致させるための前記撮像レ
ンズの合焦位置を導出するとともに、導出された合焦位
置に前記撮像レンズを駆動させることを特徴とする撮像
装置。1. An image pickup apparatus comprising: an image pickup lens capable of moving a focal plane of a subject image; and an image pickup element for receiving a signal obtained by photoelectrically converting the subject image and outputting the signal as an image pickup signal. The drivable range is divided into a minimum number of sections that can be interpolated, the position of the image pickup lens is sequentially driven into the divided sections, and a focusing signal is obtained based on the image pickup signal obtained from the image pickup device at each of the driving positions. Is calculated and the evaluation value obtained based on the focusing signal is interpolated to derive the focusing position of the imaging lens for matching the focusing surface with the imaging surface. An image pickup apparatus characterized in that the image pickup lens is driven to a focal position.
導出し、次に区間内の全撮像レンズ駆動位置において補
間関数を用いて擬似的に評価値を導出することであるこ
とを特徴とする撮像装置。2. The image pickup apparatus according to claim 1, wherein the interpolation processing first derives an interpolation function for an interpolable section, and then uses an interpolation function at all image pickup lens drive positions in the section to generate a pseudo-function. An image pickup apparatus, comprising: deriving an evaluation value according to.
て前記補間処理を行うことを特徴とする撮像装置。3. The image pickup apparatus according to claim 2, wherein if there is an interpolable section, the interpolation processing is performed in parallel with the evaluation value acquisition processing.
明した時点で前記評価値の取得処理及び未補間の区間の
補間処理を中止し、前記撮像レンズを合焦位置を含む区
間に駆動させることを特徴とする撮像装置。4. The image pickup apparatus according to claim 3, wherein the evaluation value acquisition process and the interpolation process for the non-interpolated section are stopped when the focus position where the evaluation value is the maximum is found as a result of the interpolation process. Then, the image pickup apparatus drives the image pickup lens in a section including a focus position.
き微調に移行することを特徴とする撮像装置。5. The image pickup apparatus according to claim 4, wherein when the result of the interpolation processing indicates that the focus position is approached, fine adjustment is performed.
つ最小駆動距離以上として前記撮像レンズを駆動させ、
上記評価値を得ることであることを特徴とする撮像装
置。6. The image pickup device according to claim 5, wherein the fine adjustment drives the image pickup lens such that a drive distance of the image pickup lens is less than a section width and not less than a minimum drive distance,
An image pickup apparatus characterized by obtaining the above evaluation value.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002080881A JP4157716B2 (en) | 2002-03-22 | 2002-03-22 | Imaging device |
| US10/394,267 US7298413B2 (en) | 2002-03-22 | 2003-03-24 | Photographing apparatus with automatic focus |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002080881A JP4157716B2 (en) | 2002-03-22 | 2002-03-22 | Imaging device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2003279845A true JP2003279845A (en) | 2003-10-02 |
| JP4157716B2 JP4157716B2 (en) | 2008-10-01 |
Family
ID=29229730
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2002080881A Expired - Fee Related JP4157716B2 (en) | 2002-03-22 | 2002-03-22 | Imaging device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4157716B2 (en) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8009205B2 (en) | 2007-02-13 | 2011-08-30 | Ricoh Company, Ltd. | Imaging device and control method of imaging device |
| JP2012255896A (en) * | 2011-06-08 | 2012-12-27 | Canon Inc | Imaging apparatus, focus adjustment method therefor and program |
-
2002
- 2002-03-22 JP JP2002080881A patent/JP4157716B2/en not_active Expired - Fee Related
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8009205B2 (en) | 2007-02-13 | 2011-08-30 | Ricoh Company, Ltd. | Imaging device and control method of imaging device |
| JP2012255896A (en) * | 2011-06-08 | 2012-12-27 | Canon Inc | Imaging apparatus, focus adjustment method therefor and program |
Also Published As
| Publication number | Publication date |
|---|---|
| JP4157716B2 (en) | 2008-10-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP3851027B2 (en) | Autofocus device and camera | |
| CN100574381C (en) | Focus control method and unit | |
| US8111305B2 (en) | Apparatus for photographing having multiple zoom devices and associated method | |
| KR100799212B1 (en) | Imaging Apparatus and Image Processing Method | |
| JP2004361484A (en) | Auto focus camera | |
| CN1072425C (en) | Video zooming method and video camera adopting the same | |
| JP3820076B2 (en) | Automatic focusing device, digital camera, portable information input device, focusing position detection method, and computer-readable recording medium | |
| JP2009111596A (en) | Imaging apparatus | |
| JP3666429B2 (en) | Autofocus device and method, and camera | |
| JP2001221945A (en) | Automatic focusing device | |
| US7298413B2 (en) | Photographing apparatus with automatic focus | |
| JP3273326B2 (en) | Imaging device | |
| JP2003279845A (en) | Imaging device | |
| JP4046276B2 (en) | Digital camera | |
| WO2019181024A1 (en) | Image-capturing device, image-capturing method, and program | |
| JP2006157604A (en) | Camera device and automatic photographing control program | |
| JP2007057974A (en) | Photographing device | |
| JP2002305676A (en) | Electronic camera | |
| JPH09159906A (en) | Camera | |
| JP4011723B2 (en) | Imaging method and apparatus, and storage medium | |
| JP2006047645A (en) | Focus adjustment apparatus and method | |
| KR100213887B1 (en) | Auto-focusing control method for video camera | |
| JP2006285094A (en) | Autofocus camera and autofocus device | |
| JP2003315665A (en) | camera | |
| JP4057824B2 (en) | Imaging device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041022 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060825 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060905 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061106 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071016 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071217 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080708 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080714 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110718 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120718 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120718 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130718 Year of fee payment: 5 |
|
| LAPS | Cancellation because of no payment of annual fees |