JP3573198B2 - 画像位置合わせ方法 - Google Patents
画像位置合わせ方法 Download PDFInfo
- Publication number
- JP3573198B2 JP3573198B2 JP24002899A JP24002899A JP3573198B2 JP 3573198 B2 JP3573198 B2 JP 3573198B2 JP 24002899 A JP24002899 A JP 24002899A JP 24002899 A JP24002899 A JP 24002899A JP 3573198 B2 JP3573198 B2 JP 3573198B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pattern
- rotation
- reference image
- signature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/02—Affine transformations
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/32—Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/37—Determination of transform parameters for the alignment of images, i.e. image registration using transform domain methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
- G06V10/7515—Shifting the patterns to accommodate for positional errors
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
本発明は、画像処理に関し、特に、画像の位置合わせ(レジストレーション)の新規な方法に関する。
【0002】
【従来の技術】
A.画像位置合わせ
画像位置合わせ(image registration)は、両方の画像にある画素(ピクセル)が同じ位置に配置されるように、基準(リファレンス)画像の上にパターン画像を整列させるというプロセスである。このプロセスは、例えば、テンプレート上への取得画像のアライメント(整列)、同一場面(シーン)の時系列画像のアライメント、あるいは合成画像における個々のバンドのアライメント(コレジストレーション(coregistration))などにおいて有用である。このプロセスの実際の適用例を2つ挙げると、医療用画像の分野における放射線像のアライメントと、環境科学の分野における衛星画像のアライメントがある。
【0003】
典型的な画像位置合わせの問題においては、基準画像とパターン画像とが何らかの形で互いに関係していることが、既知であるかあるいは予想されている。すなわち、基準画像とパターン画像とが、一部の要素を共有している、あるいは同じ表示対象または場面に関連していることが、既知であるかあるいは予想されている。このような典型的な画像位置合わせ問題では、2個の画像間の差の発生源を、以下の4種類のカテゴリに分けることができる。
【0004】
1.アライメントの差:
画像間のアライメントの差は、一方の画像から他方の画像への空間写像によって生じる。典型的な写像では、並進移動、回転、ゆがみおよび拡大/縮小(スケーリング)が起こる。無限連続領域の画像の場合、これらの差は、一方の画像から他方の画像への空間写像の結果である。例えば画像センサの向きまたはパラメータを変えることで、アライメントの差がもたらされる。
【0005】
2.妨害(オクルージョン: occlusion )による差:
アライメントの差により有限画像の一部が画像枠(画像フレーム)から出ていったり有限画像の画像枠に新たなデータが入ってくる場合、あるいは画像センサと画像化対象との間に障害物が来る場合に、視点の妨害による差が生じる。例えば衛星画像では、雲がしばしば地球を妨害し、地表画像における妨害が生じる。
【0006】
3.ノイズによる差:
ノイズによる差は、画像センサにおけるサンプリング誤差やバックグラウンドノイズによって、さらには画像センサ誤差によってもたらされる原因不明の無効データから生じ得る。
【0007】
4.変化による差:
変化による差は、画像化される対象物もしくは場面間の実際の差である。衛星画像では、変化による差の例として、照明、侵食、建設および森林伐採がある。場合によっては、変化による差とノイズによる差とを区別できないことがある。
【0008】
代表的には、複数の画像を位置合わせして、特定場面での変化を検出する。したがって、良好に位置合わせが行われれば、アライメント、妨害およびノイズによる差を検出して消去したりあるいは解消しながら、変化による差を保存することができる。位置合わせ方法では、画像の内容に関して変化は小さいものと仮定しなければならない。すなわち、アライメント、妨害およびノイズによる差を解消した後には、位置合わせされる画像は「視覚的に同様」であると仮定される。さらに、両方の画像で、十分な量の対象物もしくは場面が見えなければならない。例えば、基準画像の内容の50%以上が、その基準画像に対して位置合わせされるパターン画像にも存在するものと仮定することができる。実際には、医療用センサおよび衛星センサは、画像の内容の90%以上を共有するように、十分な精度をもってそれらの画像に向けることができるのが普通である。
【0009】
B.回転−拡大/縮小−並進移動変換:
本発明は、ノイズおよびアライメントによる妨害(オクルージョン)の存在下で回転−拡大/縮小−並進移動(「RST:Rotation−Scale−Translation」)変換によって互いに異なっている2個の画像を位置合わせ(レジストレーション)するために有効な方法を提供する。RST変換は、単一の並進ベクトル、単一の回転係数および単一の拡大/縮小係数(スケール係数)という3種類の変換パラメータの組み合わせとして表現され、これらのパラメータはいずれも画像面で作用する。本発明は、2個の画像からそれら3種類のパラメータを復元することで、基準画像に関するパターン画像の回転、拡大/縮小および移動を「取り消す(undo)」ことにより、基準画像にパターン画像を位置合わせすることができるようにする。本発明は、さらに、回転係数もしくは拡大/縮小係数を単独で復元する新規な方法を含むものでもあり、この方法は、基準画像とパターン画像の間のアライメントが上記係数の1個のみによって影響を受けることがわかっている場合に有用であろう。
【0010】
RST変換は、基準画像rをパターン画像p中にマッピング(写像)する画素マッピング関数Mとして表現される。実際には、これらの関数は有限画像に作用し、変換中に画像の枠から出て行ったり枠に入ってきたりしなかったデータのみを処理することができる。2次元無限連続基準画像rとパターン画像pとがRST変換によって関係してp=M(r)となっている場合、その基準画像rにおける各点r(xr,yr)は、下記の行列式にしたがって、対応する点p(xp,yp)に写像される。
【0011】
【数1】
同様に、任意の画素p(x,y)については、下記の関係が成り立つ。
【0012】
【数2】
この表記において、φ,sおよび(Δx,Δy)は、それぞれ変換の回転パラメータ、拡大/縮小パラメータおよび並進パラメータである。ここで、φは反時計方向の回転角であり、sは拡大/縮小係数であり、(Δx,Δy)は並進ベクトルである。有限で離散型の基準画像rおよびパターン画像pの場合、rとpは画素面積N(大きさN1/2×N1/2)の正方形であると仮定する。有限画像のRST変換により、若干のデータが画像枠内へまたは画像枠外へ動くことによって、妨害による差が生じることに留意する。
【0013】
C.フーリエ−メリン (Fourier−Mellin) 不変量:
フーリエ変換は、RST変換下で、ある特徴を有することから、位置合わせ問題に有用である。2個の2次元無限連続画像r,pが上記式(2)で与えられる関係にしたがうものとする。フーリエシフト、拡大/縮小および回転の定理により、それぞれ画像rおよびpのフーリエ変換であるFrとFpとの間の関係は、次式によって与えられる。
【0014】
【数3】
フーリエ変換Fpの複素絶対値はFrの絶対値のs2倍であり、それはΔxおよびΔyとは独立であることに留意する。さらに、Fpの絶対値は、Frを−φだけ回転させ、その大きさを係数sだけ縮小させることで、Frの絶対値から誘導される。このことは、Fpの絶対値に対する独立した操作によって回転と拡大/縮小のパラメータを回復することを可能にする。
【0015】
式(3)は、画素領域(pixel domain)における画像を角度φだけ回転させることが、そのフーリエ変換の絶対値をφだけ回転させることと等価であることを示している。画素領域における画像を拡大/縮小係数sだけ拡大することは、それのフーリエ変換の絶対値の広がりをsだけ縮小させ、フーリエ変換の絶対値の高さ(振幅)にs2を乗ずることと等価である。画素領域での並進移動は、フーリエ変換の絶対値に影響しない。その不変性から、フーリエ変換の絶対値は、「フーリエ−メリン不変量(Fourier−Mellin invariant)」と称され、フーリエ絶対値空間は「フーリエ−メリン領域(Fourier−Mellin domain)」と称される。画像rおよびpそれぞれのフーリエ−メリン変換RおよびPは、R=|Fr|およびP=|Fp|である。
【0016】
多くの先行技術の位置合わせ法では、その処理が並進移動不変のフーリエ−メリン空間で行われ、そうしてから「極−対数」座標に変換することから、回転および拡大/縮小の効果は、直交するθ軸およびlogBρ軸方向の並進移動として現れる。ここでBは大域定数対数底である。例えば、B. Reddy et al., ”An FFT−Based Technique For Translation, Rotation, And Scale Invariant Image Registration,” IEEE Transactions on Image Processing, Vol. 3, No. 8, pp. 1266−1270(1996年8月); D Lee et al., ”Analysis Of Sequential Complex Images, Using Feature Extraction And Two−Dimensional Cepstrum Techniques,” Journal of the Optical Society of America, Vol. 6, No. 6, pp. 863−871(1989年6月); E. DeCastro et al., ”Registration Of Translated And Rotated Images Using Finite Fourier Transforms,” IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. PAMI−9, No. 5, pp. 700−703 (1987); S. Alliney, ”Spatial Registration Of Multispectral And Multitemporal Digital Imagery Using Fast−Fourier Transform Techniques,” IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 15, No. 5, pp. 499−504(1993年5月); Q. −S. Chen et al., ”Symmetric Phase−Only Matched Filtering Of Fourier−Mellin Transforms For Image Registration And Recognition,” IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 16, No. 12, pp. 1156−1168(1994年12月)を参照。極−対数空間では、これらの軸方向のシフトの関数としてのRおよびPの正規化相関係数は、座標(−φ,−s)で最大となる。シフトjでの一次元正規化相関係数は下記式によって与えられる。
【0017】
【数4】
これが単純に、2次元極−対数空間に拡大される。
【0018】
式(3)は無限画像に適用されるものであって、有限画像には適用されない。それが有限画像に当てはまったとしたら、フーリエ−メリン極−対数係数を得るのにO(N log N)回の演算(すなわち、N log Nのオーダーの回数の演算)が必要であり、係数の全ての循環シフトについて正規化相関係数を計算するのに、畳込み定理によって、O(N log N)回の演算が必要であると考えられる。そこで、回転および拡大/縮小は、O(N log N)回検出することになると考えられる。連続画像ではなく離散画像を用いると、2個の画像間でのおよび極−対数表示の計算での若干のサンプリング誤差が生じる。
【0019】
【発明が解決しようとする課題】
実際には、高解像度画像および画素間補間を用いることで、それらの誤差を最低限にすることができる。残念ながら、以下の2つの理由から、この理論は有限画像には適用されない。
【0020】
1.妨害(オクルージョン)誤差:
有限画像の回転、拡大/縮小または並進移動によって、画素データの一部が画像枠から出て行くか、あるいはいくらかの新たな画素データがその枠に入るようになる。
【0021】
2.タイリング (Tiling) 誤差:
有限画像のFFT(高速フーリエ変換)は、画像面内においてタイル貼りするようにその画像を無限に反復することで求められる。このような反復処理がなされた画像のことをタイリング画像と呼ぶ。回転と拡大/縮小は、タイリングでは可換ではない。
【0022】
画像が、図1(a)のように、一様で十分に大きい背景(バックグラウンド)に対して形を描く場合、変換中は一様なバックグラウンドの画素のみが画像枠を出入りすることから、データの損失がない。これは、例えばMRI(磁気共鳴イメージング)などのように、検査対象画像が人体外の一様なバックグラウンドとともに人体断面を描出するような一部の医療用イメージング作業に当てはまる。図2(a)に示したように背景が一様でなかったりパディング(padding)が不十分である画像の場合、変換によって妨害誤差が生じて、相関ピークが別の位置にシフトしたり、重大な劣化が生じる場合がある。
【0023】
ストーンらが回転および拡大/縮小について指摘しているように(H.Stone et al., ”A Note On Translation, Rotation, And Scale−Invariant Image Registration,” NEC Research Institute Technical Report, No. 97−115R (1997))、さらにはアリニーらが並進移動について指摘しているように(Alliney et al., ”Digital Registration Using Projections,” IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. PAMI−8, No. 2, pp. 222−233,1986年3月)、90°の整数倍の回転の場合およびパディングされた画像の短距離の並進移動の場合を除き、タイリング画像のFFTをとる場合には、タイリング誤差が不可避である。離散有限画像のフーリエ変換は、高強度の「+」形状としてフーリエ−メリン空間に現れるタイル間の境界を有する(図2での列(B)を参照)。このアーティファクト(偽像)は、画像内容の残りの部分からの係数よりも顕著である。ある先行技術の位置合わせ方法では、回転対称な画像枠を利用して、フーリエ−メリン空間でそのアーティファクトが見えるのを回避する(上記のE. DeCastro et al.を参照)。本発明は、以下に説明し、また未処理の正方形画像を用いるという従来のアプローチと両方の方法を比較する実験の結果によって確認されるように、より有効なアプローチを提供するものである。
【0024】
いかなる誤差発生源とは無関係に、有限画像においてフーリエ−メリンによる手法が良好に機能するよう十分に、無限画像の場合および有限画像の場合が密接に関連づけられる。しかしながら、文献に報告の方法では、相関関数において、ピーク相関が低く、信号/ノイズ比が小さい(B.Reddy et al.の上記文献; L.Brown, ”A Survey Of Image Registration Techniques,” ACM Computing Surveys, Vol.24, No.4, pp.325−376 (1992)を参照)。
【0025】
それとは対照的に本発明は、相関関数における1に近いピーク相関と高い信号/ノイズ比を達成し、それらがあいまって位置合わせの正確さを大幅に向上させる方法を提供する。
【0026】
【課題を解決するための手段】
全般的に言えば、本発明によれば、基準画像にパターン画像を位置合わせする方法が提供される。パターン画像と基準画像とは、拡大/縮小係数(スケール係数)s、回転係数φおよび並進ベクトル(Δx,Δy)によって規定される回転−拡大/縮小−移動(Rotation−Scale−Translation:RST)変換によって互いに異なっている。フーリエ−メリン不変量を用いて、基準画像rとパターン画像pとの間のRST変換の回転パラメータ、拡大/縮小変化パラメータおよび並進移動パラメータを分離することにより、画像位置合わせを行う。
【0027】
本発明の好ましい実施態様においては、本発明の方法には、前処理の段階、拡大/縮小の段階、回転の段階および並進移動の段階が含まれる。
【0028】
前処理の段階では、基準画像とパターン画像を、画素領域からフーリエ−メリン領域に変換して、それぞれ変換基準画像および変換パターン画像を得る。次に、変換基準画像と変換パターン画像をデカルト座標(x,y)座標から極−対数(logB (半径),角度)座標に変換する。ここで、Bは大域定数対数底である。
【0029】
拡大/縮小の段階では、1以上の可能な(potential)拡大/縮小係数が復元される。極−対数(logB (半径),角度)基準画像と極−対数(logB (半径),角度)パターン画像が、それらの角度軸方向に沿って合計されて、それぞれ基準スケールシグネチュア(scale signature)およびパターンスケールシグネチュアを与える。次に、正規化相関を用いて、基準サイズスケールシグネチュアをパターンスケールシグネチュアに相関させ、相関スケールシグネチュアを得る。スケールシグネチュアの組を含んでいる相関スケールシグネチュアの極大を検出する。最後に、対数底Bを、各スケールシグネチュアでべき乗し、1以上の可能な拡大/縮小係数を得る。実際の拡大/縮小係数は、並進の段階においてこの1以上の可能な拡大/縮小係数から求められる。
【0030】
回転の段階では、回転係数φが復元される。極−対数(logB (半径),角度)基準画像および極−対数(logB (半径),角度)パターン画像がそれらのlogB (半径)軸方向に合計されて、それぞれ基準回転シグネチュアとパターン回転シグネチュアを与える。次に、正規化円形相関を用いて、基準回転シグネチュアをパターン回転シグネチュアに相関させて、相関回転シグネチュアを得る。最後に、回転係数φを含んでいる相関回転シグネチュアの最大値を得る。
【0031】
並進移動の段階では、実際の拡大/縮小係数(スケール係数)sおよび並進ベクトル(Δx,Δy)が復元される。パターン画像を−φだけ回転して、回転パターン画像を得る。各可能な拡大/縮小係数について、可能な拡大/縮小係数の逆数によって、回転パターンを再び拡大/縮小させて、候補パターンを得る。各候補パターンについて、可能な並進ベクトルを求める。可能な並進ベクトルは、候補パターンをその可能な並進ベクトルだけ並進移動させた場合に、基準画像と並進後の候補パターンとの間の最も高い相関を与えるもののことである。最後に、基準画像に対して最高の相関を与える並進後の候補パターンを選択する。可能な拡大/縮小係数と選択された候補パターンに関連する可能な並進ベクトルは、それぞれ、実際の拡大/縮小係数sと実際の並進ベクトル(Δx,Δy)を含む。したがって、各RST変換パラメータが効果的に復元される。
【0032】
別の実施態様は、拡大/縮小係数sまたは回転係数φのいずれかが既知である場合に、残りのRST変換パラメータを復元するためのものである。
【0033】
画像位置合わせの正確さを高めるために本発明の方法において使用できる各種のオプションのフィルタが提供される。
【0034】
従って、本発明の目的は、所与の基準画像に合致してパターン画像をアライメントすることができる画像位置合わせ方法を提供することにある。
【0035】
本発明の別の目的は、2個の画像の間のRST変換を規定する変換パラメータを復元する画像位置合わせ方法を提供することにある。
【0036】
本発明のさらに別の目的は、相関関数における高いピーク相関と高い信号/ノイズ比を達成し、これらがあいまって位置合わせの正確さを大いに向上させる画像位置合わせ方法を提供することにある。
【0037】
本発明の他の目的は、添付の図面と関連させた以下の説明を考慮することで、より容易に理解できよう。
【0038】
【発明の実施の形態】
上記のように本発明は、ノイズおよびアライメントからの妨害(オクルージョン)の存在下に、回転−拡大/縮小−移動(「RST;Rotation−Scale−Translation」)変換によって互いに異なっている2個の画像を位置合わせする方法を提供する。詳細には、フーリエ−メリン(Fourier−Mellin)不変量を用いて、基準画像rとパターン画像pの間のRST変換の回転パラメータ、拡大/縮小パラメータおよび並進パラメータを分離することによって、画像位置合わせ(image registration)を行う。本発明の方法の各工程および処理は、好適にプログラミングされた汎用コンピュータを用いて行うのが好ましいが、そのような処理は所望に応じて、専用のハードウェアその他の特殊装置で行うこともできることに留意すべきである。そこで、本明細書に記載のプログラム、アルゴリズム、プロセス、方法などは、いかなる形でも特定のコンピュータまたは装置に限定されるものではない。
【0039】
本発明の方法について説明する前に、有限画像についてのフーリエ−メリン法を説明することが、本発明に関しての理解を深める上で役立つだろう。
【0040】
A.有限画像についてのフーリエ−メリン法:
この節では、単純なフーリエ−メリン法を用いた場合、特定の性質を有する人工的な理想化された画像については、全ての発生源からの上述の累積誤差が小さいものとなり得ることを示す。しかしながら、現実に遭遇する実際の非理想画像の場合、その誤差は大きいことが示される。
【0041】
フーリエ−メリン不変量の特性が有限画像に与える効果を強調する2種類の実験について説明する。図1に示した第1の実験は、フーリエ−メリン空間における無限画像とかなり類似した挙動を示す種類の理想画像の一つを調べるものである。図1の列(A)に示した、一様な(黒)の背景を有する高コントラストの単純な画像は、ほぼ円形であって、対比を高める背景上に置かれたある種の理想画像を代表するものである。図2に示した第2の実験は、実際の衛星画像類の一つを調べるものである。図2の列(A)に示した画像枠にある低コントラストで詳細な画像は、衛星画像およびある種の医療画像の典型的なものであり、誤差が無視できない実際の非理想画像類の代表するものである。
【0042】
図1の列(A)には、左から右へ水平方向に配置された、(1)64×64画素の理想化された有限離散基準画像;(2)角度45°だけ回転した基準画像に相当する回転画像;(3)係数2.00だけ拡大した基準画像に相当する拡大/縮小画像;(4)(−16,−16)画素だけ移動した基準画像に相当する並進移動画像の4個の画像を示してある。離散画像を回転・拡大/縮小することで生じる誤差を最小にするため、回転画像および拡大/縮小画像についての画素値を計算する際に、線形補間を用いた。図1の列(B)には、上記4種類の画像のおのおのについて、フーリエ−メリン係数のうち非ゼロである係数の等高線プロットを示してあり、変換(回転、拡大/縮小、並進移動)の効果を観察することができる。この基準画像の場合、画素領域での角度φの回転は、フーリエ−メリン領域での−φの回転とほぼ等価であることに留意する。画素領域でsだけ拡大するということは、フーリエ−メリン領域でsだけ縮小し、さらに振幅にs2を乗ずることとほぼ等価である。並進移動による効果はない。調べると、図1におけるフーリエ−メリン変換が、無限画像の変換の特性に非常に近い特性を示して、回転パラメータおよび拡大/縮小パラメータを復元することが、明らかである。
【0043】
図2には、実際の衛星画像について行った同じ実験の結果を示してある。図2の列(A)は、図1の列(A)に示した単純な基準画像と同じ変換(回転、拡大/縮小、並進移動)を行った64×64画素の衛星画像(「基準画像」)を示してある。図2の列(B)には、図2の列(A)に示す画像のフーリエ−メリン変換を示してある。「+」形状のアーティファクトによって、回転あるいは拡大/縮小された係数の動きが不鮮明になっていることに留意する。並進画像のフーリエ−メリン変換が元の基準画像の変換と同一ではないことから、フーリエ−メリン領域は、並進移動に対して不変ではない。
【0044】
画素レベルの変換Mが、回転、拡大/縮小および並進移動の組み合わせである場合、フーリエ−メリン空間における理想の場合(無限画像の場合)の係数および実際の(有限画像の場合)係数からの差は累積的であることから、先行技術のフーリエ−メリン変換に基づく方法では、十分な性能が得られない。
【0045】
B.新規な画像位置合わせ方法:
本発明の画像位置合わせ方法は、拡大/縮小係数(スケール係数)s、回転係数φおよび並進ベクトル(Δx,Δy)というRST変換の3種類の変換パラメータそれぞれについて1段階の計3段階で機能するものである。図3は、本発明の方法の全体を示すフローチャートである。本発明の方法は、前処理段階10、拡大/縮小段階20、回転段階30および並進移動段階40を有する。前処理段階10では、基準画像とパターン画像を作成し、これらを拡大/縮小段階と回転段階で使用するのに適した形に変換する。拡大/縮小段階20では、1以上の可能な(potential)拡大/縮小係数を復元する。後述するように、1またはそれ以上の可能な拡大/縮小係数を復元することができる。可能な拡大/縮小係数が1個のみ復元された場合、その1個の可能な拡大/縮小係数が実際の拡大/縮小係数sとなる。本発明の方法はまた回転段階30を備えているが、そこでは、回転係数φが復元される。本発明の方法はさらに並進移動段階40を備えているが、そこでは並進ベクトル(Δx,Δy)が復元される。最後に、拡大/縮小段階20で復元される「1以上の可能な拡大/縮小係数」が複数の可能な拡大/縮小係数である場合、実際の拡大/縮小係数sは、並進移動段階40において、その複数の可能な拡大/縮小係数から求められる。拡大/縮小段階20と回転段階30とは独立であり、並行して行うことができる。回転係数および1以上の可能な拡大/縮小係数が分かってからでなければ、並進移動段階40に進むことはできない。
【0046】
本発明の方法についての以下の説明は、無限の連続画像についての変換パラメータを復元するために、フィルタ、変換および相関をどのように用いるかを説明するものである。一般理論が有限の離散画像には完全には適用されない理由について説明し、妥当な近似を行う本発明の方法について説明する。最後に、本発明の方法が、非常に正確で、高い信号/ノイズ比を有することを確認する実験結果を示す。
【0047】
1.スケールシグネチュアおよび位置合わせの拡大/縮小段階:
拡大/縮小段階の目的は、式(2)における拡大/縮小係数s、あるいは実際の拡大/縮小係数を含む可能な拡大/縮小係数の集合を復元することにある。並進移動および回転がある場合にこのパラメータを復元するために、画像を並進移動・回転不変空間に写像する。その新たな空間で、画像についての「スケールシグネチュア(scale signature)」を計算する。スケールシグネチュアは、拡大/縮小に伴って変化し、有限画像に対する回転や並進移動に対しては不変である。有限の離散画像の場合、スケールシグネチュアが並進移動および回転の変化に対して抵抗力を有し、したがって、スケールシグネチュアを用いて拡大/縮小係数sを効果的に復元できることが、実験の結果から明らかになっている。
【0048】
写像変換Sは、基本的には、フーリエ−メリン並進不変性に基づいたものである。フーリエ−メリン領域の極−対数写像では、画素の拡大/縮小操作および回転操作は、直交軸方向に行われる。θ軸方向に積分し、半径と総画像エネルギーとの積によって除算することで、画像回転に対して不変の一次元関数Sr(logB ρ)が得られる。この一次元関数がスケールシグネチュアある。無限画像の場合、スケールシグネチュアは、基準画像を係数sだけ拡大もしくは縮小させることが、Srを−logB sだけ並進移動させることと等価である、という性質を有する。正規化相関をスケールシグネチュアについて実行すると、正規化係数は相関ピークの位置に影響しないことから、その正規化係数は無関係になる。正規化を無視すると、r(x,y)からSr(logB ρ)への変換は下記式で与えられる。
【0049】
【数5】
式中、Gは、有限画像の場合のアーティファクトを補正するのに使用される非線形フィルタである。無限画像の場合、Gは単位フィルタ(identity filter)である。実際の画像のフーリエ変換は180°回転対称性を有することから、積分範囲は2のファクタだけ小さくし得ることに留意する。画素領域における任意のRST変換は、S領域における−logB sだけの並進移動(シフト)に等価であることから、2個の画像のスケールシグネチュア間の正規化(非円形)一次元相関係数は、−logB sにおいて1.0となるだろう。これは、単純な一次元相関を用いて拡大/縮小パラメータを復元できることを意味している。
【0050】
離散画像の場合、連続関数Srは、その係数がθに関する極−対数フーリエ−メリン空間における補間点上の合計を意味する離散関数である(補間によって生じる誤差を最小化するのに使用できるデカルト画像から極−フーリエ画像への直接変換は公知である。例えば、上記のAlliney et al.を参照。)。有限画像の場合、画像領域での拡大/縮小操作によって生じるS領域シフトによって、一部の画像画素が、Srの元の範囲から出入りすることがある。拡大/縮小操作によっても一部の画像画素が元の画像枠から出入りすることがあり、フーリエ変換の個々の係数とともに、フーリエ変換の全体的な振幅を変化させる。有限フーリエ変換時における画像の内在的なタイリングによって生じる不連続は、フーリエ−メリン係数に対して、強度の大きい、拡大/縮小に対して不変の「+」形状を付与し、この「+」形状は、画像固有の係数の拡大/縮小に比べて著しく大きくなり、拡大/縮小変化を観察することを困難にする。
【0051】
少なくとも1つの可能な拡大/縮小係数(実際の拡大/縮小係数sを含む)の好ましい復元方法が、図4、図5のフローチャートに示してある。図4には、すくなくとも1つの可能なサイズ変化係数と回転係数φとの両方を復元する上で一般的な、ある前処理を示してある。この前処理への入力は、基準画像r(110r)とパターン画像p(110p)である。各画像は、一連のステップで処理され、そのうちのいくつかのステップは、基準画像とパターン画像の両方で類似しており、これらは、図4および図5では、基準画像についての添字「r」とパターン画像についての添字「p」によって区別してある。
【0052】
前処理は、オプションのステップ112から始まり、そこでは、各画像についてウェーブレット分解112を行うことができる。次に、好ましくは、フィルタ処理ステップ114を各ウェーブレット分解画像について行い、アーティファクト除去プレフィルタGを用いてアーティファクト(偽像)を除去する。アーティファクトは、その操作を行わなければ後のフーリエ−メリン変換時に生じて、実際のデータを不鮮明にする望ましくない影響を与え、正確な相関を妨害する。次に、各画像、典型的には最初は画素領域にある各画像について、ステップ116においてフーリエ−メリン変換を行って、それらの画像をフーリエ−メリン領域に変換する。フーリエ−メリン変換によって、デカルト座標(x,y)座標にフーリエ−メリン変換画像が得られ、次にそれをステップ118において極−対数(logB (半径),角度)座標(Bは大域定数対数底)に変換する。Bは任意の定数であり、それの特定の値はさほど重要ではなく、何らかの所望の形で選択することができる。例えば、Bについての好適な値は2である。別の有用な値は、B=(0.425N)(1/N)を用いて計算することができる。式中、Nは、(logB (半径),角度)座標系のあるコンピュータ表現での離散表現での半径値の数値である。
【0053】
ステップ116と118は、好ましくは、当業界で公知であって、例えば上述のアリネー(S. Alliney)の論文に記載されているように、1回の操作で行われる。後述するように、ステップ110からステップ118までを含む前処理は、拡大/縮小段階20において少なくとも1つの可能な拡大/縮小係数を復元する前と、回転段階30において回転係数φを復元する前に、全く同様に行われる。
【0054】
前処理が完了し、変換画像を極座標に変化した後、少なくとも1つの可能な拡大/縮小係数を復元するための専用の処理を図5に示したように進める。最初に、ステップ120においで、ステップ118(図4)で得られた極−対数基準画像および極−対数パターン画像をそれぞれ、それらの角度軸方向に合計して、それぞれ一次元基準スケールシグネチュアおよび一次元パターンスケールシグネチュアを得る。次に、所望に応じて、オプションのステップ122において、スケールシグネチュアを安定させスケールシグネチュアの信号/ノイズ比を上昇させるフィルタHを用いてスケールシグネチュアについてフィルタ処理を行い、後述するように、相関の正確さを向上させることができる。次に、ステップ124で、正規化相関を用いて、フィルタ処理されたスケールシグネチュアを相関させる。正規化相関によって、1以上の極大(スケールシグネチュアシフト)を有する相関スケールシグネチュア得られ、この相関スケールシグネチュアは、ステップ126で検出される。最後に、ステップ128において、対数底Bを各スケールシグネチュアだけべき乗し、少なくとも1つの可能な拡大/縮小係数130を得る。スケールシグネチュアの相関によって、複数の可能な拡大/縮小係数が得られる。実際には、後述するように、最終的な並進移動段階40の実行中に1〜5個のピークを調べて、実際の拡大/縮小係数sを同定することが必要である。
【0055】
2個の有限離散画像におけるスケールシグネチュアを調べることでいつも拡大/縮小係数を復元できるとは限らないが、実際には、Gを選択して有限変換によって生じるアーティファクトを最小化すれば、スケールシグネチュアにおいて全体的なシフトを肉眼で見ることができる場合が多い。本発明は、ステップ114(図4)においてこの観察を用い、拡大/縮小パラメータの復元を試みるものである。
【0056】
相関(ステップ124)以前のステップは、フィルタ処理されたS変換を実行するものである。Wは計算範囲を縮小するために使用されるウェーブレット分解である。正規化相関とそれに続くピーク検出によって、正規化相関係数が極大となるS領域シフトのリストが返される。極−対数写像で使用される対数底Bの逆数をこれら各シフトでべき乗することで、拡大/縮小係数の集合が得られる。これらの各拡大/縮小係数は、基準画像rおよびパターン画像pに関係する拡大/縮小係数についての可能性の高い値である。実際の拡大/縮小係数を求めるには、この節で後述するように回転パラメータを復元し、画像上での回転を取り消し、並進移動相関が最大である拡大/縮小係数を選択する。拡大/縮小係数について上限または下限が分かっている場合には、その範囲外の全ての候補を除外して、必要な計算量を減らすことができる。
【0057】
GがO(N log N)となるように選択されると仮定すると、フーリエ−メリン変換および極−対数写像にはN log Nの程度の回数の計算が必要である。logB ρ軸への投影(θによる積分)には、さらにN−N1/2回の加算を必要とする。そこで、スケールシグネチュアSrおよびSrを得るには、総計算回数はO(N log N)となる。さらに追加のN1/2 log N程度の回数の演算を行うことで、一次元正規化相関およびピーク検出を行うことができる。基準画像rおよびパターン画像pについてk次のウェーブレット分解を行い、フーリエ−メリン変換への入力として低−低サブバンドを用いることで、全体の計算を4kのファクタで高速化することができる。k次ウェーブレット分解の低−低サブバンドは、実質的に、元の画像が各次元方向にkのファクタだけ解像度低下したものである(G. Strang et al., Wavelets And Filter Banks, Wellesley−Cambridge Press, pp. 15−35 (1996)参照)。拡大/縮小変換が解像度とは独立であることから、ウェーブレット分解を用いても、kが大きすぎて画像における形状の大半がサンプリング解像度より小さくならない限り、位置合わせの結果にはほとんど影響しない。ウェーブレットの使用を組み入れることで、位置合わせのうち拡大/縮小段階の総計算回数はO((N log N)/4k)回となる。
【0058】
2.回転シグネチュアおよび位置合わせの回転段階:
回転段階の目的は、式(2)における基準画像rおよびパターン画像pに関係する回転パラメータφを復元することにある。スケールシグネチュアを用いて回転および並進移動不変領域での拡大/縮小情報を復元できるように、同様のアプローチを回転に用いることができる。Φを変換関数として、Φr=Φ(r)が無限連続基準画像rの並進移動・拡大/縮小不変回転シグネチュアであるとする。有限離散型画像の場合、実験から、Φが元の画像の並進移動および拡大/縮小に対して抵抗力を有することが明らかになっている。ただし、全体的な絶対値の大きさの変化は起こり得る。
【0059】
ρ軸方向での極フーリエ−メリン係数を積分することで、並進移動および拡大/縮小に不変である角度の一次元関数が得られる。Φは総画像エネルギーに関して正規化されていないが、正規化相関に影響を与えない。Φ(r)は下記式によって与えられる。
【0060】
【数6】
式中、Jは、拡大/縮小係数がない(s=1)ことが分かっている有限画像の場合に適用される点別の重み関数である。それ以外の場合、Jは1であると仮定する。
【0061】
無限連続画像の場合、画像領域で角度φだけ回転することは、Φ領域で−φだけシフトすることに相当する。これは、ΦrとΦpの正規化円形相関が−φで1であることを意味している。フーリエ係数のように、回転シグネチュアは180°回転対称性を有することに留意する(Φr(θ)=Φp(θ+απ)(αは整数である))。従って、回転シグネチュアから、モジュロ180°での回転パラメータを求めることができる。回転が±90°より大きいか否かが不明の場合は、1回の画素レベルの逆回転および画像相関を行って、複数の選択肢のうちの1個を除外する必要がある。回転対称画像の場合、回転シグネチュアは一様であり、回転を復元することはできない。
【0062】
離散型で有限の画像についてのスケールシグネチュアに関する説明は、回転シグネチュアについてもよく当てはまる。無限連続画像の場合と有限離散画像の場合の間で認められる最大の不一致点は、有限離散画像の場合にはフーリエ−メリン係数において「+」形のアーティファクトであるのが普通であるということである。Gを適切に選択することで、以下に説明するように、そのアーチファクトが低減される。Gによる画素領域フィルタに加えて、フィルタJを用いて、画像テクスチャにおけるエッジ部からのフーリエ−メリン係数をより強く重み付けする。スケールシグネチュアの場合とは異なり、回転シグネチュアの相関によって、しばしば、実際の回転パラメータの近くに1に近い値を有する狭いピークが得られ、高い信号/ノイズ比が示される。そのため、回転シグネチュアの正規化相関の単一ピークのみを用いて、回転パラメータをモジューロ180°で正確に求めることができる場合が多い。
【0063】
回転係数φを復元するための好ましい処理を図4および図6のフローチャートに示してある。図4は前処理を示し、図6は回転段階30に固有の好ましい操作を示している。拡大/縮小段階の場合同様に、基準画像r(110r)とパターン画像p(110p)について、図4に示しかつ上述した前処理を行う。再度、各画像を一連のステップで処理する。その際、最初の部分は両方の画像で同様であり、図4および図6では、基準画像についての添え字「r」およびパターン画像についての添え字「p」によって両者を区別してある。ステップ110〜118の前処理(基準画像とパターン画像の両方について)は、回転段階30の以前の部分においては、拡大/縮小段階20の以前に実施される同じステップと同一である。これらの前処理段階は、拡大/縮小段階と回転段階との各段階について別個に行うことができるが、そうではなく、それらの段階をまとめて行い、次にステップ118の出力を、拡大/縮小段階20におけるステップ120および回転段階30におけるステップ140の両方で用いることが好ましいということは、留意すべき点である。
【0064】
回転段階30では、ステップ118の出力を、ステップ140でオプションのフィルタJを用いてフィルタ処理することで、そこに存在するエッジ部を強調することができる。その後、ステップ118(図4)で得られる極−対数(logB (半径)、角度)基準画像および極−対数(logB (半径),角度)パターン画像をそれぞれ、ステップ142でそれらのlogB(半径)軸方向に合計して、それぞれ一次元基準回転シグネチュアおよび一次元パターン回転シグネチュアを得る。次にステップ144で、正規化円形相関を用いて、回転シグネチュアを相関させる。正規化円形相関によって、単一の最大値を有する相関回転シグネチュアが得られ、それはステップ146で検出される。その最大値を与える角度シフトが、結果として得られる回転係数φ148である。
【0065】
位置合わせの回転段階におけるフーリエ−メリン変換(「FMT」)は、拡大/縮小段階について使用されるものと同一であることから、O(N log N)回の計算は1回だけ行う必要がある。回転については、J重み付け係数を用いる場合、さらにN回の乗算が必要である。ρ軸への投影では、N−N1/2回の加算を必要とする。従って、回転シグネチュアは、O(N log N)回の演算で得ることができる。一次元円形相関では、さらにO(N1/2 log N)回の演算が必要である。拡大/縮小の場合同様、回転は、妥当な画像解像度で検出できることから、入力画像のk次ウェーブレット変換によって、O((N log N)/4k)回の演算で回転パラメータを復元することができる。拡大/縮小段階と回転段階について同じフィルタ処理フーリエ−メリン−ウェーブレット変換を用いる場合、回転段階では、拡大/縮小段階を行った後に、N/4k程度の回数の独立の演算を行う必要がある。
【0066】
3.位置合わせの並進移動段階:
並進移動段階の目的は、回転係数φと1以上の可能な拡大/縮小係数を与えられて、並進移動パラメータΔxおよびΔyを求めるとともに、1以上の可能な拡大/縮小係数のどれが実際の拡大/縮小係数sであるかを決定することにある。並進移動段階40(図3)について好ましい処理を図7のフローチャートに示す。並進移動段階は、パターン画像を−φだけ回転させて回転パターン画像を得るステップ160から開始する。これにより、回転パターン画像では回転が「取り消される」ことになる。次に、各可能な拡大/縮小係数について、その可能な拡大/縮小係数の逆数だけ回転パターン画像を拡大あるいは縮小することにより、候補パターンを得る(ステップ162)。したがって、各候補パターンは、1個の可能な拡大/縮小係数と関連し、各候補パターンでは、回転と拡大/縮小の両方の影響が取り消される。ある候補パターンについて取り消される拡大/縮小は、その候補パターンと関連する可能な拡大/縮小係数に相当する。次のステップ164では、各候補パターンについて、可能な並進ベクトルを求める。可能な並進ベクトルは、候補パターンをその可能な並進ベクトルだけ並進移動させた場合に、基準画像と並進移動後の候補パターンとの間に最も高い相関を生じる(1999年2月2日発行のShamoonらによる米国特許5,867,609号およびH. Stone, ”Progressive Wavelet Correlation Using Fourier Methods,” IEEE Transactions on Signal Processing, Vol. 47, No. 1, pp. 97−107(1999年1月)参照)。最後に、ステップ166において、基準画像との最高の相関を生じる並進移動後の候補パターンを選択する。選択した候補パターンと関連する可能な拡大/縮小係数と可能な並進ベクトルはそれぞれ、実際の拡大/縮小係数sおよび実際の並進ベクトル(Δx,Δy)を含む。
【0067】
画像において無効であることが分かっているデータがある場合、基準画像rおよびパターン画像pについてそれぞれマスクmおよびhを用いることで、追加の計算を行うことなく、並進移動段階中それらの閉塞領域を無視することができる。これらのマスクでは、対応する画像画素が有効である場合には値が“1”であり、対応する画素が無効である場合には値が“0”である。これらのマスクでは、補間およびウェーブレット分解によって得られる小数値をとることができる。以下、拡大/縮小係数が分かっている場合を誘導し、多くの可能な拡大/縮小係数がある場合にこの場合をどの程度拡張できるかを示す。多くの可能な拡大/縮小係数がある場合が、位置合わせの拡大/縮小段階の実際の出力に合致する。
【0068】
基準画像rおよびパターン画像pは、無限連続画像であるとする。画像p’は、回転および拡大/縮小の影響を取り消した後の画像pであるとする。h’は、回転および拡大/縮小の影響を取り消した後のマスクhであるとする。φとsが正確に復元された場合、画像p’は並進移動シフトのみ基準画像rと異なる。有限画像の場合、画像p’および基準画像rも、データが画像枠から出入りする時に生じる妨害(オクルージョン)だけ異なり得る。これらの妨害は、マスクh’によって自動的に考慮される。
【0069】
パターンマスクの大きさが画像マスクの大きさより小さい場合について、バイナリ(二値)有効性マスクを用いて、フーリエ領域での正規化相関係数を計算することが知られている(H. Stone, ”Progressive Wavelet Correlation Using Fourier Methods,” IEEE Transactions On Signal Processing, Vol.47, No. 1, pp. 97−107(1999年1月)参照)。パターン画像の並進移動の関数としての正規化相関係数は、画像を適切に整列するシフト位置で、ほぼ1の値を有する。この方法を拡張して、画像の低解像度表示のための小数有効性マスクが用いられている(M. McGuire et al., ”Techniques For Multi−Resolution Image Registration In The Presence Of Occlusions,” Proceedings Of The 1997 Image Registration Workshop, pp. 101−122 (1997年11月)参照)。有効性マスクmおよびh’を有する画像rおよびp’の全ての並進移動シフトについての正規化円形相関係数は下記式で表される。
【0070】
【数7】
式中、
【0071】
【外1】
は円形相関を表し、
【0072】
【数8】
である。ここで、
【0073】
【外2】
は、ポイント−バイ−ポイント(逐点)の配列乗算である。畳込み定理により、このプロセスは有限画像においてO(N log N)回で実効的に計算することができる。
【0074】
有限画像の場合、式(8)は、パターンマスクでの非ゼロの範囲がいずれの方向でも画像マスクの大きさの1/2より小さいことを仮定していることに、留意すべきである。この仮定に反すると、円形シフトは並進移動とはもはや等価ではなくなり、フーリエ領域では計算を行うことができなくなる。画素領域での相関を計算するには、O(N2)回の演算が必要である。画像が同様の大きさである場合に、O(N2)回の演算を行うのを回避するため、各次元における大きさを2倍にするためにパディングされた画像およびマスクの版について相関を計算することができる。このパディングに関し、パディングされていない画像については、画素法よりフーリエ法の方が高速である。
【0075】
本発明での並進移動段階は、復元したパラメータφとsを用いてパターンにおける回転と拡大/縮小を取り消し、画像p’とマスクh’を得るものである。次に、式(8)によって、全ての並進移動についての正規化相関係数を計算する。そのピークの位置は、基準画像rとパターン画像pとの間の並進移動差に直接関係する。ピークが(Dx,Dy)のシフト位置で起こる場合、式(2)についての並進パラメータは以下のようになる。
【0076】
【数9】
並進移動によれば相関に関与する画素が非常に少ないことから、p’のわずかな部分のみがrと重複し、誤った結果を与え得る並進移動を扱う場合には、いくばくかの注意を払う必要がある。
【0077】
並進移動段階では、拡大/縮小および回転を取り消すのにO(N)回の演算を行い、正規化相関を実行するのにO(N log N)回の演算を行う必要がある。k次のウェーブレットを用いて並進移動のおおまかな推算値を求め、位置合わせを行うことが望ましい。k次ウェーブレット分解によって、各方向に±2k−1画素の範囲で位置合わせ点を大まかに求めることができる。その大まかな推算値を考慮して、同じ粗並進移動への写像を行う4k回の可能な精密並進移動によって、最高の分解能で、実際の並進移動の正確な値についての詳細な検索を行うことができる。相関関数がピーク値付近で平滑であると仮定すると、それは、バイナリ(二値)検索アルゴリズムによって、たったの2k回の並進移動のみの調査に減らすことができる。この特性は画像に依存し、一般的には、連続性を示す画像に当てはまる。この手順を用いると、並進移動段階についての総計算回数はO((Nlog N)/4k+Nk)回である。
【0078】
上記の議論は、拡大/縮小係数が既知である場合を検討したものである。しかしながら、本発明の方法の拡大/縮小段階では、単一の拡大/縮小係数は得られない。拡大/縮小段階では、可能性の高い拡大/縮小係数のリストが得られる。どの拡大/縮小係数が正しいかを決定するためには、各拡大/縮小係数ごとに並進移動段階を繰り返して、最も高い並進移動相関ピークを与える拡大/縮小係数を選択する。高分解能検索を適用する必要があるのは、粗分解能検索で最も高いピークを与えた拡大/縮小係数のみに対してのみである。nsが位置合わせの拡大/縮小段階によって得られる拡大/縮小係数の数であるとすると、並進移動段階での真の計算回数はO((nsN log N)/4k+Nk)回である。回転、拡大/縮小変化および並進移動の各パラメータの復元における総計算回数は、O((nsN log N)/4k+Nk)回である。
【0079】
4.フィルタG、HおよびJ:
a.フィルタG
位置合わせの回転段階および拡大/縮小段階においてフーリエ−メリン変換(「FMT」)を計算する場合に、フィルタGを用いることにより、有限画像の内在的なタイリングの影響を小さくすることができる。図8の列(A)には、同一画像の3種類の版、すなわち(1)フィルタ処理されていない画像、(2)「ディスク(円板状)」のフィルタまたはマスクを用いてフィルタ処理した画像、(3)本発明の「ぼかし」フィルタを用いてフィルタ処理した画像を示してある。図8の列(B)には、それら画像のフーリエ−メリン変換の非ゼロ係数を示してある。
【0080】
フィルタ処理されていない画像の場合、実際に画像のテクスチャを代表する中央の係数の上に、「+」形状のアーティファクトが重畳している。このアーティファクトは、上記の内在的タイリングによってのみ生じて実際のデータを不鮮明にし、正確な相関を妨害することから、望ましくない。
【0081】
回転対称の画像枠を用いることで、このアーティファクトを回避することができる(DeCastro et al.の上記の文献)。簡単な実験によって、それが有効であることが確認される。図8の列(A)の2番目の画像は、回転対称画像枠を適用した後の画像である。この場合、フィルタGはディスク状のマスクであり、所定の半径の外側の画素がゼロに設定されている。ディスクフィルタで処理された画像のフーリエ−メリン変換は、「+」形状のアーティファクトを示さない。しかしながら、変換から「+」アーティファクトを除去した後でも、残りの係数は、元の画像のものとは正確には一致しない。フィルタ処理されていない画像とディスクフィルタで処理された画像を比較すると、ディスクフィルタで処理された画像は大きい円形エッジ部を有し、画素が約25%少ない。それに応じて、フィルタ処理されていない画像のFMTと比較して、ディスクフィルタで処理された画像のFMTでは、半径方向に分布したいくばくかのノイズと、形状の全体的変化とがある。これによって相関ピークが小さくなり、正確さに影響が出る場合がある。ただし、「+」アーティファクトが除去されることから、ディスクフィルタで処理された画像は、フィルタ処理されていないものよりも優れている。
【0082】
本発明では、先行技術におけるフィルタ処理されていない画像やディスクフィルタの使用に対して、改良が行われている。詳細には、フィルタG、は好ましくは、対向する境界に対して画像の境界をぼかす新規な「ぼかし」フィルタからなる。このフィルタにより、変えられる必要がある画素はごくわずかとなる。図8の列(A)の3番目の画像は、このようなぼかしフィルタで処理した画像である。ぼかしフィルタによって行われるぼかしを図9に特に示してあり、そこでは、図8の列(A)の3番目の画像の9枚のコピーを互いにエッジ同士でタイル状に隣接させて配置してある。好ましくは、そして図9の中央にある画像に関して示されているように、ぼかしフィルタによって、画像の境界の所定数の画素内に画素を補間して、画像の右縁部から画像の左縁部あたりまで(または図9に示したように、元の画像に隣接している場合には、画像のコピーの左縁部あたりまで)、そして画像の上縁部から画像の下縁部あたりまで(または図9に示したように、元の画像に隣接している場合には、画像のコピーの下縁部当たりまで)、滑らかな線形遷移(画素値の移り変わり)が形成される。図8の列(A)に示した大きさの画像では、フィルタは好ましくは画像境界の8画素の範囲内の画素を補間するものであるが、その数字は必須のものではなく、所望に応じて調節することができる。画素を滑らかにして上記の遷移を行うフィルタは、所望のぼかし効果を得るのに十分である。
【0083】
画像の境界付近の画素以外についてそのようなフィルタを用いても効果がないことから、大半の画素が変化しない。ぼかしフィルタで処理された画像のFMTは、その画像のフーリエ−メリン係数の非ゼロ成分を示すものである。ディスクフィルタ同様、このぼかしフィルタは、図8の列(B)に示したように、「+」アーティファクトを有効に除去する。しかしながら、ぼかしフィルタで処理された画像のFMTは、フィルタ処理されていない画像のFMTとほぼ同一であるが、望ましくない「+」アーティファクトが除去されている。従って、画像を循環的に取り巻くエッジ部をぼかすフィルタGは、有効なフーリエ−メリン係数をほとんど変えることなく、「+」アーティファクトを除去する上で優れており、それによって全体的な相関の正確さが向上する。
【0084】
b.フィルタH
フィルタHは、拡大/縮小段階において、相関前のスケールシグネチュアの信号/ノイズ比を上昇させるために使用される。画素が画像枠から外に出て行ったり画像枠の中に入ってきたりするため、拡大/縮小変換下では、有限画像の内容が大きく変化する場合がある。そこでフィルタHを用いて、スケールシグネチュアを安定させることができる。移動平均を引くことでスケールシグネチュアから一次の傾向(trend)を除去するフィルタによって、その安定化が得られる。それを得る一つの方途は、xを画像データを表す長さNのベクトルとするというものである。以下のようにする。
【0085】
【数10】
上記のアルゴリズムを用いると、得られるベクトルは、Hフィルタで処理された出力となる。
【0086】
c.フィルタJ
画像におけるエッジ部に対応するフーリエ−メリン係数を選択的に重み付けするために、フィルタJが使用される。画素領域での拡大はフーリエ−メリン係数を縮小し、それらの係数は適切には重み付けされないことから、拡大/縮小係数がない場合にフィルタJを適用するのが最も良い。フーリエ−メリン変換の極表示では、画像テクスチャのエッジに対応する係数は、θ軸に平行かつρ軸の中心近くにある。ρが小さい係数は、画像におけるDC(直流)オフセットと低周波数成分を符号化するものであり、ρが大きい係数は、非常に高い周波数情報とノイズを表す。DC成分およびノイズ成分を低く抑えながらエッジ部の係数を強調するガウス重み付けは、「+」アーティファクト、画像における強度シフトおよびノイズの残りのものを抑制しながら、形状のエッジ部を強調するものである。フィルタJは、特定の種類の画像に適合するようチューニングして性能を高めたり、あるいは任意の拡大/縮小変換のある任意の画像の一般的な場合については除外することができる。
【0087】
5.要旨および結論:
本発明は、実際の画像対および極端な変換という困難な場合に、良好に機能する。回転、拡大/縮小および並進移動の検出を分離することで、検索空間の大きさを小さくする。プログレッシブなウェーブレット検索の使用とフーリエ領域での相関の計算により、全ての計算が非常に効率的となる。実際、本発明をテストする際に、試験用の画像対を得るのに要する時間は、本発明の方法によりそれらを位置合わせするのにかかった時間より長いことが認められた。画素フィルタとフーリエ−メリンフィルタを導入することで、有限離散フーリエ変換によるアーティファクトが低減され、正確な位置合わせが達成される。G、HおよびJフィルタを特定の分野からの画像に対してチューニングすることで、より優れた結果を得ることができる。
【0088】
RST変換に加え、本発明の方法は、基準画像とパターン画像との間の輝度差が定数または線形である場合に良好に機能すると予想される。それらの輝度変化は、フーリエ−メリン領域では一定の線形関数であることから、正規化相関関数によって無視される。並進移動を復元するのに使用される正規化画素相関の値は、線形および一定の輝度変化に対して不変であることは公知である。
【0089】
以上、各種の画像位置合わせ方法について説明・図示したが、本明細書に添付の特許請求の範囲のみによって限定される本発明の精神および広義の内容から逸脱しない限りにおいて、変更および修正が可能であることは、当業者には明らかであろう。
【0090】
【発明の効果】
以上説明したように本発明は、基準画像とパターン画像との間のRST変換を規定する変換パラメータを少ない演算量で正確に復元でき、相関関数における1に近いピーク相関と高い信号/ノイズ比を達成し、基準画像とパターン画像との位置合わせの正確さが大幅に向上するという効果がある。
【図面の簡単な説明】
【図1】基準画像とその基準画像を回転させた画像、拡大/縮小した画像、並進移動させた画像からなる画素領域における4個の理想化された画像と、これら画像のフーリエ−メリン領域における非ゼロ係数の等高線プロットとを示す図である。
【図2】基準画像とその基準画像を回転させた画像、拡大/縮小した画像、並進移動させた画像からなる画素領域における4個の実際の画像と、これら画像のフーリエ−メリン領域における非ゼロ係数の等高線プロットとを示す図である。
【図3】本発明の画像位置合わせ方法の全体的な処理を示すフローチャートである。
【図4】本発明の画像位置合わせ方法における、基準画像とパターン画像の前処理を示すフローチャートである。
【図5】本発明の画像位置合わせ方法における、1以上の可能な拡大/縮小係数を復元する処理を示すフローチャートである。
【図6】本発明の画像位置合わせ方法における回転係数φを復元する処理を示すフローチャートである。
【図7】本発明の画像位置合わせ方法における、並進ベクトル(Δx,Δy)および実際の拡大/縮小係数sを復元する処理を示すフローチャートである。
【図8】フィルタ処理されていない画像、フィルタ処理されていない画像にディスクフィルタ処理した画像およびフィルタ処理されていない画像にぼかしフィルタ処理した画像からなる画素領域の3種類の画像(実線の黒い境界は画像の一部を含むものではなく、単に各画像の外側の境界を示すためのものである)と、フーリエ−メリン領域におけるこれら画像の非ゼロ係数に対応する等高線プロットを示す図である。
【図9】図8の列(A)に示すぼかしフィルタ処理された画像を9枚、エッジ部同士で隣接するようにタイル状に配置した状態を示す図である。
【符号の説明】
10 前処理段階
20 拡大/縮小段階
30 回転段階
40 並進移動段階
Claims (13)
- パターン画像と基準画像とが拡大/縮小係数s、回転係数φおよび並進ベクトル(Δx,Δy)によって決まる回転−拡大/縮小−並進移動変換によって互いに異なっているときに、前記基準画像に前記パターン画像を位置合わせする方法であって、
(a)前記基準画像と前記パターン画像を前処理する段階であって、
(a−1)前記基準画像と前記パターン画像をフィルタ処理して、前記基準画像と前記パターン画像の内在的タイリングによって生じるアーティファクトを防止するステップと、
(a−2)前記アーティファクトを防止するステップ(a−1)の後、前記基準画像と前記パターン画像を、画素領域からフーリエ−メリン領域に変換して、それぞれ変換基準画像および変換パターン画像を得るステップと、
(a−3)前記変換基準画像と前記変換パターン画像をデカルト(x,y)座標から極−対数(logB (半径),角度)座標(Bは大域定数対数底である)に変換するステップと、を含む段階と;
(b)少なくとも1つの可能な拡大/縮小係数を復元する段階であって、
(b−1)前記極−対数(logB (半径),角度)座標での変換基準画像と前記極−対数(logB (半径),角度)座標での変換パターン画像を、それぞれ、それらの角度軸方向に合計して、基準スケールシグネチュアとパターンスケールシグネチュアを得るステップと、
(b−2)正規化相関を用いて前記基準スケールシグネチュアを前記パターンスケールシグネチュアに相関させ、相関スケールシグネチュアを得るステップと、
(b−3)スケールシグネチュアシフトの集合からなる、前記相関スケールシグネチュアの極大を検出するステップと、
(b−4)対数底Bを前記各スケールシグネチュアシフトでべき乗して、少なくとも1つの可能な拡大/縮小係数を得るステップと、を含む段階と;
(c)回転係数φを復元する段階であって、
(c−1)前記極−対数(logB (半径),角度)座標での変換基準画像および前記極−対数(logB (半径),角度)座標での変換パターン画像を、それぞれ、それらのlogB (半径)軸方向に合計して、基準回転シグネチュアとパターン回転シグネチュアを得るステップと、
(c−2)正規化円形相関を用いて前記基準回転シグネチュアをパターン回転シグネチュアと相関させ、相関回転シグネチュアを得るステップと、
(c−3)回転係数φからなる、前記相関回転シグネチュアの最大値を検出するステップと、を含む段階と;
(d)実際の拡大/縮小係数sおよび並進ベクトル(Δx,Δy)を復元する段階であって、
(d−1)前記パターン画像を−φだけ回転して、回転パターン画像を得るステップと、
(d−2)前記各可能な拡大/縮小係数ごとに、その可能な拡大/縮小係数の逆数によって前記回転パターン画像を再度拡大/縮小させ、候補パターンを得るステップと、
(d−3)各候補パターンごとに、可能な並進ベクトルであって、その候補ベクトルをその可能な並進ベクトルによって並進移動させたときに前記基準画像と並進移動後の候補パターンとが最も高い相関を示す可能な並進ベクトルを求めるステップと、
(d−4)前記基準画像に対して最高の相関を与える並進移動後の候補パターンを選択することで、その候補パターンに関連する可能な拡大/縮小係数と可能な並進ベクトルとが、それぞれ、実際の拡大/縮小係数sと実際の並進ベクトル(Δx,Δy)を含むようにするステップと、を含む段階と;
を有する画像位置合わせ方法。 - 前記基準画像および前記パターン画像の前処理の段階(a)が、さらに、前記アーティファクトを防止するステップ(a−1)の後であって前記変換ステップ(a−2)の前に、前記基準画像と前記パターン画像をウェーブレット分解するステップを有する請求項1に記載の画像位置合わせ方法。
- アーティファクトを防止するための前記フィルタ処理のステップが、ぼかしフィルタによって前記基準画像および前記パターン画像をフィルタ処理し、アーティファクトを除去するステップである請求項1に記載の画像位置合わせ方法。
- 前記少なくとも1つの可能な拡大/縮小係数を復元する段階(b)が、さらに、前記合計するステップ(b−1)の後であって前記相関させるステップ(b−2)の前に、前記基準スケールシグネチュアおよび前記パターンスケールシグネチュアをフィルタ処理して、各スケールシグネチュアの信号/ノイズ比を高くするステップを有する、請求項1に記載の画像位置合わせ方法。
- 前記回転係数φを復元する段階(c)が、さらに、合計するステップ(c−1)の前に、前記極−対数(logB (半径),角度)座標による変換基準画像および前記極−対数(logB (半径),角度)座標による前記変換パターン画像をフィルタ処理して、そこに存在するエッジ部を強調するステップを有する、請求項1に記載の画像位置合わせ方法。
- パターン画像と基準画像とが拡大/縮小係数s、回転係数φおよび並進ベクトル(Δx,Δy)によって決まる回転−拡大/縮小−並進移動変換によって互いに異なっており、前記拡大/縮小係数sが既知であるときに、前記基準画像に前記パターン画像を位置合わせする方法であって、
(a)前記基準画像と前記パターン画像を前処理する段階であって、
(a−1)前記基準画像と前記パターン画像をフィルタ処理して、前記基準画像と前記パターン画像の内在的タイリングによって生じるアーティファクトを防止するステップと、
(a−2)前記アーティファクトを防止するステップ(a−1)の後、前記基準画像と前記パターン画像を、画素領域からフーリエ−メリン領域に変換して、それぞれ変換基準画像および変換パターン画像を得るステップと、
(a−3)前記変換基準画像と前記変換パターン画像をデカルト(x,y)座標から極−対数(logB (半径),角度)座標(Bは大域定数対数底である)に変換するステップと、を含む段階と;
(b)回転係数φを復元する段階であって、
(b−1)前記極−対数(logB (半径),角度)座標での変換基準画像および前記極−対数(logB (半径),角度)座標での変換パターン画像を、それぞれ、それらのlogB (半径)軸方向に合計して、基準回転シグネチュアとパターン回転シグネチュアを得るステップと、
(b−2)正規化円形相関を用いて前記基準回転シグネチュアをパターン回転シグネチュアと相関させ、相関回転シグネチュアを得るステップと、
(b−3)回転係数φからなる、前記相関回転シグネチュアの最大値を検出するステップと、を含む段階と;
(c)並進ベクトル(Δx,Δy)を復元する段階であって、
(c−1)前記パターン画像を−φだけ回転して、回転パターン画像を得るステップと、
(c−2)前記拡大/縮小係数sの逆数によって前記回転パターン画像を再度拡大/縮小させ、候補パターンを得るステップと、
(c−3)前記候補パターンを並進ベクトル(Δx,Δy)によって並進移動させたときに前記基準画像と並進移動後の候補パターンとが最も高い相関を示すように、並進ベクトル(Δx,Δy)を求めるステップと、を含む段階と;
を有する画像位置合わせ方法。 - 前記基準画像および前記パターン画像の前処理の段階(a)が、さらに、前記アーティファクトを防止するステップ(a−1)の後であって前記変換ステップ(a−2)の前に、前記基準画像と前記パターン画像をウェーブレット分解するステップを有する請求項6に記載の画像位置合わせ方法。
- アーティファクトを防止するための前記フィルタ処理のステップが、ぼかしフィルタによって前記基準画像および前記パターン画像をフィルタ処理し、アーティファクトを除去するステップである請求項6に記載の画像位置合わせ方法。
- 前記回転係数φを復元する段階(b)が、さらに、合計するステップ(b−1)の前に、前記極−対数(logB (半径),角度)座標による変換基準画像および前記極−対数(logB (半径),角度)座標による前記変換パターン画像をフィルタ処理して、そこに存在するエッジ部を強調するステップを有する、請求項6に記載の画像位置合わせ方法。
- パターン画像と基準画像とが拡大/縮小係数s、回転係数φおよび並進ベクトル(Δx,Δy)によって決まる回転−拡大/縮小−並進移動変換によって互いに異なっており、前記回転係数φが既知であるときに、前記基準画像に前記パターン画像を位置合わせする方法であって、
(a)前記基準画像と前記パターン画像を前処理する段階であって、
(a−1)前記基準画像と前記パターン画像をフィルタ処理して、前記基準画像と前記パターン画像の内在的タイリングによって生じるアーティファクトを防止するステップと、
(a−2)前記アーティファクトを防止するステップ(a−1)の後、前記基準画像と前記パターン画像を、画素領域からフーリエ−メリン領域に変換して、それぞれ変換基準画像および変換パターン画像を得るステップと、
(a−3)前記変換基準画像と前記変換パターン画像をデカルト(x,y)座標から極−対数(logB (半径),角度)座標(Bは大域定数対数底である)に変換するステップと、を含む段階と;
(b)少なくとも1つの可能な拡大/縮小係数を復元する段階であって、
(b−1)前記極−対数(logB (半径),角度)座標での変換基準画像と前記極−対数(logB (半径),角度)座標での変換パターン画像を、それぞれ、それらの角度軸方向に合計して、基準スケールシグネチュアとパターンスケールシグネチュアを得るステップと、
(b−2)正規化相関を用いて前記基準スケールシグネチュアを前記パターンスケールシグネチュアに相関させ、相関スケールシグネチュアを得るステップと、
(b−3)スケールシグネチュアシフトの集合からなる、前記相関スケールシグネチュアの極大を検出するステップと、
(b−4)対数底Bを前記各スケールシグネチュアシフトでべき乗して、少なくとも1つの可能な拡大/縮小係数を得るステップと、を含む段階と;
(c)実際の拡大/縮小係数sおよび並進ベクトル(Δx,Δy)を復元する段階であって、
(c−1)前記パターン画像を−φだけ回転して、回転パターン画像を得るステップと、
(c−2)前記各可能な拡大/縮小係数ごとに、その可能な拡大/縮小係数の逆数によって前記回転パターン画像を再度拡大/縮小させ、候補パターンを得るステップと、
(c−3)各候補パターンごとに、可能な並進ベクトルであって、その候補ベクトルをその可能な並進ベクトルによって並進移動させたときに前記基準画像と並進移動後の候補パターンとが最も高い相関を示す可能な並進ベクトルを求めるステップと、
(c−4)前記基準画像に対して最高の相関を与える並進移動後の候補パターンを選択することで、その候補パターンに関連する可能な拡大/縮小係数と可能な並進ベクトルとが、それぞれ、実際の拡大/縮小係数sと実際の並進ベクトル(Δx,Δy)を含むようにするステップと、を含む段階と;
を有する画像位置合わせ方法。 - 前記基準画像および前記パターン画像の前処理の段階(a)が、さらに、前記アーティファクトを防止するステップ(a−1)の後であって前記変換ステップ(a−2)の前に、前記基準画像と前記パターン画像をウェーブレット分解するステップを有する請求項10に記載の画像位置合わせ方法。
- アーティファクトを防止するための前記フィルタ処理のステップが、ぼかしフィルタによって前記基準画像および前記パターン画像をフィルタ処理し、アーティファクトを除去するステップである請求項10に記載の画像位置合わせ方法。
- 前記少なくとも1つの可能な拡大/縮小係数を復元する段階(b)が、さらに、前記合計するステップ(b−1)の後であって前記相関させるステップ(b−2)の前に、前記基準スケールシグネチュアおよび前記パターンスケールシグネチュアをフィルタ処理して、各スケールシグネチュアの信号/ノイズ比を高くするステップを有する、請求項10に記載の画像位置合わせ方法。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US09/271,643 US6266452B1 (en) | 1999-03-18 | 1999-03-18 | Image registration method |
| US09/271643 | 1999-03-18 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2000268178A JP2000268178A (ja) | 2000-09-29 |
| JP3573198B2 true JP3573198B2 (ja) | 2004-10-06 |
Family
ID=23036457
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP24002899A Expired - Fee Related JP3573198B2 (ja) | 1999-03-18 | 1999-08-26 | 画像位置合わせ方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US6266452B1 (ja) |
| JP (1) | JP3573198B2 (ja) |
| GB (1) | GB2354131B (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11138708B2 (en) * | 2018-08-07 | 2021-10-05 | Markany Inc. | Method and apparatus for reconstructing content image data |
Families Citing this family (66)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3808923B2 (ja) * | 1995-11-27 | 2006-08-16 | 株式会社東芝 | 情報処理装置 |
| US6975755B1 (en) * | 1999-11-25 | 2005-12-13 | Canon Kabushiki Kaisha | Image processing method and apparatus |
| US6674484B1 (en) * | 2000-01-10 | 2004-01-06 | Koninklijke Philips Electronics N.V. | Video sample rate conversion to achieve 3-D effects |
| US6385329B1 (en) * | 2000-02-14 | 2002-05-07 | Digimarc Corporation | Wavelet domain watermarks |
| US6766062B1 (en) * | 2000-02-16 | 2004-07-20 | The Board Of Trustees Of The Leland Stanford Junior University - Office Of Technology | Digital ridgelet transform via digital polar coordinate transform |
| US6549683B1 (en) * | 2000-05-02 | 2003-04-15 | Institut National D'optique | Method and apparatus for evaluating a scale factor and a rotation angle in image processing |
| JP3406577B2 (ja) * | 2000-07-19 | 2003-05-12 | 技研トラステム株式会社 | 物体認識方法 |
| US6738532B1 (en) * | 2000-08-30 | 2004-05-18 | The Boeing Company | Image registration using reduced resolution transform space |
| AUPR105000A0 (en) * | 2000-10-27 | 2000-11-23 | Canon Kabushiki Kaisha | Method for generating and detecting marks |
| US8301453B2 (en) | 2000-12-21 | 2012-10-30 | Digimarc Corporation | Watermark synchronization signals conveying payload data |
| US7103234B2 (en) * | 2001-03-30 | 2006-09-05 | Nec Laboratories America, Inc. | Method for blind cross-spectral image registration |
| DE10144388B4 (de) * | 2001-09-10 | 2004-11-18 | Siemens Ag | Verfahren und Vorrichtung zur Kontrolle von Objekten |
| DE10144389B4 (de) * | 2001-09-10 | 2004-11-18 | Siemens Ag | Verfahren und Vorrichtung zur Kontrolle von Objekten |
| US6687528B2 (en) * | 2001-09-28 | 2004-02-03 | Ge Medical Systems Global Technology Company Llc | Analysis of cardic MR relaxation time images with application to quantifying myocardial perfusion reserve indexes |
| US7003138B2 (en) * | 2001-10-05 | 2006-02-21 | Honeywell International Inc. | System and method for geographically referencing an improvement image |
| US6947607B2 (en) * | 2002-01-04 | 2005-09-20 | Warner Bros. Entertainment Inc. | Reduction of differential resolution of separations |
| US6956976B2 (en) * | 2002-01-04 | 2005-10-18 | Warner Bros. Enterianment Inc. | Reduction of differential resolution of separations |
| US7092584B2 (en) | 2002-01-04 | 2006-08-15 | Time Warner Entertainment Company Lp | Registration of separations |
| US7127125B2 (en) * | 2002-01-04 | 2006-10-24 | Warner Bros. Entertainment Inc. | Registration of separations |
| US7113654B2 (en) * | 2002-01-31 | 2006-09-26 | Bae Systems Information And Electronic Systems Integration Inc. | Computationally efficient modeling of imagery using scaled, extracted principal components |
| US7177486B2 (en) * | 2002-04-08 | 2007-02-13 | Rensselaer Polytechnic Institute | Dual bootstrap iterative closest point method and algorithm for image registration |
| EP1370075B1 (en) * | 2002-06-06 | 2012-10-03 | Accenture Global Services Limited | Dynamic replacement of the face of an actor in a video movie |
| US7072490B2 (en) * | 2002-11-22 | 2006-07-04 | Digimarc Corporation | Symmetry watermark |
| JP4012813B2 (ja) * | 2002-11-27 | 2007-11-21 | 株式会社日立ハイテクノロジーズ | 透過型電子顕微鏡及び試料観察方法 |
| JP2004240931A (ja) | 2003-02-05 | 2004-08-26 | Sony Corp | 画像照合装置、画像照合方法、およびプログラム |
| JP4339037B2 (ja) * | 2003-04-08 | 2009-10-07 | 株式会社キーエンス | パターン検出装置、パターン検出方法、パターン検出プログラムおよびコンピュータで読み取り可能な記録媒体 |
| WO2004100535A1 (en) * | 2003-05-02 | 2004-11-18 | Allan Robert Staker | Interactive system and method for video compositing |
| AU2003903511A0 (en) * | 2003-07-08 | 2003-07-24 | Canon Kabushiki Kaisha | Image registration method improvement |
| US7349583B2 (en) * | 2003-09-05 | 2008-03-25 | The Regents Of The University Of California | Global motion estimation image coding and processing |
| US20050219558A1 (en) * | 2003-12-17 | 2005-10-06 | Zhengyuan Wang | Image registration using the perspective of the image rotation |
| JP4468442B2 (ja) * | 2004-03-31 | 2010-05-26 | キヤノン株式会社 | イメージングシステム性能測定 |
| US7751651B2 (en) * | 2004-04-02 | 2010-07-06 | The Boeing Company | Processing architecture for automatic image registration |
| US20060215935A1 (en) * | 2004-04-02 | 2006-09-28 | The Boeing Company | System and architecture for automatic image registration |
| US7773799B2 (en) * | 2004-04-02 | 2010-08-10 | The Boeing Company | Method for automatic stereo measurement of a point of interest in a scene |
| US8055100B2 (en) * | 2004-04-02 | 2011-11-08 | The Boeing Company | Method and system for image registration quality confirmation and improvement |
| US7259767B2 (en) * | 2004-04-30 | 2007-08-21 | Calgary Scientific Inc. | Image texture segmentation using polar S-transform and principal component analysis |
| US20050271300A1 (en) * | 2004-06-02 | 2005-12-08 | Pina Robert K | Image registration system and method |
| JP4587742B2 (ja) * | 2004-08-23 | 2010-11-24 | 株式会社日立ハイテクノロジーズ | 荷電粒子線顕微方法及び荷電粒子線応用装置 |
| US7539354B2 (en) * | 2004-08-25 | 2009-05-26 | Canon Kabushiki Kaisha | Image database key generation method |
| US20080292194A1 (en) * | 2005-04-27 | 2008-11-27 | Mark Schmidt | Method and System for Automatic Detection and Segmentation of Tumors and Associated Edema (Swelling) in Magnetic Resonance (Mri) Images |
| US7873240B2 (en) * | 2005-07-01 | 2011-01-18 | The Boeing Company | Method for analyzing geographic location and elevation data and geocoding an image with the data |
| US7580591B2 (en) * | 2005-07-01 | 2009-08-25 | The Boeing Company | Method for generating a synthetic perspective image |
| US7684441B2 (en) * | 2005-07-01 | 2010-03-23 | Bickel Jon A | Automated precision alignment of data in a utility monitoring system |
| US8433118B2 (en) | 2006-03-31 | 2013-04-30 | Kabushiki Kaisha Toshiba | Medical image-processing apparatus and method, and magnetic resonance imaging apparatus |
| JP4815597B2 (ja) * | 2006-06-16 | 2011-11-16 | 国立大学法人富山大学 | 画像処理方法、画像処理装置および画像処理プログラム |
| US8223143B2 (en) | 2006-10-27 | 2012-07-17 | Carl Zeiss Meditec, Inc. | User interface for efficiently displaying relevant OCT imaging data |
| US20080300477A1 (en) * | 2007-05-30 | 2008-12-04 | General Electric Company | System and method for correction of automated image registration |
| US20090027417A1 (en) * | 2007-07-24 | 2009-01-29 | Horsfall Joseph B | Method and apparatus for registration and overlay of sensor imagery onto synthetic terrain |
| AU2007254627B2 (en) * | 2007-12-21 | 2010-07-08 | Canon Kabushiki Kaisha | Geometric parameter measurement of an imaging device |
| US20090175539A1 (en) * | 2008-01-09 | 2009-07-09 | Authorizer Technologies, Inc. | Method and system for swipe sensor image alignment using fourier phase analysis |
| US20090292485A1 (en) * | 2008-05-23 | 2009-11-26 | Van Gorp John C | System and Method for Synchronized Measurements |
| US8260579B2 (en) * | 2009-07-01 | 2012-09-04 | Schneider Electric USA, Inc. | Automatic identification of multiple power grids using data synchronization |
| US9176171B2 (en) | 2010-11-19 | 2015-11-03 | Schneider Electric USA, Inc. | Data alignment in large scale electrical system applications |
| DE102011108754A1 (de) * | 2011-07-28 | 2013-01-31 | Khs Gmbh | Inspektionseinheit |
| KR101887188B1 (ko) * | 2011-11-21 | 2018-08-10 | 삼성전자주식회사 | 복수의 영상들을 접합하기 위한 방법 및 장치 |
| AU2011253779A1 (en) * | 2011-12-01 | 2013-06-20 | Canon Kabushiki Kaisha | Estimation of shift and small image distortion |
| US9077208B2 (en) | 2011-12-30 | 2015-07-07 | Schneider Electric USA, Inc. | Method of detecting instability in islanded electrical systems |
| US8944597B2 (en) | 2012-01-19 | 2015-02-03 | Carl Zeiss Meditec, Inc. | Standardized display of optical coherence tomography imaging data |
| US9232139B2 (en) * | 2012-07-24 | 2016-01-05 | Apple Inc. | Image stabilization using striped output transformation unit |
| JP6056354B2 (ja) * | 2012-10-10 | 2017-01-11 | コニカミノルタ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
| US9420945B2 (en) | 2013-03-14 | 2016-08-23 | Carl Zeiss Meditec, Inc. | User interface for acquisition, display and analysis of ophthalmic diagnostic data |
| US9064304B2 (en) * | 2013-03-18 | 2015-06-23 | General Electric Company | Image quality assessment of microscopy images |
| US10088658B2 (en) * | 2013-03-18 | 2018-10-02 | General Electric Company | Referencing in multi-acquisition slide imaging |
| DE102014204360A1 (de) * | 2014-03-10 | 2015-09-10 | Ford Global Technologies, Llc | Verfahren sowie Vorrichtung zur Abschätzung des Abstandes eines in Bewegung befindlichen Fahrzeuges von einem Objekt |
| KR101758805B1 (ko) * | 2016-04-28 | 2017-07-18 | 스마트케어웍스(주) | 의료 영상 정합 장치 및 방법 |
| CN111612760B (zh) * | 2020-05-20 | 2023-11-17 | 阿波罗智联(北京)科技有限公司 | 用于检测障碍物的方法和装置 |
Family Cites Families (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2602201B2 (ja) | 1985-04-12 | 1997-04-23 | 株式会社日立製作所 | 被検査パターンの欠陥検査方法 |
| US4864629A (en) | 1985-12-31 | 1989-09-05 | Schlumberger Technologies, Inc. | Image correlation system |
| US5150429A (en) | 1987-12-17 | 1992-09-22 | Eastman Kodak Company | Image processor with error diffusion modulated threshold matrix |
| FR2638874B1 (fr) * | 1988-11-10 | 1994-07-01 | Thomson Csf | Procede d'estimation du mouvement d'au moins une cible dans une suite d'images, et dispositif pour la mise en oeuvre de ce procede |
| US5063604A (en) * | 1989-11-08 | 1991-11-05 | Transitions Research Corporation | Method and means for recognizing patterns represented in logarithmic polar coordinates |
| JPH0528273A (ja) | 1991-05-13 | 1993-02-05 | Nikon Corp | 画像処理方法および装置 |
| US5187598A (en) * | 1991-08-26 | 1993-02-16 | United Technologies Corporation | Optical processor for pulse train identification |
| US5613013A (en) * | 1994-05-13 | 1997-03-18 | Reticula Corporation | Glass patterns in image alignment and analysis |
| US6118475A (en) * | 1994-06-02 | 2000-09-12 | Canon Kabushiki Kaisha | Multi-eye image pickup apparatus, and method and apparatus for measuring or recognizing three-dimensional shape |
| JP3672976B2 (ja) * | 1995-09-05 | 2005-07-20 | 株式会社東芝 | 磁気共鳴映像装置 |
| US5706416A (en) * | 1995-11-13 | 1998-01-06 | Massachusetts Institute Of Technology | Method and apparatus for relating and combining multiple images of the same scene or object(s) |
| US5914990A (en) * | 1995-11-22 | 1999-06-22 | Telefonaktiebolaget Lm Ericsson | Filtering in a receiver that uses log-polar signal processing |
| US5867609A (en) | 1995-12-07 | 1999-02-02 | Nec Research Institute, Inc. | Method for computing correlation operations on partially occluded data |
| JP2000030060A (ja) * | 1998-07-09 | 2000-01-28 | Cyber Tec Kk | 画像認識方法及びその装置 |
-
1999
- 1999-03-18 US US09/271,643 patent/US6266452B1/en not_active Expired - Lifetime
- 1999-08-26 JP JP24002899A patent/JP3573198B2/ja not_active Expired - Fee Related
-
2000
- 2000-03-17 GB GB0006548A patent/GB2354131B/en not_active Expired - Fee Related
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11138708B2 (en) * | 2018-08-07 | 2021-10-05 | Markany Inc. | Method and apparatus for reconstructing content image data |
Also Published As
| Publication number | Publication date |
|---|---|
| GB2354131A (en) | 2001-03-14 |
| JP2000268178A (ja) | 2000-09-29 |
| GB2354131B (en) | 2003-03-05 |
| GB0006548D0 (en) | 2000-05-10 |
| US6266452B1 (en) | 2001-07-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP3573198B2 (ja) | 画像位置合わせ方法 | |
| JP6904544B2 (ja) | 信号間の変換を推定するための方法及びコンピュータ可読媒体 | |
| Stone et al. | A fast direct Fourier-based algorithm for subpixel registration of images | |
| McGuire | An image registration technique for recovering rotation, scale and translation parameters | |
| Rasti et al. | Image resolution enhancement by using interpolation followed by iterative back projection | |
| Rasti et al. | Improved iterative back projection for video super-resolution | |
| Rasti et al. | Iterative back projection based image resolution enhancement | |
| Alexander et al. | The registration of MR images using multiscale robust methods | |
| Liu et al. | Using multiple orientational filters of steerable pyramid for image registration | |
| Bose et al. | A second‐generation wavelet framework for super‐resolution with noise filtering | |
| Parthiban et al. | Medical image denoising using X-lets | |
| Ansari et al. | Noise filtering in high-resolution satellite images using composite multiresolution transforms | |
| EP1001370B1 (en) | Method for correcting artefacts in a digital image | |
| Lim | Achieving accurate image registration as the basis for super-resolution | |
| Li et al. | PCA and wavelet transform for fusing panchromatic and multispectral images | |
| Metwalli et al. | Combining superresolution and fusion methods for sharpening misrsat-1 data | |
| Kothalkar et al. | Comparative study of image registration methods | |
| Brown et al. | Image registration using redundant wavelet transforms | |
| Almola | Review In Images Enhancement Medical Using Curvelet Transform and Vector Information | |
| Fonseca et al. | Automatic registration of radar imagery | |
| Sahebkheir et al. | Single Image Super Resolution via Coupled Sparse and Low Rank Dictionary Learning | |
| Stone | Fast correlation techniques for wavelet representations | |
| Setiyono et al. | Investigation of Superresolution using Phase based Image Matching with Function Fitting | |
| Murtagh et al. | New image modeling approaches | |
| Dighe et al. | Registration of multiple Low resolution images for motion using hybrid approach. |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040113 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040121 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040322 |
|
| RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20040322 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040609 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040622 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20070709 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080709 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090709 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100709 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110709 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110709 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120709 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120709 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130709 Year of fee payment: 9 |
|
| LAPS | Cancellation because of no payment of annual fees |