JP4073877B2 - Image processing method, image processing apparatus, image forming apparatus, and computer program - Google Patents
Image processing method, image processing apparatus, image forming apparatus, and computer program Download PDFInfo
- Publication number
- JP4073877B2 JP4073877B2 JP2004046816A JP2004046816A JP4073877B2 JP 4073877 B2 JP4073877 B2 JP 4073877B2 JP 2004046816 A JP2004046816 A JP 2004046816A JP 2004046816 A JP2004046816 A JP 2004046816A JP 4073877 B2 JP4073877 B2 JP 4073877B2
- Authority
- JP
- Japan
- Prior art keywords
- background
- pixel
- halftone
- photo
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Facsimile Image Signal Circuits (AREA)
- Image Analysis (AREA)
Description
本発明は、デジタル複写機やファクシミリ装置等に供され、記録画像の画質向上を図るため、原稿を走査して得られた画像信号に対し、各画素の特徴量を用いて識別された文字・網点・背景下地領域を用いて、入力画像データにある写真/図形に対し、印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真の識別を行う画像処理方法、画像処理装置及び画像形成装置並びにコンピュータプログラムに関するものである。 The present invention is applied to a digital copying machine, a facsimile machine, and the like. In order to improve the image quality of a recorded image, an image signal obtained by scanning a document is identified with a character / character identified using the feature amount of each pixel. Image processing method and image processing for identifying printed photographs (halftone dots), photographic paper photographs (continuous tone), and printer output photographs with respect to photographs / graphics in the input image data using halftone dots and background background areas The present invention relates to an apparatus, an image forming apparatus, and a computer program.
従来より、デジタル複写機やファクシミリでは、文字部分、写真部分または網点部分が存在するような原稿、あるいはそれらの部分が混在するような原稿をCCD(Charge Coupled Device)イメージセンサ等で読み取って得られた画像信号に対して、記録画像の画質を向上させるための画像処理が施されるようになっている。この画像処理としては、読み取った画像が文字、写真あるいは網点の何れの画像かを識別し、その識別結果に応じて適切な処理を行うものである。 Conventionally, digital copiers and facsimiles are obtained by reading a document with a character portion, photo portion or halftone dot portion, or a document with such portions mixed with a CCD (Charge Coupled Device) image sensor or the like. The processed image signal is subjected to image processing for improving the image quality of the recorded image. As this image processing, whether the read image is a character, a photograph, or a halftone dot is identified, and appropriate processing is performed according to the identification result.
この種の画像識別、及び原稿種別方法としては、特許文献1(特開平8-251406号公報)に開示されている画像種別判定方法のように、原稿を読み取って得られる画像信号から、線画のみからなる、中間調画のみからなる、連続調画のみからなる、線画と中間調画からなる、線画と連続調からなる、中間調と連続調からなる、線画と中間調および連続調からなる、の何れであるかを判定する方法がある。 As this kind of image identification and document type method, only a line drawing is obtained from an image signal obtained by reading a document as in the image type determination method disclosed in Japanese Patent Application Laid-Open No. 8-251406. Consisting of only halftone, consisting only of continuous tone, consisting of line drawing and halftone, consisting of line drawing and continuous tone, consisting of halftone and continuous tone, consisting of line drawing, halftone and continuous tone, There is a method for determining which of the above.
また、文字、写真、網点以外にインクジェットプリンタで出力された原稿であるか否かを判定する原稿種別判定方法としては、特許文献2(特開平10-126631号公報)に開示されている原稿種別判定方法のように、原稿を読み取って得られる画像信号から、色再現域に関する特徴量とテクスチャに関する特徴量を基に、上記原稿がインクジェットプリンタで出力された原稿であるか否かを判定する方法がある。
ところで、上記入力画像データには、印刷写真(網点領域)、印画紙写真(連続調領域)の他に、プリンタで出力されたプリンタ出力写真があるが、このプリンタ出力写真の特性は、網点からなる印刷写真や、連続調の印画紙写真とは特性が異なる。このため、入力画像データにプリンタ出力写真が含まれている場合に適切な画像処理を施すには、プリンタ出力写真であることを適切に判定する必要がある。 Incidentally, the input image data includes a printer output photograph output by a printer in addition to a printed photograph (halftone area) and a photographic paper photograph (continuous tone area). The characteristics are different from a printed photograph consisting of dots and a continuous-tone photographic paper photograph. For this reason, in order to perform appropriate image processing when the input image data includes a printer output photo, it is necessary to appropriately determine that the image is a printer output photo.
しかしながら、特許文献1に開示された画像識別方法においては、連続調からなる画像、すなわち印画紙写真を判定することができるものの、印画紙写真とは特性の異なるプリンタで出力された原稿(プリンタ出力写真)を判定することを想定したものでないので、プリンタ出力写真が含まれている入力画像データに対して適切な処理を施すことはできないという問題が生じる。
However, in the image identification method disclosed in
また、特許文献2に開示された画像識別方法においては、インクジェットプリンタで出力されたプリンタ写真原稿の識別はできるものの、インクジェットプリンタで出力された原稿特有のテクスチャに関する特徴量を用いているため、他の方式のプリンタ、例えばレーザ・ビーム・プリンタや中間調処理、解像度、及びドット再現性の異なるインクジェットプリンタで出力された原稿などの識別を適切に行うことができないという問題が生じる。
In addition, although the image identification method disclosed in
本発明は、上記の各問題点に鑑みなされたものであって、その目的は、スキャナ等の画像入力装置で読み込まれた入力画像データに対し、各画素の特徴量を用いて識別された文字・網点・背景下地領域を用いて、入力画像データに含まれている写真/図形に対し、印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真などの識別を適切に行うことが可能な画像処理方法、画像処理装置、該画像処理装置を備えた画像形成装置及び上記画像処理方法の各手順を行うためのプログラムを記録したコンピュータ読み取り可能な記録媒体を提供することである。 The present invention has been made in view of the above-described problems, and an object of the present invention is to identify characters identified by using feature values of each pixel with respect to input image data read by an image input device such as a scanner. -Uses halftone dots and background background areas to properly identify printed photographs (halftone dots), photographic paper photographs (continuous tone), and printer output photographs for photographs / graphics included in the input image data. By providing an image processing method that can be performed, an image processing device, an image forming apparatus including the image processing device, and a computer-readable recording medium on which a program for performing each procedure of the image processing method is recorded is there.
本発明に係る画像処理装置は、上記課題を解決するために、入力画像データより特徴量を抽出し、入力画像の種別を識別する画像種別認識手段を備えた画像処理装置において、上記画像種別認識手段には、上記入力画像データの各画素あるいは複数の画素よりなるブロックが、網点エリアに属するか否かを判定する網点画素検出手段と、上記入力画像データの各画素あるいは複数の画素よりなるブロックが、背景下地エリアに属するか否かを判定する背景下地画素検出手段と、上記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する上記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率により、上記入力画像データに、網点からなる印刷写真、連続調の印画紙写真、プリンタで出力されたプリンタ出力写真の何れが含まれているかを判定する写真種別判定手段とが設けられていることを特徴としている。 In order to solve the above-described problems, an image processing apparatus according to the present invention includes an image type recognition unit that extracts a feature amount from input image data and identifies an input image type. The means includes halftone pixel detection means for determining whether or not each pixel of the input image data or a block composed of a plurality of pixels belongs to a halftone dot area, and each pixel or a plurality of pixels of the input image data. A background background pixel detection means for determining whether or not a block belongs to a background background area, and a pixel or block in the input image data other than the background background pixel or background background block detected by the background background pixel detection means In accordance with the ratio of halftone pixels or halftone blocks detected by the halftone pixel detection means, the input image data is marked with halftone dots. Photos, is characterized in that photographic paper photograph of continuous tone, and the determining photographic type determining means either a printer output photograph output by the printer is contained is provided.
一般に、プリンタ出力写真の画像特性は、網点で構成される印刷写真の画像特性と、連続調の印画紙写真の画像特性との中間の特性を示しているので、この画像特性を利用すれば、プリンタ出力写真を容易に判定することができる。この画像特性の違いは、入力画像データにおける、背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する網点画素あるいは網点ブロックの比率によって判定することができる。 In general, the image characteristics of a printer output photograph are intermediate between the characteristics of a printed photograph composed of halftone dots and the image characteristics of a continuous tone photographic paper photograph. The printer output photograph can be easily determined. This difference in image characteristics can be determined by the ratio of halftone pixels or halftone blocks to pixels or blocks in the input image data other than background background pixels or background background blocks in the input image data.
従って、上記構成のように、入力画像データにおける、背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する網点画素あるいは網点ブロックの比率により、該入力画像データに、網点からなる印刷写真、連続調の印画紙写真、プリンタで出力されたプリンタ出力写真の何れが含まれているかを判定するようにすれば、入力画像に含まれる写真種別の判定を適切に行うことができる。 Therefore, as in the above configuration, the input image data has a halftone dot or halftone block ratio to the input image data according to the ratio of the halftone pixel or halftone block to the pixel or block in the input image data other than the background background pixel or background background block. Appropriately determine the type of photo included in the input image if it is determined whether a printed photo consisting of dots, a continuous-tone photographic paper photo, or a printer output photo output by a printer is included. Can do.
上記の比率を、インクジェットプリンタ、レーザ・ビーム・プリンタ、中間調処理、解像度、及びドット再現性の異なるインクジェットプリンタ等の画像特性の異なるプリンタ出力写真の判定が行えるように設定すれば、プリンタの出力方式の違うプリンタ出力写真であっても、プリンタ出力写真以外の他の出力写真(印刷写真や印画紙写真等)から容易に識別することが可能となる。 If the above ratio is set so that it can be used to judge printer output photos with different image characteristics, such as inkjet printers, laser beam printers, halftone processing, resolution, and dot reproducibility, etc., printer output Even printer output photos of different systems can be easily identified from other output photos (printed photos, photographic paper photos, etc.) other than printer output photos.
また、入力画像データの各画素が、文字エリアに属するか否かを判定する文字画素検出手段を備え、上記写真種別判定手段は、上記文字画素検出手段で検出された文字画素あるいは文字ブロックと、上記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する上記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率により、上記入力画像データに、網点からなる印刷写真、連続調の印画紙写真、プリンタで出力されたプリンタ出力写真の何れが含まれているかを判定するようにしてもよい。 Further, the image processing apparatus includes a character pixel detection unit that determines whether each pixel of the input image data belongs to a character area, and the photograph type determination unit includes a character pixel or a character block detected by the character pixel detection unit, By the ratio of the halftone pixel or halftone block detected by the halftone pixel detection means to the pixel or block in the input image data other than the background background pixel or background background block detected by the background background pixel detection means, It may be determined whether the input image data includes a printed photograph composed of halftone dots, a continuous-tone photographic paper photograph, or a printer output photograph output by a printer.
この場合、文字画素検出手段を追加することにより、文字画素あるいは文字ブロックと背景下地画素あるいは背景下地ブロック以外の入力画像データ中の画素あるいはブロックを識別対象にできる。即ち、文字を除き、本来対象としたい写真や図形のみにおける網点画素あるいは網点ブロックの比率を用いることができるため、より精度良くプリンタ出力写真が含まれているかを判定することができる。 In this case, by adding the character pixel detection means, it is possible to identify the character pixel or character block and the pixel or block in the input image data other than the background background pixel or background background block. That is, since it is possible to use the ratio of halftone pixels or halftone blocks in only a photograph or figure that is originally intended to be excluded, it is possible to determine whether or not a printer output photograph is included with higher accuracy.
さらに、上記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロック、または、上記文字画素検出手段で検出された文字画素あるいは文字ブロックと上記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックで構成される写真候補エリアに対してラベル付けを行うラベリング手段を備え、上記写真種別判定手段は、上記ラベリング手段によってラベル付けされた写真候補エリア毎にエリア中の画素あるいはブロックに対する上記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率により、上記写真候補エリアが、網点からなる印刷写真、連続調の印画紙写真、プリンタで出力されたプリンタ出力写真の何れであるかを判定するようにしてもよい。 Further, a pixel or block in the input image data other than the background background pixel or background background block detected by the background background pixel detection means, or a character pixel or character block detected by the character pixel detection means and the background A labeling unit for labeling a photo candidate area composed of pixels or blocks in the input image data other than the background background pixel or background background block detected by the background pixel detection unit; For each photo candidate area labeled by the labeling means, the photo candidate area is represented by a halftone dot or halftone block detected by the halftone pixel detection means relative to the pixels or blocks in the area. Print photos consisting of dots, continuous-tone photographic paper photos, output with a printer It may be determined which of the printer output pictures were.
この場合、入力画像データ中の背景下地画素以外の画素あるいは背景下地ブロック以外のブロック、または、文字画素と背景下地画素以外の画素あるいは文字ブロックと背景下地ブロック以外のブロック(写真候補エリア)に対してラベル付けを行うことにより、各写真候補エリアに対し、個別に印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真などの何れであるかを識別することが可能となる。即ち、1つの入力画像データ中に、印刷写真とプリンタ出力写真が存在する場合でも、それぞれの写真に対する種別認識が可能となる。 In this case, for pixels other than background background pixels or blocks other than background background pixels, or pixels other than character pixels and background background pixels, or blocks other than character blocks and background background blocks (photo candidate areas) in the input image data By labeling each photo candidate area, it is possible to individually identify whether each photo candidate area is a printed photo (halftone dot), a photographic paper photo (continuous tone), or a printer output photo. . That is, even when a print photo and a printer output photo are present in one input image data, it is possible to recognize the type of each photo.
上記構成の画像処理装置を画像形成装置に備えるようにしてもよい。 The image processing apparatus having the above configuration may be provided in the image forming apparatus.
この場合、プリンタ出力写真が含まれている入力画像データ、あるいはプリンタ出力写真の属した画素、ブロックに対して、プリンタ出力写真の特性を考慮した画像処理を適用することが可能となるので、プリンタ出力写真を含んだ画像データの高画質出力が可能となる。 In this case, it is possible to apply image processing in consideration of the characteristics of the printer output photo to the input image data including the printer output photo or the pixels and blocks to which the printer output photo belongs. High-quality output of image data including output photos is possible.
コンピュータを上記構成の画像処理装置の各手段として機能させるための画像処理プログラムを用いれば、汎用なコンピュータで上記画像処理装置の各手段を簡単に実現することが可能となる。 If an image processing program for causing a computer to function as each unit of the image processing apparatus having the above configuration is used, each unit of the image processing apparatus can be easily realized by a general-purpose computer.
上記画像処理プログラムは、コンピュータ読取り可能な記録媒体に記録されているのが好ましい。 The image processing program is preferably recorded on a computer-readable recording medium.
これにより、記録媒体から読み出された画像処理プログラムによって、上記画像処理装置をコンピュータ上に簡単に実現することができる。 Accordingly, the image processing apparatus can be easily realized on the computer by the image processing program read from the recording medium.
本発明に係る画像処理装置は、以上のように、入力画像データにおける、背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する網点画素あるいは網点ブロックの比率により、該入力画像データに、網点からなる印刷写真、連続調の印画紙写真、プリンタで出力されたプリンタ出力写真の何れが含まれているかを判定することで、入力画像データに含まれる写真種別の判定を適切に行うことができるという効果を奏する。 The image processing apparatus according to the present invention, as described above, has a ratio of halftone pixels or halftone blocks to pixels or blocks in the input image data other than background background pixels or background background blocks in the input image data. Judgment of the type of photo included in the input image data by determining whether the input image data includes a half-dot print photo, continuous-tone photographic paper photo, or printer output photo output by a printer There is an effect that can be performed appropriately.
〔実施の形態1〕
本発明の一実施の形態について説明すれば、以下の通りである。なお、本実施の形態では、本発明の画像処理装置をカラー画像形成装置に適用した例について説明する。
[Embodiment 1]
An embodiment of the present invention will be described as follows. In this embodiment, an example in which the image processing apparatus of the present invention is applied to a color image forming apparatus will be described.
本実施の形態に係るカラー画像形成装置は、図2に示すように、カラー画像入力装置1、画像処理装置2、およびカラー画像出力装置3から構成されている。
As shown in FIG. 2, the color image forming apparatus according to the present embodiment includes a color
さらに、本カラー画像形成装置には、カラー画像入力装置1、画像処理装置2、およびカラー画像出力装置3に接続され、画像形成装置(例えば、デジタル複写機)の動作モードを設定する設定ボタンやテンキー、液晶ディスプレイなどで構成される表示部より構成された操作パネル4が設けられている。
Further, the color image forming apparatus is connected to a color
上記カラー画像入力装置1は、例えば、スキャナ部より構成されており、原稿からの反射光像をRGB(R:赤・G:緑・B:青)アナログ信号としてCCD(Charge Coupled Device) にて読み取るものである。
The color
上記カラー画像出力装置3は、画像処理装置2にて行われた所定の画像処理の結果を出力する装置である。
The color
上記画像処理装置2は、A/D(アナログ/デジタル)変換部11、シェーディング補正部12、原稿種別自動判別部13、入力階調補正部14、色補正部15、黒生成下色除去部16、空間フィルタ処理部17、出力階調補正部18、階調再現処理部19、および領域分離処理部20からなっている。
The
上記A/D変換部11は、カラー画像入力装置1にて読み取ったアナログ信号をデジタル信号に変換するものである。
The A / D converter 11 converts an analog signal read by the color
上記シェーディング補正部12は、カラー画像入力装置1の照明系・結像系・撮像系で生じる各種歪みを取り除くためのシェーディング補正を行うものである。
The
上記原稿種別自動判別部13は、シェーディング補正部12にて各種の歪みが取り除かれたRGB信号(RGBの反射率信号)に対して、濃度信号など画像処理装置2に採用されている画像処理システムの扱い易い信号に変換すると共に、入力された原稿画像が、文字原稿、印刷写真写原稿、印画紙写真であるか、あるいはそれらを組み合わせた文字/印刷写真原稿であるかなど原稿種別の判別を行なうものである。すなわち、原稿種別自動判別部13は、原稿全体に関わる情報を出力するものである。なお、原稿種別自動判別部13の詳細については後述する。
The document type
上記入力階調補正部14は、上記原稿種別自動判別部13の判定結果を基に下地領域濃度の除去やコントラストなどの画質調整処理を施こすものである。
The input
上記色補正部15は、色再現の忠実化実現のために、不要吸収成分を含むCMY(C:シアン・M:マゼンタ・Y:イエロー)色材の分光特性に基づいた色濁りを取り除く色補正処理を行うものである。なお、上記色補正部15において色補正処理された画像信号は、黒生成下色除去部16と領域分離処理部20とに転送される。
The color correction unit 15 performs color correction to remove color turbidity based on spectral characteristics of CMY (C: cyan, M: magenta, Y: yellow) color materials including unnecessary absorption components in order to realize faithful color reproduction. The processing is performed. The image signal subjected to the color correction processing in the color correction unit 15 is transferred to the black generation and under
上記領域分離処理部20では、色補正処理された画像信号に対して、上記原稿種別自動判別部13の判定結果を基に画素毎に文字、網点、写真(その他)領域の何れかに分離する。この領域分離処理部20は、分離結果に基づき、画素がどの領域に属しているかを示す領域識別信号を、黒生成下色除去部16、空間フィルタ処理部17、および階調再現処理部19へと出力する。
The region separation processing unit 20 separates the color-corrected image signal into a character, halftone dot, or photo (other) region for each pixel based on the determination result of the document type
すなわち、領域分離処理部20は、原稿が読み取られた信号(各画素)ごとに、その画素が文字、網点、写真の何れに属するかの情報を出力するものである。 In other words, the region separation processing unit 20 outputs, for each signal (each pixel) from which the document is read, information indicating whether the pixel belongs to a character, halftone dot, or photograph.
上記黒生成下色除去部16は、色補正後のCMYの3色信号から黒(K)信号を生成する黒生成処理を行なう一方、元のCMY信号から黒生成で得たK信号を差し引いて新たなCMY信号を生成する下色除去処理を行なうものである。そして、これらの処理(黒生成処理・下色除去処理)の結果、CMYの3色信号はCMYKの4色信号に変換される。
The black generation and under
上記空間フィルタ処理部17は、デジタルフィルタによる空間フィルタ処理を行い、空間周波数特性を補正することによって、出力画像のボヤケや粒状性劣化を防ぐものである。
The spatial
上記出力階調補正部18は、濃度信号等の信号を、カラー画像出力装置3の特性値である網点面積率に変換する出力階調補正処理を行うものである。
The output
上記階調再現処理部19は、最終的に画像を画素に分割してそれぞれの階調を再現できるように処理する階調再現処理(中間調生成処理)を行うものである。
The gradation
なお、上記領域分離処理部20にて黒文字や場合によっては色文字として抽出された画像領域は、黒文字あるいは色文字の再現性を高めるために、空間フィルタ処理部17における鮮鋭度強調処理での高域周波数の強調量を大きくされる。同時に、中間調生成処理において高周波数再現に適した高解像のスクリーンでの二値化又は多値化処理を選択するように構成している。
It should be noted that the image region extracted as a black character or in some cases a color character by the region separation processing unit 20 is high in the sharpness enhancement processing in the spatial
一方、領域分離処理部20により網点と判別された領域に関しては、空間フィルタ処理部17において、入力網点成分を除去するためのローパス・フィルタ処理が施される。同時に、中間調生成処理では、階調再現性を重視したスクリーンでの二値化又は多値化処理が行われる。
On the other hand, with respect to the region determined as a halftone dot by the region separation processing unit 20, the spatial
さらに、領域分離処理部20にて写真に分離された領域に関しては、階調再現性を重視したスクリーンでの二値化または多値化処理が行われる。 Further, for the region separated into photographs by the region separation processing unit 20, binarization or multi-value processing is performed on the screen with an emphasis on gradation reproducibility.
領域分離処理部20により写真と判別された領域に関しては、空間フィルタ処理部17において、画像取り込み時に発生したノイズを除去すると共に、被写体などをくっきりさせるため平滑化と鮮鋭化が混合したフィルタ処理が適用される。同時に、中間調生成処理では、階調再現性を重視したスクリーンでの二値化又は多値化処理が行われる。
For the area determined to be a photograph by the area separation processing unit 20, the spatial
このように、上述した各処理が施された画像データは、一旦図示しない記憶手段に記憶され、所定のタイミングで読み出されてカラー画像出力装置3に入力される。なお、上記の処理はCPU(Central Processing Unit)により行われる。 また、このカラー画像出力装置3は、画像データを記録媒体(例えば紙等)上に出力するもので、例えば、電子写真方式やインクジェット方式を用いたカラー画像形成装置等を挙げることができるが特に限定されるものではない。
As described above, the image data subjected to the above-described processes is temporarily stored in a storage unit (not shown), read at a predetermined timing, and input to the color
以上のように、上記構成の画像処理装置2において、画像データの各画素に対して逐次的に処理行う各画像処理部(黒生成下色除去部16、空間フィルタ処理部17、階調再現処理部19)に対して、原稿種別自動判別部13、及び領域分離処理部20の出力が共に入力される場合は、各画像処理は処理対象となる画素が「文字&写真(プリンタ出力写真)原稿における文字画素」、もしくは「文字&写真(印画紙写真)原稿における写真画素」といった情報に基づいて処理が行われる。
As described above, in the
次に、本実施の形態における特徴点である原稿種別自動判別部13における画像処理(画像種別認識処理)について説明する。
Next, image processing (image type recognition processing) in the document type
まず、原稿種別自動判別部13は、図1に示すように、文字画素検出部21と、背景下地画素検出部22と、網点画素検出部23と、写真候補画素検出部24と、写真候補画素カウント部25と、網点画素カウント部26と、写真種別判定部27とから構成される。図8に、上記原稿種別自動判別部13における処理の流れを示すフローチャートを示す。
First, as shown in FIG. 1, the document type
上記文字画素検出部21は、入力画像データの各画素が文字エッジ領域に存在するか否かの識別信号を出力するものである。例えば、上記文字画素検出部21の処理としては、図3(a)のようなブロックメモリに格納された入力画像データ(f(0,0)〜f(2,2)は入力画像データの画素濃度値を表す)に対して、図3(b)(c)のようなフィルタ係数による以下に示すたたみ込み演算処理結果S1,S2を用いたものがある。
The character
上記Sがあらかじめ設定された閾値より大きい場合、上記ブロックメモリに格納されている入力画像データ中の注目画素(座標(1,1))を文字エッジ領域に存在する文字画素として識別する。上記処理を入力画像データの全画素に適用することにより、入力画像データ中の文字画素を識別することができる。 When S is larger than a preset threshold value, the pixel of interest (coordinate (1, 1)) in the input image data stored in the block memory is identified as a character pixel existing in the character edge region. By applying the above process to all the pixels of the input image data, the character pixels in the input image data can be identified.
上記背景下地画素検出部22は、入力画像データの各画素が背景下地領域に存在するか否かの識別信号を出力するものである。例えば、上記背景下地画素検出部22の処理としては、図4(a)(b)のような入力画像データの各画素濃度値(例えば、RGB信号のG信号)の度数を表した濃度ヒストグラムを用いたものがある。
The background background
背景下地画素検出部22における具体的な処理手順を図4(a)(b)を用いて以下に説明する。
手順1:最大度数(Fmax)を検出する。
手順2:Fmaxがあらかじめ設定された閾値(THbg)より小さい場合は、入力画像データには背景下地エリアは存在しないものとする。
手順3:Fmaxがあらかじめ設定された閾値(THbg)以上の場合で、Fmaxとなる画素濃度値(Dmax)に近い画素濃度値、例えばDmax−1、Dmax+1の画素濃度値に対する度数Fn1,Fn2を用いて、上記Fmaxと上記Fn1と上記Fn2(図 4(a)の網掛け部)の総和があらかじめ設定された閾値より大きい場合、入力画像データには背景下地エリアが存在するものとする。
手順4:手順3で背景下地エリアが存在する場合、上記Dmax近傍の画素濃度値、例えば、Dmax−5〜Dmax+5までの画素濃度値をもつ画素を背景下地エリアに存在する背景下地画素として識別する。
A specific processing procedure in the background background
Procedure 1: Detect maximum frequency (Fmax).
Procedure 2: When Fmax is smaller than a preset threshold value (THbg), it is assumed that no background background area exists in the input image data.
Procedure 3: When Fmax is equal to or greater than a preset threshold value (THbg), the pixel density values close to the pixel density value (Dmax) to be Fmax, for example, the frequencies Fn1 and Fn2 for the pixel density values of Dmax-1 and Dmax + 1 are used. When the sum of Fmax, Fn1, and Fn2 (shaded portion in FIG. 4A) is larger than a preset threshold, it is assumed that a background background area exists in the input image data.
Step 4: When a background background area exists in
また、濃度ヒストグラムとしては、各画素濃度値ではなく、濃度区分(例えば、256階調の画素濃度値を16の濃度区分に分けたもの)を用いた簡易的な濃度ヒストグラムでも良い。あるいは、下記式により輝度Yを求め、輝度ヒストグラムを用いても良い。 Further, the density histogram may be a simple density histogram using density divisions (for example, pixel density values of 256 gradations divided into 16 density divisions) instead of the pixel density values. Alternatively, the luminance Y may be obtained by the following formula and a luminance histogram may be used.
上記網点画素検出部23は、入力画像データの各画素が網点領域に存在するか否かの識別信号を出力するものである。例えば、上記網点画素検出部23の処理としては、図5(a)のようなブロックメモリに格納された入力画像データ(f(0,0)〜f(4,4)は入力画像データの画素濃度値を表す)に対する以下に示す隣接画素差分値総和Busyと最大濃度差MDを用いたものがある。
The halftone
ここで、上記Busyと上記MDは、注目画素(座標(2,2))が網点エリアに存在する網点画素であるか否かの識別に用いられる。 Here, the Busy and the MD are used for identifying whether or not the pixel of interest (coordinates (2, 2)) is a halftone dot pixel existing in the halftone dot area.
上記Busyと上記MDを軸とした2次元平面において、図5(b)に示すように網点画素は、他のエリアに存在する画素(文字、写真)とは異なった分布を示すため、入力画像データの各注目画素ごとに求められた上記Busyと上記MDに対して、図5(b)に示した境界線(点線)を用いた閾値処理を行うことで、各注目画素が網点エリアに存在する網点画素を識別する。 In the two-dimensional plane with the Busy and the MD as axes, as shown in FIG. 5B, the halftone pixels have a distribution different from the pixels (characters and photographs) existing in other areas. By performing threshold processing using the boundary line (dotted line) shown in FIG. 5B on the Busy and the MD obtained for each target pixel of the image data, each target pixel becomes a halftone dot area. Is identified.
上記閾値処理の例を以下に示す。 An example of the threshold processing is shown below.
上記処理を入力画像データの全画素に適用することにより、入力画像データ中の網点画素を識別することができる。 By applying the above process to all the pixels of the input image data, it is possible to identify halftone pixels in the input image data.
上記写真候補画素検出部24は、入力画像データの各画素が写真候補画素領域に存在するか否かの識別信号を出力するものである。例えば、入力画像データ中における上記文字画素検出部21で識別された文字画素、及び上記背景下地画素検出部22で識別された背景下地画素以外の画素を写真候補画素として識別する。
The photograph candidate
例えば、図6(a)は、入力画像データの一例を示したもので、図6(b)は、図6(a)に示す入力画像データに対する上記文字画素検出部21により識別された文字画素により構成される文字エリアと、上記背景下地画素検出部22により識別された背景下地画素により構成される背景下地エリアと、上記写真候補画素検出部24により識別された写真候補画素により構成される写真候補エリアと、上記網点画素検出部23により識別された網点画素により構成される網点エリアの一例を示したものである。
For example, FIG. 6A shows an example of input image data, and FIG. 6B shows a character pixel identified by the
上記写真候補画素カウント部25は、上記写真候補画素検出部24により識別された写真候補画素数をカウントするものである。写真候補画素が文字画素、及び背景下地画素以外の画素であれば、写真候補画素数Npは、入力画像データ中の全画素数Naと文字画素数Ntと背景下地画素数Nbを用いて、以下の式で求められる。
The photograph candidate
Np=Na−Nt−Nb
上記全画素数は、例えば、文字画素検出部の出力信号を識別結果に関わらず、カウントすることにより求めることができる。
Np = Na-Nt-Nb
The total number of pixels can be obtained, for example, by counting the output signal of the character pixel detection unit regardless of the identification result.
上記網点画素カウント部26は、上記網点画素検出部23により識別された網点画素数をカウントするものである。
The halftone
上記写真種別判定部27は、上記写真候補エリアが印刷写真(網点)、印画紙写真(連続調)、またはプリンタ出力写真(レーザ・ビーム・プリンタ、インクジェットプリンタや熱転写型プリンタなどにより出力された写真)の何れであるかを判定するものである。例えば、図6(c)(d)(e)に示すように、上記写真候補画素数Npと上記網点画素数Nsとあらかじめ設定された閾値THr1、THr2を用いた以下の条件式により判定を行うものである。
The photograph
上記閾値の一例としては、THr1=0.7、THr2=0.3などが挙げられる。 Examples of the threshold value include THr1 = 0.7, THr2 = 0.3, and the like.
また、上記判定結果は画素単位、もしくはエリア単位、もしくは原稿単位で出力してもよい。また、上記処理例では種別判定の対象が写真だけであるが、文字、背景下地以外の原稿構成要素、例えば図形、グラフなどを対象にしても良い。 The determination result may be output in pixel units, area units, or document units. Further, in the above processing example, the type determination target is only a photograph, but it is also possible to target document components other than characters and background backgrounds, such as graphics and graphs.
また、写真種別判定部27は、印刷写真・プリント出力写真・印画紙写真という判別を行うのではなく、写真候補画素数Npに対する網点画素数Nsの比率とあらかじめ設定された閾値との比較結果に基づいて、色補正処理・空間フィルタ処理等の処理内容を切り替えるように制御しても良い。
In addition, the photo
なお、原稿種別自動判別部13において原稿種別が判別された結果は、図2に示したように、該原稿種別自動判別部13の後段に接続されている色補正部15、黒生成下色除去部16、空間フィルタ処理部17、階調再現処理部19、領域分離処理部20に出力されるようになっているが、ここで、原稿種別の判別結果が、原稿のある領域が写真候補領域であると判別された場合には、色補正部15、空間フィルタ処理部17、階調再現処理部19において、以下に示すように、写真種(印刷写真、印画紙写真、プリンタ出力写真)毎に異なる処理が行われる。
As shown in FIG. 2, the result of the determination of the document type by the automatic document
写真種別判定部27により印刷写真と判定された場合に写真候補領域に適用される処理の一例を以下に示す。
An example of processing applied to the photo candidate area when the photo
色補正処理:印刷写真の色みを忠実に再現するため、印刷写真の色材を考慮した処理を行う。 Color correction process: In order to faithfully reproduce the color of a printed photograph, a process considering the color material of the printed photograph is performed.
空間フィルタ処理:印刷写真に発生するモアレ(干渉縞)を低減させるための平滑化処理を行う。この場合のフィルタ係数の一例を図7(a)に示す。 Spatial filter processing: Smoothing processing is performed to reduce moire (interference fringes) generated in a printed photograph. An example of the filter coefficient in this case is shown in FIG.
階調再現処理:ディザ処理を行う場合、マトリクスの大きさに比例してモアレが強く発生するため、比較的小さなマトリクスを用いたディザ処理を行う。 Gradation reproduction processing: When performing dither processing, moire is strongly generated in proportion to the size of the matrix, and therefore dither processing using a relatively small matrix is performed.
また、写真種別判定部27により印画紙写真と判定された場合に写真候補領域に適用される処理の一例を以下に示す。
色補正処理:印画紙写真の色みを忠実に再現するため、印画紙写真の色材を考慮した処理を行う。
An example of processing applied to the photo candidate area when the photo
Color correction processing: In order to faithfully reproduce the color of the photographic paper photograph, processing is performed in consideration of the color material of the photographic paper photograph.
空間フィルタ処理:画像のボケを補正するためのエッジ強調処理を行う。この場合のフィルタ係数の一例を図7(b)に示す。 Spatial filter processing: Edge enhancement processing for correcting image blur is performed. An example of the filter coefficient in this case is shown in FIG.
階調再現処理:モアレが発生しないため、階調性を重視した比較的大きなマトリクスを用いたディザ処理を行う。 Gradation reproduction processing: Since moire does not occur, dither processing using a relatively large matrix that emphasizes gradation is performed.
また、写真種別判定部27によりプリンタ出力写真と判定された場合に写真候補領域に適用される処理の一例を以下に示す。
An example of processing applied to the photo candidate area when the photo
色補正処理:プリンタ出力写真の色みを忠実に再現するため、プリンタで使用される色材を考慮した処理を行う。 Color correction processing: In order to faithfully reproduce the color of the printer output photograph, processing is performed in consideration of the color material used in the printer.
空間フィルタ処理:画像のボケを補正しながら、プリンタ出力写真を構成しているドットによる粒状感を抑えるための平滑/強調混合フィルタ処理を行う。この場合のフィルタ係数の一例を図7(c)に示す。 Spatial filter processing: smoothing / enhancement mixed filter processing is performed to suppress graininess caused by dots constituting the printer output photograph while correcting blur of the image. An example of the filter coefficient in this case is shown in FIG.
階調再現処理:モアレが発生しないため、階調性を重視した比較的大きなマトリクスを用いたディザ処理を行う。 Gradation reproduction processing: Since moire does not occur, dither processing using a relatively large matrix that emphasizes gradation is performed.
以上では、写真が含まれているか否かの判定は行っていないが、写真が含まれているか否かを判定した後、上記の処理を行うようにしても良い。この場合、全画素数に対する写真候補画素数Np/Naなどが、予め定められる閾値THpa(例えば、0.05)より大きい時、写真領域が含まれると判断することができる。 In the above, it is not determined whether or not a photo is included, but the above-described processing may be performed after determining whether or not a photo is included. In this case, when the photo candidate pixel count Np / Na with respect to the total number of pixels is larger than a predetermined threshold THpa (for example, 0.05), it can be determined that the photo area is included.
また、原稿種別自動判別部13の出力として、写真種別以外、例えば、原稿の構成要素(文字、写真、文字&写真など)の判別結果である場合は、入力階調補正部14、黒生成下色除去部16の処理内容が以下の通りに切り替わる。
Further, when the output of the document type
原稿種別自動判別部13により、文字原稿と判定された場合、
入力階調補正:文字を読みやすくするため、下地に相当するハイライト部の濃度を下げるような階調補正を行う。
黒生成下色除去:黒文字部の色にじみをなくすため、黒生成率、下色除去率を高くする。
When the document type
Input gradation correction: In order to make the character easier to read, gradation correction is performed to lower the density of the highlight portion corresponding to the background.
Black generation under color removal: In order to eliminate the color blur of the black character portion, the black generation rate and the under color removal rate are increased.
原稿種別自動判別部13により、文字&写真原稿、写真原稿と判定された場合、
入力階調補正:写真のハイライト部での階調が忠実に再現できるリニアに近い階調補正を行う。
黒生成下色除去:写真部に対して原稿に忠実な色再現が行える適切な黒生成率、下地除去率で処理を行う。
When the automatic document
Input gradation correction: Performs near-linear gradation correction that can faithfully reproduce the gradation in the highlight portion of the photograph.
Black generation and under color removal: Processing is performed with an appropriate black generation rate and background removal rate that enables color reproduction faithful to the original document.
ここで、上記構成の原稿種別自動判別部13における画像種別認識処理の流れを図8に示すフローチャートを参照しながら以下に説明する。
Here, the flow of the image type recognition process in the document type
先ず、シェーディング補正部12にて各種の歪みが取り除かれたRGB信号(RGBの反射率信号)より変換されたRGBの濃度信号に基づいて、文字画素検出処理(ステップS1)、背景下地画素検出処理(ステップS2)、網点画素検出処理(ステップS3)が同時に行われる。ここで、文字画素検出処理は、上述した文字画素検出部21において行われ、背景下地画素検出処理は、上述した背景下地画素検出部22において行われ、網点画素検出処理は、上述した網点画素検出部23において行われるので、これら処理の詳細については省略する。
First, based on RGB density signals converted from RGB signals (RGB reflectance signals) from which various distortions have been removed by the
次に、文字画素検出処理における処理結果と、背景下地画素検出処理における処理結果とに基づいて、写真候補画素検出処理が行われる(ステップS4)。ここでの写真候補画素検出処理は、上述した写真候補画素検出部24において行われるので、処理の詳細については省略する。
Next, photo candidate pixel detection processing is performed based on the processing result in the character pixel detection processing and the processing result in the background background pixel detection processing (step S4). The photograph candidate pixel detection process here is performed in the above-described photograph candidate
続いて、写真候補画素検出処理における処理結果に基づいて、写真候補画素数Npをカウントする処理が行われる(ステップS5)。ここでの写真候補画素数カウント処理は、上述した写真候補画素カウント部25において行われるので、処理の詳細については省略する。
Subsequently, based on the processing result in the photograph candidate pixel detection process, a process of counting the number of photograph candidate pixels Np is performed (step S5). The photo candidate pixel count processing here is performed in the above-described photo candidate
上記ステップS1〜S5までの処理と並列して、ステップS3における網点画素検出処理の結果に基づいて、網点画素数Nsをカウントする処理が行われる(ステップS6)。ここでの網点画素数カウント処理は、上述した網点画素カウント部26において行われるので、処理の詳細については省略する。
In parallel with the processing from steps S1 to S5, processing for counting the number of halftone pixels Ns is performed based on the result of the halftone pixel detection processing in step S3 (step S6). Since the halftone pixel count processing here is performed in the halftone
次いで、ステップS5において求めた写真候補画素数Npと、ステップS6において求めた網点画素数Nsとに基づいて、写真候補画素数Npに対する網点画素数Nsの割合、すなわちNs/Npを算出する(ステップS7)。 Next, based on the photograph candidate pixel number Np obtained in step S5 and the halftone pixel number Ns obtained in step S6, the ratio of the halftone pixel number Ns to the photograph candidate pixel number Np, that is, Ns / Np is calculated. (Step S7).
続いて、ステップS7において求めたNs/Npから、印刷写真、プリンタ出力写真、印画紙写真の何れかを判定する(ステップS8)。 Subsequently, it is determined from the Ns / Np obtained in step S7 whether it is a printed photograph, a printer output photograph, or a photographic paper photograph (step S8).
上記のステップS7、S8における処理は、上述した写真種別判定部27において行われるので、処理の詳細については省略する。
Since the processes in steps S7 and S8 are performed in the above-described photo
以上の説明において、画像種別認識処理を行う際のパラメータとして、文字画素の情報を利用していた。このように、画像種別認識において、文字画素の情報を利用すれば、認識精度の向上を図ることができる。 In the above description, character pixel information is used as a parameter when performing image type recognition processing. Thus, in the image type recognition, if the information of the character pixel is used, the recognition accuracy can be improved.
しかしながら、原稿に含まれる文字画素の割合が少ない場合、すなわちメインが写真であるような原稿の場合には、文字画素の情報を利用しなくても画像種別の認識のうち、写真種別の認識精度にはほとんど影響がない。 However, when the ratio of character pixels included in the document is small, that is, in the case of a document whose main is a photograph, the recognition accuracy of the photo type is recognized out of the image type recognition without using the character pixel information. Has little effect.
従って、図2に示す原稿種別自動判別部13から文字画素検出部21を省いた、図9に示すような原稿種別自動判別部30としてもよい。
Therefore, the automatic document
すなわち、上記原稿種別自動判別部30は、図9に示すように、背景下地画素検出部22と、網点画素検出部23と、写真候補画素検出部31と、写真候補画素カウント部25と、網点画素カウント部26と、写真種別判定部27から構成される。図1に示す原稿種別自動判別部13と同一の符号有する部材については、同一の機能を有するので、その説明は省略する。
That is, as shown in FIG. 9, the document type
また、上記原稿種別自動判別部30における処理の流れは、図8に示すフローチャートにおいて、文字画素検出処理を行うステップS1を行わない以外はほぼ同じである。
Further, the flow of processing in the automatic document
上記写真候補画素検出部31は、図1に示す写真候補画素検出部24と同様に、入力画像データの各画素が写真候補画素領域に存在するか否かの識別信号を出力するものであるが、文字画素の情報を用いないので、写真候補画素の検出処理は、入力画像データ中における上記背景下地画素検出部で識別された背景下地画素以外の画素を写真候補画素として識別するようにして行われる。
〔実施の形態2〕
本発明の他の実施の形態について説明すれば、以下の通りである。なお、前記実施の形態1と同一の機能を有する部材については、同一の符号を付記し、その説明は省略する。
The photograph candidate
[Embodiment 2]
Another embodiment of the present invention will be described as follows. In addition, about the member which has the same function as the said
本実施の形態にかかるカラー画像形成装置は、前記実施の形態1の図1に示した原稿種別自動判別部13に代えて、図10に示す原稿種別自動判別部40が備えられている。
The color image forming apparatus according to the present embodiment includes an automatic document
上記原稿種別自動判別部40は、図10に示すように、文字画素検出部21と、背景下地画素検出部22と、網点画素検出部23と、写真候補画素検出部24と、写真候補画素ラベリング部41と、写真候補画素カウント部42と、網点画素カウント部43と、写真種別判定部27から構成される。図12は、上記原稿種別自動判別部40における処理の流れを示すフローチャートである。
As shown in FIG. 10, the automatic document
上記写真候補画素ラベリング部41は、図11(a)に示すように、複数の写真部が存在する入力画像データに対して、上記写真候補画素検出部24により識別された写真候補画素から構成される複数の写真候補エリアに対し、ラベリング処理を行うことで、図11(b)に示す写真候補エリア(1)、及び写真候補エリア(2)のように、ラベル付けを行うことで、それぞれの写真候補エリアを異なるエリアとして識別するものである。ここでは、写真候補エリアを(1)、それ以外を(0)とし、1画素単位でラベリング処理を適用する。ラベリング処理についての詳細は後述する。
As shown in FIG. 11A, the photo candidate
上記写真候補画素カウント部42は、前記実施の形態1の写真候補画素カウント部25とは異なり、上記写真候補画素ラベリング部41によりラベル付けされた複数の写真候補エリアに対する画素数を各々カウントするものである。
Unlike the photo candidate
上記網点画素カウント部43は、上記網点画素検出部23により識別された網点エリアに対する画素数を、上記写真候補画素ラベリング部41によりラベル付けされた写真候補エリアごとに各々カウントするものである。例えば、上記網点画素カウント部43は、図11(b)に示すように、写真候補エリア(1)に存在する網点エリア(網点エリア(1))を構成する画素数Ns1と写真候補エリア(2)に存在する網点エリア(網点エリア(2))を構成する画素数Ns2がカウントとされる。
The halftone
上記写真種別判定部27は、上記写真候補エリアそれぞれが印刷写真(網点)、印画紙写真(連続調)、またはプリンタ出力写真の何れであるかを判定するものである。例えば、図11(c)(d)に示すように、上記写真候補画素数Npと上記網点画素数Nsとあらかじめ設定された閾値THr1、THr2を用いた以下の条件式により判定を行うものである。
The photo
図11(c)では、写真候補エリア(1)は条件1を満たすため、印刷写真として判定され、写真候補エリア(2)は条件2を満たすため、プリント出力写真エリアとして判定される。また、図11(d)では、写真候補エリア(1)は条件3を満たすため、印画紙写真として判定され、写真候補エリア(2)は条件2を満たすため、プリント出力写真エリアとして判定される。
In FIG. 11C, the photo candidate area (1) satisfies the
ここで、上記構成の原稿種別自動判別部40における画像種別認識処理の流れを図12に示すフローチャートを参照しながら以下に説明する。
Here, the flow of the image type recognition process in the document type
先ず、シェーディング補正部12(図1参照)にて各種の歪みが取り除かれたRGB信号(RGBの反射率信号)より変換されたRGBの濃度信号に基づいて、文字画素検出処理(ステップS11)、背景下地画素検出処理(ステップS12)、網点画素検出処理(ステップS13)が同時に行われる。ここで、文字画素検出処理は、上述した文字画素検出部21において行われ、背景下地画素検出処理は、上述した背景下地画素検出部22において行われ、網点画素検出処理は、上述した網点画素検出部23において行われるので、これら処理の詳細については省略する。
First, based on the RGB density signal converted from the RGB signal (RGB reflectance signal) from which various distortions have been removed by the shading correction unit 12 (see FIG. 1), the character pixel detection process (step S11), Background background pixel detection processing (step S12) and halftone pixel detection processing (step S13) are performed simultaneously. Here, the character pixel detection process is performed in the character
次に、文字画素検出処理における処理結果と、背景下地画素検出処理における処理結果とに基づいて、写真候補画素検出処理が行われる(ステップS14)。ここでの写真候補画素検出処理は、上述した写真候補画素検出部24において行われるので、処理の詳細については省略する。
Next, photo candidate pixel detection processing is performed based on the processing result in the character pixel detection processing and the processing result in the background background pixel detection processing (step S14). The photograph candidate pixel detection process here is performed in the above-described photograph candidate
引き続き、検出された写真候補画素に対して、ラベリング処理が行われる(ステップS15)。このラベリング処理の詳細については後述する。 Subsequently, a labeling process is performed on the detected photograph candidate pixels (step S15). Details of the labeling process will be described later.
続いて、ラベリング処理における処理結果に基づいて、写真候補画素数Npをカウントする処理が行われる(ステップS16)。ここでの写真候補画素数カウント処理は、上述した写真候補画素カウント部42において行われるので、処理の詳細については省略する。
Subsequently, a process of counting the number of photograph candidate pixels Np is performed based on the processing result in the labeling process (step S16). Since the photo candidate pixel count processing here is performed in the above-described photo candidate
上記ステップS11〜S16までの処理と並列して、ステップS13における網点画素検出処理の結果に基づいて、網点画素数Nsをカウントする処理が行われる(ステップS17)。ここでの網点画素数カウント処理は、上述した網点画素カウント部43において行われるので、処理の詳細については省略する。
In parallel with the processing of steps S11 to S16, processing for counting the number of halftone pixels Ns is performed based on the result of the halftone pixel detection processing in step S13 (step S17). Since the halftone pixel count processing here is performed in the halftone
次いで、ステップS16において求めた写真候補画素数Npと、ステップS17において求めた網点画素数Nsとに基づいて、写真候補画素数Npに対する網点画素数Nsの割合、すなわちNs/Npを算出する(ステップS18)。 Next, based on the photograph candidate pixel number Np obtained in step S16 and the halftone pixel number Ns obtained in step S17, the ratio of the halftone pixel number Ns to the photograph candidate pixel number Np, that is, Ns / Np is calculated. (Step S18).
続いて、ステップS18において求めたNs/Npから、印刷写真、プリンタ出力写真、印画紙写真の何れかを判定する(ステップS19)。 Subsequently, from the Ns / Np obtained in step S18, it is determined whether it is a printed photograph, a printer output photograph, or a photographic paper photograph (step S19).
上記のステップS18、S19における処理は、上述した写真種別判定部27において行われるので、処理の詳細については省略する。
Since the processes in steps S18 and S19 are performed in the above-described photo
ここで、上述したラベリング処理について説明する。 Here, the labeling process described above will be described.
一般的に、ラベリング処理とは、連結する前景画素(=1)の塊に対して同ラベルを割り当て、異なる連結成分は異なる連結成分を割り当てる処理である(画像処理標準テキストブックCG-ARTS協会p.262〜268参照)。ラベリング処理として、種々のものが提案されているが、本実施の形態では2回の走査による方式について述べる。このラベリング処理の流れを図13に示すフローチャートを参照に以下に説明する。 In general, the labeling process is a process in which the same label is assigned to a block of connected foreground pixels (= 1) and different connected components are assigned different connected components (image processing standard textbook CG-ARTS Association p). 262-268). Various labeling processes have been proposed. In this embodiment, a method using two scans will be described. The flow of this labeling process will be described below with reference to the flowchart shown in FIG.
まず、左上画素からラスタスキャンの順序で画素の値を調べ(ステップS21)、注目画素値が1のとき、上隣の画素が1で左隣の画素が0であるか否かを判断する(ステップS22)。次の処理を行う。 First, pixel values are examined in the raster scan order from the upper left pixel (step S21). When the target pixel value is 1, it is determined whether the upper adjacent pixel is 1 and the left adjacent pixel is 0 (step S21). Step S22). Perform the following process.
ここで、ステップS22において、上隣の画素が1で左隣の画素が0である場合、以下の手順1が実行される。
Here, in step S22, when the upper adjacent pixel is 1 and the left adjacent pixel is 0, the following
手順1:図14(a)に示すように、注目画素が1の場合、処理画素の上隣の画素が1で、すでにラベル(A)がつけられていれば、処理画素にも同じラベル(A)をつける(ステップS23)。そして、ステップS29に移行して、全画素に対してラベリングが終了したか否かを判断する。ここで、全画素終了であれば、図12に示すステップS16に移行し、写真候補エリア毎に写真候補画素数Npをカウントする。 Procedure 1: As shown in FIG. 14 (a), when the target pixel is 1, if the pixel adjacent to the processing pixel is 1 and the label (A) is already attached, the processing pixel has the same label ( A) is added (step S23). Then, the process proceeds to step S29, where it is determined whether or not labeling has been completed for all pixels. Here, if all the pixels have been completed, the process proceeds to step S16 shown in FIG. 12, and the number of photograph candidate pixels Np is counted for each photograph candidate area.
また、ステップS22において、上隣の画素が1で左隣の画素が0でない場合、上隣の画素が0で左隣の画素が1であるか否かを判断する(ステップS24)。 In step S22, if the upper adjacent pixel is 1 and the left adjacent pixel is not 0, it is determined whether the upper adjacent pixel is 0 and the left adjacent pixel is 1 (step S24).
ここで、ステップS24において、上隣の画素が0で左隣の画素が1である場合、以下の手順2が実行される。
Here, when the upper adjacent pixel is 0 and the left adjacent pixel is 1 in step S24, the following
手順2:図14(c)に示すように、上隣の画素が0で左隣が1の場合、処理画素に左隣と同じラベル(A)をつける(ステップS25)。そして、ステップS29に移行して、全画素に対してラベリングが終了したか否かを判断する。ここで、全画素終了であれば、図12に示すステップS16に移行し、写真候補エリア毎に写真候補画素数Npをカウントする。 Procedure 2: As shown in FIG. 14C, when the upper adjacent pixel is 0 and the left adjacent pixel is 1, the same label (A) as the left adjacent pixel is attached to the processing pixel (step S25). Then, the process proceeds to step S29, where it is determined whether or not labeling has been completed for all pixels. Here, if all the pixels are completed, the process proceeds to step S16 shown in FIG. 12, and the number Np of photo candidate pixels is counted for each photo candidate area.
また、ステップS24において、上隣の画素が0で左隣の画素が1でない場合、上隣の画素が1で左隣の画素が1であるか否かを判断する(ステップS26)。 In step S24, if the upper adjacent pixel is 0 and the left adjacent pixel is not 1, it is determined whether the upper adjacent pixel is 1 and the left adjacent pixel is 1 (step S26).
ここで、ステップS26において、上隣の画素が1で左隣の画素が1である場合、以下の手順3が実行される。
Here, in step S26, when the upper adjacent pixel is 1 and the left adjacent pixel is 1, the following
手順3:図14(b)に示すように、左隣の画素も1で、上隣の画素とは異なるラベル(B)がつけられている場合は、上隣と同じラベル(A)を記録するとともに、左隣の画素におけるラベル(B)と上隣の画素におけるラベル(A)との間に相関があることを保持する(ステップS27)。そして、ステップS29に移行して、全画素に対してラベリングが終了したか否かを判断する。ここで、全画素終了であれば、図12に示すステップS16に移行し、写真候補エリア毎に写真候補画素数Npをカウントする。 Step 3: As shown in FIG. 14B, when the left adjacent pixel is 1 and a different label (B) from the upper adjacent pixel is attached, the same label (A) as the upper adjacent pixel is recorded. At the same time, it is maintained that there is a correlation between the label (B) in the left adjacent pixel and the label (A) in the upper adjacent pixel (step S27). Then, the process proceeds to step S29, where it is determined whether or not labeling has been completed for all pixels. Here, if all the pixels are completed, the process proceeds to step S16 shown in FIG. 12, and the number Np of photo candidate pixels is counted for each photo candidate area.
また、ステップS26おいて、上隣の画素が1で左隣の画素が1でない場合、以下の手順4が実行される。
In step S26, when the upper adjacent pixel is 1 and the left adjacent pixel is not 1, the following
手順4:図12(d)に示すように、上隣も左隣も0の場合、新しいラベル(C)をつける(ステップS28)。そして、ステップS29に移行して、全画素に対してラベリングが終了したか否かを判断する。ここで、全画素終了であれば、図12に示すステップS16に移行し、写真候補エリア毎に写真候補画素数Npをカウントする。 Procedure 4: As shown in FIG. 12 (d), when both the upper and left neighbors are 0, a new label (C) is attached (step S28). Then, the process proceeds to step S29, where it is determined whether or not labeling has been completed for all pixels. Here, if all the pixels are completed, the process proceeds to step S16 shown in FIG. 12, and the number Np of photo candidate pixels is counted for each photo candidate area.
なお、複数のラベルが記録されている場合、上記の規則に基づいてラベルを統一する。
以上の説明において、画像種別認識処理を行う際のパラメータとして、文字画素の情報を利用していた。このように、画像種別認識において、文字画素の情報を利用すれば、認識精度の向上を図ることができる。
When a plurality of labels are recorded, the labels are unified based on the above rules.
In the above description, character pixel information is used as a parameter when performing image type recognition processing. Thus, in the image type recognition, if the information of the character pixel is used, the recognition accuracy can be improved.
しかしながら、原稿に含まれる文字画素の割合が少ない場合、すなわちメインが写真であるような原稿の場合には、文字画素の情報を利用しなくても画像種別の認識のうち、写真種別の認識精度にはほとんど影響がない。 However, when the ratio of character pixels included in the document is small, that is, in the case of a document whose main is a photograph, the recognition accuracy of the photo type is recognized out of the image type recognition without using the character pixel information. Has little effect.
従って、図10に示す原稿種別自動判別部40から文字画素検出部21を省いた、図15に示すような原稿種別自動判別部50としてもよい。
Accordingly, the automatic document
すなわち、上記原稿種別自動判別部50は、図15に示すように、背景下地画素検出部22と、網点画素検出部23と、写真候補画素検出部31と、写真候補画素ラベリング部41、写真候補画素カウント部42と、網点画素カウント部43と、写真種別判定部27から構成される。図10に示す原稿種別自動判別部40と同一の符号有する部材については、同一の機能を有するので、その説明は省略する。
That is, as shown in FIG. 15, the document type
また、上記原稿種別自動判別部50における処理の流れは、図12に示すフローチャートにおいて、文字画素検出処理を行うステップS11を行わない以外はほぼ同じである。
Further, the flow of processing in the automatic document
上記写真候補画素検出部31は、図10に示す写真候補画素検出部24と同様に、入力画像データの各画素が写真候補画素領域に存在するか否かの識別信号を出力するものであるが、文字画素の情報を用いないので、写真候補画素の検出処理は、入力画像データ中における上記背景下地画素検出部で識別された背景下地画素以外の画素を写真候補画素として識別するようにして行われる。
The photographic candidate
上記の各実施の形態において、図1及び図10に示した構成を用いて、写真領域だけでなく画像全体の種別を判別するようにしても良い。この場合、写真種別判定部27の後段に、画像種別判定部51を設ける(図16・図17を参照)。画像種別判定部51では、全画素数Naに対する文字画素数Ntの比率Nt/Na、全画素数Naに対する写真候補画素数Npと網点画素数Nsの差の比率(Np−Ns)/Na、全画素数Naに対する網点画素数Nsの比率Ns/Naを求め、予め定められる閾値THt、THp、THsと比較を行うとともに、写真種別判定部27の結果に基づいて、画像全体の種別の判別を行う。例えば、全画素数Naに対する文字画素数Ntの比率Nt/Naが閾値以上であり、写真種別判別部27の結果がプリンタ出力写真である場合、文字とプリンタ出力写真との混在原稿であると判断される。
In each of the above embodiments, the configuration shown in FIGS. 1 and 10 may be used to determine the type of the entire image, not just the photographic area. In this case, an image
以上では、原稿の種別を自動的に認識する方法について説明したが、ユーザが操作パネルより、原稿の種別を表す文字/写真モードや写真モードを選択した時、上記の処理を行うようにしても良い。 Although the method for automatically recognizing the document type has been described above, the above processing may be performed when the user selects the character / photo mode or the photo mode representing the document type from the operation panel. good.
また、本発明にかかる原稿種別判別方法をソフトウエア(アプリケーションプログラム)として実現してもかまわない。この場合、原稿種別判別結果に基づく処理を実現するソフトウエアを組み込んだプリンタ・ドライバをコンピュータやプリンタに設けることができる。 Further, the document type determination method according to the present invention may be realized as software (application program). In this case, a printer driver incorporating software that realizes processing based on the document type discrimination result can be provided in the computer or printer.
上記の例として、図18を用いて原稿種別判別結果に基づく処理を以下に説明する。 As an example of the above, processing based on the document type discrimination result will be described below with reference to FIG.
図18に示すように、コンピュータ101は、プリンタ・ドライバ102、通信ポートドライバ103、通信ポート104が組み込まれている。プリンタ・ドライバ102は、色補正部105、空間フィルタ処理部106、階調再現処理部107、プリンタ言語翻訳部108を有している。また、コンピュータ101は、プリンタ(画像出力装置)109と接続されており、プリンタ109は、コンピュータ101から出力された画像データに応じて画像出力するようになっている。
As shown in FIG. 18, the computer 101 includes a printer driver 102, a
コンピュータ101において、各種のアプリケーションプログラムを実行することにより生成された画像データは、色補正部105、空間フィルタ処理部106、階調再現処理部107で、原稿種別判別結果に基づいて上述の処理がなされる。なお、この場合、色補正部105には黒生成下色除去処理も含まれる。
The image data generated by executing various application programs in the computer 101 is processed by the
上記処理がなされた画像データは、プリンタ言語翻訳部108にてプリンタ言語に変換され、通信ポートドライバ103、通信ポート(例えばRS232C・LAN等)104を介してプリンタ109に入力される。プリンタ109は、プリンタ機能の他に、コピー機能およびファックス機能を有するデジタル複合機であってもよい。
The image data subjected to the above processing is converted into a printer language by the printer
また、本発明はコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体に、原稿種別判別処理を行う画像処理方法を記録することもできる。 The present invention can also record an image processing method for performing document type determination processing on a computer-readable recording medium in which a program to be executed by a computer is recorded.
この結果、原稿種別の判別を行い、その結果に基づいて適切な処理を施す画像処理方法を行うプログラムを記録した記録媒体を持ち運び自在に提供することができる。 As a result, it is possible to portablely provide a recording medium on which a program for performing an image processing method for determining an original type and performing an appropriate process based on the result is recorded.
記録媒体としては、マイクロコンピュータで処理が行われるために図示しないメモリ、例えばROMのようなプログラムメディアであってもよく、図示しない外部記憶装置としてのプログラム読取装置が設けられ、そこに記録媒体を挿入することで読み取り可能なプログラムメディアであってもよい。 The recording medium may be a non-illustrated memory, for example, a program medium such as a ROM because processing is performed by a microcomputer, and a program reading device as an external storage device (not illustrated) is provided, and the recording medium is stored therein. It may be a program medium that can be read by being inserted.
いずれの場合においても、格納されているプログラムはマイクロプロセッサがアクセスして実行させる構成であってもよいし、プログラムを読み出し、読み出されたプログラムは、マイクロコンピュータの図示されていないプログラム記憶エリアにダウンロードされて、そのプログラムが実行される方式であってもよい。この場合、ダウンロード用のプログラムは予め本体装置に格納されているものとする。 In any case, the stored program may be configured to be accessed and executed by the microprocessor, and the program is read out, and the read program is stored in a program storage area (not shown) of the microcomputer. A method of downloading and executing the program may be used. In this case, it is assumed that the download program is stored in the main device in advance.
ここで、上記プログラムメディアは、本体と分離可能に構成される記録媒体であり、磁気テープやカセットテープ等のテープ系、フレキシブルディスクやハードディスク等の磁気ディスク並びにCD−ROM/MO/MD/DVD等の光ディスクのディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)、フラッシュROM等による半導体メモリを含めた固定的にプログラムを担持する媒体であってもよい。 Here, the program medium is a recording medium configured to be separable from the main body, such as a tape system such as a magnetic tape or a cassette tape, a magnetic disk such as a flexible disk or a hard disk, and a CD-ROM / MO / MD / DVD. Semiconductors such as optical discs, IC cards (including memory cards) / optical cards, etc., or mask ROM, EPROM (Erasable Programmable Read Only Memory), EEPROM (Electrically Erasable Programmable Read Only Memory), flash ROM, etc. It may be a medium that carries a fixed program including a memory.
また、この場合、インターネットを含む通信ネットワークを接続可能なシステム構成であることから、通信ネットワークからプログラムをダウンロードするように流動的にプログラムを担持する媒体であってもよい。なお、このように通信ネットワークからプログラムをダウンロードする場合には、そのダウンロード用のプログラムは予め本体装置に格納しておくか、あるいは別の記録媒体からインストールされるものであってもよい。 In this case, since the system configuration is capable of connecting a communication network including the Internet, the medium may be a medium that fluidly carries the program so as to download the program from the communication network. When the program is downloaded from the communication network in this way, the download program may be stored in the main device in advance or installed from another recording medium.
上記記録媒体は、デジタルカラー画像形成装置やコンピュータシステムに備えられるプログラム読み取り装置により読み取られることで上述した画像処理方法が実行される。 The recording medium is read by a program reading device provided in a digital color image forming apparatus or a computer system, whereby the above-described image processing method is executed.
なお、上記コンピュータシステムは、フラットベッドスキャナ・フィルムスキャナ・デジタルカメラなどの画像入力装置、所定のプログラムがロードされることにより上記画像処理方法など様々な処理が行われるコンピュータ、コンピュータの処理結果を表示するCRTディスクプレイ・液晶ディスプレイなどの画像表示装置およびコンピュータの処理結果を紙に出力するプリンタより構成される。さらには、ネットワークを介してサーバーなどに接続するための通信手段としてのネットワークカードやモデムなどが備えられる。 The computer system includes an image input device such as a flatbed scanner, a film scanner, and a digital camera, a computer that performs various processes such as the image processing method by loading a predetermined program, and displays the processing results of the computer. An image display device such as a CRT display / liquid crystal display and a printer that outputs the processing results of the computer to paper. Furthermore, a network card, a modem, and the like are provided as communication means for connecting to a server or the like via a network.
また、インターネットを含む通信ネットワークを接続可能なシステム構成であれば、通信ネットワークからプログラムをダウンロードするように流動的にプログラムを担持する記録媒体であることが好ましい。 In addition, if the system configuration is capable of connecting to a communication network including the Internet, the recording medium is preferably a recording medium that fluidly carries the program so as to download the program from the communication network.
さらに、このように通信ネットワークからプログラムをダウンロードする場合には、そのダウンロード用のプログラムは予め本体装置に格納しておくか、あるいは別な記録媒体からインストールされるものであることが好ましい。 Further, when the program is downloaded from the communication network as described above, it is preferable that the download program is stored in the main device in advance or installed from another recording medium.
また、本発明の画像処理装置は、以下の構成であってもよい。 The image processing apparatus of the present invention may have the following configuration.
すなわち、本発明の画像処理装置は、入力画像データより特徴量を抽出し、入力画像の種別を識別する画像種別認識手段を備える画像処理装置において、画像種別認識手段は、前記入力画像データの各画素あるいは複数の画素よりなるブロックが、網点エリアに属するか否かを判定する網点画素検出手段と、前記入力画像データの各画素あるいは複数の画素よりなるブロックが、背景下地エリアに属するか否かを判定する背景下地画素検出手段と、前記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロックに対する前記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率により、前記入力画像データに印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真(プリンタで出力された写真)の何れが含まれているかを判定する写真種別判定手段を備えるようにしてもよい。 That is, the image processing apparatus of the present invention includes an image type recognizing unit that extracts a feature amount from input image data and identifies the type of the input image. The image type recognizing unit includes each of the input image data. A halftone pixel detection means for determining whether a pixel or a block composed of a plurality of pixels belongs to a halftone dot area, and whether a block composed of each pixel or a plurality of pixels of the input image data belongs to a background background area Detected by the halftone dot detection means for the pixels or blocks in the input image data other than the background background pixels or background background blocks detected by the background background pixel detection means. Depending on the ratio of halftone dot pixels or halftone dot blocks, the input image data may be printed photographs (halftone dots), photographic paper photographs (continuous tone), Printer output photos may be provided for determining photographic type determination unit either is contained in (printer photo output in).
これにより、各種プリンタ出力写真の特性が印刷写真の特性から印画紙写真の特性の間に位置することを利用することで、既存の画素属性検出手段により得られた網点画素、背景下地画素情報を用いた比較的簡単な方法でプリンタ出力写真が含まれているかを判定することができる。特に、より簡単な構成でプリンタ出力写真が含まれているかを判定したい場合には、入力画像に占める文字画素の比率が低いことが多いため、文字画素の情報が無くても識別精度をほぼ同程度に保持できることを利用して、文字画素検出手段を省くことによる構成手段の簡略化が可能となる。 Thus, by utilizing the fact that the characteristics of various printer output photographs are located between the characteristics of the printed photograph and the characteristics of the photographic paper photograph, the halftone pixel and background background pixel information obtained by the existing pixel attribute detection means It is possible to determine whether or not a printer output photograph is included by a relatively simple method using. In particular, when it is desired to determine whether a printer output photograph is included with a simpler configuration, since the ratio of character pixels in the input image is often low, the identification accuracy is almost the same even without character pixel information. Utilizing the fact that it can be maintained to the extent, the construction means can be simplified by omitting the character pixel detection means.
また、写真種別判定手段は、入力画像データの写真領域を印刷写真(網点)、印画紙写真(連続調)、またはプリンタ出力写真に識別せずに、算出された画素数またはブロック数の比率に基づいて、画像処理の内容を切り換えるように制御しても良い。 Also, the photo type determination means does not identify the photo area of the input image data as a printed photo (dot), a photographic paper photo (continuous tone), or a printer output photo, and calculates the ratio of the number of pixels or blocks calculated. Based on the above, it may be controlled to switch the contents of the image processing.
ここで、属性判別を行うブロックは、矩形領域に限定されるものではなく任意の形状で構わない。 Here, the block for performing the attribute determination is not limited to the rectangular area, and may have any shape.
また、上記構成の画像処理装置において、入力画像データの各画素が、文字エリアに属するか否かを判定する文字画素検出手段を備え、写真種別判定手段は、前記文字画素検出手段で検出された文字画素あるいは文字ブロックと、前記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロックに対する前記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率により、前記入力画像データに印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真の何れが含まれているかを判別するようにしてもよい。 The image processing apparatus having the above-described configuration further includes character pixel detection means for determining whether each pixel of the input image data belongs to a character area, and the photo type determination means is detected by the character pixel detection means. A character pixel or character block and a halftone dot pixel detected by the halftone pixel detector for a pixel or block in the input image data other than the background background pixel or background background block detected by the background background pixel detector or Depending on the ratio of halftone dots, it may be determined whether the input image data includes a printed photograph (halftone dot), a photographic paper photograph (continuous tone), or a printer output photograph.
これにより、構成手段の簡略化よりもプリンタ出力写真の識別精度を重視する場合には、文字画素検出手段を追加することにより、文字画素あるいは文字ブロックと背景下地画素あるいは背景下地ブロック以外の入力画像データ中の画素あるいはブロックを識別対象とできる、即ち、文字を除き、本来対象としたい写真や図形のみにおける網点画素あるいは網点ブロックの比率を用いることができるため、より精度の良くプリンタ出力写真が含まれているかを判定することができる。 As a result, when the identification accuracy of the printer output photo is more important than simplification of the configuration means, an input image other than the character pixel or character block and the background background pixel or background background block can be obtained by adding the character pixel detection means. Pixels or blocks in the data can be identified, that is, the ratio of halftone pixels or halftone blocks in only the photos or figures that are originally intended to be excluded, excluding characters, can be used for more accurate printer output photos. Can be determined.
さらに、前記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロック、または、前記文字画素検出手段で検出された文字画素あるいは文字ブロックと前記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロックで構成される写真候補エリアに対してラベル付けを行うラベリング手段を備え、前記写真種別判定手段は、前記ラベル付けされた写真候補エリアごとにエリア中の画素あるいはブロックに対する前記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率により、前記写真候補エリアは印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真の何れであるかを識別するようにしてもよい。 Further, a pixel or block in the input image data other than a background background pixel or background background block detected by the background background pixel detection means, or a character pixel or character block detected by the character pixel detection means and the background Labeling means for labeling a photo candidate area composed of pixels or blocks in the input image data other than the background background pixels or background background blocks detected by the background pixel detection means, and the photo type determination means For each labeled photo candidate area, the photo candidate area is a printed photo (halftone dot) according to the ratio of the halftone pixel or halftone block detected by the halftone pixel detection means to the pixels or blocks in the area. ), Photographic paper photo (continuous tone), or printer output photo. It may be.
これにより、入力画像データ中の背景下地画素以外の画素あるいは背景下地ブロック以外のブロック、または、文字画素と背景下地画素以外の画素あるいは文字ブロックと背景下地ブロック以外のブロック(写真候補エリア)に対してラベル付けを行うことにより、各上記写真候補エリアに対し、個別に印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真などの何れであるかを識別することが可能となる。即ち、1つの入力画像データ中に、印刷写真とプリンタ出力写真が存在する場合でも、それぞれの写真に対する種別認識が可能となる。 As a result, for pixels other than background background pixels or blocks other than background background blocks, or pixels other than character pixels and background background pixels, or blocks other than character blocks and background background blocks (photo candidate areas) in the input image data By labeling each of the above candidate photo areas, it is possible to individually identify whether the photograph is a printed photograph (halftone dot), a photographic paper photograph (continuous tone), or a printer output photograph. Become. That is, even when a print photo and a printer output photo are present in one input image data, it is possible to recognize the type of each photo.
上記構成の画像処理装置を画像形成装置に備えた場合、以下のような効果を奏する。 When the image processing apparatus having the above-described configuration is provided in an image forming apparatus, the following effects can be obtained.
プリンタ出力写真が含まれている入力画像データ、あるいはプリンタ出力写真の属した画素、ブロックに対して、プリンタ出力写真の特性を考慮した画像処理を適用することで、プリンタ出力写真を含んだ画像データの高画質出力が可能となる。 Image data that includes the printer output photo by applying image processing that considers the characteristics of the printer output photo to the input image data that includes the printer output photo or the pixels and blocks to which the printer output photo belongs. High-quality output is possible.
上記の画像処理装置における画像処理方法は、以下のような工程を有している。 The image processing method in the above image processing apparatus has the following steps.
すなわち、入力画像データより特徴量を抽出し、入力画像の種別を識別する画像種別認識工程を備える画像処理方法において、画像種別認識工程は、前記入力画像データの各画素あるいは複数の画素よりなるブロックが、網点エリアに属するか否かを判定する網点画素検出工程と、前記入力画像データの各画素あるいは複数の画素よりなるブロックが、背景下地エリアに属するか否かを判定する背景下地画素検出工程と、前記背景下地画素検出工程で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロックに対する前記網点画素検出工程で検出された網点画素あるいは網点ブロックの比率により、前記入力画像データに印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真(プリンタで出力された写真)の何れが含まれているかを判定する写真種別判定工程とを備えることが考えられる。 That is, in an image processing method including an image type recognition step that extracts a feature amount from input image data and identifies the type of the input image, the image type recognition step includes a block composed of each pixel or a plurality of pixels of the input image data. A halftone dot pixel detecting step for determining whether or not a pixel belongs to a halftone dot area, and a background background pixel for determining whether or not a block comprising each pixel or a plurality of pixels of the input image data belongs to a background background area A halftone pixel or halftone block detected in the halftone pixel detection step for a pixel or block in the input image data other than the background background pixel or background background block detected in the detection step and the background background pixel detection step; Depending on the ratio of the input image data, a print photograph (halftone dot), a photographic paper photograph (continuous tone), and a printer output photograph (pre- It is contemplated and a determining photographic type determination step of determining one is included in the output photographic) in data.
また、入力画像データの各画素が、文字エリアに属するか否かを判定する文字画素検出工程を備え、写真種別判定工程は、前記文字画素検出工程で検出された文字画素あるいは文字ブロックと、前記背景下地画素検出工程で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロックに対する前記網点画素検出工程で検出された網点画素あるいは網点ブロックの比率により、前記入力画像データに印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真の何れが含まれているかを判別することが考えられる。 In addition, a character pixel detection step for determining whether each pixel of the input image data belongs to a character area, the photo type determination step includes the character pixel or the character block detected in the character pixel detection step, According to the ratio of the halftone dot pixel or halftone block detected in the halftone pixel detection step to the pixel or block in the input image data other than the background background pixel or background background block detected in the background background pixel detection step, It may be possible to determine whether the input image data includes a printed photograph (halftone dot), a photographic paper photograph (continuous tone), or a printer output photograph.
さらに、前記背景下地画素検出工程で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロック、または、前記文字画素検出工程で検出された文字画素あるいは文字ブロックと前記背景下地画素検出工程で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロックで構成される写真候補エリアに対してラベル付けを行うラベリング工程を備え、前記写真種別判定工程は、前記ラベル付けされた写真候補エリアごとにエリア中の画素あるいはブロックに対する前記網点画素検出工程で検出された網点画素あるいは網点ブロックの比率により、前記写真候補エリアは印刷写真(網点)、印画紙写真(連続調)、またプリンタ出力写真の何れであるかを識別することが考えられる。 Further, a pixel or block in the input image data other than the background background pixel or background background block detected in the background background pixel detection step, or the character pixel or character block detected in the character pixel detection step and the background A labeling step for labeling a photo candidate area composed of pixels or blocks in the input image data other than the background background pixel or background background block detected in the background pixel detection step, and the photo type determination step For each labeled photo candidate area, the photo candidate area is a printed photo (halftone dot) according to the ratio of the halftone pixel or halftone block detected in the halftone pixel detection step to the pixels or blocks in the area. ), Photographic paper photo (continuous tone), or printer output photo. It is conceivable to.
上述の画像処理装置を動作させる画像処理プログラとして、コンピュータを上記の各手段として機能させるようにしてもよい。 As an image processing program for operating the above-described image processing apparatus, a computer may function as each of the above-described means.
この場合、コンピュータで上記画像処理装置の各手段を実現することによって、上記画像処理装置を実現することができる。 In this case, the image processing apparatus can be realized by realizing each unit of the image processing apparatus with a computer.
また、上記画像処理プログラムをコンピュータ読取り可能な記録媒体に記録してもよい。 The image processing program may be recorded on a computer-readable recording medium.
この場合、記録媒体から読み出された画像処理プログラムによって、上記画像処理装置をコンピュータ上に実現することができる。 In this case, the image processing apparatus can be realized on a computer by an image processing program read from the recording medium.
また、本発明の画像処理装置は、入力画像データより特徴量を抽出し、抽出した特徴量に応じた画像処理を行う画像処理装置において、
上記入力画像データの各画素あるいは複数の画素よりなるブロックが、網点エリアに属するか否かを判定する網点画素検出手段と、
上記入力画像データの各画素あるいは複数の画素よりなるブロックが、背景下地エリアに属するか否かを判定する背景下地画素検出手段とを備え、
上記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロックに対する上記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率を入力画像データの特徴量として抽出することを特徴としている。
An image processing apparatus according to the present invention is an image processing apparatus that extracts a feature amount from input image data and performs image processing according to the extracted feature amount.
Halftone pixel detection means for determining whether or not each pixel of the input image data or a block composed of a plurality of pixels belongs to a halftone dot area;
A background background pixel detection means for determining whether a block consisting of each pixel or a plurality of pixels of the input image data belongs to a background background area;
The ratio of the halftone pixel or halftone block detected by the halftone pixel detection means to the pixel or block in the input image data other than the background background pixel or background background block detected by the background background pixel detection means is input. It is characterized by being extracted as a feature amount of image data.
上記の構成によれば、入力画像データにおける、背景下地画素あるいは背景下地ブロック以外の前記入力画像データ中の画素あるいはブロックに対する網点画素あるいは網点ブロックの比率を入力画像データの特徴量として抽出することで、入力画像を忠実に再現した出力画像を得ることができる。 According to the above configuration, the ratio of halftone pixels or halftone blocks to pixels or blocks in the input image data other than background background pixels or background background blocks in the input image data is extracted as the feature amount of the input image data. Thus, an output image that faithfully reproduces the input image can be obtained.
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。 The present invention is not limited to the above-described embodiments, and various modifications are possible within the scope shown in the claims, and embodiments obtained by appropriately combining technical means disclosed in different embodiments. Is also included in the technical scope of the present invention.
本発明の画像処理方法は、デジタルカラー複写機に適用できるが、その他に、画像データを入力して出力される画像データの再現性の向上を図る必要のある装置であれば、どのような装置であっても適用できる。このような装置として、例えば、スキャナ等の画像読取装置がある。 The image processing method of the present invention can be applied to a digital color copying machine, but any other apparatus that is required to improve the reproducibility of image data that is input and output by image data. Even applicable. An example of such an apparatus is an image reading apparatus such as a scanner.
1 カラー画像入力装置
2 画像処理装置
3 カラー画像出力装置
4 操作パネル
11 A/D変換部
12 シェーディング補正部
13 原稿種別自動判別部(画像種別判別手段)
14 入力階調補正部
15 色補正部
16 黒生成下色除去部
17 空間フィルタ処理部
18 出力階調補正部
19 階調再現処理部
20 領域分離処理部
21 文字画素検出部(文字画素検出手段)
22 背景下地画素検出部(背景下地画素検出手段)
23 網点画素検出部(網点画素検出手段)
24 写真候補画素検出部
25 写真候補画素カウント部
26 網点画素カウント部
27 写真種別判定部
30 原稿種別自動判別部(画像種別判別手段)
31 写真候補画素検出部
40 原稿種別自動判別部(画像種別判別手段)
41 写真候補画素ラベリング部(ラベリング手段)
42 写真候補画素カウント部
43 網点画素カウント部
50 原稿種別自動判別部(画像種別判別手段)
51 画像種別判定部
101 コンピュータ
102 プリンタ・ドライバ
103 通信ポートドライバ
104 通信ポート
105 色補正部
106 空間フィルタ処理部
107 階調再現処理部
108 プリンタ言語翻訳部
109 プリンタ
Na 全画素数
Np 写真候補画素数
Ns 比率
Nt 文字画素数
DESCRIPTION OF
DESCRIPTION OF
22 Background background pixel detection unit (background background pixel detection means)
23 Halftone pixel detection unit (halftone pixel detection means)
24 Photo Candidate
31 Photo candidate
41 Photo candidate pixel labeling section (labeling means)
42 Photo Candidate
51 Image Type Determination Unit 101 Computer 102
Claims (10)
上記画像種別認識手段には、
上記入力画像データの各画素あるいは複数の画素よりなるブロックが、網点エリアに属するか否かを判定する網点画素検出手段と、
上記入力画像データの各画素あるいは複数の画素よりなるブロックが、背景下地エリアに属するか否かを判定する背景下地画素検出手段と、
上記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する上記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率から、網点からなる印刷写真の画像特性、連続調の印画紙写真の画像特性、プリンタで出力されたプリンタ出力写真の画像特性の何れであるかを決定し、決定した画像特性から、上記入力画像データに含まれている写真の種別を判定する写真種別判定手段とが設けられていることを特徴とする画像処理装置。 In an image processing apparatus including an image type recognition unit that extracts a feature amount from input image data and identifies the type of the input image,
The image type recognition means includes
Halftone pixel detection means for determining whether or not each pixel of the input image data or a block composed of a plurality of pixels belongs to a halftone dot area;
Background background pixel detection means for determining whether or not each pixel of the input image data or a block composed of a plurality of pixels belongs to the background background area;
From the ratio of the halftone pixel or halftone block detected by the halftone pixel detection means to the pixel or block in the input image data other than the background background pixel or background background block detected by the background background pixel detection means , Determines whether the image characteristics of a printed photograph consisting of halftone dots, the image characteristics of a continuous-tone photographic paper photograph, or the image characteristics of a printer output photograph output by a printer, and the input image data is determined from the determined image characteristics. An image processing apparatus comprising: a photo type determining unit that determines a type of a photo included in the image.
上記写真種別判定手段は、上記文字画素検出手段で検出された文字画素あるいは文字ブロックと、上記背景下地画素検出手段で検出された背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する上記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率から、網点からなる印刷写真の画像特性、連続調の印画紙写真の画像特性、プリンタで出力されたプリンタ出力写真の画像特性の何れであるかを決定し、決定した画像特性から、上記入力画像データに含まれている写真の種別を判定することを特徴とする請求項1に記載の画像処理装置。 Character pixel detection means for determining whether each pixel of the input image data belongs to a character area,
The photograph type determination means includes a character pixel or a character block detected by the character pixel detection means, a pixel in the input image data other than the background background pixel or background background block detected by the background background pixel detection means, or Based on the ratio of halftone pixels or halftone blocks detected by the halftone pixel detection means to the block, the image characteristics of a printed photograph composed of halftone dots, the image characteristics of a continuous-tone photographic paper photograph, and the printer output output by a printer The image processing apparatus according to claim 1, wherein the image processing apparatus determines which of the image characteristics is a photograph, and determines a type of the photograph included in the input image data from the determined image characteristics .
上記写真種別判定手段は、上記ラベリング手段によってラベル付けされた写真候補エリア毎にエリア中の画素あるいはブロックに対する上記網点画素検出手段で検出された網点画素あるいは網点ブロックの比率から、網点からなる印刷写真の画像特性、連続調の印画紙写真の画像特性、プリンタで出力されたプリンタ出力写真の画像特性の何れであるかを決定し、決定した画像特性から、上記写真候補エリアの写真の種別を判定することを特徴する請求項1または2に記載の画像処理装置。 Further, a pixel or block in the input image data other than the background background pixel or background background block detected by the background background pixel detection means, or a character pixel or character block detected by the character pixel detection means and the background Labeling means for labeling a photo candidate area composed of pixels or blocks in the input image data other than the background background pixels or background background blocks detected by the background pixel detection means,
The photograph type determination means determines the halftone dot from the ratio of the halftone pixel or halftone block detected by the halftone pixel detection means to the pixel or block in the area for each photo candidate area labeled by the labeling means. The image characteristics of the print candidate area , the image characteristics of the continuous-tone photographic paper photograph, and the image characteristics of the printer output photo output by the printer are determined. The image processing apparatus according to claim 1 , wherein the type of the image processing apparatus is determined.
上記画像種別認識工程には、
上記入力画像データの各画素あるいは複数の画素よりなるブロックが、網点エリアに属するか否かを判定する網点画素検出工程と、
上記入力画像データの各画素あるいは複数の画素よりなるブロックが、背景下地エリアに属するか否かを判定する背景下地画素検出工程と、
上記背景下地画素検出工程で検出された背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する上記網点画素検出工程で検出された網点画素あるいは網点ブロックの比率から、網点からなる印刷写真の画像特性、連続調の印画紙写真の画像特性、プリンタで出力されたプリンタ出力写真の画像特性の何れであるかを決定し、決定した画像特性から、上記入力画像データに含まれている写真の種別を判定する写真種別判定工程とを含んでいることを特徴とする画像処理方法。 In an image processing method including an image type recognition step of extracting a feature amount from input image data and identifying the type of the input image,
In the image type recognition process,
A halftone pixel detection step of determining whether or not each pixel of the input image data or a block composed of a plurality of pixels belongs to a halftone dot area;
A background background pixel detection step for determining whether each pixel of the input image data or a block composed of a plurality of pixels belongs to a background background area;
From the ratio of the halftone pixel or halftone block detected in the halftone pixel detection step to the pixel or block in the input image data other than the background background pixel or background background block detected in the background background pixel detection step , Determines whether the image characteristics of a printed photograph consisting of halftone dots, the image characteristics of a continuous-tone photographic paper photograph, or the image characteristics of a printer output photograph output by a printer, and the input image data is determined from the determined image characteristics. An image processing method comprising: a photo type determination step for determining a type of a photo included in the image.
上記写真種別判定工程は、上記文字画素検出工程で検出された文字画素あるいは文字ブロックと、上記背景下地画素検出工程で検出された背景下地画素あるいは背景下地ブロック以外の上記入力画像データ中の画素あるいはブロックに対する上記網点画素検出工程で検出された網点画素あるいは網点ブロックの比率から、網点からなる印刷写真の画像特性、連続調の印画紙写真の画像特性、プリンタで出力されたプリンタ出力写真の画像特性の何れであるかを決定し、決定した画像特性から、上記入力画像データに含まれている写真の種別を判定することを特徴とする請求項5に記載の画像処理方法。 A character pixel detection step of determining whether each pixel of the input image data belongs to a character area;
The photo type determination step includes a character pixel or a character block detected in the character pixel detection step and a pixel in the input image data other than the background background pixel or background background block detected in the background background pixel detection step. Based on the ratio of halftone pixels or halftone blocks detected in the halftone pixel detection step to the block, the image characteristics of a printed photograph composed of halftone dots, the image characteristics of a continuous-tone photographic paper photograph, and the printer output output by a printer 6. The image processing method according to claim 5, wherein it is determined which of the image characteristics of the photo is determined, and the type of the photo included in the input image data is determined from the determined image characteristics .
上記写真種別判定工程は、上記ラベリング工程によってラベル付けされた写真候補エリア毎にエリア中の画素あるいはブロックに対する上記網点画素検出工程で検出された網点画素あるいは網点ブロックの比率から、網点からなる印刷写真の画像特性、連続調の印画紙写真の画像特性、プリンタで出力されたプリンタ出力写真の画像特性の何れであるかを決定し、決定した画像特性から、上記写真候補エリアの写真の種別を判定することを特徴する請求項5または6に記載の画像処理方法。 Further, a pixel or block in the input image data other than the background background pixel or background background block detected in the background background pixel detection step, or a character pixel or character block detected in the character pixel detection step and the background A labeling step for labeling a photo candidate area composed of pixels or blocks in the input image data other than the background background pixel or background background block detected in the background pixel detection step,
The photo type determination step includes a halftone dot from a ratio of halftone pixels or halftone blocks detected in the halftone pixel detection step to pixels or blocks in the area for each photo candidate area labeled by the labeling step. The image characteristics of the print candidate area , the image characteristics of the continuous-tone photographic paper photograph, and the image characteristics of the printer output photo output by the printer are determined. The image processing method according to claim 5 , wherein the type of the image is determined.
上記入力画像データに含まれる背景下地画素あるいは背景下地ブロック以外の画素あるいはブロックに対する該入力画像データに含まれる網点画素あるいは網点ブロックの比率から、網点からなる印刷写真の画像特性、連続調の印画紙写真の画像特性、プリンタで出力されたプリンタ出力写真の画像特性の何れであるかを決定し、決定した画像特性から、上記入力画像データに含まれている写真の種別を判定することを特徴とする写真種別判定方法。 In the photo type determination method for determining the photo type included in the input image data,
From the ratio of halftone pixels or halftone blocks contained in the input image data to the background background pixels or pixels other than the background background blocks contained in the input image data, or the continuous tone, The image characteristics of the photographic paper photograph and the image characteristics of the printer output photograph output by the printer are determined, and the type of the photograph included in the input image data is determined from the determined image characteristics A photo type determination method characterized by the above.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004046816A JP4073877B2 (en) | 2004-02-23 | 2004-02-23 | Image processing method, image processing apparatus, image forming apparatus, and computer program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004046816A JP4073877B2 (en) | 2004-02-23 | 2004-02-23 | Image processing method, image processing apparatus, image forming apparatus, and computer program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2005236903A JP2005236903A (en) | 2005-09-02 |
| JP4073877B2 true JP4073877B2 (en) | 2008-04-09 |
Family
ID=35019368
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2004046816A Expired - Fee Related JP4073877B2 (en) | 2004-02-23 | 2004-02-23 | Image processing method, image processing apparatus, image forming apparatus, and computer program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4073877B2 (en) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4615462B2 (en) * | 2006-03-15 | 2011-01-19 | 株式会社リコー | Image processing apparatus, image forming apparatus, program, and image processing method |
| JP5206782B2 (en) * | 2010-12-28 | 2013-06-12 | ブラザー工業株式会社 | Image processing apparatus, image processing method, and program |
| JP6474315B2 (en) * | 2015-05-22 | 2019-02-27 | シャープ株式会社 | Image processing apparatus, image forming apparatus, image processing method, image processing program, and recording medium therefor |
-
2004
- 2004-02-23 JP JP2004046816A patent/JP4073877B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2005236903A (en) | 2005-09-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4137890B2 (en) | Image processing apparatus, image forming apparatus, image reading processing apparatus, image processing method, image processing program, and computer-readable recording medium | |
| JP4926568B2 (en) | Image processing apparatus, image processing method, and image processing program | |
| JP4495197B2 (en) | Image processing apparatus, image forming apparatus, image processing program, and recording medium for recording image processing program | |
| JP4166744B2 (en) | Image processing apparatus, image forming apparatus, image processing method, computer program, and recording medium | |
| KR100886995B1 (en) | Image processing apparatus and image processing method | |
| JP2009038529A (en) | Image processing method, image processing apparatus, image forming apparatus, image reading apparatus, computer program, and recording medium | |
| JP4118886B2 (en) | Image processing apparatus, image forming apparatus, image reading processing apparatus, image processing method, image processing program, and computer-readable recording medium | |
| CN101247465B (en) | Image processing method, image processing apparatus, and image forming apparatus | |
| JP4115999B2 (en) | Image processing apparatus, image forming apparatus, image reading processing apparatus, image processing method, image processing program, and computer-readable recording medium | |
| JP4531606B2 (en) | Image processing apparatus, image forming apparatus, and image processing method | |
| JP4170353B2 (en) | Image processing method, image processing apparatus, image reading apparatus, image forming apparatus, program, and recording medium | |
| JP4402090B2 (en) | Image forming apparatus, image forming method, program, and recording medium | |
| JP4050220B2 (en) | Image processing method, image processing apparatus, image forming apparatus, program, and recording medium | |
| JP4073877B2 (en) | Image processing method, image processing apparatus, image forming apparatus, and computer program | |
| JP4084537B2 (en) | Image processing apparatus, image processing method, recording medium, and image forming apparatus | |
| JP4080252B2 (en) | Image processing apparatus, image forming apparatus, image processing method, program, and recording medium | |
| JP4149368B2 (en) | Image processing method, image processing apparatus and image forming apparatus, computer program, and computer-readable recording medium | |
| JP4808282B2 (en) | Image processing apparatus, image forming apparatus, image processing method, image processing program, and recording medium for recording image processing program | |
| JP4334504B2 (en) | Image processing apparatus, image forming apparatus, image processing method, computer program, and recording medium | |
| JP4086537B2 (en) | Image processing method, image processing apparatus, image forming apparatus, computer program, and recording medium | |
| JP2006262404A (en) | Light source estimation device, image processing device, light source estimation method, and image processing method | |
| JP2009055121A (en) | Image processing apparatus, image processing method, image forming apparatus and program, and recording medium | |
| JP4545134B2 (en) | Image processing method, image processing apparatus, image forming apparatus, computer program, and recording medium | |
| JP2005142740A (en) | Inkjet document discrimination method, image processing apparatus, image reading apparatus, image forming apparatus, inkjet document discrimination program, and recording medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060125 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070808 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070821 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071022 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20071022 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080122 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080123 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110201 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120201 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130201 Year of fee payment: 5 |
|
| LAPS | Cancellation because of no payment of annual fees |