[go: up one dir, main page]

JP3974359B2 - オンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラム - Google Patents

オンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラム Download PDF

Info

Publication number
JP3974359B2
JP3974359B2 JP2001274147A JP2001274147A JP3974359B2 JP 3974359 B2 JP3974359 B2 JP 3974359B2 JP 2001274147 A JP2001274147 A JP 2001274147A JP 2001274147 A JP2001274147 A JP 2001274147A JP 3974359 B2 JP3974359 B2 JP 3974359B2
Authority
JP
Japan
Prior art keywords
character
recognition
character string
stroke
string
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001274147A
Other languages
English (en)
Other versions
JP2002203208A (ja
Inventor
聡典 河村
洋次郎 登内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2001274147A priority Critical patent/JP3974359B2/ja
Priority to US09/984,672 priority patent/US7013046B2/en
Priority to CNB011359994A priority patent/CN1215433C/zh
Publication of JP2002203208A publication Critical patent/JP2002203208A/ja
Priority to US11/296,223 priority patent/US7885464B2/en
Application granted granted Critical
Publication of JP3974359B2 publication Critical patent/JP3974359B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/142Image acquisition using hand-held instruments; Constructional details of the instruments
    • G06V30/1423Image acquisition using hand-held instruments; Constructional details of the instruments the instrument generating sequences of position coordinates corresponding to handwriting

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Character Discrimination (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、座標入力装置を介して手書き入力される文字列筆跡(ストローク列)情報から、随時自動的に文字を切り出して認識し、結果を表示するオンライン文字認識装置に係り、特に文字の連続筆記入力に好適なオンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラムに関する。
【0002】
【従来の技術】
従来、座標入力タブレット等の座標入力装置を介して手書き入力される文字列筆跡情報から、自動的に文字を切り出して認識し、結果を表示するオンライン文字認識装置では、次の4つの認識技術(認識手法)、即ち
(1)複数の文字枠が用意されており、1つの文字枠に1文字が順に書かれていくことで、文字を切出して認識する技術
(2)座標入力タブレットからペンが一定時間以上離れたことを検知して、文字の終りと判断して文字を切り出して認識する技術
(3)認識実行ボタン等で1文字筆記終了が明示的に指示されることにより文字を切出して認識する技術
(4)1文字を特殊な一筆書きで定義し、ストロークが入力されてペンがタブレットから離れたことを検知して1文字入力と判定し、文字を切り出して認識する技術
のいずれかが適用されるのが一般的である。
【0003】
【発明が解決しようとする課題】
しかしながら、上記した従来の認識技術、例えば(1)では、ユーザは文字筆記時に文字枠の大きさや位置を意識して入力せねばならず、自然な入力ができないという問題点があった。また、小型情報機器への搭載を考えた場合、十分な大きさの文字筆記領域が確保できないため、複数の文字枠を用意すると、1文字当たりの筆記領域の大きさが小さくなり、ユーザにとって筆記しづらいものとなるという問題点もあった。
【0004】
一方、従来の認識技術(2),(3)では、文字枠を複数用意する必要はないため、1文字当たりの筆記領域を大きくとることが可能となり、(1)の問題を回避することが可能である。しかし、(2)では、連続して複数の文字を入力したいときに、1文字筆記毎に、タブレットからペンを一定時間以上離さねばらない。また、(3)では、1文字入力毎に認識実行ボタンを押すという、文字の筆記とは本来関係のない操作が、1文字筆記毎に必要となる。このため、(2),(3)の認識技術は文字列のスムーズな入力が困難であるという問題点があった。
【0005】
また、従来の認識技術(4)では、上記した(1),(2),(3)における問題点を回避することが可能となるものの、ユーザに対して各文字の一筆書きを予め覚えておくことを強いる。このため、特に認識対象となる文字が多数存在する場合には、ユーザにとって大変な苦痛となる。
【0006】
本発明は上記事情を考慮してなされたものでその目的は、ユーザが文字の区切りを意識することなく、ただ文字を続けて書いていくだけであっても、自動的に文字列を認識できるようにすることにある。
本発明の他の目的は、文字の重ね書き入力が行えるようにすることにある。
【0007】
【課題を解決するための手段】
本発明は、座標入力装置上でペンが当該座標入力装置に触れてから離れるまでの間に当該座標入力装置により検出されるペン先の座標系列で表現されるストロークの列をもとに文字認識を行い、表示装置上に認識結果を表示するオンライン文字認識装置であって、前記ストロークが検出される度に、それまでに検出されたストロークの形状および続けて筆記される各2文字の組み合わせについて、当該2文字間のストロークの位置関係に基づき最適な文字列を求めて、該文字列を前記表示装置上に表示することを特徴とする。本発明によれば、ユーザが文字の区切りを意識することなく、座標入力装置上で文字を続けて書いていっても、最も確からしい文字列(認識確定文字列)を推定して表示することが可能となる。ここでは、文字間の各文字を構成するストロークの位置関係も考慮されているため、文字の重ね書き入力も可能となる。よって、小さな筆記スペースしか用意できない小型情報機器等においても、快適な手書き文字入力手段を提供することが可能となる。
【0008】
また、本発明は、座標入力装置上でペンが当該座標入力装置に触れてから離れるまでの間に当該座標入力装置により検出されるペン先の座標系列で表現されるストロークの列をもとに文字認識を行い、表示装置上に認識結果を表示するオンライン文字認識装置であって、前記座標入力装置は、前記ペンで文字を筆記するための1文字分の文字筆記領域を有し、前記筆記領域に筆記された前記ストロークが検出される度に、それまでに検出されたストロークの形状および重ねて筆記される各2文字の組み合わせについて、当該2文字間のストロークの位置関係に基づき最適な文字列を求めて、該文字列を前記表示装置上に表示することを特徴とする。本発明によれば、ユーザが文字の区切りを意識することなく、座標入力装置上で文字を重ねて書いていっても、最も確からしい文字列(認識確定文字列)を推定して表示することが可能となる。文字間の各文字を構成するストロークの位置関係も考慮されているため、文字の重ね書き入力が可能となる。よって、小さな筆記スペースしか用意できない小型情報機器等においても、快適な手書き文字入力手段を提供することが可能となる。
【0009】
本発明に係るオンライン文字認識装置は、複数の認識可能文字の各々について、当該文字を構成するストロークの形状情報、及びストローク間の構造関係が記述された辞書情報を登録した文字構造辞書と、上記複数の認識可能文字のうちの続けて筆記される各2文字の組み合わせについて、当該2文字間の構造関係が記述された辞書情報を登録した文字間構造辞書と、座標入力装置上でペンが当該座標入力装置に触れてから離れるまでの間に当該座標入力装置により検出されるペン先の座標系列で表現されるストロークを逐次取り込む筆跡情報取得手段と、この筆跡情報取得手段によりストロークが取り込まれる毎に、当該ストロークを含む認識すべき既取り込みストローク列に対する認識候補となり得る認識候補文字列を生成する認識候補文字列生成手段と、この生成された認識候補文字列毎に、当該認識候補文字列を構成する各候補文字についての上記文字構造辞書中の辞書情報と連続する2候補文字間についての上記文字間構造辞書中の辞書情報とに基づいて、当該認識候補文字列に対応する文字列構造辞書を作成して、上記既取り込みのストローク列を当該認識候補文字列毎の文字列構造辞書とそれぞれ照合することにより、当該ストローク列中のいずれのストロークがいずれの候補文字を構成しているのかを決定する文字切出しを行う照合手段(文字列尤度計算手段)と、上記各認識候補文字列について先頭からの上記文字切出しの結果が共通している文字列部分を認識確定文字列として推定して出力する入力文字列推定手段と、この推定された認識確定文字列を表示する認識結果表示手段とを備えたことを特徴とする。
【0010】
このような構成においては、ストローク(筆跡)が入力される都度、当該ストロークを最後のストロークとする認識対象ストローク列に対する認識候補文字列毎に、文字構造辞書中の対応する辞書情報と文字間構造辞書中の対応する辞書情報とを組み合わせた文字列構造辞書が生成されて、その認識候補文字列毎の文字列構造辞書が認識対象ストローク列(入力筆跡)とそれぞれ照合されるため、ユーザが文字の区切りを意識することなく、座標入力装置上で文字を続けて書いていっても、最も確からしい入力文字列(認識確定文字列)を推定して表示することが可能となる。ここでは、文字間の構造関係も考慮されているため、文字の重ね書きを前提とした文字間構造辞書を用意することで、文字の重ね書き入力も可能となる。よって、小さな筆記スペースしか用意できない小型情報機器等においても、快適な手書き文字入力手段を提供することが可能となる。
【0011】
ここで、筆跡情報取得手段により取り込まれるストローク(入力ストローク)を格納するためのストロークバッファと、認識候補文字列生成手段により生成される認識候補文字列を格納するための認識候補バッファとを設けると共に、照合手段によるストローク列(入力ストローク列)と各認識候補文字列の文字列構造辞書との照合結果が当該認識候補文字列に対応付けて認識候補バッファ内に格納される構成とするならば、オンライン文字認識装置での処理を効率的に行うことが可能となる。
【0012】
また、筆跡情報取得手段によりストロークバッファに入力ストロークを格納する際に、当該ストロークの特徴(例えば形状特徴)、及び当該ストロークと先行するストロークとの間の特徴(例えば構造特徴)を筆跡情報取得手段にて抽出し、認識候補文字列生成手段では、ストロークバッファ内のストローク列に対する認識候補文字列を、筆跡情報取得手段にて抽出された当該ストローク列を構成する各ストロークの特徴及び各ストローク間の特徴に基づいて生成するとよい。
【0013】
また、上記照合手段での照合処理で、入力ストローク列が認識候補文字列として筆記された確からしさ(を表す例えば尤度)が計算される構成とすると共に、入力文字列推定手段が、次に述べる2つの手段、即ち上記認識確定文字列を推定して出力する認識確定文字列推定手段と、認識未確定文字列及び認識未確定ストローク列情報を推定して出力する認識未確定文字列及び認識未確定ストローク列情報推定手段とから構成され、更に認識結果表示手段では、認識確定文字列推定手段から出力される認識確定文字列に加えて、認識未確定文字列及び認識未確定ストローク列情報推定手段から出力される認識未確定文字列と認識未確定ストローク列情報とを表示する構成とするとよい。
【0014】
このような構成においては、ユーザは、座標入力装置上で文字を重ね書きにより続けて筆記しても、1ストローク筆記する毎に、その時点における認識確定文字列と認識未確定文字列と認識未確定ストローク列情報とが表示されるため、自身の筆跡の認識処理結果を画面上で逐次確認することができ、快適な文字入力が可能となる。ここで、認識確定文字列と認識未確定文字列とが識別可能な表示属性を付加して表示するとよい。また、認識未確定ストローク列情報についても、認識未確定ストローク列の有無が識別可能なように表示するとよい。
【0015】
また、上記認識結果表示手段により認識確定文字列が表示される毎に、上記ストロークバッファから当該認識確定文字列に対応する入力ストローク列を削除すると共に、上記認識候補バッファから当該認識確定文字列に対応する情報を取り除くバッファ更新手段を設けるならば、処理量を減らすことが可能となる。
【0016】
また、認識候補バッファ内の全ての認識候補文字列について、ストロークバッファ内の入力ストローク列との照合がなされた後に、この照合で各認識候補文字列毎に求められた、入力ストローク列が当該認識候補文字列として筆記された確からしさ(尤度)を予め定められた確からしさ(尤度の閾値)と比較し、確からしさが低い認識候補文字列は、全て認識候補バッファから削除する構成とすることによってとも、処理量を減らすことが可能となる。
【0017】
また、最後のストロークが入力された後、予め定められた一定時間以上の間、次のストローク入力がないことを検出する検出手段(ペン操作判定手段)と、この検出手段の検出結果に応じて上記認識未確定文字列を上記認識確定文字列として出力する認識文字列確定手段とを設けるならば、ユーザの文字入力の操作性を一層向上できる。
【0018】
ここで、上記座標入力装置が上記表示装置の表示面に重ねて配置され、且つ当該座標入力装置の入力面には文字筆記領域と認識結果表示領域とが分かれて確保される構成とすると共に、この文字筆記領域にペンが触れたことを検出する検出手段(ペン操作判定手段)を設けるようにしてもよい。
【0019】
この他に、座標入力装置の入力面に文字筆記領域と認識結果表示領域とを兼ねた共通の領域が確保される構成とすると共に、上記検出手段と認識文字列確定手段とに代えて、それぞれ、ペンの先端が上記共通領域の一定座標範囲内に一定時間以上存在する場合には、そのペン入力は認識結果表示のカーソル移動を目的としたジェスチャであり、それ以外の場合には文字筆記を目的とした入力であると判定する判定手段(ペン操作判定手段)と、この判定手段によりペン入力がジェスチャであると判定された場合に、上記認識未確定文字列を上記認識確定文字列として出力する認識文字列確定手段とを設けるようにしてもよい。
【0020】
また、1文字後退削除を指示操作するための1文字後退削除指示手段と、この1文字後退削除指示手段により1文字後退削除が指示された場合、認識未確定ストローク列が存在する状態では、当該認識未確定ストローク列を削除し、認識未確定ストローク列が存在せず認識未確定文字列が存在する状態では、当該認識未確定文字列の最後尾を1文字後退削除すると共に残りの認識未確定文字列を認識確定文字列とし、認識未確定ストローク列及び認識未確定文字列が共に存在しない状態では、認識確定文字列を1文字後退削除する認識結果編集手段とを設けるとよい。
【0021】
このような構成においては、文字の削除、文字の筆記操作をスムーズに行うことが可能となる。
【0022】
また、今回推定された認識未確定文字列を、該認識未確定文字列を含む認識候補文字列の確からしさが予め定められた条件を満たすとき、あるいは、今回推定された前記認識未確定文字列を含む前記認識候補文字列の確からしさが、前回推定された前記認識未確定文字列を含む前記認識候補文字列の確からしさに基づく予め定められた条件を満たすとき、前回推定された前記認識未確定文字列に替えて今回推定された前記認識未確定文字列を表示するようにしてもよい。1ストローク入力される度に、その入力ストロークを含め、それまでに入力された入力ストロークに最適な認識結果を逐次表示することができるので、ユーザは、筆記後すぐに認識結果を確認することができ、効率のよい手書き文字入力が行える。
【0023】
また、座標入力装置の前記ペンで文字を筆記するための文字筆記領域が表示装置の筆跡表示領域に重ねて配置され、文字筆記領域に前記ストロークが筆記される度に、この最新のストロークを含め最新の所定のN本(但し、Nは整数)のストロークを筆跡表示領域に表示することにより、入力された筆跡が適切に表示されるので、ユーザに快適な文字筆記環境を提供できる。
【0024】
また、前記座標入力装置上からペンが離れた後、予め定められた一定時間以上の間、前記ペンが前記座標入力装置に触れないこと、あるいは、前記ストロークの筆記以外のペン操作を検出する検出手段を具備し、この検出手段の検出結果に応じて、前記筆跡表示領域に表示されているストロークの表示を消去するようにしてもよい。
【0025】
また、筆跡表示領域に前記予め定められた数のストロークを表示する際には、各ストロークの色と太さと該ストロークを表す線の種類とのうちのいずれかを違えて表示するようにしてもよい。
【0026】
上記各手段は、ハードウェア構成によっても実現できるが、当該手段として機能させるためのプログラムをコンピュータのCPUが読み込み実行することによって実現することも可能である。この場合、本発明のオンライン文字認識装置を、携帯情報端末等の情報機器により容易に実現できる。
【0027】
なお、以上のオンライン文字認識装置に係る本発明は、方法(オンライン文字認識方法)に係る発明としても成立する。
また、本発明は、コンピュータに当該発明に相当する手順を実行させるための(或いはコンピュータを当該発明に相当する各手段として機能させるための、或いはコンピュータに当該発明に相当する機能を実現させるための)プログラムを記憶したコンピュータ読み取り可能な記憶媒体に係る発明としても成立し、更に当該プログラム自体に係る発明としても成立する。
【0028】
【発明の実施の形態】
以下、本発明の実施の形態につき図面を参照して説明する。
【0029】
(オンライン文字認識装置の構成および動作)
図1は本発明の一実施形態に係わるオンライン文字認識装置を実現する情報機器のハードウェア構成を示す。
図1の情報機器は、例えば携帯情報端末等の小型情報機器であり、CPU1、ROM2、RAM3、タブレット(タブレット装置)4、ディスプレイ(ディスプレイ装置)5、データ読み込み装置6、記憶媒体7、及びインタフェース部(I/F)8,9,10等から構成されている。
【0030】
CPU1は、図1の情報機器の中枢をなし、各種データ処理のための演算やシステム全体の制御を行う演算・制御手段である。
ROM2は基本ソフトウェア等が予め格納された不揮発性メモリ(記憶媒体)、RAM3はCPU1の作業エリア等に利用される揮発性メモリである。
タブレット4は筆跡データの入力が可能な座標入力装置、ディスプレイ5は各種情報を表示する液晶ディスプレイ等の表示装置である。
【0031】
記憶媒体7は、ハードディスク、フロッピーディスク、CD−ROM、光ディスク等のコンピュータ読み取り可能な記憶手段である。この記憶媒体7には、データ及びプログラムが格納されている。データ読み込み装置6は、記憶媒体7に格納されているデータやプログラムを読み込むことのできる、ハードディスクドライブ、フロッピーディスクドライブ、CD−ROMドライブ、光ディスクドライブ等のデータ読み込み手段である。
【0032】
インタフェース部8、インタフェース部9及びインタフェース部10は、それぞれ、タブレット4、ディスプレイ5及びデータ読み込み装置6のインタフェースをなす。
【0033】
記憶媒体7には、上記プログラムとして、入力筆跡の文字認識を行うためのオンライン文字認識プログラムが予め格納されている。このオンライン文字認識プログラムは、装置の起動時にデータ読み込み装置6によって読み込まれてRAM3に格納される。CPU1はRAM3に格納されたオンライン文字認識プログラムに従って入力筆跡の文字認識処理を行う。
【0034】
なお、オンライン文字認識プログラムがROM2に予め格納されているものであっても構わない。この場合、CPU1は当該ROM内のオンライン文字認識プログラムに従って入力筆跡の文字認識処理を行えばよい。また、装置の起動時に、ROM2からRAM3にオンライン文字認識プログラムを転送し、このRAM3内のオンライン文字認識プログラムに従って入力筆跡の文字認識処理を行うようにしても構わない。また、オンライン文字認識プログラムが通信回線を介してダウンロードされるものであっても構わない。
【0035】
タブレット4は例えば透明であり、ディスプレイ5の表示画面上に重ねて配置されている。タブレット4の入力面には文字筆記領域301(図5参照)が設けられている。この筆記領域にユーザが専用ペンPを利用して文字を筆記すると、その筆跡データ(座標値の時系列情報)がタブレット装置4により検出され、インタフェース部8を通じてCPU1に転送される。
【0036】
図2は図1の情報機器により実現されるオンライン文字認識装置の機能構成を示すブロック図である。
このオンライン文字認識装置は、図1中のタブレット4に相当する手書き文字入力装置101と、筆跡情報取得手段102、認識手段103、認識結果表示手段104の各機能手段と、文字構造辞書106及び文字間構造辞書107の各辞書と、図1中のディスプレイ5に相当するディスプレイ105とから構成される。
【0037】
筆跡情報取得手段102、認識手段103、認識結果表示手段104は、図1中のCPU1がRAM3に格納されたオンライン文字認識プログラムを読み込み、実行することにより実現される。文字認識処理の際、発生する(生成される)各種データは、例えばRAM3上に一時記憶されるようになっている。
【0038】
文字構造辞書106及び文字間構造辞書107は、上記オンライン文字認識プログラムと共に例えば図1中の記憶媒体7に予め格納されており、当該プログラムがデータ読み込み装置6によって読み込まれてRAM3に格納される際に、このRAM3に格納される。なお、文字構造辞書106及び文字間構造辞書107をROM2に予め格納しておくことも可能である。
【0039】
手書き文字入力装置101は、例えばタブレットであり、ペンPが当該タブレットに触れている間のペン先の位置を表す2次元座標データを一定時間間隔でサンプリングする。得られた座標データは筆跡情報取得手段102に送られる。
【0040】
筆跡情報取得手段102は、ペンPがタブレットに触れてから離れるまでの間の座標データ列、つまり筆跡の座標データ列をストロークと呼ぶひとまとまりのデータとして扱い、これをストロークデータとして取得する。筆跡情報取得手段102でストロークデータが取得されるたびに、それは認識手段103に送られる。
【0041】
認識手段193は、ストロークデータが入力するたびに、それまでに入力されたストロークデータから、文字構造辞書106および文字間構造辞書107とを用いて、最適な文字列を認識する。
【0042】
文字構造辞書106は、認識対象となる各文字の構造が表現されたデータ(文字構造辞書情報)、すなわち、各文字について、その文字を構成するストロークの形状やストローク間の位置関係(構造)などの特徴情報を登録した辞書である。
【0043】
文字間構造辞書107は、文字構造辞書106に登録された複数の文字のうちの続けて筆記される各2文字の組み合わせについて、その2文字の間の構造関係が表現されたデータ(文字間辞書情報)を登録した辞書である。
【0044】
タブレットには、連続する2文字が左右に並べて筆記される場合もあれば、重ねて筆記される場合(例えば、ペンで文字を筆記するための文字筆記領域が1文字分だけである場合)もある。前者の場合の文字間辞書情報とは、2文字が左右に並べて筆記される場合の一方の文字のストロークと他方の文字のストロークとの間の位置関係(構造)の特徴情報であり、後者の場合の文字間辞書情報とは、2文字が重ねて筆記される場合の一方の文字のストロークと他方の文字のストロークとの間の位置関係(構造)の特徴情報である。
【0045】
認識手段193は、ストロークデータが入力するたびに、上記文字構造辞書106と文字間構造辞書107を用いて、それまでに入力されたストロークの形状およびストローク間の位置関係に基づき、最も確からしい、最適な文字列を求めるようになっている。
【0046】
認識結果表示手段104は、認識手段103で求められた最適な文字列をディスプレイ105に出力する。
なお、タブレットの文字筆記領域が、複数文字分の筆記領域が確保されているものと、1文字分の筆記領域のみしか確保されていないものもあるが、いずれの場合であっても本実施形態は適用可能である。両者の異なる点は、上記の文字間辞書情報のみである。
【0047】
次に、図2に示したような構成のオンライン文字認識装置におけるオンライン文字認識処理の手順について、図3のフローチャートを参照して説明する。
【0048】
ステップS1では、文字筆記領域内にストロークが1本筆記されると、そのストロークの座標データ列、即ちストロークデータが、筆跡情報取得手段102によって取り込まれて、認識手段103に送られる。
【0049】
ステップS2では、認識手段103は、それまでに入力されたストロークデータから、文字構造辞書106および文字間構造辞書107とを用いて、最適な文字列を認識する。例えば、この認識処理により、それまでに入力されたストロークのうち確かにその文字字列が筆記されたと断定できる認識確定文字と、最もそれらしい文字(認識未確定文字)と、筆記途中の文字のストローク(認識未確定ストローク)とを推定することができる。
【0050】
ステップS3では、認識結果表示手段104は、文字認識手段103で認識された最適な文字列(例えば、認識確定文字列と認識未確定文字列)をディスプレイ105に表示する。
【0051】
以上のステップS1〜S3を、ストロークの入力が終了するまで、あるいは、それまでに入力された全ての入力ストロークが認識確定文字列として推定されるまで繰り返す(ステップS4)。これにより、ユーザが文字の区切りを意識することなく、手書き文字入力装置101にただ文字を続けて筆記していくだけで、図2のオンライン文字認識装置では、その筆跡を自動的に文字列として認識することができる。
【0052】
図4は、図1の情報機器により実現されるオンライン文字認識装置の機能構成をさらに詳細に示すブロック図である。
このオンライン文字認識装置は、図1中のタブレット4に相当するタブレット201と、筆跡情報取得手段202、認識候補文字列生成手段203、文字列尤度計算手段204、入力文字列推定手段205、バッファ更新手段206、及び認識結果表示手段207の各機能手段と、ストロークバッファ208、認識候補バッファ209及び認識結果バッファ210の各バッファと、文字構造辞書211及び文字間構造辞書212の各辞書と、図1中のディスプレイ5に相当するディスプレイ213とから構成される。
【0053】
筆跡情報取得手段202、認識候補文字列生成手段203、文字列尤度計算手段204、入力文字列推定手段205、バッファ更新手段206、及び認識結果表示手段207は、図1中のCPU1がRAM3に格納されたオンライン文字認識プログラムを読み込み実行することにより実現される。
【0054】
ストロークバッファ208、認識候補バッファ209及び認識結果バッファ210は、例えばRAM3上に確保される。
【0055】
文字構造辞書211及び文字構造辞書212は、上記オンライン文字認識プログラムと共に例えば図1中の記憶媒体7に予め格納されており、当該プログラムがデータ読み込み装置6によって読み込まれてRAM3に格納される際に、このRAM3に格納される。なお、文字構造辞書211及び文字間構造辞書212をROM2に予め格納しておくことも可能である。
【0056】
図4の筆跡情報取得手段202は、図2の筆跡情報取得手段102に対応し、図4の認識候補文字列生成手段203と文字列尤度計算手段204と入力文字列推定手段205とバッファ更新手段206は、図3の認識手段103に対応し、図4の認識結果表示手段207は、図2の認識結果表示手段104に対応する。また、図4の文字構造辞書211は図2の文字構造辞書106に対応し、図4の文字間構造辞書212は、図2の文字間構造辞書107に対応する。
【0057】
タブレット201は、ペンPが当該タブレット201に触れている間のペン先の位置を表す2次元座標データを一定時間間隔でサンプリングする。得られた座標データは筆跡情報取得手段202に送られる。
筆跡情報取得手段202は、ペンPがタブレット201に触れてから離れるまでの間の座標データ列、つまり筆跡の座標データ列をストロークと呼ぶひとまとまりのデータとして扱い、ストロークバッファ208に格納する。
【0058】
認識候補文字列生成手段203は、ストロークバッファ208内のストローク(ストロークデータ)の列に対する認識候補となる認識候補文字列群を生成し、認識候補バッファ209に格納する。
文字列尤度計算手段204は、認識候補バッファ209内の各認識候補文字列についてその照合用辞書(文字列構造辞書)を文字構造辞書211と文字間構造辞書212とから作成し、それとストロークバッファ208中のストローク列との照合を行う。文字列尤度計算手段204は、認識候補文字列の各々について、ストローク列と認識候補文字列との照合結果として、当該ストローク列がその文字列である確からしさ(尤度)と、当該ストローク列中のどのストロークがどの文字に対応しているかを示す文字切り出し結果とを取得する。文字列尤度計算手段204は、取得した認識候補文字列毎の照合結果を当該認識候補文字列と対応付けて認識候補バッファ209に格納する。
【0059】
入力文字列推定手段205は、認識候補バッファ209内の認識候補文字列とその照合結果から、認識確定文字列、認識未確定文字列、及び認識未確定ストローク列情報を求め、認識結果バッファ210に格納する。認識確定文字列とは、ストローク列(入力ストローク列)で構成される文字列のうち、この文字列が入力されたと断定できる文字列部分である。認識未確定文字列とは、入力ストローク列で構成される文字列のうち、断定はできないがこの文字列が入力されたと推測される文字列部分である。認識未確定ストローク列情報とは、1文字筆記途中のストロークと推測されるストロークが入力ストローク列中に存在するかどうかを示す情報である。
【0060】
認識結果表示手段206は、入力文字列推定手段205によって推定された認識結果バッファ210内の推定入力文字列(認識確定文字列、認識未確定文字列、及び認識未確定ストローク列情報)をディスプレイ213に出力する。
バッファ更新手段207は、認識結果バッファ210内の情報を基に、ストロークバッファ208と認識候補バッファ209とから認識確定文字列に対応する部分の情報を削除し内容を更新する。
【0061】
図5は図1の情報機器の外観を示す。
同図に示すように、図1の情報機器の主面、即ちディスプレイ5(213)の表示画面上に透明なタブレット4(201)が積層された面には、ユーザがペンPでタブレット4(201)に文字を筆記するための文字筆記領域301と、この文字筆記領域301に筆記された筆跡を文字列として認識した結果と文字挿入位置を示すカーソルCとを表示する認識結果表示領域302と、カーソル位置の直前の文字の削除を指示する1文字後退削除ボタン303とが確保されている。
【0062】
図6は図4中のストロークバッファ208のデータ構造例を示す。
ストロークバッファ208に格納されるストローク列の情報は、当該バッファ208内のストロークの数(ストローク数)を示すNSTRKとNSTRK個のストロークデータから構成される。第Iストロークデータ(I=1〜NSTRK)は、それを構成する(座標点の数を示す)座標点数NPOINT[I]と、NPOINT[I]個のx,y座標データからなる。ここで、第Iストロークデータの第J点(J=1〜NPOINT[I])のx,y座標データは、x[I][J],y[I][J]のように表される。
【0063】
図7は認識候補バッファ209のデータ構造例を示す。
認識候補バッファ209は、ストロークバッファ208内のストローク列に対する認識候補となる文字列と照合結果とを格納するのに用いられる。本実施形態において認識候補バッファ209に格納される情報(認識候補情報)は、候補(認識候補文字列)数を示すNCANDとNCAND個の候補(候補データ)とから構成される。
【0064】
候補#I、即ち第I候補(I=1〜NCAND)のデータは文字切り出し結果を含む。この文字切り出し結果は、第I候補が認識棄却対象であるかどうかを示す棄却フラグCNAD_REJFLAG[I]と、その候補を構成する文字列(認識候補文字列)の文字数CAND_NCODE[I]と、CAND_NCODE[I]個の文字(第J文字(J=1〜CAND_NCODE[I]))の各々の文字構造辞書211中のエントリ番号CAND_REFID[I][J]と、その候補文字列の総ストローク数CAND_NSTRK[I]と、その候補文字列の最終文字に対応するストロークバッファ208内の入力ストロークの本数CAND_STRKCTR[I]と、CAND_NCODE[I]個の文字(第J文字)の各々に対応するストロークバッファ208内の入力ストローク列の開始ストローク番号CAND_BS[I][J]及び終了ストローク番号CAND_ES[I][J]とからなる。
【0065】
第I候補(I=1〜NCAND)のデータは、上記した文字切り出し結果と、CAND_NCODE[I]個の文字(第J文字)の文字構造辞書211と対応する入力ストローク列を照合した結果の尤度の対数値(対数尤度)CAND_L1[I][J]と、第J文字と第J+1文字の間の文字間構造辞書212と対応する入力ストローク間構造特徴(第J文字の最後のストロークと次の第J+1文字の最初のストロークとの間の構造特徴)を照合した結果の対数尤度CAND_L2[I][J]と、対数尤度の総和、即ち第I候補の文字列と入力ストローク列全体とを照合した結果の対数尤度CAND_L[I]とから構成される。
【0066】
図7の例では、認識候補バッファ209内の候補(認識候補文字列)は第1候補(候補#1)乃至第10候補(候補#10)の10個存在する。第1候補については、棄却フラグは0にセットされており、認識候補文字列は文字構造辞書211の第1エントリ「あ」と第2エントリ「い」とからなる2文字長の文字列「あい」である。この認識候補文字列の総ストローク数は5本である。ここでは、認識候補文字列「あい」の最後の文字「い」の第1ストロークまでが入力されて照合された結果が格納されている。認識候補文字列「あい」の第1文字「あ」に対応する入力ストロークは第1ストロークから第3ストロークまでの3本である。認識候補文字列「あい」の第2文字「い」に対応する入力ストロークは第4ストロークの1本だけである。つまり「い」の左側の1画までが入力されている。
【0067】
認識候補文字列「あい」の第1文字「あ」の文字構造辞書211と、第1ストロークから第3ストロークまでの入力ストローク列とを照合した結果の尤度の対数値(対数尤度)は-0.70である。「あ」と「い」の間の文字間構造辞書212と、第3ストローク(「あ」の最後のストローク)と第4ストローク(「い」の最初のストローク)とのストローク間構造との照合をした結果の尤度の対数値(文字間対数尤度)は-0.36である。「い」の文字構造辞書211中の先頭ストローク部分と、入力ストローク列の第4ストロークとを照合した結果の尤度の対数値(対数尤度)は-0.22である。「あ」の対数尤度、「あ」と「い」の文字間対数尤度、「い」の最初のストロークの対数尤度を足し合わせた全体の対数尤度が-1.28である。
【0068】
図8は文字構造辞書211のデータ構造例を示す。
文字構造辞書211は認識対象となる文字の構造が表現されたデータ(文字構造辞書情報)を登録した辞書である。この文字構造辞書211は、認識対象となる文字の数を示すNREFと、NREF個の文字各々の構造辞書からなる。
【0069】
第I番目(I=1〜NREF)の文字の構造辞書(辞書#I)は、その文字をコード(例えばSHIFT-JISコード)で表したREF_CODE[I]と、その文字を構成する総ストローク数REF_NSTRK[I]と、REF_NSTRK[I]個のストローク(第Jストローク(J=1〜REF_NSTRK[I]))の特徴としての形状特徴の平均ベクトルs[I][J][1〜6]及び共分散ベクトルσ[I][J][1〜6]と、第J-1ストロークと第Jストロークとの間のストローク間構造特徴の平均ベクトルs2[I][J][1〜2]及び共分散ベクトルσ2[I][J][1〜2]とから構成される。ここでs[I][J][1〜6]はs[I][J][1],s[I][J][2],…s[I][J][6]からなる6次元ベクトルを表現するものとする。σ[I][J][1〜6],s2[I][J][1〜2]、σ2[I][J][1〜2]についても同様のベクトル表現である。ストローク形状特徴とストローク間構造特徴については後述する。
【0070】
図9は文字間構造辞書212のデータ構造例を示す。
文字間構造辞書212は、文字構造辞書211に登録されたNREF個の文字(認識可能文字)のうちの続けて筆記される各2文字の組み合わせについて、その2文字の間の構造関係が表現されたデータ(文字間辞書情報)を登録した辞書である。図9では、1組の2文字について、その文字間の構造関係を表す文字間構造辞書情報のデータ構造を示してある。この文字間構造情報は、文字間構造特徴の平均ベクトルz[1〜2]と共分散ベクトルθ[1〜2]とから構成される。文字間構造特徴としては、前の文字の最終ストロークと後ろの文字の先頭ストロークとの間のストローク構造特徴を用いる。
【0071】
次に、以上のように構成されたオンライン文字認識装置におけるオンライン文字認識処理の手順について、図10乃至図24のフローチャートを適宜参照して説明する。
【0072】
まず、全体の処理を図10のフローチャートに従って説明する。
ステップ801は、オンライン文字認識装置内の各バッファを初期化するステップである。
【0073】
ステップ802では、文字筆記領域301内にストロークが1本筆記されると、そのストロークの座標データ列、即ちストロークデータが、筆跡情報取得手段202によってストロークバッファ208に取り込まれ、当該ストロークデータの特徴抽出がなされる。
【0074】
ステップ803では、ストロークバッファ208に取り込まれているストローク列に対する認識候補となり得る候補文字列(認識候補文字列)が認識候補文字列生成手段203によって生成されて認識候補バッファ209に格納される。
【0075】
ステップ804では、ステップ803で生成された認識候補バッファ209内の認識候補文字列とステップ802で取り込まれたストローク列とが文字列尤度計算手段204によって照合され、その認識候補文字列としてストローク列が筆記された確からしさが計算される。
【0076】
ステップ805では、ステップ804での各認識候補文字列との照合結果に基づき、入力ストローク列のうち確かにその認識候補文字列が筆記されたと断定できる認識確定文字列部分と、最もそれらしい文字列(認識未確定文字列)部分と、文字筆記途中のストローク列(認識未確定ストローク列)部分とが、入力文字列推定手段205によって推定される。
【0077】
ステップ806では、ステップ805における推定結果が認識結果表示手段207によって認識結果表示領域302に表示される。
ステップ807,808では、ストロークバッファ208と認識候補バッファ209とがバッファ更新手段206によって更新される。
【0078】
以上のステップ802〜808を、全ての入力ストローク列が認識確定文字列として推定されるまで(認識候補バッファ209が空になるまで)繰り返す(ステップ809)。これにより、ユーザが文字の区切りを意識することなく、文字筆記領域301にただ文字を続けて筆記していくだけで、図4のオンライン文字認識装置では、その筆跡を自動的に文字列として認識することができる。
【0079】
以下、図10のフローチャート中の各ステップの処理内容を詳細に説明する。
まず、ステップ801において、ストロークバッファ208及び認識候補バッファ209の初期化が行われる。ここでは、図6に示したデータ構造を持つストロークバッファ208内のストローク数NSTRKと、図7に示したデータ構造を持つ認識候補バッファ209内の認識候補文字列数NCANDとに、それぞれ“0”をセットすることで、両バッファ208,209の初期化が行われる。
【0080】
次のステップ802は、(ディスプレイ5の表示画面上に重ねて配置された)タブレット201上に確保された文字筆記領域301にユーザによりペンPでストロークが1本筆記される毎に実行される。筆記されたストロークのデータ(座標データ列)はタブレット201により取得される。ステップ802では、このタブレット201により取得されたストロークのデータが、筆跡情報取得手段202により取り込まれてストロークバッファ208に格納される。またステップ802では、ストロークバッファ208に格納されたストロークデータ(の示すストロークの形状)の特徴を抽出する処理が行われる。
【0081】
この筆跡情報取得手段202によるステップ802の処理の詳細を、図11のフローチャートを参照して説明する。
まず、ステップ901において、図6のデータ構造のストロークバッファ208内のストローク数NSTRKが1インクリメントされる。
【0082】
次のステップ902からステップ905では、ペンPがタブレット201から離れるまでの間に当該タブレット201によって取得されるペン先のx座標及びy座標データが逐次ストロークバッファ208に取り込まれる。ここでは、第Iストロークの第J点のx座標、y座標は、図6に示すストロークバッファ208内のそれぞれx[I][J]、y[I][J]にセットされる。
ステップ906では、ペンPがタブレット201から離れるまでの間に取り込まれた(1ストロークを構成する)座標点の数がNPOINT[I]にセットされる。
【0083】
ステップ907では、ストロークバッファ208に取り込まれた最新のストローク、つまり第NSTRKストロークデータから、ストローク形状を表現するストローク形状特徴ベクトルu[1〜6]が抽出される。ここでu[1〜6]は、u[1],u[2],…u[6]からなる6次元のベクトルを表現するものとする。形状特徴としては、例えばストロークデータの全曲率関数を指数関数の指数部に持つ複素数値関数をフーリエ展開して得られるP形フーリエ記述子の2次までの低域成分を表現する6つの係数を用いるものとする。P形フーリエ記述子の算出手順については、文献「線図形の曲りを特徴としたオンライン手書き漢字認識」(電子情報通信学会論文誌 1990年4月 Vol.J73-D-II No.4 pp.519-525)に詳述されている方法を用いる。
【0084】
入力されたストロークが第2ストローク以降である場合には、ステップ909において、第NSTRKストロークと1つ前に入力された第NSTRK-1ストロークとの間の構造関係を表現する2次元のストローク間構造特徴ベクトルu2[1〜2]が抽出される。構造特徴としては、例えば、第NTRK-1ストロークの終点から第NSTRKストロークの始点を結ぶベクトルのノルムを1に正規化したベクトルを用いる。
以上が、ステップ802における詳細な処理手順である。
【0085】
次に、ステップ803では、認識候補文字列生成手段203により、認識候補バッファ209内の認識候補文字列が更新される。ステップ803は、この時点でストロークバッファ208に格納されている入力ストローク列に対する認識候補となり得る文字列を生成する処理である。
【0086】
このステップ803の処理の詳細を、図12のフローチャートを参照して説明する。
まず、ステップ1002において、認識候補バッファ209中の現在の認識候補文字列数を示すNCANDに基づいて、認識候補文字列が存在するかしないかが判定される。
【0087】
存在しない(NCAND=0の)場合には、ステップ1010に飛んで、図8に示したデータ構造の文字構造辞書211に登録されているNREF個の文字の各々をCAND_NCODE[I](I=1〜NREF)が“1”の第I認識候補文字列(新認識候補文字列)として認識候補バッファ209に格納(生成)する処理がなされる。このステップ1010における詳細な処理手順を図13のフローチャートに示す。
【0088】
一方、認識候補バッファ209中に既に認識候補文字列が存在する(NCAND>0の)場合には、各第I認識候補文字列について以下の処理がなされる。
まずステップ1005において、今、筆記入力されたストロークが現在の第I認識候補文字列に続く次の新しい1文字の最初のストロークであるかどうかが、ストロークバッファ208内のストローク数NSTRKが第I認識候補文字列の総ストローク数CAND_NSTRK[I]を超えたか否かにより判定される。
【0089】
新しい1文字の最初のストロークではないと判定された場合には、ステップ1006において、第I認識候補文字列の最終文字を構成するストローク数を示すカウンタCAND_STRKCTR[I]を1だけ増加させる。
【0090】
これに対し、新しい1文字の最初のストロークであると判定された場合には、ステップ1008において、現在の第I認識候補文字列に1文字を追加した新たな認識候補文字列を生成し認識候補バッファ209に登録する処理がなされる。追加する1文字は文字構造辞書211に含まれるNREF個の文字の全てであり、その数だけ認識候補バッファ209に新しい第K認識候補文字列(K=1〜NREF)が登録されることになる。ステップ1008における詳細な処理手順を図14のフローチャートに示す。
現在の第I認識候補文字列については、ステップ1009において旧認識候補文字列として棄却フラグが立てられる。
【0091】
このようにしてNCAND個の全ての認識候補文字列に対して、それぞれNREF個の新認識候補文字列が認識候補バッファ209に生成・登録されると(ステップ1004)、棄却フラグが立てられた旧認識候補文字列を認識候補バッファ209から除去すると共に新認識候補文字列を整列する認識候補文字列更新処理がステップ1011において行われる。このステップ1011における詳細な処理手順を図15のフローチャートに示す。
以上が、ステップ803における詳細な処理手順である。
【0092】
次に、ステップ804では、認識候補バッファ209内の各認識候補文字列について、ストロークバッファ208内の入力ストローク列との照合が文字列尤度計算手段204によって行われ、その照合結果(尤度計算結果)が認識候補バッファ209に格納される。
【0093】
このステップ804の処理の詳細を、図16のフローチャートを参照して説明する。
まず、ステップ1403において、認識候補バッファ209の各第I認識候補文字列について、入力ストローク列の照合に用いられる文字列構造辞書が作成される。次のステップ1404では、入力ストローク列と作成された文字列構造辞書との照合が行われる。
【0094】
上記ステップ1403における第I認識候補文字列の文字列構造辞書の作成処理は、図17のフローチャートに従って次のように行われる。まず、ステップ1502において、ストロークバッファ208中にストロークが2本以上存在するかどうかが、当該バッファ208内のストローク数NSTRKが1より大きいか否かにより判定される。ストロークが1本しか存在しない場合にはステップ1506へ飛ぶ。2本以上の場合には、ステップ1503において、最新ストロークが第I認識候補文字列の最終文字の最初のストロークであるかどうかが判定される。
【0095】
最初のストロークの場合には、そのストロークと1つ前のストロークとの間は文字間であると見なされる。この場合、ステップ1504において、文字間構造辞書212から対応する文字間の文字間構造辞書情報が取り出されて、当該辞書情報を構成する平均ベクトルz[1〜2]及び共分散ベクトルθ[1〜2]が、それぞれv2[1〜2]及びφ2[1〜2]にセットされた後、ステップ1506に進む。
【0096】
一方、最初のストロークでない場合には、そのストロークと1つ前のストロークとの間は第I認識候補文字列の最終文字内のストローク間であると見なされ、ステップ1505において、最終文字についての文字構造辞書211中の辞書情報に記述されている対応するストローク間構造特徴の平均ベクトル及び共分散ベクトルが、それぞれv2[1〜2]及びφ2[1〜2]にセットされた後、ステップ1506に進む。
【0097】
ステップ1506では、最新入力ストロークに対応する最終文字についての文字構造辞書211中の辞書情報に記述されているストローク形状特徴の平均べクトル及び共分散ベクトルが、それぞれv[1〜6]及びφ[1〜6]にセットされる。
【0098】
次に、上記ステップ1404における第I認識候補文字列の文字列構造辞書と入力ストローク列との照合処理は、図18のフローチャートに従って次のように行われる。
【0099】
まず、ステップ1602において、ストロークバッファ208中にストロークが2本以上存在するかどうかが、上記ステップ1502と同様にして判定される。ストロークが1本しか存在しない場合にはステップ1607へ飛ぶ。2本以上の場合には、ステップ1603において、最新ストロークが現在の第I認識候補文字列の最終文字の最初のストロークであるかどうかが判定される。
【0100】
最初のストロークの場合には、そのストロークと1つ前のストロークとの間は文字間であると見なされる。この場合、ステップ1604において、先のステップ909で抽出された入力ストローク間構造特徴ベクトルu2[1〜2]とステップ1504でセットされた文字間構造特徴の平均ベクトルv2[1〜2]及び共分散ベクトルφ2[1〜2]との間で尤度の計算が行われ、その対数値log f(u2|v2,φ2)が第I認識候補文字列の対応する文字間構造部分、即ち最新のストロークの1つ前のストロークを最後のストロークとする文字と次の文字(現在の第I認識候補文字列の最終文字)との文字間構造部分の対数尤度としてセットされた後、ステップ1606に進む。
【0101】
ここで上記尤度は、平均ベクトルをv2[1〜2]、共分散ベクトルをφ2[1〜2]とした多次元無相関正規分布を確率密度関数とした場合の、入力ベクトルu2[1〜2]の確率密度関数値として、次式(1)により算出される。
【0102】
【数1】
Figure 0003974359
【0103】
一方、ステップ1603において最新ストロークが現在の第I認識候補文字列の最終文字の最初のストロークでないと判定された場合には、そのストロークと1つ前のストロークとの間は第I認識候補文字列の最終文字内のストローク間であると見なされる。この場合、ステップ1605において、ステップ909で抽出された入力ストローク間構造特徴ベクトルu2[1〜2]とステップ1505でセットされたストローク間構造特徴の平均ベクトルv2[1〜2]及び共分散ベクトルφ2[1〜2]との間で尤度の計算が行われ、その対数値log f(u2|v2,φ2)が第I認識候補文字列の対応する文字構造部分、即ち現在の第I認識候補文字列の最終文字の文字構造部分の対数尤度に累積してセットされた後、ステップ1606に進む。尤度の計算にはステップ1604と同様の形式の確率密度関数を用いる。
【0104】
ステップ1606では、当該ステップ1606に先行するステップ1604または1605で算出された尤度の対数値log f(u2|v2,φ2)が、現時点までに求められている、第I認識候補文字列と入力ストローク列全体とを照合した結果の対数尤度CAND_L[I]に累積してセットされる。
【0105】
ステップ1607では、ステップ907で抽出された入力ストロークの形状特徴ベクトルu[1〜6]と第I認識候補文字列の最終文字の文字構造辞書の対応するストローク形状特徴の平均べクトルv[1〜6]及び共分散ベクトルφ[1〜6]との間で尤度の計算が行われ、その対数値log f(u|v,φ)が求められる。
【0106】
ここで上記尤度は、平均ベクトルをv[1〜6]、共分散ベクトルをφ[1〜6]とした多次元無相関正規分布を確率密度関数とした場合の、入力ベクトルu[1〜6]の確率密度関数値として、次式(2)により算出される。
【0107】
【数2】
Figure 0003974359
【0108】
ステップ1608では、ステップ1607で求められた対数値log f(u|v,φ)、即ちストローク形状特徴を照合して得られた尤度の対数値log f(u|v,φ)が、第I認識候補文字列の対応する文字構造部分、即ち第I認識候補文字列の最終文字の文字構造部分の対数尤度に累積してセットされる。
【0109】
ステップ1609では、ステップ1607で求められた対数値log f(u|v,φ)が、現時点までに求められている、第I認識候補文字列と入力ストローク列全体とを照合した結果の対数尤度CAND_L[I]に累積してセットされる。
【0110】
認識候補バッファ209内の全ての認識候補文字列について、ストロークバッファ208内の入力ストローク列との照合がなされると(ステップ1405)、ステップ1406において認識候補文字列の絞込みが行われる。
【0111】
このステップ1406における絞込み処理は図19のフローチャートに従って実行される。ここでは、認識候補バッファ209内の各第I認識候補文字列(I=1〜NCAND)について取得された対数尤度の総和、即ち第I認識候補文字列と入力ストローク列全体とを照合した結果の対数尤度CAND_L[I]が、予め定められ閾値αに満たない場合には、その認識候補文字列が入力された可能性は低いと判断される(ステップ1703)。この場合、その認識候補文字列は認識候補バッファ209から削除される。
【0112】
一方、対数尤度CAND_L[I]が閾値α以上の認識候補文字列は、その認識候補文字列が入力された可能性は高いと判断され、第J認識候補文字列として認識候補バッファ209内に残される(ステップ1704)。
【0113】
以上に述べた図16のフローチャート(ステップ804での認識候補文字列に対する尤度計算処理の詳細手順)におけるステップ1403及びステップ1404の処理を、文字筆記領域301内で「あい」という文字を重ね書きした筆跡と、認識候補文字列「あい」との間の尤度計算の具体例について、図25を参照して筆記順に説明する。
【0114】
まず、最初のストロークが筆記されると、そのストローク(第1入力ストローク)から抽出された形状特徴u[1〜6]と「あ」の文字構造辞書の第1ストロークの形状特徴s[1][1][1〜6],σ[1][1][1〜6]との間で照合が行われる。
【0115】
第2入力トロークが筆記されると、1つ前の入力ストローク(第1入力ストローク)との間のストローク間構造特徴u2[1〜2]と、「あ」の文字構造辞書の第1ストロークと第2ストロークとの間のストローク間構造特徴s2[1][1][1〜2],σ2[1][1][1〜2]との間で照合が行われると共に、第2入力ストロークの形状特徴u[1〜6]と「あ」の文字構造辞書の第2ストロークの形状特徴s[1][2][1〜6],σ[1][2][1〜6]との間での照合も行われる。
【0116】
第3入力ストロークについても同様に尤度計算がなされるが、第4入力ストロークについては、そのストロークは「い」の最初のストロークであると判定されるため、第3入力ストロークと第4入力ストロークの間の入力ストローク間構造特徴u2[1〜2]は、「あ」と「い」の文字間構造特徴z[1〜2],θ[1〜2]との間で照合される。これらの照合により計算される尤度の対数値の累積値が、入力ストローク列と認識候補文字列との間の対数尤度となる。
【0117】
ステップ804の次のステップ805では、認識候補バッファ209に格納されている各認識候補文字列と当該認識候補文字列毎の照合結果とから、入力文字列推定手段205により、認識確定文字列、認識未確定文字列、及び認識未確定ストローク列情報が決定される。
【0118】
図20はステップ805における処理手順を説明するためのフローチャートである。このフローチャートに示すように、ステップ805の入力文字列推定処理は、認識確定文字列の推定ステップ1801と、認識未確定文字列及び認識未確定ストローク情報の推定ステップ1802とからなる。
【0119】
図21はステップ1801における詳細な処理手順を説明するためのフローチャートである。ここでは、認識候補バッファ209内の全ての第I認識候補文字列(I=1〜NCAND)について(ステップ1902,1906,1908)、第1認識候補文字列を基準に、先頭から共通しているNSTRING1個の文字からなる文字列部分の文字コードSTRING1[J]の列(J=1〜NSTRING1)が認識確定文字列STRING1として抽出され(ステップ1907)、認識結果バッファ210にセットされる。ステップ1907では、NSTRING1個の文字の総ストローク数NSTRK1も求められ、認識確定文字列STRING1に対応付けて認識結果バッファ210にセットされる。
【0120】
図22はステップ1802における処理手順を説明するためのフローチャートである。ここでは、まず認識候補バッファ209内の全ての第I認識候補文字列(I=1〜NCAND)の中で最も対数尤度CAND_L[I]の大きい第MI認識候補文字列(最尤認識候補文字列)(MIは1〜NCANDのいずれか)を求める(ステップ2001〜2005)。
【0121】
次に求めた最尤認識候補文字列について、当該候補文字列の最終文字が筆記途中であるか否かを、当該最終文字に対応する入力ストローク列の終了ストローク番号CAND_ES[MI][CAND_NCODE[MI]]が当該候補文字列の総ストローク数を表すCAND_NSTRK[MI]の値より小さいか否かにより判定する(ステップ2006)。
【0122】
もし、最尤認識候補文字列の最終文字が筆記途中である場合には、認識未確定ストローク列情報USTRK_FLAGを“1”とし、更に最尤認識候補文字列から認識確定文字列と最終文字を除いたNSTRING2個の文字からなる文字列部分を取り出して、その文字列部分の文字コードSTRING2[J]の列(J=1〜NSTRING2)を認識未確定文字列STRING2として認識結果バッファ210にセットする(ステップ2007,2009〜2011)。その際、当該認識未確定文字列を含む最尤認識候補文字列の対数尤度も、当該認識未確定文字列STRING2とともに認識結果バッファ210に格納するようにしてもよい。認識結果バッファ210に格納された当該最尤認識候補文字列の対数尤度は、後に、認識結果表示手段207で当該認識未確定文字列STRING2を表示する際に用いることもできる。
【0123】
一方、最尤認識候補文字列の最終文字のストロークが全て筆記されている場合には、認識未確定ストローク情報USTRK_FLAGを“0”とし、更に最尤認識候補文字列から認識確定文字列を除いたNSTRING2個の文字からなる文字列部分を取り出して、その文字列部分の文字コードSTRING2[J]の列(J=1〜NSTRING2)を認識未確定文字列STRING2として認識結果バッファ210にセットする(ステップ2008〜2011)。
【0124】
以上の説明から明らかなように、認識確定文字列STRING1は、入力ストローク列のうち、今後の筆記によって推定結果が変わらないという意味で断定された部分の文字列である。同様に、認識未確定文字列STRING2は、今後の筆記により推定結果が変わる可能性はあるが、現時点における尤度最大の意味で最もそれらしいと推測される部分の文字列である。そして、認識未確定ストローク列情報USTRK_FLAGは、未だ文字を書き終えていないストローク列の有無を表現している。
【0125】
ステップ805の次のステップ806では、認識結果表示手段207により、認識結果バッファ210内の認識確定文字列、認識未確定文字列及び認識未確定ストローク列情報が表示パターンに変換されて、ディスプレイ213の表示画面中の認識結果表示領域302に表示される。
【0126】
このような、ストロークが筆記される都度推定される認識確定文字列、認識未確定文字列及び認識未確定ストローク列情報の表示の例を、文字筆記領域301内で「あい」という文字を重ね書きした筆跡の各ストローク(入力ストローク)とストローク番号とに対応付けて、図26の第3列に示す。
【0127】
同図において、黒四角の記号は文字挿入位置を示すカーソルであり、図5中のカーソルCに相当する。また、下線のない文字列部分は認識確定文字列を、下線のある文字列部分は認識未確定文字列を、それぞれ表す。また、記号“⇒”は認識未確定ストローク列情報USTRK_FLAGが“1”の場合に認識未確定文字列の次の文字位置に表示され、認識未確定ストローク列が存在することを表す。
【0128】
このように本実施形態においては、認識確定文字列、認識未確定文字列及び認識未確定ストローク列情報をユーザが容易に識別(視認)できるような表示属性を付加して、ストローク入力の都度、画面表示しているため、ユーザは自分の筆跡の認識処理結果を逐次確認することができ、快適な文字入力が可能となる。
【0129】
ステップ806が終了すると、バッファ更新手段206により、ステップ807において認識候補バッファ209の更新が行われ、ステップ808においてストロークバッファ208の更新が行われる。
【0130】
ステップ807における詳細な処理手順を図23のフローチャートに示す。ここでは、認識確定文字列NSTRING1が存在する場合、認識候補バッファ209内の各第I認識候補文字列(I=1〜NCAND)について、当該各候補文字列から認識確定文字列NSTRING1に相当する部分の情報が除去される。
【0131】
次にステップ808における詳細な処理手順を図24のフローチャートに示す。ここでは、ストロークバッファ208内のNSTRK個の第Iストロークデータ(I=1〜NSTRK)のうち、I=NSTRK1+1〜NSTRKの第Iストロークデータ、即ち第NSTRK1+1ストロークデータ〜第NSTRKストロークデータを、新たなNSTRK個(新NSTRK=旧NSTRK-NSTRK1)の第Jストロークデータとすることにより、認識確定文字列NSTRING1に対応する(第1ストロークデータ〜第NSTRK1ストロークデータからなる)入力ストローク列データを当該ストロークバッファ208から除去するストロークバッファ更新処理が行われる。
【0132】
このバッファ更新処理は、ステップ2107,2108のループと、ステップ2109〜2111とに大別される。ステップ2107,2108のループでは、認識確定文字列NSTRING1中の最終文字を除く文字列に対応する入力ストローク列データがストロークバッファ208から削除され、ステップ2109〜2111では、認識確定文字列NSTRING1中の最終文字に対応する入力ストローク列データがストロークバッファ208から削除される。
【0133】
ステップ808の次のステップ809では、認識候補バッファ209が空であるかどうかの判定が例えばバッファ更新手段206によってなされ、認識候補文字列が存在する場合にはステップ802に戻って筆跡情報取得手段202に制御が渡され、次のストロークの取り込みがなされる。
【0134】
これに対し、認識候補バッファ209が空の場合には、入力されたストローク列全てについて認識結果が確定した文字列が表示出力されたとして、認識処理は終了となる。
【0135】
よって本実施形態におけるオンライン文字認識装置では、以上に述べた処理手順により、ユーザが文字の区切りを意識することなく続けて書いた文字列を高精度に認識して入力することができる。
【0136】
(認識結果の表示方法)
図4の認識結果表示手段207は、前述したように、認識結果バッファ210内の認識確定文字列、認識未確定文字列及び認識未確定ストローク列情報を表示パターンに変換して、ディスプレイ213の表示画面中の認識結果表示領域302に表示する。
【0137】
次に、図10のステップ806における認識結果表示手段207での認識結果の表示手順の一例を図27に示すフローチャートを参照して説明する。図27に示すフローチャートは、認識結果のうち、認識確定文字列と認識未確定文字列を表示する手順を示したものであるが、特に、認識未確定文字列を表示する際には、その尤度と予め定められた閾値とを比較して、表示更新を行う点に特徴がある。この認識未確定文字列の尤度とは、入力文字列推定手段205で認識未確定文字列が推定されたときに、その認識未確定文字列を含む最尤認識候補文字列の対数尤度である。この対数尤度は、当該認識未確定文字列とともに、認識結果バッファ210に格納されるものとする。
【0138】
まず、認識結果表示手段207は、認識結果バッファ210から認識確定文字列を取出して表示する。すなわち、当該認識確定文字列が表示パターンに変換されて、ディスプレイ213の表示画面中の認識結果表示領域302に表示される(ステップS11)。
【0139】
次に、認識未確定文字列の表示を行うわけであるが、ここでは、まず、認識結果バッファ210から、認識未確定文字列と当該認識未確定文字列とともに格納されている対数尤度を取り出す。そして、この対数尤度の値が予め定められた閾値より大きい(あるいは、閾値以上である)ときは、この今回の認識未確定文字列を表示する。すなわち、当該認識未確定文字列が表示パターンに変換されて、ディスプレイ213の表示画面中の認識結果表示領域302に表示される(ステップS12、ステップS13)。
【0140】
一方、当該認識未確定文字列とともに格納されている対数尤度の値が予め定められた閾値以下である(あるいは、閾値より小さい)ときは、この今回の認識未確定文字列は表示せずに、現在表示されている認識未確定文字列をそのまま表示する(ステップS12、ステップS14)。
【0141】
次に、図10のステップ806における認識結果表示手段207での認識結果の表示手順の他の例を図28に示すフローチャートを参照して説明する。図28に示すフローチャートも、認識結果のうち、認識確定文字列と認識未確定文字列を表示する手順を示したものであるが、特に、認識未確定文字列を表示する際には、その尤度と現在表示されている認識未確認文字列の尤度とを比較して、表示更新を行う点に特徴がある。なお、この認識未確定文字列の尤度とは、入力文字列推定手段205で認識未確定文字列が推定されたときに、その認識未確定文字列を含む最尤認識候補文字列の対数尤度である。この対数尤度は、当該認識未確定文字列とともに、認識結果バッファ210に格納されるものとする。
【0142】
まず、認識結果表示手段207は、認識結果バッファ210から認識確定文字列を取出して表示する。すなわち、当該認識確定文字列が表示パターンに変換されて、ディスプレイ213の表示画面中の認識結果表示領域302に表示される(ステップS21)。
【0143】
次に、認識未確定文字列の表示を行うわけであるが、ここでは、まず、認識結果バッファ210から、認識未確定文字列と当該認識未確定文字列とともに格納されている対数尤度を取り出す。そして、この対数尤度の値が、現在表示されている認識未確定文字列の尤度(認識結果表示手段207に保持されている)の値より大きい(あるいは、以上である)ときは、この今回の認識未確定文字列を表示する。すなわち、当該認識未確定文字列が表示パターンに変換されて、ディスプレイ213の表示画面中の認識結果表示領域302に表示される(ステップS22、ステップS23)。そして、今回表示された認識未確定文字列の尤度を保持する(ステップS24)
一方、当該認識未確定文字列とともに格納されている対数尤度の値が、現在表示されている認識未確定文字列の尤度(認識結果表示手段207に保持されている)の値以下である(あるいは、小さい)ときは、この今回の認識未確定文字列は表示せずに、現在表示されている認識未確定文字列をそのまま表示する(ステップS22、ステップS25)。
【0144】
このような、ストロークが筆記される都度推定される認識確定文字列、認識未確定文字列の表示の例を、文字筆記領域301内で「てがき」という文字を重ね書きした筆跡の各ストローク(「て」の1画目、「が」の1画目、2画目、…)と、ストロークが筆記される都度推定された認識確定文字列と認識未確定文字列とに対応付けて、図29の第4列に示す。
【0145】
同図第4列において、下線の引かれていない文字列部分は認識確定文字列であり、下線の引かれている文字列部分は認識未確定文字列を、それぞれ表す。
【0146】
このように本実施形態においては、認識確定文字列、認識未確定文字列をユーザが容易に識別(視認)できるような表示属性を付加して、ストローク入力の都度、画面表示しているため、ユーザは自分の筆跡の認識処理結果を逐次確認することができ、快適で効率のよい、手書き文字入力が可能となる。
【0147】
(筆跡表示方法)
文字筆記領域301上に文字を筆記する場合、その筆跡が全く表示されないのであれば、前のストロークの位置が確認できないため、次に筆記するストロークが本来入力したい位置からずれていまい、正しい文字が入力する事ができないばかりか、誤認識の原因ともなる。また、特に、1文字分の文字筆記領域301上に文字を重ね書きする場合、入力したストロークが全て表示されると現在入力中の文字以外のストロークまで表示されていまうので、かえってわかりづらい。
【0148】
そこで、次に、タブレット201の文字筆記領域301に筆記されたストロークの表示手法について説明する。
【0149】
図30は、タブレット201の文字筆記領域301に筆記されたストロークを表示するための筆跡表示手段を有したオンライン文字認識装置の構成を示したものである。なお、図30において、図4と同一部分には同一符号を付し、異なる部分についてのみ説明する。すなわち、上記筆跡表示手段220とペン操作判定手段221が新たに追加されている。また、タブレット201は透明で、しかもこのタブレットは、その文字筆記領域上に筆記された筆跡を表示するためのディスプレイ213の筆跡表示領域上に設けられていて、ディスプレイ213に、タブレット201上にペンPを用いてユーザにより筆記されたストロークが表示されると、ユーザは、このタブレット201を介して、この表示されたストロークを見ることができるようになっている。
【0150】
筆跡表示手段220は、筆跡情報取得手段202で取得されたストロークデータを用いてディスプレイ213上の筆跡表示領域に筆跡を表示するようになっている。
【0151】
ペンPが当該タブレットに触れているときのペン先の位置を表す座標データが筆跡情報取得手段202で取得されるので、ペン操作判定手段221は、この座標データを基に、ペン操作の種類を判定し、その判定結果に応じて、筆跡表示手段220などに所定の指示を行うようになっている。
【0152】
筆跡表示手段220は、現在入力中のストロークを含め最新のN本の入力ストロークを表示する。表示するストロークの数Nは、予め設定されるものである。
【0153】
次に、図31に示すフローチャートを参照して、筆跡表示手段220の筆跡表示処理動作について説明する。なお、図31に示す処理は、図3のステップS1において実行される。
【0154】
最新のN本の入力ストロークの表示制御のために、筆跡表示手段220は、タブレット201上で入力されたストロークの数をNに達するまで計数するストロークカウンタMと、入力ストロークデータを格納するストロークバッファBと、当該ストロークバッファ上の格納位置を示すリングバッファポインタPを有する。ストロークバッファBは1番目からN番目のN個の入力ストロークデータを格納する領域をもち、リングバッファポインタPは、ストロークバッファBの1番目の格納領域から2番目、3番目…と順に指し示し、N番目に達したときは再び1番目に戻ることによって、ストロークバッファBの格納領域をエンドレスに指し示す。なお、ここでは、説明の簡単のため、リングバッファポインタPの取り得る値をストロークバッファBのストロークデータの1番目からN番目までの各格納領域を示す値、すなわち、1〜Nとし、ストロークバッファBのP番目の格納領域をB(P)と表すことにする。
【0155】
まず、ペンPによる手書き文字入力の開始とともに、筆跡表示手段220が初期化される。この初期化とは、例えば、現在筆跡表示領域に表示されている筆跡が存在するのであれば、これを消去し、ストロークカウンタMと、リングバッファポインタPを「0」にセットする(ステップS101)。
【0156】
1ストローク入力されると(ステップS102)、そのときのリングバッファポインタPの値とNとが比較され、PがNと等しくなければ(ステップS103)、ステップS104へ進み、リングバッファポインタPを1つインクリメントする。一方、ステップS103で、PがNと等しければ、ステップS105ヘ進み、リングバッファポインタPがストロークバッファBの1番目の格納領域を指し示すように、リングバッファポインタPの値を「1」に戻す。
【0157】
次に、ステップS106へ進む。ステップS106では、ストロークバッファBのP番目の格納領域に、ステップS102で入力された当該ストロークデータを格納する(ステップS106)。そして、現在までに入力されたストロークの数MがNよりも小さい(あるいは、N以下である)とき(ステップS107)、ステップS108へ進み、ストロークカウンタMを1つインクリメントした後、ステップS109で、ストロークバッファBから今回P番目の格納領域に格納したストロークデータを含め最新のP本のストロークを取出し、筆跡の表示を行う。この場合、ストロークバッファBに格納されているストロークデータは、新しいものから順に並べると、B(P)、B(P−1)、…B(1)となる。
【0158】
一方、ステップS107で、現在までに入力されたストロークの数MがN以上である(あるいは、Nより小さい)ときは、ストロークカウンタMの更新は行わずに、ステップS110へ進み、ストロークバッファBから今回P番目の格納領域に格納したストロークデータを含め最新のN本のストロークを取出し、筆跡の表示を行う。この場合、ストロークバッファBに格納されているストロークデータは、新しいものから順に並べると、B(p)、B(P−1)、…B(1)、B(N)、B(1)、B(2)、…B(P+1)となる。
【0159】
ここで、ストロークデータの表示方法について説明する。前述したように、各ストロークデータは、ペンPがタブレット201に触れている間のペン先の位置を表す2次元座標データ列である。1本のストロークがJ個の座標データからなるとする。各座標データを(x[j]、y[j])と表す。ここで、j=1〜Jである。例えば、ユーザが「の」という文字(1ストロークで構成される文字)を筆記したときの筆跡表示例を図32に示す。この場合の入力ストロークを構成する座標点は全部で12個であるので、この12個の座標データ列(x[j]、y[j])、j=1〜Jを順に結んで折れ線で当該入力ストロークを表現することができる。
【0160】
図31に示した手順で入力ストロークの筆跡の表示を行うと、例えば、Nが「2」に設定されている場合には、ディスプレイ213の筆跡表示領域には、図33に示すような筆跡が表示される。図33(a)は、タブレット201の文字筆記領域301に、「い」という文字の2番目のストロークを入力し終えたときの筆跡表示例を示している。図33(b)は、タブレット201の文字筆記領域301に、「あ」という文字の3番目のストロークを入力し終えたときの筆跡表示例を示している。同図からも明らかなように、1番目のストロークは表示されていない。同様に、図33(c)は、タブレット201の文字筆記領域301に、「た」という文字の4番目のストロークを入力し終えたときの筆跡表示例を示している。同図からも明らかなように、1番目と2番目のストロークは表示されていない。
【0161】
ディスプレイ213の筆跡表示領域には、タブレット201上にペンPを用いてユーザにより筆記されたストロークが、筆記と同時にリアルタイムに表示されることが望ましい。そのための筆跡表示手段221の処理動作について、図34に示すフローチャートを参照して説明する。なお、図34に示した、入力中のストロークの表示処理は、図31のステップS102で実行される。
【0162】
前述したように、ペンPが当該タブレットに触れている間のペン先の位置を表す座標データが筆跡情報取得手段202で取得される。すなわち、ユーザが1ストローク筆記している間に取得される座標データが筆跡表示手段221に入力するわけだが、その際、前回ペン先がタブレットを離れた後(すなわち、1ストロークの筆記終了後)に初めてペン先がタブレットに触れたことにより、最初に座標データが入力してきた時点で筆跡表示を開始する。まず、座標点数を計数するための変数Kを「0」にセットする(ステップS201)。そして、変数Kを1つインクリメントして(ステップS202)、そのときの座標データ(x[K]、y[K])を取得する(ステップS203)。今回取得した座標データを含めて、筆跡表示を開始してから取得した座標データが1つのとき、すなわち、K=1のときは(ステップS204)、ステップS206へ進み、当該座標点の表示を行う。一方、筆跡表示を開始してから取得した座標データが2つ目以上であるとき、すなわち、K>1のときは、ステップS205へ進み、今回の座標データが(x[K]、y[K])であるとすると、この今回の座標点と前回表示した座標点(x[K―1]、y[K―1])とを結ぶ線分を表示する。以上ステップS202〜ステップS206を、ペン先がタブレットを離れたこと(1ストロークの筆記の終了)が検出されるまで繰り返す(ステップS207)。
【0163】
なお、1ストロークの筆記の終了の判断は、ペン先がタブレットを離れたことをペン操作判定手段220が検知して、それを筆跡表示手段221に通知するようにしてもよいし、筆跡表示手段221が筆跡情報取得手段202からの座標データの入力が一時中断した時点を1ストロークの筆記の終了の判断してもよい。
【0164】
また、N本のストロークを表示する際には、その1つ1つのストロークが区別できるように表示するようにしてもよい。例えば、各ストロークの色や太さを違えて表示するようにしてもよいし、図35に示すように、各ストロークを実線、点線、波線など、線の種類を違えて表示するようにしてもよい。
【0165】
なお、上記Nの値は、ユーザにより所望な値に設定可能であってもよいし、N本の入力ストロークを表示するか否かもユーザにより設定可能であってもよい。このようにすることで、ユーザ毎に、そのユーザにとって最適な手書き文字の入力環境を提供することができる。
【0166】
ペン操作判定部220は、上記のように、ペンPがタブレット上のどの位置に触れているかを判定して、ペン操作の種類を判定するものである。ペン操作の「種類には、例えば、筆記(文字)入力のための操作と、その他の操作(例えばカーソル移動など)とがある。
【0167】
ペンPがタブレット上の所定の文字筆記領域上を触れたときには、筆記(文字)入力の開始と判断するようにしてもよい。文字入力が開始されたと判断すると、図3や、図31に示した処理動作が行われる。
【0168】
例えば、ペンPがタブレット上の所定の文字筆記領域以外の所定の領域に触れたときや、ペンPがタブレットに触れてから予め定められた所定時間、その接触点を基準に予め定められた所定の範囲にペン先がとどまっているときなどには、筆記入力以外の操作であると判断するようにしてもよい。
【0169】
また、ペン先がタブレットを離れてからの時間を計測し、予め定められた時間を超えた場合に、筆跡表示手段221の初期化を行って、その時点で、ディスプレイ213の筆跡表示領域に表示されていた筆跡の消去を行うようにしてもよい。
【0170】
このように、重ね書き文字入力のように、文字の切り出し位置が明示的ではない場合であっても、入力された筆跡を適切に表示することができ、手書き文字を入力しやすい環境を提供することができる。
【0171】
(オンライン文字認識装置の付加機能)
以下、図30に示すオンライン文字認識装置の構成例を参照して、その付加機能について説明する。
【0172】
今まで説明してきた実施形態では、図5に示したように、文字筆記領域301と認識結果表示領域302とが分かれている。しかし、認識結果表示領域302においても、文字挿入位置を示すカーソルCの移動を指示するペン入力が実現可能である。すなわち、本実施形態では、ディスプレイ213に筆跡表示領域と認識結果表示領域とがある場合、透明のタブレット201が、それらを覆うように設けられていて、ユーザは、このタブレット201を介して、ディスプレイ213に表示された筆跡を見ることができるとともに、認識結果表示領域302内の任意の位置をペンPで指定することにより、認識結果として得られた文字列に対し編集操作を行うことができる。この編集操作のための指示を「ジェスチャ」と呼ぶこともある。
【0173】
例えば、図30に示すような構成において、認識結果表示領域302内の任意の位置がペンPで指定された(触れられた)ことがペン操作判定手段220により検出された場合には、カーソル移動指示がなされ、現在筆記中の文字列について筆記が完了したものと判断する。そして、入力文字列推定手段205に対しては、その時点で認識未確定文字列がある場合には、それを確定文字列として、認識結果表示手段207により認識結果表示領域302に表示させる確定処理を行わせる指示(確定指示)を行う。また、このとき、入力文字列推定手段205は、認識未確定ストローク列がある場合には、当該認識未確定ストローク列をストロークバッファ208から削除する。この削除処理をバッファ更新手段206により行わせることも可能である。
【0174】
こうすることで、文字挿入位置の指示と、文字列筆記操作をスムーズに繰り返すことが可能となり、快適な文字入力が可能となる。なお、上記ペン操作判定手段220は、各手段202〜207と同様に、図1の情報機器中のCPU1がオンライン文字認識プログラムを実行することにより実現可能である。
【0175】
また本実施形態では、最後のストロークが入力された後、予め定められた一定時間以上次のストローク入力がないことが上記ペン操作判定手段220によって検出される構成となっている。そして、一定時間以上次のストローク入力がないことが検出された場合にも、ペン操作判定手段220では、現在筆記中の文字列について筆記が完了したものとみなし、上記と同様の確定処理を行う。
【0176】
このような確定処理前後の表示画面の変更例を、「あした」という文字を重ね書きした筆跡の各ストローク(入力ストローク)とストローク番号とに対応付けて、図26の第3列及び第5列に示す。
【0177】
また、図5に示した文字筆記領域301と認識結果表示領域302とを図36に示すように共通にすることも可能である。このような構成では、ペン先の座標が一定時間以上、一定座標範囲内から移動しない場合には、ペン操作判定手段220は、ペン入力が認識文字挿入位置を示すカーソルCの移動を指示するジェスチャであると判定する。ペン操作判定手段220によりペン入力がジェスチャであると判定された場合には、入力文字列推定手段205が認識未確定文字列を認識確定文字列として出力する上記と同様の確定処理を行うようにすればよい。
【0178】
さて、本実施形態のオンライン文字認識装置は、誤って入力した文字を削除するための編集操作手段(1文字後退削除指示手段)として、図5に示した1文字後退削除ボタン303を有している。ユーザは、この1文字後退削除ボタン303をペンPで触れると、ペン操作判定手段220は、その座標データが1文字後退削除ボタン303の領域内であることから、1文字後退削除指示がなされたことを判定し、カーソルCの指す文字位置の直前の文字の削除を指示することができる。
【0179】
本実施形態では、図26の第3列に示すように、認識結果表示領域302に認識未確定ストローク列の存在を示す記号“⇒”が表示されている状態で1文字後退削除指示がなされた場合に、当該“⇒”を削除する認識結果編集手段(図示せず)が設けられる。
【0180】
この認識結果編集手段は、認識未確定ストローク列は存在しないものの認識未確定文字列が存在する状態で1文字後退削除指示がなされた場合には、認識未確定文字列の最後尾を1文字後退削除すると共に、残りの認識未確定文字列を認識確定文字列として確定表示する。また認識結果編集手段は、認識未確定ストローク列も認識未確定文字列も存在しない状態で1文字後退削除指示がなされた場合には、確定文字列を1文字後退削除する。
【0181】
このような処理が実行されることにより、文字の削除、文字の筆記操作を連続してスムーズに行うことが可能となり、快適な文字編集環境が実現される。1文字後退削除指示前後の表示画面の変更例を、「あした」という文字を重ね書きした筆跡の各ストローク(入力ストローク)とストローク番号とに対応付けて、図26の第3列及び第4列に示す。
【0182】
上記した1文字後退削除の指示はボタン(1文字後退削除ボタン303)によるものに限らない。例えば、ペン操作判定手段220は、文字筆記領域301に筆記された特定の形状のストロークを、1文字後退削除を指示するジェスチャであると判定することも可能である。この他に、例えば通常の文字筆記では入力されることのない、右から左方向への直線状のストローク入力を1文字後退削除のジェスチャと定めることもできる。ペン操作判定手段220は、文字認識で使用しているストローク形状特徴の照合により容易に実現可能である。
【0183】
なお、本発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。更に、上記実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件から幾つかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題の少なくとも1つが解決でき、発明の効果の欄で述べられている効果の少なくとも1つが得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
【0184】
【発明の効果】
以上詳述したように本発明によれば、ユーザが文字列を筆記する場合に、文字の区切りを意識する必要がなく、ただ文字を続けて書いていくだけであっても、文字間の構造関係も考慮した認識処理により自動的に文字列を認識でき、よってスムーズな文字の連続筆記入力が実現できる。
【0185】
また本発明によれば、文字の重ね書き入力も可能となるため、小さな筆記領域しか用意できない携帯情報端末等の小型情報機器においても、快適な手書き文字入力環境を提供できる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係わるオンライン文字認識装置を実現する情報機器のハードウェア構成を示すブロック図。
【図2】本発明の一実施形態に係わるオンライン文字認識装置の機能構成を示すブロック図。
【図3】図2のオンライン文字認識装置におけるオンライン文字認識処理全体の手順を説明するためのフローチャート。
【図4】図1の情報機器により実現されるオンライン文字認識装置のより詳細な機能構成を示すブロック図。
【図5】図1の情報機器の外観を示す図。
【図6】図4中のストロークバッファ208のデータ構造例を示す図。
【図7】図4中の認識候補バッファ209のデータ構造例を示す図。
【図8】図4中の文字構造辞書211のデータ構造例を示す図。
【図9】図4中の文字間構造辞書212のデータ構造例を示す図。
【図10】図1の情報機器により実現される図4のオンライン文字認識装置におけるオンライン文字認識処理全体の手順を説明するためのフローチャート。
【図11】図10中のステップ802における詳細な処理手順を説明するためのフローチャート。
【図12】図10中のステップ803における詳細な処理手順を説明するためのフローチャート。
【図13】図12中のステップ1010における詳細な処理手順を説明するためのフローチャート。
【図14】図12中のステップ1008における詳細な処理手順を説明するためのフローチャート。
【図15】図13中のステップ1011における詳細な処理手順を説明するためのフローチャート。
【図16】図10中のステップ804における詳細な処理手順を説明するためのフローチャート。
【図17】図16中のステップ1403における詳細な処理手順を説明するためのフローチャート。
【図18】図16中のステップ1404における詳細な処理手順を説明するためのフローチャート。
【図19】図16中のステップ1406における詳細な処理手順を説明するためのフローチャート。
【図20】図10中のステップ805における詳細な処理手順を説明するためのフローチャート。
【図21】図20中のステップ1801における詳細な処理手順を説明するためのフローチャート。
【図22】図20中のステップ1802における詳細な処理手順を説明するためのフローチャート。
【図23】図10中のステップ807における詳細な処理手順を説明するためのフローチャート。
【図24】図10中のステップ808における詳細な処理手順を説明するためのフローチャート。
【図25】入力特徴と辞書特徴との間の照合関係を説明するための図。
【図26】認識結果表示例を示す図。
【図27】認識確定文字列と認識未確定文字列の表示処理動作について説明するためのフローチャート。
【図28】認識確定文字列と認識未確定文字列の他の表示処理動作について説明するためのフローチャート。
【図29】ストロークが筆記される都度推定される認識確定文字列、認識未確定文字列の表示の例を示した図。
【図30】図1の情報機器により実現されるオンライン文字認識装置のより詳細な機能構成を示すブロック図で、図4に示した構成にさらに、筆跡表示手段と、ペン操作判定手段とが追加されている。
【図31】筆跡表示手段の筆跡表示処理動作について説明するためのフローチャート。
【図32】筆跡の表示例を示した図。
【図33】Nが「2」に設定されている場合の筆跡表示例を示した図。
【図34】タブレット上に筆記最中のストロークを筆記と同時にリアルタイムに表示するための処理動作を説明するためのフローチャート。
【図35】最新のN本のストロークの表示例を示した図。
【図36】図1の情報機器の外観の変形例を示す図。
【符号の説明】
1…CPU
2…ROM
3…RAM
4,201…タブレット(座標入力装置)
5,213…ディスプレイ(表示装置)
6…データ読み込み装置
7…記憶媒体
202…筆跡情報取得手段
203…認識候補文字列生成手段
204…文字列尤度計算手段(照合手段)
205…入力文字列推定手段
206…バッファ更新手段
207…認識結果表示手段
208…ストロークバッファ
209…認識候補バッファ
210…認識結果バッファ
211…文字構造辞書
212…文字間構造辞書
220…ペン操作表示手段
221…筆跡表示手段
301…文字筆記領域
302…認識結果表示領域
303…1文字後退削除ボタン
P…ペン
C…カーソル

Claims (18)

  1. 座標入力装置上でペンが当該座標入力装置に触れてから離れるまでの間に当該座標入力装置により検出されるペン先の座標系列で表現されるストロークの列をもとに文字認識を行い、表示装置上に認識結果を表示するオンライン文字認識装置において、
    複数の認識可能文字の各々について、当該文字を構成するストロークの形状情報、及びストローク間の構造関係が記述された辞書情報を登録した文字構造辞書と、
    前記複数の認識可能文字のうちの続けて筆記される各2文字の組み合わせについて、当該2文字間の構造関係が記述された辞書情報を登録した文字間構造辞書と、
    前記座標入力装置により検出されるストロークを逐次取り込む筆跡情報取得手段と、
    前記筆跡情報取得手段によりストロークが取り込まれる毎に、当該ストロークを含む認識すべき既取り込みストローク列に対する認識候補となり得る認識候補文字列を生成する認識候補文字列生成手段と、
    前記認識候補文字列毎に、当該認識候補文字列を構成する各候補文字についての前記文字構造辞書中の辞書情報と連続する2候補文字間についての前記文字間構造辞書中の辞書情報とに基づいて、当該認識候補文字列に対応する文字列構造辞書を作成して、前記既取り込みのストローク列を当該認識候補文字列毎の文字列構造辞書とそれぞれ照合することにより、当該ストローク列中のいずれのストロークがいずれの候補文字を構成しているのかを決定する文字切出しを行う照合手段と、
    前記各認識候補文字列について先頭からの前記文字切出しの結果が共通している文字列部分を認識確定文字列として推定して出力する入力文字列推定手段と、
    前記入力文字列推定手段により出力された前記認識確定文字列を表示する認識結果表示手段と
    を具備することを特徴とするオンライン文字認識装置。
  2. 座標入力装置上でペンが当該座標入力装置に触れてから離れるまでの間に当該座標入力装置により検出されるペン先の座標系列で表現されるストロークの列をもとに文字認識を行い、表示装置上に認識結果を表示するオンライン文字認識装置において、
    複数の認識可能文字の各々について、当該文字を構成するストロークの形状情報、及びストローク間の構造関係が記述された辞書情報を登録した文字構造辞書と、
    前記複数の認識可能文字のうちの続けて筆記される各2文字の組み合わせについて、当該2文字間の構造関係が記述された辞書情報を登録した文字間構造辞書と、
    前記座標入力装置により検出されるストロークを格納するためのストロークバッファと、
    前記座標入力装置により検出されるストロークを逐次取り込んで前記ストロークバッファに格納する筆跡情報取得手段と、
    前記ストロークバッファ内のストローク列に対する認識候補となる認識候補文字列群を格納するための認識候補バッファと、
    前記筆跡情報取得手段により前記ストロークバッファにストロークが格納される毎に、当該ストロークバッファ内のストローク列に対する認識候補となり得る認識候補文字列を生成して前記認識候補バッファに格納する認識候補文字列生成手段と、
    前記認識候補バッファ内の認識候補文字列毎に、当該認識候補文字列を構成する各候補文字についての前記文字構造辞書中の辞書情報と連続する2候補文字間についての前記文字間構造辞書中の辞書情報とに基づいて、当該認識候補文字列に対応する文字列構造辞書を作成して、前記ストロークバッファ内のストローク列を当該認識候補文字列毎の文字列構造辞書とそれぞれ照合することにより、当該ストローク列中のいずれのストロークがいずれの候補文字を構成しているのかを決定する文字切出しを行い、その結果を当該認識候補文字列に対応付けて前記認識候補バッファ内に格納する照合手段と、
    前記認識候補バッファ内の全ての認識候補文字列について先頭からの前記文字切出しの結果が共通している文字列部分を認識確定文字列として推定して出力する入力文字列推定手段と、
    前記入力文字列推定手段より出力された前記認識確定文字列を表示する認識結果表示手段と
    を具備することを特徴とするオンライン文字認識装置。
  3. 座標入力装置上でペンが当該座標入力装置に触れてから離れるまでの間に当該座標入力装置により検出されるペン先の座標系列で表現されるストロークの列をもとに文字認識を行い、表示装置上に認識結果を表示するオンライン文字認識装置において、
    前記座標入力装置は、前記ペンで文字を筆記するための1文字分の文字筆記領域を有し、
    複数の認識可能文字の各々について、当該文字を構成するストロークの形状情報、及びストローク間の構造関係が記述された辞書情報を登録した文字構造辞書と、
    前記複数の認識可能文字のうちの前記文字筆記領域に重ねて筆記される各2文字の組み合わせについて、当該2文字間の構造関係が記述された辞書情報を登録した文字間構造辞書と、
    前記座標入力装置により検出されるストロークを逐次取り込む筆跡情報取得手段と、
    前記筆跡情報取得手段によりストロークが取り込まれる毎に、当該ストロークを含む認識すべき既取り込みストローク列に対する認識候補となり得る認識候補文字列を生成する認識候補文字列生成手段と、
    前記認識候補文字列毎に、当該認識候補文字列を構成する各候補文字についての前記文字構造辞書中の辞書情報と、重なる2候補文字間についての前記文字間構造辞書中の辞書情報とに基づいて、当該認識候補文字列に対応する文字列構造辞書を作成して、前記既取り込みのストローク列を当該認識候補文字列毎の文字列構造辞書とそれぞれ照合することにより、当該ストローク列中のいずれのストロークがいずれの候補文字を構成しているのかを決定する文字切出しを行う照合手段と、
    前記各認識候補文字列について先頭からの前記文字切出しの結果が共通している文字列部分を認識確定文字列として推定して出力する入力文字列推定手段と、
    前記入力文字列推定手段により出力された前記認識確定文字列を表示する認識結果表示手段と
    を具備することを特徴とするオンライン文字認識装置。
  4. 座標入力装置上でペンが当該座標入力装置に触れてから離れるまでの間に当該座標入力装置により検出されるペン先の座標系列で表現されるストロークの列をもとに文字認識を行い、表示装置上に認識結果を表示するオンライン文字認識装置において、
    前記座標入力装置は、前記ペンで文字を筆記するための1文字分の文字筆記領域を有し、
    複数の認識可能文字の各々について、当該文字を構成するストロークの形状情報、及びストローク間の構造関係が記述された辞書情報を登録した文字構造辞書と、
    前記複数の認識可能文字のうちの前記文字筆記領域に重ねて筆記される各2文字の組み合わせについて、当該2文字間の構造関係が記述された辞書情報を登録した文字間構造辞書と、
    前記座標入力装置により検出されるストロークを格納するためのストロークバッファと、
    前記座標入力装置により検出されるストロークを逐次取り込んで前記ストロークバッファに格納する筆跡情報取得手段と、
    前記ストロークバッファ内のストローク列に対する認識候補となる認識候補文字列群を格納するための認識候補バッファと、
    前記筆跡情報取得手段により前記ストロークバッファにストロークが格納される毎に、当該ストロークバッファ内のストローク列に対する認識候補となり得る認識候補文字列を生成して前記認識候補バッファに格納する認識候補文字列生成手段と、
    前記認識候補バッファ内の認識候補文字列毎に、当該認識候補文字列を構成する各候補文字についての前記文字構造辞書中の辞書情報と重なる2候補文字間についての前記文字間構造辞書中の辞書情報とに基づいて、当該認識候補文字列に対応する文字列構造辞書を作成して、前記ストロークバッファ内のストローク列を当該認識候補文字列毎の文字列構造辞書とそれぞれ照合することにより、当該ストローク列中のいずれのストロークがいずれの候補文字を構成しているのかを決定する文字切出しを行い、その結果を当該認識候補文字列に対応付けて前記認識候補バッファ内に格納する照合手段と、
    前記認識候補バッファ内の全ての認識候補文字列について先頭からの前記文字切出しの結果が共通している文字列部分を認識確定文字列として推定して出力する入力文字列推定手段と、
    前記入力文字列推定手段より出力された前記認識確定文字列を表示する認識結果表示手段と
    を具備することを特徴とするオンライン文字認識装置。
  5. 前記照合手段は、前記ストローク列と前記認識候補文字列毎の前記文字列構造辞書との照合により、当該ストローク列が当該認識候補文字列として筆記された確からしさを計算するように構成されており、
    前記入力文字列推定手段は、前記認識確定文字列を推定して出力する認識確定文字列推定手段と、前記照合手段の照合結果から決定される前記各認識候補文字列の中で最も確からしい認識候補文字列について、最後の文字を構成するストロークが全て筆記入力されているか否かに応じて、認識未確定ストローク列が存在しないこと或いは存在することを示す認識未確定ストローク列情報を出力すると共に、前記認識未確定ストローク列が存在しない場合には、前記最も確からしい認識候補文字列から前記認識確定文字列を除いた文字列を認識未確定文字列として推定して出力し、前記認識未確定ストローク列が存在する場合には、前記最も確からしい認識候補文字列から前記認識確定文字列と最後の1文字を除いた文字列を認識未確定文字列として推定して出力する認識未確定文字列及び認識未確定ストローク列情報推定手段とを含み、
    前記認識結果表示手段は、前記認識確定文字列に加えて、さらに少なくとも、前記認識未確定文字列を表示することを特徴とする請求項1乃至4のいずれか1つに記載のオンライン文字認識装置。
  6. 前記認識結果表示手段は、前記認識未確定文字列を、該認識未確定文字列を含む前記認識候補文字列の前記確からしさが予め定められた条件を満たすとき表示することを特徴とする請求項記載のオンライン文字認識装置。
  7. 前記認識結果表示手段は、今回推定された前記認識未確定文字列を含む前記認識候補文字列の確からしさが、前回推定された前記認識未確定文字列を含む前記認識候補文字列の確からしさに基づく予め定められた条件を満たすとき、前回推定された前記認識未確定文字列に替えて今回推定された前記認識未確定文字列を表示することを特徴とする請求項記載のオンライン文字認識装置。
  8. 前記認識結果表示手段により前記認識確定文字列が表示される毎に、前記ストロークバッファから当該認識確定文字列に対応する入力ストローク列を削除すると共に、前記認識候補バッファから当該認識確定文字列に対応する情報を取り除くバッファ更新手段を更に具備することを特徴とする請求項または記載のオンライン文字認識装置。
  9. 最後のストロークが入力された後、予め定められた一定時間以上の間、次のストローク入力がないことを検出する検出手段と、
    前記検出手段の検出結果に応じて前記認識未確定文字列を前記認識確定文字列として出力する認識文字列確定手段と
    を更に具備することを特徴とする請求項記載のオンライン文字認識装置。
  10. 前記座標入力装置が前記表示装置の表示面に重ねて配置されると共に、当該座標入力装置の入力面には前記ペンで文字を筆記するための文字筆記領域と前記認識結果が表示される認識結果表示領域とが分かれて確保されており、
    前記文字筆記領域に前記ペンが触れたことを検出する検出手段と、
    前記検出手段の検出結果に応じて前記認識未確定文字列を前記認識確定文字列として出力する認識文字列確定手段と
    を更に具備することを特徴とする請求項記載のオンライン文字認識装置。
  11. 前記座標入力装置が前記表示装置の表示面に重ねて配置されると共に、当該座標入力装置の入力面には前記ペンで文字を筆記するための文字筆記領域と前記認識結果が表示される認識結果表示領域とを兼ねた共通の領域が確保されており、
    前記ペンの先端が前記共通領域の一定座標範囲内に一定時間以上存在する場合には、そのペン入力は認識結果表示のカーソル移動を目的としたジェスチャであり、それ以外の場合には文字筆記を目的とした入力であると判定する判定手段と、
    前記判定手段によりペン入力がジェスチャであると判定された場合に、前記認識未確定文字列を前記認識確定文字列として出力する認識文字列確定手段と
    を更に具備することを特徴とする請求項1乃至4のいずれか1つに記載のオンライン文字認識装置。
  12. 1文字後退削除を指示操作するための1文字後退削除指示手段と、
    前記1文字後退削除指示手段により1文字後退削除が指示された場合、前記認識未確定ストローク列が存在する状態では、当該認識未確定ストローク列を削除し、前記認識未確定ストローク列が存在せず前記認識未確定文字列が存在する状態では、当該認識未確定文字列の最後尾を1文字後退削除すると共に残りの当該認識未確定文字列を前記認識確定文字列とし、前記認識未確定ストローク列及び前記認識未確定文字列が共に存在しない状態では、前記認識確定文字列を1文字後退削除する認識結果編集手段と
    を更に具備することを特徴とする請求項に記載のオンライン文字認識装置。
  13. 前記座標入力装置の前記ペンで文字を筆記するための文字筆記領域が前記表示装置の筆跡表示領域に重ねて配置され、
    前記文字筆記領域に前記ストロークが筆記される度に、この最新のストロークを含め最新の所定のN本(但し、Nは整数)のストロークを前記筆跡表示領域に表示することを特徴とする請求項1乃至のいずれか1つに記載のオンライン文字認識装置。
  14. 前記座標入力装置上からペンが離れた後、前記ストロークの筆記以外のペン操作を検出する検出手段を具備し、
    この検出手段の検出結果に応じて、前記筆跡表示領域に表示されているストロークの表示を消去することを特徴とする請求項13記載のオンライン文字認識装置。
  15. 前記筆跡表示領域に前記予め定められた数のストロークを表示する際には、ストロークの入力された順番に基づいて、各ストロークの色と太さと該ストロークを表す線の種類とのうちのいずれかを違えて表示することを特徴とする請求項13記載のオンライン文字認識装置。
  16. 座標入力装置上でペンにより筆記された文字を表すストローク列をもとに文字認識を行うオンライン文字認識方法において、
    前記座標入力装置により検出されるペン先の座標系列を1ストローク単位で逐次取り込むステップと、
    前記取り込みステップでストロークが取り込まれる毎に、当該ストロークを含む認識すべき既取り込みストローク列に対する認識候補となり得る認識候補文字列を生成するステップと、
    前記生成された認識候補文字列毎に、当該認識候補文字列中の各候補文字についての当該候補文字を構成するストロークの形状情報及びストローク間の構造関係が記述された文字構造辞書情報と、当該認識候補文字列中の各候補文字間についての当該候補文字間の構造関係が記述された文字間構造辞書情報とに基づいて、当該認識候補文字列に対応する文字列構造辞書を作成するステップと、
    前記文字列構造辞書が作成される毎に、その時点で取り込まれている前記既取り込みのストローク列を前記生成された認識候補文字列毎の文字列構造辞書とそれぞれ照合することにより、当該ストローク列中のいずれのストロークがいずれの候補文字を構成しているのかを決定する文字切出しを行うステップと、
    前記生成された各認識候補文字列について先頭からの前記文字切出しの結果が共通している文字列部分を認識確定文字列として推定して出力するステップと
    を具備することを特徴とするオンライン文字認識方法。
  17. 座標入力装置上でペンにより筆記された文字を表すストローク列をもとに文字認識を行うオンライン文字認識プログラムであって、
    コンピュータに、
    前記座標入力装置により検出されるペン先の座標系列を1ストローク単位で逐次取り込むステップと、
    前記取り込みステップでストロークが取り込まれる毎に、当該ストロークを含む認識すべき既取り込みストローク列に対する認識候補となり得る認識候補文字列を生成するステップと、
    前記生成された認識候補文字列毎に、当該認識候補文字列中の各候補文字についての当該候補文字を構成するストロークの形状情報及びストローク間の構造関係が記述された文字構造辞書情報と、当該認識候補文字列中の各候補文字間についての当該候補文字間の構造関係が記述された文字間構造辞書情報とに基づいて、当該認識候補文字列に対応する文字列構造辞書を作成するステップと、
    前記文字列構造辞書が作成される毎に、その時点で取り込まれている前記既取り込みのストローク列を前記生成された認識候補文字列毎の文字列構造辞書とそれぞれ照合することにより、当該ストローク列中のいずれのストロークがいずれの候補文字を構成しているのかを決定する文字切出しを行うステップと、
    前記生成された各認識候補文字列について先頭からの前記文字切出しの結果が共通している文字列部分を認識確定文字列として推定して出力するステップと
    を実行させるオンライン文字認識プログラムを記憶した記憶媒体。
  18. 座標入力装置上でペンにより筆記された文字を表すストローク列をもとに文字認識を行うオンライン文字認識プログラムであって、
    コンピュータに、
    前記座標入力装置により検出されるペン先の座標系列を1ストローク単位で逐次取り込むステップと、
    前記取り込みステップでストロークが取り込まれる毎に、当該ストロークを含む認識すべき既取り込みストローク列に対する認識候補となり得る認識候補文字列を生成するステップと、
    前記生成された認識候補文字列毎に、当該認識候補文字列中の各候補文字についての当該候補文字を構成するストロークの形状情報及びストローク間の構造関係が記述された文字構造辞書情報と、当該認識候補文字列中の各候補文字間についての当該候補文字間の構造関係が記述された文字間構造辞書情報とに基づいて、当該認識候補文字列に対応する文字列構造辞書を作成するステップと、
    前記文字列構造辞書が作成される毎に、その時点で取り込まれている前記既取り込みのストローク列を前記生成された認識候補文字列毎の文字列構造辞書とそれぞれ照合することにより、当該ストローク列中のいずれのストロークがいずれの候補文字を構成しているのかを決定する文字切出しを行うステップと、
    前記生成された各認識候補文字列について先頭からの前記文字切出しの結果が共通している文字列部分を認識確定文字列として推定して出力するステップと
    を実行させるオンライン文字認識プログラム。
JP2001274147A 2000-10-31 2001-09-10 オンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラム Expired - Fee Related JP3974359B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2001274147A JP3974359B2 (ja) 2000-10-31 2001-09-10 オンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラム
US09/984,672 US7013046B2 (en) 2000-10-31 2001-10-30 Apparatus, method, and program for handwriting recognition
CNB011359994A CN1215433C (zh) 2000-10-31 2001-10-31 联机文字识别装置及方法
US11/296,223 US7885464B2 (en) 2000-10-31 2005-12-08 Apparatus, method, and program for handwriting recognition

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2000-333919 2000-10-31
JP2000333919 2000-10-31
JP2001274147A JP3974359B2 (ja) 2000-10-31 2001-09-10 オンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007134737A Division JP4686502B2 (ja) 2000-10-31 2007-05-21 オンライン文字認識装置

Publications (2)

Publication Number Publication Date
JP2002203208A JP2002203208A (ja) 2002-07-19
JP3974359B2 true JP3974359B2 (ja) 2007-09-12

Family

ID=26603231

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001274147A Expired - Fee Related JP3974359B2 (ja) 2000-10-31 2001-09-10 オンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラム

Country Status (3)

Country Link
US (2) US7013046B2 (ja)
JP (1) JP3974359B2 (ja)
CN (1) CN1215433C (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9003284B2 (en) 2009-08-27 2015-04-07 Kabushiki Kaisha Toshiba Information search apparatus and system

Families Citing this family (95)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7234119B2 (en) * 2002-12-03 2007-06-19 Motorola Inc. Device and method for editing processed data input
JP2004213269A (ja) 2002-12-27 2004-07-29 Toshiba Corp 文字入力装置
US20050175242A1 (en) * 2003-04-24 2005-08-11 Fujitsu Limited Online handwritten character input device and method
CN1689028A (zh) * 2003-04-24 2005-10-26 富士通株式会社 联机手写字符输入装置和方法
EP1475741B1 (en) * 2003-05-08 2005-12-21 Orange S.A. Data processing apparatus and method
US7218783B2 (en) * 2003-06-13 2007-05-15 Microsoft Corporation Digital ink annotation process and system for recognizing, anchoring and reflowing digital ink annotations
KR20050019651A (ko) * 2003-08-20 2005-03-03 주식회사 일진베어링 스핀들을 내륜으로 하는 차량용 휠 베어링 장치
US20050152600A1 (en) * 2004-01-14 2005-07-14 International Business Machines Corporation Method and apparatus for performing handwriting recognition by analysis of stroke start and end points
US7756337B2 (en) * 2004-01-14 2010-07-13 International Business Machines Corporation Method and apparatus for reducing reference character dictionary comparisons during handwriting recognition
US7298904B2 (en) * 2004-01-14 2007-11-20 International Business Machines Corporation Method and apparatus for scaling handwritten character input for handwriting recognition
US7706616B2 (en) * 2004-02-27 2010-04-27 International Business Machines Corporation System and method for recognizing word patterns in a very large vocabulary based on a virtual keyboard layout
US7583825B2 (en) * 2004-12-27 2009-09-01 Nokia Corporation Mobile communications terminal and method
US7490033B2 (en) * 2005-01-13 2009-02-10 International Business Machines Corporation System for compiling word usage frequencies
CN101292213B (zh) * 2005-10-21 2014-09-24 三洋电机株式会社 用于输入密码等的输入装置以及设有该输入装置的移动电话装置
JP2007272473A (ja) * 2006-03-30 2007-10-18 Toshiba Corp 文字認識装置、方法およびプログラム
CN101657825B (zh) * 2006-05-11 2014-02-19 普莱姆传感有限公司 根据深度图对人形进行建模
US7742642B2 (en) * 2006-05-30 2010-06-22 Expedata, Llc System and method for automated reading of handwriting
US20080008387A1 (en) * 2006-07-06 2008-01-10 Cheng Yi-Hsun E Method and apparatus for recognition of handwritten symbols
US8077974B2 (en) * 2006-07-28 2011-12-13 Hewlett-Packard Development Company, L.P. Compact stylus-based input technique for indic scripts
US20080104020A1 (en) * 2006-10-27 2008-05-01 Microsoft Corporation Handwritten Query Builder
JP4560062B2 (ja) * 2007-03-29 2010-10-13 株式会社東芝 筆跡判定装置、方法およびプログラム
JP2008250375A (ja) * 2007-03-29 2008-10-16 Toshiba Corp 文字入力装置、方法およびプログラム
JP2009093291A (ja) * 2007-10-04 2009-04-30 Toshiba Corp ジェスチャー判定装置及び方法
US8166421B2 (en) * 2008-01-14 2012-04-24 Primesense Ltd. Three-dimensional user interface
US8933876B2 (en) 2010-12-13 2015-01-13 Apple Inc. Three dimensional user interface session control
US9035876B2 (en) 2008-01-14 2015-05-19 Apple Inc. Three-dimensional user interface session control
US9355090B2 (en) * 2008-05-30 2016-05-31 Apple Inc. Identification of candidate characters for text input
US8331682B2 (en) * 2008-08-27 2012-12-11 Northrop Grumman Systems Corporation System and method for single stroke character recognition
CN101770579B (zh) * 2008-12-30 2011-11-23 北大方正集团有限公司 一种图像目标的特征描述方法
WO2010103482A2 (en) * 2009-03-13 2010-09-16 Primesense Ltd. Enhanced 3d interfacing for remote devices
JP2010231480A (ja) * 2009-03-27 2010-10-14 Toshiba Corp 筆跡処理装置、プログラム、及び方法
US8175389B2 (en) * 2009-03-30 2012-05-08 Synaptics Incorporated Recognizing handwritten words
US8565479B2 (en) * 2009-08-13 2013-10-22 Primesense Ltd. Extraction of skeletons from 3D maps
US20110164032A1 (en) * 2010-01-07 2011-07-07 Prime Sense Ltd. Three-Dimensional User Interface
US8787663B2 (en) * 2010-03-01 2014-07-22 Primesense Ltd. Tracking body parts by combined color image and depth processing
US20110254765A1 (en) * 2010-04-18 2011-10-20 Primesense Ltd. Remote text input using handwriting
US8310461B2 (en) * 2010-05-13 2012-11-13 Nuance Communications Inc. Method and apparatus for on-top writing
US8594425B2 (en) 2010-05-31 2013-11-26 Primesense Ltd. Analysis of three-dimensional scenes
JP2012003689A (ja) * 2010-06-21 2012-01-05 Sony Corp 情報処理装置、情報処理方法およびプログラム
WO2012011044A1 (en) 2010-07-20 2012-01-26 Primesense Ltd. Interactive reality augmentation for natural interaction
US9201501B2 (en) 2010-07-20 2015-12-01 Apple Inc. Adaptive projector
CN102375989A (zh) * 2010-08-06 2012-03-14 腾讯科技(深圳)有限公司 手写识别方法及系统
KR101486174B1 (ko) * 2010-08-24 2015-01-23 노키아 코포레이션 중첩된 수기의 획들을 하나 이상의 그룹으로 분할하는 방법 및 장치
US8582867B2 (en) 2010-09-16 2013-11-12 Primesense Ltd Learning-based pose estimation from depth maps
US8959013B2 (en) 2010-09-27 2015-02-17 Apple Inc. Virtual keyboard for a non-tactile three dimensional user interface
JP2012073666A (ja) * 2010-09-27 2012-04-12 Toshiba Corp 文字列入力装置およびプログラム
TW201216124A (en) * 2010-10-12 2012-04-16 Inventec Corp Multi-block handwriting system and method thereof
US8872762B2 (en) 2010-12-08 2014-10-28 Primesense Ltd. Three dimensional user interface cursor control
CN102073884A (zh) * 2010-12-31 2011-05-25 北京捷通华声语音技术有限公司 一种手写识别方法、系统及手写识别终端
EP3527121B1 (en) 2011-02-09 2023-08-23 Apple Inc. Gesture detection in a 3d mapping environment
JP5647919B2 (ja) * 2011-03-07 2015-01-07 株式会社Nttドコモ 文字認識装置、文字認識方法、文字認識システム、および文字認識プログラム
CN102184051B (zh) * 2011-06-17 2013-08-14 盛乐信息技术(上海)有限公司 一种触屏手写识别系统及方法
US9459758B2 (en) 2011-07-05 2016-10-04 Apple Inc. Gesture-based interface with enhanced features
US8881051B2 (en) 2011-07-05 2014-11-04 Primesense Ltd Zoom-based gesture user interface
US9377865B2 (en) 2011-07-05 2016-06-28 Apple Inc. Zoom-based gesture user interface
US9030498B2 (en) 2011-08-15 2015-05-12 Apple Inc. Combining explicit select gestures and timeclick in a non-tactile three dimensional user interface
US9122311B2 (en) 2011-08-24 2015-09-01 Apple Inc. Visual feedback for tactile and non-tactile user interfaces
US9218063B2 (en) 2011-08-24 2015-12-22 Apple Inc. Sessionless pointing user interface
US9002099B2 (en) 2011-09-11 2015-04-07 Apple Inc. Learning-based estimation of hand and finger pose
TWI447619B (zh) * 2011-12-15 2014-08-01 Inventec Corp 提供引導軌跡以輔助手勢輸入之系統及其方法
JP2013134728A (ja) * 2011-12-27 2013-07-08 Ricoh Co Ltd 手書き文字入力装置並びにこれを構成する遠隔装置及び電子情報端末
KR101898202B1 (ko) * 2012-02-09 2018-09-12 삼성전자주식회사 필기 인식을 위한 필기 입력 가이드 장치 및 방법
US9229534B2 (en) 2012-02-28 2016-01-05 Apple Inc. Asymmetric mapping for tactile and non-tactile user interfaces
US11169611B2 (en) 2012-03-26 2021-11-09 Apple Inc. Enhanced virtual touchpad
US9047507B2 (en) 2012-05-02 2015-06-02 Apple Inc. Upper-body skeleton extraction from depth maps
JP5694236B2 (ja) * 2012-05-28 2015-04-01 株式会社東芝 文書検索装置、方法およびプログラム
US9354725B2 (en) * 2012-06-01 2016-05-31 New York University Tracking movement of a writing instrument on a general surface
US9201521B2 (en) * 2012-06-08 2015-12-01 Qualcomm Incorporated Storing trace information
JP5897725B2 (ja) * 2012-10-03 2016-03-30 楽天株式会社 ユーザインタフェース装置、ユーザインタフェース方法、プログラム及びコンピュータ可読情報記憶媒体
US9880630B2 (en) 2012-10-03 2018-01-30 Rakuten, Inc. User interface device, user interface method, program, and computer-readable information storage medium
JP5701839B2 (ja) * 2012-10-26 2015-04-15 株式会社東芝 電子機器および方法
US9019267B2 (en) 2012-10-30 2015-04-28 Apple Inc. Depth mapping with enhanced resolution
JP5377743B1 (ja) * 2012-11-28 2013-12-25 株式会社東芝 電子機器および手書き文書処理方法
US9846536B2 (en) * 2012-12-17 2017-12-19 Microsoft Technology Licensing, Llc Composition of handwritten messages on mobile computing devices
JP2014127188A (ja) * 2012-12-27 2014-07-07 Toshiba Corp 整形装置及び方法
US20140232667A1 (en) * 2013-02-15 2014-08-21 Kabushiki Kaisha Toshiba Electronic device and method
JP5869179B2 (ja) * 2013-03-18 2016-02-24 株式会社東芝 電子機器および手書き文書処理方法
FR3005175B1 (fr) 2013-04-24 2018-07-27 Myscript Systeme de synchronisation permanente pour la saisie manuscrite
CN104656938B (zh) * 2013-11-19 2018-07-06 阿尔派株式会社 文字输入装置及文字输入方法
JP2015099566A (ja) * 2013-11-20 2015-05-28 株式会社東芝 特徴算出装置、方法及びプログラム
US9224038B2 (en) * 2013-12-16 2015-12-29 Google Inc. Partial overlap and delayed stroke input recognition
US9881224B2 (en) 2013-12-17 2018-01-30 Microsoft Technology Licensing, Llc User interface for overlapping handwritten text input
US9304612B2 (en) * 2014-03-07 2016-04-05 Lenovo (Singapore) Pte. Ltd. Off-screen input capture for mobile device
WO2015141260A1 (ja) * 2014-03-17 2015-09-24 株式会社河合楽器製作所 手書き音楽記号認識装置およびプログラム
US9384403B2 (en) 2014-04-04 2016-07-05 Myscript System and method for superimposed handwriting recognition technology
US9524440B2 (en) 2014-04-04 2016-12-20 Myscript System and method for superimposed handwriting recognition technology
JP6465414B6 (ja) * 2014-10-30 2019-04-03 Dynabook株式会社 電子機器、方法及びプログラム
JP6263482B2 (ja) * 2015-01-09 2018-01-17 東芝テック株式会社 商品販売入力支援装置及びそのプログラム並びに商品販売処理システム
EP3279774B1 (en) 2015-03-31 2021-02-24 Wacom Co., Ltd. Ink file output method, output device and program
JP6620480B2 (ja) * 2015-09-15 2019-12-18 オムロン株式会社 文字入力方法および文字入力用のプログラムならびに情報処理装置
US10043279B1 (en) 2015-12-07 2018-08-07 Apple Inc. Robust detection and classification of body parts in a depth map
US10248635B2 (en) * 2016-02-29 2019-04-02 Myscript Method for inserting characters in a character string and the corresponding digital service
US10366278B2 (en) 2016-09-20 2019-07-30 Apple Inc. Curvature-based face detector
JP6797869B2 (ja) * 2018-08-08 2020-12-09 シャープ株式会社 書物電子化装置および書物電子化方法
KR20230017538A (ko) 2021-07-28 2023-02-06 삼성전자주식회사 전자 장치 및 필기 인식 방법

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6079485A (ja) * 1983-10-06 1985-05-07 Sharp Corp 手書き文字認識処理装置
US4672677A (en) * 1984-11-19 1987-06-09 Canon Kabushiki Kaisha Character and figure processing apparatus
JP2662035B2 (ja) * 1989-07-05 1997-10-08 キヤノン株式会社 文字処理装置
US5052482A (en) * 1990-04-18 1991-10-01 S-Cal Research Corp. Catalytic downhole reactor and steam generator
EP0457534B1 (en) * 1990-05-14 2001-10-31 Canon Kabushiki Kaisha Image processing method and apparatus
JP3143461B2 (ja) * 1990-05-29 2001-03-07 キヤノン株式会社 文字認識方法及び文字認識装置
EP0498978A1 (en) * 1991-02-13 1992-08-19 International Business Machines Corporation Mechanical recognition of characters in cursive script
US5329598A (en) * 1992-07-10 1994-07-12 The United States Of America As Represented By The Secretary Of Commerce Method and apparatus for analyzing character strings
US5825921A (en) * 1993-03-19 1998-10-20 Intel Corporation Memory transfer apparatus and method useful within a pattern recognition system
JP3362913B2 (ja) * 1993-05-27 2003-01-07 松下電器産業株式会社 手書き文字入力装置
US5454046A (en) * 1993-09-17 1995-09-26 Penkey Corporation Universal symbolic handwriting recognition system
JP3268923B2 (ja) 1993-11-30 2002-03-25 三洋電機株式会社 手書き編集装置、ペン入力変換方法、及び編集方法
US5745599A (en) * 1994-01-19 1998-04-28 Nippon Telegraph And Telephone Corporation Character recognition method
JPH07296103A (ja) 1994-04-28 1995-11-10 Matsushita Electric Ind Co Ltd オンライン文字認識装置
JPH07334625A (ja) * 1994-06-06 1995-12-22 Nec Corp 文字列入力装置
US5812697A (en) * 1994-06-10 1998-09-22 Nippon Steel Corporation Method and apparatus for recognizing hand-written characters using a weighting dictionary
JP2845149B2 (ja) * 1994-12-28 1999-01-13 日本電気株式会社 手書文字入力装置および手書文字入力方法
JP2939147B2 (ja) * 1994-12-29 1999-08-25 シャープ株式会社 手書き文字入力表示装置および方法
JP2929963B2 (ja) * 1995-03-15 1999-08-03 松下電器産業株式会社 文書検索装置および単語索引作成方法および文書検索方法
JPH08328734A (ja) 1995-06-01 1996-12-13 Canon Inc 入出力一体型情報処理装置
JPH0944600A (ja) 1995-08-01 1997-02-14 Toshiba Corp オンライン文字認識に於ける入力文字予測方法、及びその装置
US5917941A (en) * 1995-08-08 1999-06-29 Apple Computer, Inc. Character segmentation technique with integrated word search for handwriting recognition
US6094506A (en) * 1995-10-25 2000-07-25 Microsoft Corporation Automatic generation of probability tables for handwriting recognition systems
JP3744997B2 (ja) * 1996-01-12 2006-02-15 キヤノン株式会社 文字認識装置及びその方法
US5881169A (en) * 1996-09-13 1999-03-09 Ericsson Inc. Apparatus and method for presenting and gathering text entries in a pen-based input device
DE69724405T2 (de) * 1996-10-04 2004-05-06 Koninklijke Philips Electronics N.V. Verfahren und apparat zur online handschrifterkennung basierend auf merkmalvektoren unter verwendung von agglomerierten beobachtungen aus zeitlich aufeinanderfolgenden sequenzen
US6111985A (en) * 1997-06-06 2000-08-29 Microsoft Corporation Method and mechanism for providing partial results in full context handwriting recognition
CN1156741C (zh) * 1998-04-16 2004-07-07 国际商业机器公司 手写汉字识别方法及装置
US6232962B1 (en) * 1998-05-14 2001-05-15 Virtual Ink Corporation Detector assembly for use in a transcription system
US6507678B2 (en) * 1998-06-19 2003-01-14 Fujitsu Limited Apparatus and method for retrieving character string based on classification of character
US6694056B1 (en) * 1999-10-15 2004-02-17 Matsushita Electric Industrial Co., Ltd. Character input apparatus/method and computer-readable storage medium
JP4536239B2 (ja) 1999-10-15 2010-09-01 パナソニック株式会社 文字入力装置及び方法並びにコンピュータ読み取り可能な記録媒体
EP2317458A1 (en) * 2000-07-28 2011-05-04 RAF Technology, Inc. Orthogonal technology for multi-line character recognition
US7088861B2 (en) * 2003-09-16 2006-08-08 America Online, Inc. System and method for chinese input using a joystick
US7668407B1 (en) * 2004-05-28 2010-02-23 Affiliated Computer Services, Inc. Contextual resolution of character assignments

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9003284B2 (en) 2009-08-27 2015-04-07 Kabushiki Kaisha Toshiba Information search apparatus and system

Also Published As

Publication number Publication date
US20060088216A1 (en) 2006-04-27
US20020071607A1 (en) 2002-06-13
US7013046B2 (en) 2006-03-14
US7885464B2 (en) 2011-02-08
JP2002203208A (ja) 2002-07-19
CN1215433C (zh) 2005-08-17
CN1351310A (zh) 2002-05-29

Similar Documents

Publication Publication Date Title
JP3974359B2 (ja) オンライン文字認識装置及び方法並びにコンピュータ読み取り可能な記憶媒体及びオンライン文字認識プログラム
JP3426180B2 (ja) 手書き漢字を自動的にセグメント分割し、認識するための方法およびシステム
US7756335B2 (en) Handwriting recognition using a graph of segmentation candidates and dictionary search
US5687254A (en) Searching and Matching unrecognized handwriting
US7974472B2 (en) Feature design for HMM based Eastern Asian character recognition
JP3131287B2 (ja) パターン認識装置
JP4686502B2 (ja) オンライン文字認識装置
US20060193519A1 (en) Handling of diacritic points
Kumar et al. 3D text segmentation and recognition using leap motion
EP1564675B1 (en) Apparatus and method for searching for digital ink query
Kumar et al. A lexicon-free approach for 3D handwriting recognition using classifier combination
US20140270529A1 (en) Electronic device, method, and storage medium
K Jabde et al. A comprehensive literature review on air-written online handwritten recognition
JP2003196593A (ja) 文字認識装置および文字認識方法および文字認識プログラム
EP4130966B1 (en) Gesture stroke recognition in touch-based user interface input
JP4346814B2 (ja) 情報処理装置及びその方法、コンピュータ可読メモリ、プログラム
JP4817297B2 (ja) 文字検索装置
JP7095450B2 (ja) 情報処理装置、文字認識方法、および文字認識プログラム
Nguyen et al. Semi-incremental recognition of on-line handwritten Japanese text
Hurst et al. Error repair in human handwriting: an intelligent user interface for automatic online handwriting recognition
JPH07117993B2 (ja) 手書き文字認識のための特定ユーザ用プロトタイプ集合生成方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060620

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070320

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070521

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070612

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070614

R151 Written notification of patent or utility model registration

Ref document number: 3974359

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100622

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100622

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110622

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120622

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120622

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130622

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313121

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees