[go: up one dir, main page]

JP4971594B2 - プログラム及び表示制御装置 - Google Patents

プログラム及び表示制御装置 Download PDF

Info

Publication number
JP4971594B2
JP4971594B2 JP2005048840A JP2005048840A JP4971594B2 JP 4971594 B2 JP4971594 B2 JP 4971594B2 JP 2005048840 A JP2005048840 A JP 2005048840A JP 2005048840 A JP2005048840 A JP 2005048840A JP 4971594 B2 JP4971594 B2 JP 4971594B2
Authority
JP
Japan
Prior art keywords
image
display
unit
digital
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005048840A
Other languages
English (en)
Other versions
JP2005316403A5 (ja
JP2005316403A (ja
Inventor
高司 山本
智之 大野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005048840A priority Critical patent/JP4971594B2/ja
Priority to US11/073,692 priority patent/US7810039B2/en
Publication of JP2005316403A publication Critical patent/JP2005316403A/ja
Publication of JP2005316403A5 publication Critical patent/JP2005316403A5/ja
Priority to US12/837,875 priority patent/US9086790B2/en
Application granted granted Critical
Publication of JP4971594B2 publication Critical patent/JP4971594B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4788Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8146Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • H04N21/8153Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics comprising still images, e.g. texture, background image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Marketing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Position Input By Displaying (AREA)
  • Studio Devices (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、プログラム及び表制御装置に関するものである。
デジタルカメラによって撮影された複数の画像を所望のレイアウトに配置する種々の方法が提案されている。例えば、予め用意されたレイアウトの中から表示する画像の枚数に応じたレイアウトを選択し、画像データおよび文字データ、図形データを挿入して配置する方法が提案されている(特許文献1参照)。また、レイアウトを指定する図柄を記述したシートと配置する画像データを指定するシートを読み込むことによってレイアウトを指定する方法も提案されている(特許文献2参照)。しかしながら、これらの提案においては、レイアウトが予め定められており、自由にレイアウトすることができない。そのため、例えば、画像同士の重なりを含むレイアウトにおいては、表示する画像の内容によっては重要な領域が重なってしまうことがある。従って、重要な領域が隠されてしまうなど、必ずしも適切でない場合がある。また、リビングに置かれたTV装置にこうした画像を表示しつつ、画像内容に応じた会話を楽しむ場合など、画像内容に沿った、あるいはその場の会話に沿った、よりインタラクティブな画像の配置が望まれる。
多くのパーソナルコンピュータ向けの図形配置に関するユーザ操作技術によれば、画像データを自由にレイアウトする場合には、画像を選択する操作と、選択した画像を配置する操作とが必要となる。図12はこうした操作のための表示の例を示す図である。図中、符号900は画像データを自由に配置して表示するアプリケーションの表示部,符号901は表示する画像を選択するために、複数の候補となる画像のアイコン902が表示されるアイコン表示部,符号903は表示画面上にレイアウトされた複数の表示画像,904は表示画像903あるいはアイコン902のうち、操作の対象であることを示すカーソル表示である。
アイコン表示部901に示された画像の一つを選択し、表示部900の任意の位置にこれを配置しようとする場合、先ず、アイコン選択モードにおいて、アイコン表示部901にカーソルを移し、その中から表示しようとする画像のアイコン902にカーソルを移動する。次にアイコン902を選択するための決定操作を行ってアイコン移動モードに移行した後、カーソル表示904のついたアイコン902を任意の位置に移動して、レイアウト決定操作を行い、表示状態を決定する。即ち、表示すべき画像を選択するための操作と、表示位置を決定するための操作と、二つの操作に対してそれぞれカーソルを移動する操作が必要となる。
こうした操作方法は、例えばマウスポインタやペン入力のように表示画面上を直接指定して、直接その位置に操作対象となるカーソルを移動することが可能な操作デバイスを用いた場合、比較的容易に実行することができる。
一方、テレビ受信装置あるいは家庭のリビングで使用されるAV機器の場合には、表示画面の前にマウスポインタやペン入力デバイスなどを操作するためのスペースがある環境にはない。そのため、手にもってボタンを操作する形のリモコンデバイスで操作することが一般的である。
リモコンに設けられた方向ボタンによって、前述のカーソル移動操作を行おうとすると、例えば、図12にあるカーソル表示904をアイコン表示部901のなかで移動させる
場合には、一回のボタン操作によってアイコン一つ分の移動となる。そのため、アイコン表示部901の中で離れた位置にあるアイコン902を選択するためには多くのカーソル移動操作が必要となる。また、表示部900の中で、任意の位置に移動する際は、移動のステップごとのボタン操作が必要となる。従って、離れた位置の間を移動する操作は煩雑であり、いずれも、好適な操作系を構成することが困難となる。
その他に関連する公知技術として、特許文献3に開示されたものがある。
特開平7−184032号公報 特開平10−51576号公報 特開2003−51981号公報
本発明の目的は、ディスプレイ上に画像をレイアウトする操作の操作性を向上することである。
本発明は、上記課題を解決するために以下の手段を採用した。
発明に係るプログラムは、画像記憶装置から第1の画像を取得するステップと、前記画像記憶装置から第2の画像を取得するステップと、前記画像記憶装置の移動を示す所定の情報を検出するステップと、前記第1の画像をディスプレイに表示するステップと、前記第2の画像を前記ディスプレイに表示するステップと、前記第1の画像及び前記第2の画像が前記ディスプレイに表示されている場合、前記画像記憶装置によって前記第2の画像が選択されることなく前記第1の画像が選択されたとき、前記所定の情報に応じて、前記ディスプレイに表示されている前記第1の画像の表示の位置が前記画像記憶装置の移動方向と一致する方向に移動するように前記第1の画像の表示の位置を制御するとともに、前記所定の情報に応じて、前記ディスプレイに表示されている前記第2の画像の表示の位置が前記画像記憶装置の移動方向と一致する方向に移動しないように制御するステップとをコンピュータに実行させるためのプログラムである。
た、本発明に係る表示制御装置は、画像記憶装置から第1の画像を取得し、前記画像記憶装置から第2の画像を取得する取得手段と、前記画像記憶装置の移動を示す所定の情報を検出する検出手段と、前記第1の画像をディスプレイに表示させ、前記第2の画像を前記ディスプレイに表示させる制御手段とを有し、前記第1の画像及び前記第2の画像が前記ディスプレイに表示されている場合、前記画像記憶装置によって前記第2の画像が選択されることなく前記第1の画像が選択されたとき、前記制御手段は、前記所定の情報に応じて、前記ディスプレイに表示されている前記第1の画像の表示の位置が前記画像記憶装置の移動方向と一致する方向に移動するように前記第1の画像の表示の位置を制御するとともに、前記所定の情報に応じて、前記ディスプレイに表示されている前記第2の画像の表示の位置が前記画像記憶装置の移動方向と一致する方向に移動しないように制御することを特徴とする。
これにより、ディスプレイを見ながら、画像記憶装置のディスプレイに対する相対的な位置を変えつつ、選択画像を所望の領域に表示させていくことで、ディスプレイ上に画像をレイアウトできる。
本発明によれば、ディスプレイ上に画像をレイアウトする操作の操作性が向上する。
以下に図面を参照して、この発明を実施するための最良の形態を、実施例に基づいて例示的に詳しく説明する。ただし、この実施例に記載されている構成部品の寸法、材質、形状、その相対配置などは、特に特定的な記載がない限りは、この発明の範囲をそれらのみに限定する趣旨のものではない。
図1〜図5を参照して、本発明の実施例1に係る画像表示方法について説明する。
本実施例においては、デジタルカメラと、デジタルカメラの撮影データを可視化して視聴する機能を有するデジタルテレビと、で構成される画像表示システムを用いた場合を例にして説明する。
図1は本発明の実施例1に係る画像表示方法に用いるデジタルテレビのブロック構成図
である。図中、符号101はチューナ部である。このチューナ部101には、図示しないデジタル放送の受信アンテナからの放送信号やCATVの放送信号が入力される。そして、チューナ部101は、後述する表示制御部111からの制御に基づいて受信信号から所定の伝送チャンネルを選択し、受信された伝送チャンネルの受信データに対する復調、誤り訂正などを実行してトランスポートストリーム(TS)信号を出力する。符号102はデマルチプレクサ部である。このデマルチプレクサ部102は、TS信号から番組配列情報を抽出して後述の表示制御部111に出力するとともに、表示制御部111の制御に従ってTS信号から目的の映像信号、音声信号、データ放送データを分離する。音声信号は映像・音声デコーダ部103でデコードされ、DA変換を含む音声出力部104から音声として出力される。映像信号は、映像・音声デコーダ部103でデコードされ、一旦ビデオメモリ107に書き込まれた後、映像合成部108を通じて表示器113に表示される。表示器113を構成するデバイスは、例えば液晶ディスプレイ、プラズマディスプレイを含むマトリクス電極構造を持つフラットパネルや、ブラウン管によるCRTなどである。分離されたデータ放送信号は記憶部112へ格納され、データ放送の視聴時に表示制御部111へ出力するために読み出される。
符号110は操作入力部である。この操作入力部110は、赤外線信号を利用したリモコンの受信部やデジタルテレビ100に直接設けられた操作スイッチを含み、ユーザの操作を入力して表示制御部111に送る。表示制御部111は、操作入力部107から受信するユーザの操作入力、デマルチプレクサ部102から受信する番組配列情報、あるいは記憶部112から読み出したデータ放送データが入力されて、次の制御を行う。すなわち、表示制御部111は、これらの入力データに基づいて、ユーザに提示するグラフィックデータをビデオメモリ107に書き込み、映像・音声デコーダ部103による映像信号と、後述のデジタルカメラ撮影の静止画像信号を映像合成部108において適宜合成し、表示器113に表示させる。デジタルテレビ100は、以上の構成要素において表示制御部111の統合的な制御動作によってユーザの操作に基づきデジタル放送を受信することにより、目的とする放送番組を視聴することを可能とする。
また、デジタルテレビ100において、符号105はメモリカード入出力部である。このメモリカード入出力部105は、あとで説明するデジタルカメラ200で撮影した画像データを格納した着脱型メモリカードとの接続により、撮影された画像データと付加情報を含む画像データの入出力を行う。また、メモリカード入出力部105は、読み込んだデータを記憶部112に画像ファイルとして格納する。表示制御部111は予め格納されたプログラムに基づいてグラフィカルユーザインタフェースとなる表示をビデオメモリに出力して表示器113に表示する。更に、表示制御部111は、操作入力部110を通じて入力されるユーザ操作に従い、メモリカードから読み込んだ画像データまたは記憶部112に格納された画像ファイルを読み出して画像データを画像処理部106に送る。画像処理部106では画像データのデコードが行われ、ビデオメモリ107を介して、映像合成部108において操作のためのグラフィックと合成される。そして、合成された画像が表示器113に表示される。
また、符号109は無線入出力部である。この無線入出力部109は、後で説明するデジタルカメラ200の無線入出力部208と通信し、制御データおよび画像ファイルの伝送を行う。受信したデジタルカメラの撮影画像ファイルデータはメモリカード入出力部105から入力された画像データと同様に画像ファイルとして記憶部112に格納される。また、デジタルカメラの撮影画像ファイルデータに基づく画像は、画像処理部106を通じて表示器113に表示される。無線通信の手段には、IEEE802.11bによる無線LAN、Bluetooth(R)による近距離無線などが使用される。
デジタルテレビ100においては、以上の構成要素において表示制御部111の統合的
な制御動作によって、ユーザの操作に基づきデジタルカメラ200で撮影した画像を視聴することが可能となる。
図2は本発明の実施例1に係る画像表示方法に用いるデジタルカメラのブロック構成図である。図中、符号201は、レンズ、絞り、などの光学系と撮像素子、素子駆動回路などを含み、画像を電子的に撮影して非圧縮画像データを出力するデジタルカメラの撮像部である。符号202は非圧縮の画像データを圧縮し、また、記録メディアから後述のメモリカード入出力部206から読み出された圧縮画像データを伸張すると同時に表示部203に表示するための画像データ信号を出力する圧縮伸張部である。符号206はメモリカード入出力部である。このメモリカード入出力部206は、圧縮された画像データに必要な付加データを加えて画像ファイルを構成して、これを記録メディアであるメモリカード209に格納する。また、メモリカード入出力部206は、記録メディアから画像ファイルを読み出し表示部203で表示するための圧縮画像データや必要な情報を取り出す。表示部203は、例えば、液晶ディスプレイ(LCD)で構成される。液晶ディスプレイに代えて、有機ELディスプレイやその他の平面ディスプレイを用いることもできる。
符号208は無線入出力部である。この無線入出力部208は、デジタルテレビ100の無線入出力部109と通信して、画像データおよび制御情報を送信する。画像データは、デジタルカメラ200で撮影されてメモリカード209に格納された画像ファイルから制御部205によって読み出され、無線入出力部208に供給される。また、制御データは、操作入力部204及び位置検出部207から出力される情報に基づき制御部205によって生成されるデータである。無線通信の手段には、IEEE802.11bによる無線LAN、Bluetooth(R)による近距離無線などが使用されることはデジタルテレビの無線入出力部109で述べたとおりである。
符号207は位置検出部である。この位置検出部207は、ユーザがデジタルカメラ200本体を上下左右または前後に動かしたり、傾けたりすることでデジタルカメラ200に対する操作入力を行うものである。本実施例においては、位置検出部にXYZ三軸の加速度ンサを用い、加速度センサ出力信号に応じて移動の方向、時間あたりの移動量、回転角度を出力する。
符号204は撮影のトリガーとなるシャッターボタンや表示画像を選択し決定するための方向/決定ボタンを始め、ユーザのデジタルカメラ200への操作を入力する操作入力部である。
図3は本発明の実施例1に係るデジタルカメラの外観図である。なお、図3においては、上方から見た外観図(上)と裏面から見た外観図(下)を示している。この図は、上記図2を参照して説明した操作入力部204を構成するボタンなどの要素を説明するものである。図中、符号221は電源ボタンである。この電源ボタン221は、デジタルカメラ200の電源の投入および遮断を操作する。符号222はシャッターボタンである。このシャッターボタン222の全押しによって撮影時の撮像動作にトリガー操作を与えるとともに、ボタンの半押しによって撮影直前に撮影のためのフォーカス動作を開始させ、撮影条件に関する表示を開始させる操作を行うボタンである。符号223はズームボタンであり、これにより撮影時のズーム操作を行う。また、このズームボタン223は、撮影画像の視聴時においては表示画像の拡大、縮小の操作を行うために用いられる。符号224はファインダーであり、図示しない撮像部のレンズを通して撮影範囲の確認を行うものである。符号225はデジタルカメラ200の動作モードを切り替えるスイッチである。このスイッチ225により、撮像部201によって画像を撮影する撮影モード、メモリカード209に格納された撮影画像を液晶モニタ226に表示して視聴する再生モード、メモリカード209に格納された撮影画像をデジタルテレビ100の表示器113で表示して視
聴するテレビ視聴モード、のいずれかを選択することができる。符号227は表示部203に表示される操作に関するグラフィックデータ上のフォーカスを移動して操作項目を選択し決定する操作を行うための方向ボタン及び決定ボタンである。また、符号226は表示部203を構成する液晶モニタであり、228はその他の操作ボタンである。
図2中、符号205は、これまで説明したデジタルカメラ200の構成要素を有機的に制御して、デジタルカメラの機能をユーザに提供する制御部である。制御部205は、ユーザがデジタルカメラ200を目的の撮影に適した状態に設定するためのグラフィック要素を表示部203に表示するとともに、操作入力部204を介して入力されるユーザ操作に基づいてデジタルカメラ200の各部の動作条件を制御する。デジタルカメラ200が撮影モードに設定されたとき、被写体に向けられた撮像部201への画像の入力状態を、逐次圧縮伸張部202を通じて表示部203に表示する。そのため、表示部203はファインダーとして機能する。また、制御部205は、ユーザが目的の撮影条件が整ったと判断した瞬間に操作入力部204のシャッターボタンを押すと、設定に応じて図示しないストロボ手段の発光を制御し、そのタイミングで撮像部201において撮影された画像データを圧縮伸張部202で圧縮する。更に、制御部205は、図示しないカレンダ時計から現在の日付時刻データを獲得し、デジタルカメラの情報及び撮影条件に関する情報とともに付加情報として画像ファイルを構成する。そして、制御部205は、当該画像ファイルを、メモリカード入出力部206を介してメモリカード209に格納する。
また、制御部205は、デジタルカメラ200が再生モードに設定されたとき、メモリカード入出力部206を介してメモリカード209に格納された画像データから撮影画像データを読出し、圧縮伸張部202を介して表示部203に表示する。操作入力部204の左右の方向ボタン操作により、表示対象となる画像が順次変更される、また、操作入力部204のズームボタンの操作により、表示される画像が拡大、または縮小される。拡大表示状態にあるとき、操作入力部204の上下左右の方向ボタン操作により、画像データ内の表示領域を移動することができる。
デジタルカメラ200がテレビ視聴モードにあるとき、制御部205の動作により、またデジタルテレビ100の表示制御部111と連携して動作することによって、撮影画像を本システムのデジタルテレビ100の表示器113に表示して視聴することが出来る。
図4は本発明の実施例1に係る画像表示方法の手順を示すフローチャート図である。この図においては、テレビ視聴モードにおけるデジタルカメラ200とデジタルテレビ100の動作を制御データ、画像データのフローを中心に説明する図である。
テレビ視聴モードは、ユーザのデジタルカメラ200への動作モード切替操作で開始される(S101)。動作モードスイッチ225の操作を検出した制御部205はデジタルカメラ200の無線入出力部208とデジタルテレビ100の無線入出力部109を通じ、動作モードがテレビ視聴モードに設定された旨の動作モード情報通知をデジタルテレビ100の表示制御部111へ通知する(S102〜S104)。デジタルカメラ200の制御部205は、続いてメモリカード209に格納され表示の対象となる画像データをデジタルテレビ100に送信するよう制御する(S105)。画像データはメモリカード209から無線を通じてデジタルテレビ100の記憶部112に転送され、格納される(S106〜S108)。
動作モードをテレビ視聴モードに設定したユーザは、デジタルテレビ100に表示して視聴しようとする画像をデジタルテレビ100の液晶モニタを用いて選択する。即ち、デジタルカメラ200の左右の方向ボタン227を操作すると、操作入力部204の出力(S109、S112)が制御部205で検出される。そして、制御部205は対象となる
画像データをメモリカードから読み出して表示部203で表示するよう制御する(S110、S113およびS111、S114)。
ユーザは表示しようとする画像を見つけると、デジタルカメラ200をデジタルテレビ100に向けてシャッターボタン222を半押しする。仮表示操作としての操作入力部204の出力は制御部205で検出される(S115)。そして、無線を通じてデジタルテレビ100の表示制御部111に、選択された画像を指定する情報と仮選択操作が行われたことが通知される(S116〜S118)。表示制御部111は指定された画像の画像データを記憶部112から読出し、画像処理部106を通じて表示器113に表示されるよう制御する(S119〜S120)。ここで、画像が表示器113に表示されるとは、画像が表示器113上の一部の領域に表示されること、すなわち、表示器113の表示領域の外周内における一部の領域に画像が表示されることをいう。
デジタルテレビ100の表示器113に目的の画像が表示された状態で、ユーザがデジタルカメラ200の本体を上下および左右に移動させることにより、表示器113に表示された画像の表示位置を調整することができる。即ち、デジタルカメラ本体の位置検出部207で検出されるデジタルカメラ200の移動量に基づき制御部205から位置情報が無線を通じてデジタルテレビ100の表示制御部111に通知される(S121〜S124)。表示制御部111は通知された位置情報をもとに、ビデオメモリ107及び映像合成部108を制御して表示器113上に表示される画像データの表示位置を制御する(S125)。位置情報の通知はデジタルカメラ200の移動検出ごと、または一定時間ごとに繰り返し行われ(S126〜S130及びS131〜S135)、ユーザは表示器113上の所望の表示位置に画像を移動させることができる。
ユーザが半押し状態に操作していたシャッターボタン222を全押しすることにより、表示器113上の画像の表示位置を決定することできる。即ち、シャッターボタン222の全押しを、制御部205が検出した場合(S136)、無線を通じ表示位置決定通知をデジタルテレビ100の表示制御部111に通知する(S137〜S139)。表示制御部111はこの通知に基づき、ビデオメモリ107及び映像合成部108を制御して表示器113上に表示される画像データの表示位置を決定する(S140)。
図5は本発明の実施例1に係る画像表示方法の具体的手順の説明図である。すなわち、図5は上述したデジタルカメラ本体の移動と表示器113上の画像表示位置の変化を説明する図である。図5(a)はデジタルテレビ100とデジタルカメラ200の位置関係を示す図である。この図においては、デジタルカメラ200をデジタルテレビ100の表示面に対向した位置で上下左右、あるいは回転方向に移動させると、デジタルテレビ100の表示器113に表示された画像の表示位置も同じ方向に移動することを示している。また、デジタルカメラ200の左右ボタンによって液晶モニタ上で表示対象となる画像を選択することができ(同図(b))、シャッターボタン222の半押しによってデジタルテレビ100の表示器113に選択した画像(図では画像B)を表示させることができ(同図(c))、デジタルカメラ200の移動によって選択画像の表示位置を移動させることができる(同図(d))。また、デジタルカメラ200の回転によって表示方向を回転させることができ(同図(e))、デジタルテレビ100に近づける動作によって他の画像との重なり関係をより下側になるようにすることができる(同図(f))。つまり、重なった領域部分においていずれの画像を表示させるかを選ぶことができる。更に、シャッターの全押しによって表示状態の決定を行うことができる(同図(g))。図5において、選択して位置調整の対象となった画像(図の画像B)には、表示された画像の周囲を着色し、操作対象であることを示している。こうしたフォーカス表示は表示状態を決定した時点で終了する(同図(g))。図5においては、他の画像(図の画像A)との重なり関係をより下側に変更する動作を示したが、デジタルカメラ200をデジタルテレビ100か
ら遠ざける動作によって、より上に重なるように変更することも可能である。
図4に戻り、デジタルカメラ200において、既にデジタルテレビ100に表示された画像を選択した場合の動作について説明する。図において、ユーザの操作入力によってデジタルカメラ上の液晶モニタ上で画像が選択され(S151〜S157)、制御部205から無線を介してデジタルテレビ100の表示制御部111に選択画像の指定情報および仮選択操作が通知される。このとき、指定された画像がデジタルテレビ100の表示器113において既に表示されている画像であった場合には、表示制御部111は既に表示されている画像を表示位置制御の対象とする(S161〜S163)。そして、その後通知されるデジタルカメラ200の位置情報によって、指定された画像の既に決定された位置を移動して表示する(S164〜S178)。
デジタルカメラ200の位置に応じて画像の表示位置を移動する仮選択表示状態において、ユーザがデジタルカメラ200のズームボタン223を操作した場合、操作入力部204の出力(S179)を検出した制御部205は、無線を介してデジタルテレビの表示制御部111へズーム操作を表示制御情報として通知する(S180〜S182)。表示制御部111は画像処理部106を通じて表示する画像の拡大、または縮小画像を作成し、ビデオメモリ107、映像合成部108を介して表示器113に拡大、または縮小画像を表示させる(S183〜S184)。このとき、デジタルカメラ200の制御部205は液晶モニタにも同様の拡大、または縮小画像を表示させる。
また、拡大縮小操作中にユーザが方向ボタン227を操作した場合、同様の経路を通じて表示制御部111に表示制御情報を通知する(S185〜S188)。表示制御部111では、拡大,縮小表示の中心位置を調整し、表示器113に表示する画像中の表示領域を変更する(S189〜S190)。ユーザがデジタルカメラ200のシャッターボタン222を全押しする操作によって、こうした表示状態が決定され、デジタルテレビ100の表示器113上の表示状態が固定される(S191〜S195)ことは、すでに説明した通りである。
以上説明したとおり、本実施例のシステムにおいては、複数の撮影した画像を格納しているデジタルカメラにおいて表示の対象となる画像を選択し、画像を表示するデジタルテレビの表示器上で、デジタルカメラとデジタルテレビとの相対位置に応じた位置に選択した画像を表示するステップと、さらにデジタルカメラ上で選択した別の画像をデジタルカメラとデジタルテレビの他の相対位置に表示するステップと、を有する。これにより、デジタルテレビの表示画面上で表示の対象となる画像を選択するための操作が不要となる。従って、リビングなどに設置され机など平面スペースがなく、マウスやペン入力など直接平面内の位置を指定できる入力デバイスが使用できない操作環境においても、簡便な操作による複数の画像のレイアウトを実現することができる。
また、画像データを選択して液晶モニタに表示させたデジタルカメラ本体を、直接移動することで、デジタルテレビの表示器上の画像位置を移動させることができる。従って、あたかも掌中にある複数の写真カードの束から目的の写真カードを一番表に移し、この写真カードの束を直接動かして表示したい場所に置くことができるかのような操作が可能となり、現実の模倣による直感的で判りやすい操作をすることができる。
本実施例の説明においては、デジタルカメラのメモリカードに格納された画像データを、操作の開始時に一括して転送し、デジタルカメラ上の画像選択時には選択情報のみを通知するとして説明した。これは、画像の選択からデジタルテレビ上への画像表示までに要する時間を短縮するために採用した構成である。ただし、画像データの転送が充分な性能であれば、ユーザ操作による画像の選択の度に画像データを転送する構成を採用すること
も可能である。
また、画像データの一括転送の方法は、表示対象となる複数の画像データを格納したメモリカードなどのリムーバブルメディアを、操作の開始時、あるいはそれ以前に予めデジタルカメラからデジタルテレビに移して接続してもよい。また、無線による一括転送であって、デジタルカメラとデジタルテレビとが無線を通じてお互いを認識した時点で、動作モードがテレビ視聴モードに操作される前に画像データを予め転送し、デジタルテレビの記憶部に格納してもよい。
また、無線通信には赤外線を用いた方法も利用することができる。ただし画像データの転送に時間を要するため、予め画像データを転送する手段や、メモリカードによって予め画像データを移動するなどの手段と併用するとより効果的である。また、デジタルカメラの移動を妨げない範囲においてであれば、有線による接続を用いた通信であっても本発明の趣旨を損なうものではない。
図6〜図11を参照して、本発明の実施例2に係る画像表示方法について説明する。
本実施例においては、デジタルカメラとデジタルビデオカメラを接続し、デジタルカメラの撮影画像を可視化して視聴する機能を有するデジタルテレビ同士をネットワークで接続し、デジタルカメラの撮影画像の視聴を共有するシステムを用いた場合を例にして説明する。
図6は本発明の実施例2に係る画像表示方法に用いるシステム全体の構成図である。図6において、符号301は、アンテナ302を通じて放送波を受信しテレビ番組を視聴するデジタルテレビ(1)である。デジタルテレビ(1)301は、無線通信手段で接続されたデジタルカメラ(1)304からの撮影画像データを受信し、これを表示する機能を有する。また、デジタルテレビ(1)301は、デジタルビデオインタフェースを通じて接続されたデジタルビデオカメラ(1)303が撮影するユーザの様子を撮影した映像データとデジタルカメラ(1)304の撮影画像データを、接続されたネットワーク320(インターネット)に送信する機能を持つ。ネットワーク320には、同様のデジタルテレビ(2)311が接続され、デジタルテレビ(2)311は受信した映像データおよび画像データを表示する。このように、デジタルテレビ(2)311は、そのユーザに対して、デジタルテレビ(1)301のユーザとともにデジタルカメラ(1)304の撮影画像の視聴を共有させる機能を持つ。
デジタルテレビ(2)311はデジタルテレビ(1)301同様の構成を有している。すなわち、デジタルテレビ(2)311はアンテナ312を通じて放送波を受信してテレビ番組視聴を行わせる機能と、無線接続されたデジタルカメラ(2)314の撮影画像データを受信して視聴させる機能と、デジタルビデオインタフェースを通じて接続されたデジタルビデオカメラ(2)313が撮影するユーザの様子を撮影した映像データとデジタルカメラ(2)314の撮影画像データをネットワーク320に送信する機能を有する。一方、デジタルテレビ(1)301は、受信したこれらの映像データおよび画像データを表示させ、その視聴をデジタルテレビ(2)311のユーザと共有させる機能を持つ。
図7は本発明の実施例2に係る画像表示方法に用いるデジタルテレビのブロック構成図である。図中、符号321はチューナ部である。このチューナ部321には、デジタルテレビ放送の受信アンテナ(図10に示したアンテナ302)からの放送信号やCATVの放送信号が入力される。そして、チューナ部321は、後述する制御部330からの制御に基づいて受信信号から所定の伝送チャンネルを選択し、受信された伝送チャンネルの受
信データに対する復調、誤り訂正などを実行しトランスポートストリーム(TS)信号を出力する。符号322はデマルチプレクサ部であり、TS信号から番組配列情報を抽出して後述の制御部330に出力するとともに、制御部330の制御に従ってTS信号から目的の映像信号、音声信号、データ放送データを分離する。音声信号は映像・音声デコーダ部323でデコードされ、DA変換を含む音声出力部324から音声として出力される。映像信号は映像・音声デコーダ部323でデコードされ、映像合成部327に含まれるビデオメモリに書き込まれた後、映像合成部327を通じて表示部329に表示される。表示部329を構成するデバイスは、例えば液晶ディスプレイ、プラズマディスプレイを含むマトリクス電極構造を持つフラットパネルや、ブラウン管によるCRTなどである。
分離されたデータ放送信号は記憶部331へ格納され、データ放送の視聴時に制御部330に再び読み出される。
符号332は操作入力部である。この操作入力部332は、赤外線信号を利用したリモコンの受信部やデジタルテレビ(1)301に直接設けられた操作スイッチを含み、ユーザの操作を入力して制御部330に送る。制御部330は操作入力部332から受信するユーザの操作入力、デマルチプレクサ部322から受信する番組配列情報、あるいは記憶部331から読み出したデータ放送データが入力されて、次の制御を行う。すなわち、制御部330は、これらの入力データに基づいて、ユーザに提示するグラフィック信号を映像合成部327に含まれるビデオメモリに書き込み、映像・音声デコーダ部323による映像信号と、後述のデジタルカメラ撮影の静止画像信号を合成し、表示部329に表示させる。デジタルテレビ(1)301は、以上の構成要素において制御部330の統合的な制御動作によって、ユーザの操作に基づきデジタル放送を受信することにより、目的とする放送番組を視聴することを可能とする。
また、デジタルテレビ(1)301において、符号333はメモリカード入出力部である。このメモリカード入出力部333は、あとで説明するデジタルカメラ(1)304で撮影した画像データを格納した着脱型メモリカードとの接続により、撮影された画像データと付加情報を含む画像データの入出力を行う。また、メモリカード入出力部333は読み込んだデータを記憶部331に画像ファイルとして格納する。制御部330は予め格納されたプログラムに基づいてグラフィカルユーザインタフェースとなる表示をビデオメモリに出力して表示部329に表示する。更に、制御部330は操作入力部332を通じて入力されるユーザ操作に従い、メモリカードから読み込んだ画像データまたは記憶部331に格納された画像ファイルを読み出して画像データを静止画デコーダ部326に送る。静止画デコーダ部326では圧縮符号化された画像データのデコードが行われ、画像処理部328により必要に応じて縮小拡大処理が施された後、映像合成部327において操作のためのグラフィックと合成される。そして、合成された画像が表示部329に表示される。
また、符号334は無線入出力部である。この無線入出力部334は、後で説明するデジタルカメラ(2)314の無線入出力部208と通信し、制御データおよび画像ファイルの伝送を行う。受信したデジタルカメラの撮影画像ファイルデータはメモリカード入出力部333から入力された画像データと同様に画像ファイルとして記憶部331に格納され、同様の信号処理を通じて表示部329に表示される。無線通信の手段には、IEEE802.11bによる無線LAN、Bluetooth(R)による近距離無線などが使用される。
デジタルテレビ(1)301においては、以上の構成要素において制御部330の統合的な制御動作によって、ユーザの操作に基づきデジタルカメラで撮影した画像を視聴することが可能となる。
また、符号335はデジタルビデオインタフェース部である。このデジタルビデオインタフェース部335は、デジタルビデオカメラ(1)303との接続により、デジタルビデオカメラ(1)303の制御のための通信、およびデジタルビデオデータの通信を行う。制御部330はユーザに提示するグラフィックによるデジタルビデオカメラ(1)303の操作パネルを表示部329に表示する。そして、ユーザはリモコンによって操作パネル上のグラフィック要素を操作することによって、デジタルビデオカメラ(1)303を操作することができる。即ち、制御部330は操作パネルの表示に対して操作入力部332を通じて入力されるユーザの操作入力に基づき、デジタルビデオカメラ(1)303の制御コマンドを生成し、これを、デジタルビデオインタフェース部335を通じてデジタルビデオカメラ(1)303へ送信する。デジタルビデオカメラ(1)303はこのコマンドに応じて記録されたビデオ映像データ、またはビデオカメラで撮影されたビデオ映像データを送信する。そして、デジタルビデオインタフェース部335を通じて受信されたビデオ映像データは、映像・音声デコーダに送られ音声出力部324および表示部329を通じて映像と音声が再生される。
デジタルビデオカメラ(1)303の接続には、例えばIEEE1394に定める高速シリアル通信を用いることが出来る。デジタルビデオカメラ(1)303は、例えば1394 Trade Associationが定めるAV/C Camera Subunit SpecificationおよびAV/C Tape Recorder/Player Subunit Specificationに基づくコマンドセットによって制御され、IEC61883 Consumer audio/video equipment−Digital interfaceに従って映像信号を転送する。
以上の構成要素において制御部330の統合的な制御動作によって、ユーザの操作に基づきデジタルビデオカメラによる映像および音声をデジタルテレビ(1)301で視聴することが可能となる。
図8は本発明の実施例2に係る画像表示方法に用いるデジタルカメラのブロック構成図である。デジタルカメラ(1)304においては、上記実施例1におけるデジタルカメラ200とほぼ同様の構成を持ち、同様の動作を行う。図8において上記実施例1で説明したデジタルカメラ200と同一の構成であり、かつ同一の機能(動作)行う部材には同一の符号を付与して、その説明は省略する。デジタルカメラ200との相違は、位置検出部を持たない点にある。従って、制御部305は位置検出部の制御機能を持たず、デジタルカメラ(1)304の位置変化に関する通信をデジタルテレビ304と行わない点において、実施例1におけるデジタルカメラ200の制御部205と異なっている。
以上、デジタルテレビ(1)301とデジタルカメラ(1)304について説明した。ここで、デジタルテレビ(2)311はデジタルテレビ(1)301と同一の構成を持ち、同様の動作を行うものである。また、デジタルカメラ(2)314はデジタルカメラ301と同一の構成を持ち、同様の動作を行うものである。従って、これらの説明は省略する。デジタルテレビ(1)301およびデジタルテレビ(2)311は、放送番組を視聴する動作、デジタルカメラの画像を視聴する動作、デジタルビデオカメラの映像を視聴する動作に加え、ネットワークを通じて相互に接続し、双方のユーザの姿を互いに相手のデジタルテレビに示し、デジタルカメラの画像視聴を共有する動作を行うことができる。本実施例においては、この動作を同期視聴動作と呼ぶ。
デジタルカメラ304の構成は、上記実施例1で図3に示すデジタルカメラ200と基本的に同一であるので、同一の構成部分に同一の符号を付して、その説明は省略する。
図9は本発明の実施例2に係る画像表示方法の手順を示すフローチャート図である。この図は本実施例のシステムにおける同期視聴動作について、デジタルテレビ(1)および(2)、デジタルカメラ(1)および(2)、デジタルビデオカメラ(1)および(2)の間の制御データ、画像データ、映像データのフローを中心に説明する図である。
デジタルテレビの同期視聴動作はデジタルカメラへの動作モード切替操作で開始される。デジタルテレビ(1)301のユーザ(1)がデジタルカメラ(1)304のスイッチ225をテレビ視聴モードに設定する(S200)。これをデジタルカメラ(1)304が検出すると、デジタルカメラ(1)304は無線を通じデジタルテレビ(1)301へ通知する(S201)。デジタルテレビ(1)301では通知を受けた制御部330がネットワークインターフェース部338を介し、ネットワーク320を通じて動作モード情報としてデジタルテレビ(2)311へ通知する(S202)。この通知を受けたデジタルテレビ(2)311ではデジタルビデオインタフェース部を通じてデジタルビデオカメラ(2)313へコマンドによるビデオ制御信号を送り(S202)、デジタルビデオカメラ(2)313に撮影したビデオ映像信号を出力させる(S203)。これを受信したデジタルテレビ(2)311は、ネットワーク220を通じてデジタルテレビ(1)301へビデオ映像信号を転送する。そして、デジタルテレビ(1)301ではネットワークインターフェース部338でこれを受信する。そして、受信したビデオ映像信号はデマルチプレクサを介し映像・音声デコーダ部へ送られ、音声出力部324と表示部329で出力される。即ち、デジタルテレビ(2)311のユーザ(2)の様子を撮影した映像データがデジタルテレビ(1)301へ送信され、表示される。
デジタルテレビ(1)301では、ユーザ(2)のビデオ映像の表示を開始するとともに、デジタルビデオカメラ(1)303へデジタルビデオインタフェースを通じてコマンドによるビデオ制御信号を送り(S205)、デジタルビデオカメラ(1)303で撮影したビデオ映像信号を出力させる(S206)。これを受信したデジタルテレビ(1)301は、ネットワーク220を通じてデジタルテレビ(2)311へビデオ映像信号を転送する(S207)。そして、デジタルテレビ(2)311ではデジタルテレビ(1)301と同様の動作によってビデオ映像の出力を行う。即ち、デジタルテレビ(1)301のユーザ(1)の様子を撮影した映像データがデジタルテレビ(2)311へ送信され、表示される。こうしてユーザ(1)とユーザ(2)は、デジタルテレビ(1)301とデジタルテレビ(2)311によってお互いの姿を映像で見ながら会話を行う、所謂テレビ会議のような状況を開始することができる。
次に、ユーザ(1)は、手元のデジタルカメラ(1)304の液晶モニタを用いて視聴しようとする画像を選択する。即ち、デジタルカメラ(1)304の左右の方向ボタン227を操作し、液晶モニタに表示される画像を順に変更する(S208〜S209)。ユーザ(1)は表示しようとする画像を見つけるとデジタルカメラ(1)304をデジタルテレビ(1)301に向けて、デジタルカメラ(1)304のシャッターボタン222を半押しする。デジタルカメラ(1)304では検出された操作をデジタルテレビ(1)301に通知する(S211)とともに、該当する画像の画像データをデジタルテレビ(1)301へ無線を通じて送信する(S213)。デジタルテレビ(1)301では、デジタルテレビ(2)311に対しネットワークを通じて仮選択された画像に関する情報を通知する(S212)とともに、受信した画像データを送信する(S214)。デジタルテレビ(2)311においては、ネットワークインターフェース部338で受信した画像データを一旦記憶部331に格納する。
デジタルカメラ(1)304から仮選択の通知を受けったデジタルテレビ(1)301においては、制御部330の制御において仮選択送信動作を行う。即ち、デジタルビデオカメラ(1)303から入力される映像データの中からデジタルカメラ(1)304の位
置(デジタルテレビ(1)301に対する位置)を検出し、位置情報としてデジタルテレビ(2)311へ通知する。
映像データからデジタルカメラ(1)304の位置情報を抽出する機能は、デジタルテレビ(1)301の画像パターン検出部336で行われる。画像パターン検出部336はデジタルビデオインタフェース部335で受信されるデジタル映像データをデコードし、フレームごとの映像のなかから予め登録されたデジタルカメラ(1)304の外観を示す画像パターンを検出し、フレーム平面内の位置情報および傾き情報として制御部330に通知する。制御部330は他の操作入力を加味しつつ、ネットワークインターフェース部338を通じ、位置情報通知としてデジタルテレビ(2)311へ送信する。
仮選択の通知を受け取ったデジタルテレビ(2)311においては、制御部330の制御において仮選択受信動作を行う。即ちデジタルテレビ(1)301から受信した画像データを、継続して受信する位置情報通知に基づいてデジタルテレビ(1)301から受信する映像データに重畳して表示する。
仮選択受信操作においてデジタルテレビ(2)311の制御部330は、ネットワークを通じて受信し、かつ記憶部331に格納した画像データを、静止画デコーダ部326に送り、圧縮符号化された画像を展開する。画像処理部328へ送られた非圧縮の画像データは、後で説明する表示制御通知に基づくズーム設定に従い画像データの拡大または縮小処理が行われ、映像合成部327のビデオメモリに書き込まれる。映像合成部327においては、通知された位置情報で指定された映像データのフレーム内位置に画像データを合成して、表示部329へ出力する。表示部329においては、映像データ内に写されたデジタルカメラ(1)304の画像の位置に、ユーザ(1)がデジタルカメラ(1)304で選択した撮影画像が合成されて表示される。
次に、ユーザ(1)は、選択した画像が所望の位置に達したとき、デジタルカメラ(1)304のシャッターボタン222を全押しして、画像の表示位置を決定する。即ち、シャッターボタン222の全押し操作(S218)は無線を介してデジタルテレビ(1)301へ通知される。デジタルテレビ(1)301は、ネットワークを通じてデジタルテレビ(2)311へ表示位置決定通知として送信する。デジタルテレビ(2)311においては、制御部330が、ネットワークインターフェース部338で受信した表示位置決定通知に基づき、映像合成部327に対して映像データに対する画像データの合成位置を現在の位置で固定するように制御する。以後、映像データ内に写されたデジタルカメラ(1)304の位置が変化しても、合成される画像の位置はそれに追従しない。表示部329においては、固定した位置に画像が表示され、その後ろでユーザ(1)の姿を写した映像が表示される。
図10及び図11は本発明の実施例2に係る画像表示方法にしたがって画像表示を行っている様子の一例を示す模式図である。すなわち、図10及び図11は、上記の動作におけるユーザの動作とデジタルテレビの表示の状態を模式的に示したものである。図10は、デジタルテレビ(1)301とデジタルテレビ(2)311における表示レイアウトと、デジタルカメラ(1)304の動きに対するデジタルテレビ(2)311上の画像データの表示位置との関係を示している。図中、符号401はユーザ(1)であり、右手にデジタルカメラ(1)304を持ち、デジタルテレビ(1)301の表示を見ている様子がデジタルビデオカメラ303によって撮影されている。図示されないが、デジタルカメラ(1)304のシャッターボタンは半押し状態である。デジタルカメラ(1)304の液晶モニタ402にはユーザ(1)401が選択した操作した画像Aが表示されている。デジタルテレビ(1)301の表示部には相手ユーザの様子(403)が表示され、子画面404には相手デジタルテレビに表示される自分の様子がモニタとして表示されている。
一方、420はユーザ(2)であり、デジタルテレビ(2)311の表示を見ている様子がデジタルカメラ313によって撮影されている。デジタルテレビ(2)311の表示器には相手ユーザであるユーザ(1)の様子(422)が表示され、子画面421には相手デジタルテレビに表示される自分の様子がモニタとして表示されている。相手ユーザの様子(422)において、ユーザ(1)が右手に持つデジタルカメラ(1)304の位置には、ユーザ(1)401がデジタルカメラ(1)304で選択した画像(A)422が表示されている。
今、ユーザ(1)401が右手に持ったデジタルカメラ(1)304をデジタルテレビ(1)301の表示面に対しおよそ平行な面内で上または右に移動させる。デジタルビデオカメラ303が撮影する映像中のデジタルカメラ(1)304の位置は上または左に移動するので、デジタルテレビ(2)311に表示される画像A(422)の位置は表示面内で上または左に移動する。即ち、デジタルテレビ(2)311に合成表示されるユーザ(1)401の様子は、デジタルカメラ(1)304の代りに選択した画像Aを持ってユーザ(2)420に示しているようかの様に表示される。デジタルカメラ(1)304をデジタルテレビ(1)301の表示面に対しおよそ平行な面内で回転させた場合も同様である。この様子はデジタルテレビ(1)301の子画面404によって表示されるので、ユーザ(1)は合成された映像画面の効果を確かめながらデジタルカメラ(1)304を操作することができる。
図11における(a)から(g)は、ユーザ(1)401がデジタルカメラ(1)304で画像Bを選択し、仮選択状態で表示位置を調整して、表示位置を決定するまでのユーザの様子とデジタルテレビの表示状態を模式的に示した図である。図の最左列はデジタルテレビ(1)301に正対し、デジタルビデオカメラ(1)303に撮影されるユーザ(1)の姿を後ろから見た様子、次の第2列はデジタルテレビ(1)301の表示の様子、第3列はデジタルテレビ(2)311の表示の様子、最右列はデジタルテレビ(2)311に正対し、デジタルビデオカメラ(2)313に撮影されるユーザ(2)420の姿を後ろから見た様子を模式的に示すものである。
同図(a)において、ユーザ(1)401はデジタルカメラ(1)304の左右ボタンによって液晶モニタ上で表示対象となる画像(B)を選択する。この様子を表示するデジタルテレビ(2)311の表示には、それ以前の操作によって表示された画像(A)が表示され、デジタルカメラ(1)304の像が表示されている。ユーザ(1)401のシャッターボタンの半押しによって、デジタルテレビ(2)311においてはデジタルカメラ(1)304の位置に選択した画像(図ではB)を表示させることができる(同図(b))また、ユーザ(1)がデジタルカメラ(1)304を移動することによって選択画像の表示位置を移動でき(同図(c))、また、デジタルカメラ(1)304の回転によって画像(B)の表示方向を回転できる(同図(d))。また、デジタルカメラ(1)304の他の操作入力によって、デジタルテレビ(2)311に表示された他の画像(A)との重なり関係をより下側になるように制御でき(同図(e))、シャッターの全押しによって表示状態を決定できる(同図(f))ことを示している。図の(f)においてはデジタルテレビ(2)311に表示されるデジタルカメラ(1)304の像が画像(B)の裏側に隠れているが、表示状態を決定した時点で画像(B)の表示位置は固定されており、デジタルカメラ(1)304を移動させれば、その像はデジタルテレビ(2)311の表示上に現れる(同図(g))。
図において選択して位置調整の対象となった画像(図のB)には、表示された画像の周囲を着色し、操作対象であることを示している。こうしたフォーカス表示は表示状態を決定した時点で終了する(同図(f))。図の(e)においては、他の画像(A)との重な
り関係をより下側に変更する動作を示したが、デジタルカメラ(1)304における同様の操作入力によって、他の画像より上に重なるように変更することも可能である。
図9に戻り、デジタルカメラ(1)304において、既にデジタルテレビ(2)311に表示された画像を選択した場合の動作について説明する。図において、ユーザの操作入力によってデジタルカメラの液晶モニタ上で画像が選択され(S250〜S252)、デジタルカメラ(1)304から無線を介してデジタルテレビ(1)301に当該画像が通知される(S253)。このとき、指定された画像がデジタルテレビ(2)311において既に表示する指定を通知した画像であった場合には、デジタルテレビ(1)301はネットワークを通じて選択画像の指定情報および仮選択操作をデジタルテレビ(2)311に送信する(S254)が、通知とともにデジタルカメラ(1)304から受信した画像データをデジタルテレビ(2)311へは送信しない。画像選択および仮選択通知を受信したデジタルテレビ(2)311では、制御部330の制御において既に表示されている画像を表示位置制御の対象として、その後通知される位置情報(S256〜258)によって、指定された画像を既に決定された位置から通知された位置情報に従った位置に移動して表示する。
デジタルカメラの位置に応じて画像の表示位置を移動する仮選択表示状態において、ユーザがデジタルカメラ(1)304のズームボタン223を操作した場合(S259)、デジタルカメラ(1)304は無線を介してデジタルテレビ(1)301へズーム操作を通知し(S260)、デジタルテレビ(1)301はネットワークを通じデジタルテレビ(2)311へ表示制御情報として通知する(S261)。デジタルテレビ(2)311では、制御部330の制御において、画像処理部328を制御し表示する画像の拡大、または縮小画像を作成し、映像合成部327を介して表示部329に拡大、または縮小画像を表示する。このとき、デジタルカメラ(1)304の制御部305は液晶モニタにも同様の拡大、または縮小画像を表示する。
また、拡大縮小操作中にユーザが方向ボタン227を操作した場合(S262)、同様の経路を通じてデジタルテレビ(2)311に表示制御情報を通知する(S263〜S264)。そして、デジタルテレビ(2)311では、制御部330の制御において映像合成部327で拡大、縮小表示の中心位置を調整し、表示部329に表示する画像中の表示領域を変更する。ユーザがデジタルカメラ(1)304のシャッターボタン222を全押しする操作によって(S265)こうした表示状態が決定され、デジタルテレビ(2)311における表示部329の画像合成の位置が固定される(S266〜S267)ことは、すでに説明した通りである。
以上説明したとおり、本実施例のシステムにおいては、ネットワークを介して接続され、デジタルビデオカメラを接続してユーザの姿を撮影した映像データを、ネットワークを通じて相互に通信して表示し、映像によるコミュニケーションを実現するデジタルテレビシステムにおいて、一方のデジタルテレビの前で撮影されるユーザが持つデジタルカメラの相対位置を映像データ内で検出し、このユーザがデジタルカメラが格納する複数の撮影画像から表示の対象となる画像を選択し、他方のデジタルテレビにおいては、映像データ内で検出された相対位置に応じた位置に選択された画像データを合成して表示するステップと、さらにデジタルカメラで選択された別の画像データを、検出された別の相対位置に合成して表示するステップとを有する。これにより、ユーザが他方のデジタルテレビの表示画面上で表示の対象となる画像を選択する際、表示画面上での選択操作が不要となる。従って、デジタルテレビが家庭内で好適に設置されるリビングルームなどで机などの平面スペースがなく、マウスやペン入力など表示平面内の位置を指定する入力デバイスが使用できない操作環境においても、簡便な操作を実現することが可能となり、よりスムーズな映像コミュニケーションを図ることが可能となる。
また、画像データを選択して液晶モニタに表示させたデジタルカメラ本体を、直接移動することで、合成表示上の画像位置を移動させることができる。従って、あたかも掌中にある複数の写真カードの束から目的の写真カードを一番表に移し、この写真カードの束を直接動かして表示したい場所に置くことができるかのような操作が可能となり、現実の模倣による直感的で判りやすい操作をすることができる。
本実施例の説明においては、デジタルカメラのメモリカードに格納された画像データを、画像選択操作の度にネットワークを通じて送信するものとして説明した。これは、メモリカードに格納された画像データの総データ量が多く全ての画像データを転送することに好適でない状況を想定して採用した構成である。ただし、ネットワークの転送速度に対して転送するデータ量が適切である場合においては、操作の開始時にメモリカードに格納された画像データを一括して他方のデジタルテレビへ転送し、デジタルカメラ上の画像選択時には選択情報のみを通知する構成であってもよい。
また、画像データの一括転送を前提とした構成においては、必ずしもネットワークを介した転送ではなく、表示対象となる複数の画像データを格納したメモリカードなどのリムーバブルメディアを、操作の開始以前に予め他方のユーザに送付して、他方のデジタルテレビに接続してもよい。
また、デジタルカメラとデジタルテレビの間の無線通信には赤外線を用いた方法も利用することができる。ただし画像データの転送に時間を要するため、予め画像データを転送する手段や、メモリカードによって予め画像データを移動するなどの手段と併用するとより効果的である。また、デジタルカメラの移動を妨げない範囲においてであれば、有線による接続を用いた通信であっても本発明の趣旨を損なうものではない。
また、本発明は、上記に述べた実施の形態を、デジタルテレビあるいはセットトップボックス(コンピュータ)に実行させるためのプログラムコードを有する、コンピュータで実行可能なプログラムであることを含む。したがって、実施例1及び2で説明した機能を有していないデジタルテレビあるいはセットトップボックス(コンピュータ)を用意し、実施例1及び2に記載した方法を実行するプログラムをダウンロードして、デジタルテレビあるいはセットトップボックスが、実施例1及び2に記載した方法を実行するようにしてもよい。
図1は本発明の実施例1に係る画像表示方法に用いるデジタルテレビのブロック構成図である。 図2は本発明の実施例1に係る画像表示方法に用いるデジタルカメラのブロック構成図である。 図3は本発明の実施例1に係るデジタルカメラの外観図である。 図4は本発明の実施例1に係る画像表示方法の手順を示すフローチャート図である。 図5は本発明の実施例1に係る画像表示方法の具体的手順の説明図である。 図6は本発明の実施例2に係る画像表示方法に用いるシステム全体の構成図である。 図7は本発明の実施例2に係る画像表示方法に用いるデジタルテレビのブロック構成図である。 図8は本発明の実施例2に係る画像表示方法に用いるデジタルカメラのブロック構成図である。 図9は本発明の実施例2に係る画像表示方法の手順を示すフローチャート図である。 図10は本発明の実施例2に係る画像表示方法にしたがって画像表示を行っている様子の一例を示す模式図である。 図11は本発明の実施例2に係る画像表示方法にしたがって画像表示を行っている様子の一例を示す模式図である。 図12は従来例に係る画像表示方法にしたがって表示されたレイアウトの一例である。
符号の説明
100 デジタルテレビ
200 デジタルカメラ
301 デジタルテレビ(1)
303 ビデオカメラ(1)
304 デジタルカメラ(1)
311 デジタルテレビ(2)
313 ビデオカメラ(2)
314 デジタルカメラ(2)

Claims (6)

  1. 画像記憶装置から第1の画像を取得するステップと、
    前記画像記憶装置から第2の画像を取得するステップと、
    前記画像記憶装置の移動を示す所定の情報を検出するステップと、
    前記第1の画像をディスプレイに表示するステップと、
    前記第2の画像を前記ディスプレイに表示するステップと、
    前記第1の画像及び前記第2の画像が前記ディスプレイに表示されている場合、前記画像記憶装置によって前記第2の画像が選択されることなく前記第1の画像が選択されたとき、前記所定の情報に応じて、前記ディスプレイに表示されている前記第1の画像の表示の位置が前記画像記憶装置の移動方向と一致する方向に移動するように前記第1の画像の表示の位置を制御するとともに、前記所定の情報に応じて、前記ディスプレイに表示されている前記第2の画像の表示の位置が前記画像記憶装置の移動方向と一致する方向に移動しないように制御するステップと
    をコンピュータに実行させるためのプログラム。
  2. 前記所定の情報は、前記画像記憶装置の移動方向を示す情報、前記画像記憶装置の移動量を示す情報及び前記画像記憶装置の回転角度を示す情報を含むことを特徴とする請求項に記載のプログラム。
  3. 前記画像記憶装置は、前記所定の情報を検出するための加速度センサを有することを特徴とする請求項1または2に記載のプログラム。
  4. 画像記憶装置から第1の画像を取得し、前記画像記憶装置から第2の画像を取得する取得手段と、
    前記画像記憶装置の移動を示す所定の情報を検出する検出手段と、
    前記第1の画像をディスプレイに表示させ、前記第2の画像を前記ディスプレイに表示させる制御手段とを有し、
    前記第1の画像及び前記第2の画像が前記ディスプレイに表示されている場合、前記画像記憶装置によって前記第2の画像が選択されることなく前記第1の画像が選択されたとき、前記制御手段は、前記所定の情報に応じて、前記ディスプレイに表示されている前記
    第1の画像の表示の位置が前記画像記憶装置の移動方向と一致する方向に移動するように前記第1の画像の表示の位置を制御するとともに、前記所定の情報に応じて、前記ディスプレイに表示されている前記第2の画像の表示の位置が前記画像記憶装置の移動方向と一致する方向に移動しないように制御することを特徴とする表示制御装置。
  5. 前記所定の情報は、前記画像記憶装置の移動方向を示す情報、前記画像記憶装置の移動量を示す情報及び前記画像記憶装置の回転角度を示す情報を含むことを特徴とする請求項に記載の表示制御装置。
  6. 前記画像記憶装置は、前記所定の情報を検出するための加速度センサを有することを特徴とする請求項4または5に記載の表示制御装置。
JP2005048840A 2004-03-31 2005-02-24 プログラム及び表示制御装置 Expired - Fee Related JP4971594B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005048840A JP4971594B2 (ja) 2004-03-31 2005-02-24 プログラム及び表示制御装置
US11/073,692 US7810039B2 (en) 2004-03-31 2005-03-08 Image displaying method, image displaying program, and display
US12/837,875 US9086790B2 (en) 2004-03-31 2010-07-16 Image displaying method, image displaying program, and display

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2004106273 2004-03-31
JP2004106273 2004-03-31
JP2005048840A JP4971594B2 (ja) 2004-03-31 2005-02-24 プログラム及び表示制御装置

Publications (3)

Publication Number Publication Date
JP2005316403A JP2005316403A (ja) 2005-11-10
JP2005316403A5 JP2005316403A5 (ja) 2009-10-22
JP4971594B2 true JP4971594B2 (ja) 2012-07-11

Family

ID=35055811

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005048840A Expired - Fee Related JP4971594B2 (ja) 2004-03-31 2005-02-24 プログラム及び表示制御装置

Country Status (2)

Country Link
US (2) US7810039B2 (ja)
JP (1) JP4971594B2 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006053312A (ja) * 2004-08-11 2006-02-23 Seiko Epson Corp 文字情報処理方法、文字情報処理装置、プログラムおよび記憶媒体
JP4881048B2 (ja) * 2006-04-03 2012-02-22 キヤノン株式会社 情報処理装置および情報処理方法および情報処理プログラム
JP5066878B2 (ja) * 2006-09-22 2012-11-07 株式会社ニコン カメラ及び表示システム
USD611497S1 (en) * 2007-01-15 2010-03-09 Microsoft Corporation Icon for a portion of a display screen
JP5055004B2 (ja) * 2007-04-09 2012-10-24 キヤノン株式会社 画像データ管理装置、画像データ管理装置の制御方法、及び画像データ管理プログラム
US20090037827A1 (en) * 2007-07-31 2009-02-05 Christopher Lee Bennetts Video conferencing system and method
KR20100077851A (ko) * 2008-12-29 2010-07-08 엘지전자 주식회사 Dtv 및 이를 이용한 콘텐츠 표시 방법
CN101998112A (zh) * 2009-08-26 2011-03-30 鸿富锦精密工业(深圳)有限公司 区域监控装置及方法
JP2011254442A (ja) 2010-05-06 2011-12-15 Ricoh Co Ltd 遠隔通信端末、遠隔通信方法、及び遠隔通信用プログラム
JP5655515B2 (ja) 2010-11-11 2015-01-21 ソニー株式会社 情報処理装置、テーブル、表示制御方法、プログラム、携帯端末、及び情報処理システム
KR101823148B1 (ko) * 2010-12-30 2018-01-30 주식회사 알티캐스트 휴대 단말기 및 이를 이용한 디스플레이 장치에서의 출력 화면 제어 방법
US9524087B2 (en) * 2011-05-20 2016-12-20 Kodak Alaris Inc. Imaging product selection method
JP6178066B2 (ja) 2012-11-06 2017-08-09 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置、情報処理方法、プログラム及び情報記憶媒体
EP2765766A1 (en) * 2013-02-08 2014-08-13 PIXarithmic GmbH Hard key control panel for a video processing apparatus
KR20140144056A (ko) * 2013-06-10 2014-12-18 삼성전자주식회사 객체 편집 방법 및 그 전자 장치
KR20150066883A (ko) * 2013-12-09 2015-06-17 삼성전자주식회사 이미지 처리 방법 및 장치
JP2015115046A (ja) * 2013-12-16 2015-06-22 ソニー株式会社 情報処理装置、プログラム、情報処理方法及び情報処理システム
JP6440937B2 (ja) * 2013-12-24 2018-12-19 株式会社東芝 情報対応付け装置、その方法及びそのプログラム
CN107113441B (zh) 2016-12-30 2019-07-26 深圳市大疆创新科技有限公司 图像处理方法、装置、无人飞行器和接收端
CN107005714B (zh) * 2016-12-30 2019-05-14 深圳市大疆创新科技有限公司 图像处理方法与设备
CN109983775A (zh) 2016-12-30 2019-07-05 深圳市大疆创新科技有限公司 用于基于反馈的数据发送的系统和方法
CN115022698B (zh) * 2022-04-28 2023-12-29 上海赛连信息科技有限公司 一种基于画面布局清晰展示画面内容的方法和装置
CN117499601B (zh) * 2024-01-02 2024-04-05 上海励驰半导体有限公司 用于SoC的调用多摄像头数据的方法

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04280583A (ja) * 1991-03-08 1992-10-06 Fujitsu Ltd テレビ電話のカメラフォーカス調整方式
JPH07184032A (ja) 1993-12-22 1995-07-21 Minolta Co Ltd アルバムプリント装置
JP3797678B2 (ja) * 1994-05-26 2006-07-19 富士通株式会社 ウィンドウとカメラの協調制御方法および装置
JP3335017B2 (ja) * 1994-11-29 2002-10-15 キヤノン株式会社 カメラ装置の制御装置
JPH0981475A (ja) * 1995-09-18 1997-03-28 Toshiba Corp 情報端末装置
JPH1051576A (ja) 1996-07-31 1998-02-20 Canon Inc 画像処理装置及びその方法
JP3869897B2 (ja) * 1997-01-28 2007-01-17 キヤノン株式会社 カメラ制御システムおよび映像受信装置および制御方法および記憶媒体
JPH10234020A (ja) * 1997-02-21 1998-09-02 Canon Inc 画像伝送方法および装置並びに画像伝送システム
JP2856207B1 (ja) * 1997-09-10 1999-02-10 日本電気株式会社 画像位置調整装置及び画像位置調整プログラムを記録したコンピュータが読み取り可能な記録媒体
JP2000010141A (ja) * 1998-06-26 2000-01-14 Ricoh Co Ltd 手振れ補正機能付きデジタルカメラ
US7016596B2 (en) * 1998-11-30 2006-03-21 Nikon Corporation Image processing apparatus, image processing method, recording medium and data signal providing image processing program
JP2000284776A (ja) * 1999-03-30 2000-10-13 Fuji Film Microdevices Co Ltd 画像処理装置
JP3980234B2 (ja) * 2000-01-07 2007-09-26 ペンタックス株式会社 デジタルカメラ
US20020046100A1 (en) * 2000-04-18 2002-04-18 Naoto Kinjo Image display method
JP3513084B2 (ja) * 2000-06-14 2004-03-31 株式会社東芝 情報処理システム、情報機器及び情報処理方法
KR100386579B1 (ko) * 2000-07-18 2003-06-02 엘지전자 주식회사 멀티 소스용 포맷 변환 장치
JP3497805B2 (ja) * 2000-08-29 2004-02-16 オリンパス株式会社 画像投影表示装置
US7312766B1 (en) * 2000-09-22 2007-12-25 Canadian Space Agency Method and system for time/motion compensation for head mounted displays
US6704000B2 (en) * 2000-11-15 2004-03-09 Blue Iris Technologies Method for remote computer operation via a wireless optical device
EP2980991B1 (en) * 2001-07-12 2018-10-24 Sony Corporation Remote controller and system having the same
JP4159271B2 (ja) 2001-08-06 2008-10-01 富士フイルム株式会社 デジタルカメラ
US20030227554A1 (en) * 2002-04-26 2003-12-11 Nikon Corporation Digital camera system
KR100873437B1 (ko) * 2002-11-28 2008-12-11 삼성전자주식회사 Pip화면을 이용한 듀얼모드 신호처리장치
JP2004221908A (ja) * 2003-01-14 2004-08-05 Sanyo Electric Co Ltd 表示制御方法とこの方法を利用可能な撮影画像出力システム、表示制御装置、液晶プロジェクタ、およびデジタルカメラ
EP1596601B1 (en) * 2003-02-18 2014-07-16 Panasonic Corporation Imaging system
WO2004086748A2 (en) * 2003-03-20 2004-10-07 Covi Technologies Inc. Systems and methods for multi-resolution image processing
JP4618401B2 (ja) * 2003-07-04 2011-01-26 富士ゼロックス株式会社 情報表示システムおよび情報表示方法
JP2005044307A (ja) * 2003-07-25 2005-02-17 Fuji Xerox Co Ltd 表示システムおよび表示装置
US20060005447A1 (en) * 2003-09-12 2006-01-12 Vitronics Inc. Processor aided firing of small arms
US20050073497A1 (en) * 2003-09-12 2005-04-07 Taek Sung Kim Remote control device capable of sensing motion
US20050059489A1 (en) * 2003-09-12 2005-03-17 Kim Taek Sung Motion sensing applications
JP2005100050A (ja) * 2003-09-24 2005-04-14 Fuji Xerox Co Ltd 情報表示システム及び情報表示方法
US20050190280A1 (en) * 2004-02-27 2005-09-01 Haas William R. Method and apparatus for a digital camera scrolling slideshow
US7551175B2 (en) * 2004-03-10 2009-06-23 Panasonic Corporation Image transmission system and image transmission method
US7176888B2 (en) * 2004-03-23 2007-02-13 Fujitsu Limited Selective engagement of motion detection
US8066384B2 (en) * 2004-08-18 2011-11-29 Klip Collective, Inc. Image projection kit and method and system of distributing image content for use with the same
US7407297B2 (en) * 2004-08-18 2008-08-05 Klip Collective, Inc. Image projection system and method

Also Published As

Publication number Publication date
US9086790B2 (en) 2015-07-21
JP2005316403A (ja) 2005-11-10
US7810039B2 (en) 2010-10-05
US20050223333A1 (en) 2005-10-06
US20100309224A1 (en) 2010-12-09

Similar Documents

Publication Publication Date Title
JP4971594B2 (ja) プログラム及び表示制御装置
JPH10191142A (ja) 画像処理装置
JP2009077228A (ja) 撮像装置とその制御方法
JP2007258831A (ja) 遠隔制御装置、遠隔制御システムおよび詳細情報表示方法
KR20180027132A (ko) 디스플레이 장치
JP2020042064A (ja) 表示制御装置、撮像装置、制御方法、プログラム、及び、記憶媒体
JP2021144599A (ja) 電子機器及びその制御方法
JP2021145297A (ja) 表示制御装置及びその制御方法
CN103814567B (zh) 显示控制装置
JP2006129101A (ja) 画像のトリミング方法、撮像装置、画像処理装置、及びプログラム
KR20180037725A (ko) 디스플레이 장치
JP2021174317A (ja) 電子機器及びその制御方法
JP5180569B2 (ja) カメラ制御装置、カメラ制御方法、カメラシステム、及びプログラム
JP2023130045A (ja) 情報処置装置、情報処理装置の制御方法、プログラム、記録媒体、およびシステム
JP7208002B2 (ja) 電子機器及びその制御方法
JP7336200B2 (ja) 電子機器及びその制御方法
JP7204482B2 (ja) 電子機器及びその制御方法
JP5509590B2 (ja) 電子カメラ
KR101920641B1 (ko) 화상회의장치, 및 그 동작방법
JP2014016507A (ja) 表示制御装置
JP2020108114A (ja) 電子機器及びその制御方法
JP2010045684A (ja) 携帯機器
CN110881102B (zh) 摄像设备、摄像设备的控制方法和计算机可读介质
JP7214475B2 (ja) 電子機器及びその制御方法
JP7327938B2 (ja) 電子機器およびその制御方法およびプログラムおよび記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080222

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110502

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120406

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees