[go: up one dir, main page]

WO2007013652A1 - 画像表示制御装置、画像表示装置、遠隔操作器、画像表示システム - Google Patents

画像表示制御装置、画像表示装置、遠隔操作器、画像表示システム Download PDF

Info

Publication number
WO2007013652A1
WO2007013652A1 PCT/JP2006/315134 JP2006315134W WO2007013652A1 WO 2007013652 A1 WO2007013652 A1 WO 2007013652A1 JP 2006315134 W JP2006315134 W JP 2006315134W WO 2007013652 A1 WO2007013652 A1 WO 2007013652A1
Authority
WO
WIPO (PCT)
Prior art keywords
unit
image display
signal
display
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2006/315134
Other languages
English (en)
French (fr)
Inventor
Naoaki Horiuchi
Toshio Tabata
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Corp filed Critical Pioneer Corp
Priority to JP2007526938A priority Critical patent/JP4712804B2/ja
Priority to US11/996,748 priority patent/US20100141578A1/en
Publication of WO2007013652A1 publication Critical patent/WO2007013652A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/482End-user interface for program selection
    • H04N21/4821End-user interface for program selection using a grid, e.g. sorted out by channel and broadcast time
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440263Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4545Input to filtering algorithms, e.g. filtering a region of the image
    • H04N21/45455Input to filtering algorithms, e.g. filtering a region of the image applied to a region of the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42222Additional components integrated in the remote control device, e.g. timer, speaker, sensors for detecting position, direction or movement of the remote control, microphone or battery charging device

Definitions

  • Image display control device image display device, remote controller, image display system
  • the present invention relates to an image display control device that performs display control on a display screen, and in particular, an image display control device that performs display control by remote operation, an image display device, an image display system, and a remote used for them It relates to the controller.
  • a portable remote controller for operating an image display device such as a television, for example, at a remote location.
  • remote controller When performing remote operation, for example, display the operation target diagram (operation menu) with a list of multiple operation specified parts (operation areas) on the display screen of the image display device, and operate the operation buttons on the remote controller.
  • operation target diagram operation menu
  • operation areas operation specified parts
  • operations corresponding to this channel switching, voice switching, etc.
  • the present invention is not limited to the image display device itself, but is connected to a television or the like, and outputs a video to the television or the like, and further reproduces and outputs content such as music, a video deck, a DVD player Z recorder, a CD player.
  • remote control is also performed for video output devices such as Z recorders, MD players, Z recorders, etc., content playback devices, and other products equipped with video output functions (hereinafter referred to as video output devices as appropriate).
  • video output devices as appropriate.
  • an operation target having a plurality of operation designated parts (operation areas) related to the video output device etc. on the display screen of the image display device connected thereto. Display a list of graphics (operation menu). Then, by selecting and specifying one of the plurality of operation specification parts, the operation (video reproduction, reserved recording, etc.) of the selected video output device or the like can be executed.
  • the operator when selecting and specifying the operation specified part as described above, the operator first looks at the display screen and starts from the current selection specified position (cursor position, etc.) to the desired operation specifying part ( After confirming which side the (operation area) is located in, Move your eyes and press the operation button in the direction to move the selected designated position, then return to the display screen and operate the remote controller to move the selected designated position to the desired designated operation location. It is necessary to check whether the operation designated part is the force selected and specified for the accuracy, and if the movement is not sufficient, the same procedure must be repeated with the eyes on the remote control at hand again. As described above, it is necessary to perform a very complicated and troublesome operation while changing the line of sight many times. As a result, the convenience is low and inconvenient for the operator.
  • a camera as a photographing means, a motion detector that detects the motion of an image captured by the camera, and the motion and Z or shape of the image detected by the motion detector.
  • a control device having an image recognizer for recognizing the image is disclosed.
  • the movement of the finger photographed by the camera is detected by the motion detector, and the movement or shape change is recognized by the image recognizer.
  • control corresponding to the pattern is performed on the operated device.
  • the operator can perform a desired operation on the operated device without using the remote controller.
  • Patent Document 2 discloses a remote control system having an infrared remote controller, an image sensor, and a diesel identification means.
  • the gesture is identified by the gesture identification unit based on the direction and acceleration of the remote control obtained through the image sensor. Control corresponding to the pattern is performed on the operated device via the network. As a result, the operator can perform the desired operation on the operated device!
  • Patent Document 1 Japanese Patent Laid-Open No. 2001-5975 (paragraph numbers 0013 to 0027, FIGS. 1 to 9)
  • Patent Document 2 Japanese Patent Laid-Open No. 2004-178469 (paragraph numbers 0013 to 0063, FIGS. 1 to 15) Disclosure of the Invention
  • the device to be operated is wired.
  • An object of the present invention is to enable an operator to easily select and specify a desired operation designated portion without taking his eyes off the display screen, thereby improving the convenience of the operator during operation.
  • a control device, an image display device, an image display system, and a remote controller used for them are provided.
  • the invention according to claim 1 is a diagram table for generating a diagram display signal for displaying an operation target diagram on a display screen provided in an image display device.
  • the display light generating means and the first light beam coming from the background of the portable controller have a different aspect or attribute, and the second light beam that also receives the controller power can be distinguished from the first light beam.
  • the invention according to claim 21 is directed to a display screen, a graphic display control means for displaying an operation target graphic on the display screen, and a background of a portable operating device.
  • the second light coming from the controller has a different aspect or attribute from the first light coming from the light.
  • the controller is performing imaging by the second light beam imaging means.
  • Position specifying means for specifying the position occupied in the position
  • position display control means for displaying the position of the operating device specified by the position specifying means on the display screen, and the position of the operating device specified by the position specifying means
  • an operation part determining means for determining an operation designated part of the operation target graphic displayed on the display screen.
  • the invention according to claim 22 is a portable remote controller for performing an image display operation, wherein an optical signal having an aspect or attribute different from that of normal visible light is provided.
  • An optical signal generating means to generate, and a second light imaging means capable of recognizing the optical signal generated by the optical signal generating means by distinguishing the optical signal from the normal visible light; an operation target diagram on the display screen
  • an invention according to claim 23 includes a portable operating device and an image display control device that generates a signal for performing image display based on the operation of the operating device.
  • the image display control device generates a graphic display signal for generating a graphic display signal for displaying an operation target graphic on a display screen provided in the image display device.
  • a second light beam imaging means having a different form or attribute from the first light beam coming from the background of the operation device, and capable of recognizing the second light beam coming from the operation device force separately from the first light beam.
  • a position specifying means for specifying a position occupied by the controller during imaging by the second light beam imaging means based on the recognition result of the second light ray by the second light beam imaging means, and a position specifying means specified by the position light specifying means.
  • Display the position of the operating device Position display signal generator for generating a position display signal for display on the screen
  • an operation part determining means for determining an operation designated part of the operation target graphic displayed on the display screen based on the position of the operation device specified by the position specifying means.
  • an image display system displays an operation target graphic on a portable operation device and a display screen provided in the image display device.
  • a display signal generating means for generating a display signal for generating a second light beam coming from the operation device, and having a different aspect or attribute from the first light beam coming from the background power of the operation device.
  • a second light imaging unit that can be recognized separately from one light beam, and a position occupied by the controller during imaging by the second light imaging unit based on the recognition result of the second light beam by the second light imaging unit.
  • Position specifying means for specifying the position
  • position display signal generating means for generating a position display signal for displaying the position of the operating device specified by the position specifying means on the display screen
  • the position specifying means Position of the actuator Based and having an operating portion decision means for determining the operation specified site of the operation target view elephants.
  • FIG. 1 is a system configuration diagram of an image display system according to an embodiment of the present invention.
  • FIG. 2 is a functional block diagram showing a functional configuration of the remote controller shown in FIG.
  • FIG. 3 is a functional block diagram showing a functional configuration of the image display control device shown in FIG. 1.
  • FIG. 4 is a diagram illustrating an example of display on a liquid crystal display unit.
  • FIG. 5 is a diagram illustrating an example of a display on a liquid crystal display unit.
  • FIG. 6 is a diagram illustrating an example of display on a liquid crystal display unit.
  • FIG. 7 is a diagram illustrating an example of a display on a liquid crystal display unit.
  • FIG. 8 is a diagram illustrating an example of display on a liquid crystal display unit.
  • FIG. 9 is a diagram illustrating an example of display on a liquid crystal display unit in an image display system according to a modified example in which operation region determination is instructed by a gesture.
  • FIG. 10 is a functional block diagram showing a functional configuration of the image display control apparatus in the modification shown in FIG.
  • FIG. 12 is a functional block diagram showing a functional configuration of an image display control device in a modification using a cold mirror.
  • FIG. 13 is a functional block diagram showing an example of a functional configuration of an image display control device in a modification example for performing position correction.
  • FIG. 14 is an explanatory diagram showing a state of position correction.
  • FIG. 15 is a functional block diagram showing an example of a functional configuration of an image display control device in another modification for performing position correction.
  • FIG. 16 is a characteristic diagram showing an example of sensitivity characteristics of the infrared high-sensitivity camera in a modification using the infrared high-sensitivity camera.
  • FIG. 17 is a functional block diagram showing a functional configuration of the image display control device in the modified example shown in FIG.
  • FIG. 18 is an explanatory diagram for explaining an outline of a method in a modified example in which the display magnification is changed according to the distance.
  • FIG. 19 is an explanatory diagram for explaining an outline of a method in a modified example in which the display magnification is changed according to the distance.
  • FIG. 20 is an explanatory diagram for explaining an outline of a technique in a modified example in which the display magnification is changed according to the distance.
  • FIG. 21 is an explanatory diagram for explaining an outline of a technique in a modified example in which the display magnification is changed according to the distance.
  • FIG. 22 is an explanatory diagram for explaining an outline of a technique in a modified example in which the display magnification is changed according to the distance.
  • ⁇ 23 It is a functional block diagram showing a functional configuration of the image display control device.
  • FIG. 24 is a functional block diagram showing a detailed configuration of a cutout processing unit.
  • FIG. 25 is a flowchart showing a control procedure executed by the entire cutout processing unit.
  • FIG. 26 is a flowchart showing a detailed procedure of step S50.
  • FIG. 27 is a functional block diagram showing a functional configuration of a cutout processing unit in a modification in which the operator sets the operation range by himself / herself.
  • This is an explanatory diagram for explaining a method for calculating a distance from the size of a figure in an input image.
  • FIG. 29 is an explanatory diagram for explaining an outline of a modified example in which the cutout region is changed for obstacle avoidance.
  • FIG. 30 is an explanatory diagram for explaining a method of registering an object that can be an obstacle in a database.
  • FIG. 31 is an explanatory diagram for explaining an outline of a modified example in which the menu display area is shifted for obstacle avoidance.
  • ⁇ 32 It is a functional block diagram showing a functional configuration of the image display control device.
  • FIG. 33 is a functional block diagram showing the detailed configuration of the cutout processing unit and the secondary video composition unit together with the obstacle determination unit.
  • ⁇ 34 This is a flowchart showing a control procedure executed by the entire cutout processing unit, secondary video composition unit, and obstacle determination unit.
  • FIG. 35 is an explanatory diagram for explaining an outline of a modified example that is extended and supplemented so as to obtain an operational feeling through an obstacle.
  • FIG. 36 is a functional block diagram illustrating a functional configuration of the image display control device.
  • ⁇ 37 A flowchart showing a control procedure executed by the complementary signal generation unit.
  • FIG. 38 is an explanatory diagram for conceptually explaining how to draw an extension line.
  • FIG. 39 is an explanatory diagram for explaining an outline of a modified example in which intermediate part complementation is performed so as to obtain an operational feeling over an obstacle.
  • FIG. 40 is a diagram showing an example of display on the liquid crystal display unit of the image display device as a modification applied to designation of the reproduction position of stored content.
  • FIG. 41 is a functional block diagram showing a functional configuration of the image display control device in the modified example shown in FIG.
  • FIG. 42 is a diagram illustrating another example of display on the liquid crystal display unit.
  • FIG. 43 is a diagram showing an example of display on a liquid crystal display unit of an image display device, as a modification applied to EPG.
  • FIG. 45 is a diagram illustrating an example of display on the liquid crystal display unit of the image display device in a modification in which a photographed image is omitted.
  • FIG. 46 is a functional block diagram showing a functional configuration of the image display control device in the modified example shown in FIG.
  • FIG. 47 is a functional block diagram illustrating an example of a functional configuration of an image display control device in a modification using a wired connection operating device.
  • FIG. 48 is a diagram showing a display example of a liquid crystal display unit of a modified example that limits the range where the operation menu isotropic selection can be specified.
  • FIG. 49 is a diagram illustrating a display example of a liquid crystal display unit of a modified example in which all operation areas can be selected within a narrow movement range of the remote controller.
  • HOAa imaging unit (first beam imaging means)
  • Imaging unit (first beam imaging means)
  • Video signal generator Video display signal generator
  • Remote control position identification part (position identification means)
  • Remote control position signal generator (position display signal generator)
  • FIG. 1 is a system configuration diagram of an image display system according to the present embodiment.
  • the image display system includes an image display device 1, an image display control device 100 that generates a signal for displaying an image on the image display device 1, and remotely controls the image display control device 100.
  • a portable remote controller (remote control terminal) 200 is a portable remote controller (remote control terminal) 200.
  • the image display device 1 is, for example, a liquid crystal television, and a liquid crystal display unit 3 (display screen) is provided on the front surface of the television body 2.
  • a liquid crystal display unit 3 display screen
  • the television main body 2 has a known channel tuner that receives, for example, video radio waves to be displayed on the liquid crystal display unit 3 or a reception channel. From the radio wave Demodulating means for demodulating signals and audio signals is provided.
  • the remote controller 200 includes an operation unit 201 having various operation keys and an infrared driving unit (infrared light emitting unit) 202 provided with, for example, an infrared light emitting diode as a light emitting element.
  • an infrared driving unit infrared light emitting unit
  • FIG. 2 is a functional block diagram showing a functional configuration of the remote controller 200.
  • the remote controller 200 controls the operation of the oscillator 203, the pulse modulator 204, and the remote controller 200 as a whole that oscillates the carrier frequency of an identification code (details will be described later).
  • the CPU 205, the operation unit 201, the FM modulator 206, the infrared drive unit 202 serving as a transmission means, the ROM 207 storing the operation program of the CPU 205, and the RAM 208 are provided.
  • a predetermined carrier frequency for example, 38 kHz
  • a command (identification code) corresponding to the operation of the CPU 205 force operation unit 201 is read from the RAM 207 and supplied to the Norse modulator 204.
  • the pulse modulator 204 performs pulse modulation on the carrier frequency from the transmitter 203 with the identification code supplied from the CPU 205, and supplies a pulse modulated signal to the FM modulator 206.
  • the FM modulator 206 performs FM modulation on the signal, and then supplies the FM modulation signal to the infrared driving unit 202.
  • the infrared drive unit 202 drives (turns on) the above-described infrared light emitting element with the FM signal supplied from the FM modulator 206, thereby transmitting an infrared instruction signal to the image display control device 100.
  • the image display control device 100 is a DVD player Z recorder in this example, and includes a casing 101 and an operation unit 107 provided on the front side of the casing 101 via a front panel 105. . On the front surface of the operation unit 107, various operation buttons 108, a dial 109, and a light receiving rod 106 are provided as operation means. Although a detailed illustration and description are omitted because a known configuration is sufficient, a known DVD recording and playback mechanism 140 (see FIG. 3 to be described later), a DVD storage unit, and the like are included in the housing 101. It is provided.
  • FIG. 3 is a functional block diagram showing a functional configuration of the image display control apparatus 100.
  • an image display control device 100 includes an infrared light receiving unit 101 as a receiving means, an FM demodulator 102, a BPF (bandpass filter) 103 that extracts a predetermined carrier frequency (for example, 38 kHz), and a pulse demodulator. 104 and a controller 150.
  • Controller 1 50 includes a CPU, ROM, RAM, and the like (not shown), and functionally includes a user instruction input unit 151, a user operation determination unit 152, an operation signal generation unit 153, and the like as illustrated. Yes.
  • an infrared instruction signal emitted from the infrared driving unit 202 of the remote controller 200 is received by the infrared receiving unit 101 via the light receiving unit 106, and the infrared light receiving unit 101 performs optical It is converted and supplied to the FM demodulator 102.
  • the FM demodulator 102 demodulates the FM signal input from the infrared light receiving unit 101 and supplies it to the BPF 103.
  • the BPF 103 extracts a pulse modulation signal pulse-modulated by the above-described identification code from the supplied signal and supplies the pulse modulation signal to the pulse demodulator 104.
  • the pulse demodulator 104 supplies the identification code obtained by demodulating the pulse modulated signal to the user instruction input unit 151 of the controller 150.
  • the user operation determination unit 152 inputs the identification code demodulated by the pulse demodulator 104 through the user instruction input unit 151 to identify (decode) it, and outputs a corresponding operation instruction signal to the operation signal generation unit 153.
  • the operation signal generation unit 153 In response to the operation instruction signal, the operation signal generation unit 153 generates a corresponding operation signal, outputs it to the DVD recording / playback mechanism 140 described above, and performs a corresponding operation (recording, playback, editing, reservation, dubbing, erasing, Clock display, program guide display, etc.).
  • the menu screen related to the operation of the DVD recording / playback mechanism 140 is displayed on the image display device 1,
  • the infrared image of the remote controller 200 is used as a menu selection pointer.
  • the infrared signal (infrared image, optical signal, second light beam) emitted from the remote controller 200 is converted into visible light as a configuration related to the feature of the present embodiment.
  • an infrared filter-equipped camera 110 second light imaging means
  • a normal camera 120 capturing with visible light
  • a video composition unit 130 video composition unit
  • the camera 120 includes an imaging unit 120a (first light imaging means) that captures visible light (first light) that also receives the background BG force of the remote controller 200 (which also comes from the remote controller 200 itself).
  • the background BG of the remote controller 200 that was shot is displayed on the LCD 3 of the image display device 1.
  • a video signal generation unit 120b video display signal generation unit that generates a video display signal for generating the image display signal.
  • the controller 150 includes a menu creation unit 154 (graphic display signal generation unit), a remote control position specification unit 155 (position specification unit), and a remote control position symbol generation unit 156. (Position display signal generating means).
  • FIG. 4 is a diagram showing an example of display on the liquid crystal display unit 3 at this time.
  • the operator S who has the remote controller 200 in the screen and the room scenery of the operator S (in this example, doors, floors, floor coverings, and furniture such as tables and chairs) Etc.) is displayed as background BG.
  • the user instruction input unit 151 inputs a creation instruction signal to the menu creation unit 154
  • the menu creation unit 154 includes a plurality of operation areas (described later) in the liquid crystal display unit 3 of the image display device 1.
  • This menu display signal is synthesized by the video synthesis unit 130 with the video display signal from the video signal generation unit 120b of the camera 120, and the synthesized signal is output to the image display device 1 so that the live-action video by the camera 120 is displayed.
  • the menu display from the menu creation unit 154 are displayed on the liquid crystal display unit 3 (transition to the menu selection mode, in other words, the screen position selection mode). line).
  • the remote controller 200 sends the specific infrared instruction signal (low power consumption is preferred). As a result, the information is transmitted to the image display control device 100 side indicating that it is in the menu selection mode (screen position selection mode).
  • FIG. 5 is a diagram showing an example of display on the liquid crystal display unit 3 at this time.
  • the operator S who has the remote controller 200 in the screen and the operator S speak as in FIG.
  • the background of the room in this example, doors, floors, rugs on the floor, furniture such as tables, chairs, etc.
  • BG is displayed.
  • “clock (time set)” “record” “edit” “program guide” “play” “reserve” “dubbing” “delete” “other”
  • An operation menu ME consisting of multiple areas representing each operation is displayed.
  • the specific infrared ray instruction signal emitted from the remote controller 200 held by the operator S is picked up and recognized by the camera 110 with the infrared filter as an infrared image, and the picked-up image signal is detected by the remote controller position.
  • Input to the identification unit 155 Based on the recognition result of the infrared image of the remote controller 200 in the camera 110 with an infrared filter, the remote controller position specifying unit 155 specifies the position that the remote controller 200 occupies during imaging by the camera 110 with an infrared filter. To do.
  • the position information of the remote controller 200 identified by the remote controller position identifying unit 155 is input to the remote controller position symbol creating unit 156, and the position display for displaying the position of the remote controller 200 on the liquid crystal display unit 3 is performed.
  • a signal is generated.
  • the generated position display signal is input to the video composition unit 130, and is thereby photographed on the liquid crystal display unit 3 and displayed at the position (or vicinity) of the remote controller 200 at a predetermined position display MA. (In this example, an arrow mark, see Fig. 6 below) is displayed overlaid.
  • the liquid crystal display unit 3 is displayed so as to overlap the operation menu ME.
  • the position display MA of the operation unit 200 can be moved on the liquid crystal display unit 3.
  • the position information of the remote controller 200 specified by the remote controller position specifying unit 155 is also input to the user operation determining unit 152.
  • the user operation determination unit 152 Information relating to the menu display of the menu display signal created by the menu creation unit 154 (what kind of content, arrangement, and mode menu display is being performed) is also input.
  • the remote controller 200 held by the operator S is moved to move the position display MA on the liquid crystal display unit 3, and the position display MA is displayed in the operation area when the operation menu ME is executed.
  • the operation unit 201 is appropriately operated to determine the operation of the operation area when the user reaches (for example, the “OK” button is pressed)
  • the corresponding infrared instruction signal is transmitted from the infrared ray driving unit 202.
  • an identification code corresponding to the user instruction input unit ⁇ 5 ⁇ of the controller 150 is passed through the FM demodulator 102, BPF 103, and pulse demodulator 104. It is input and decoded (instruction signal input means).
  • the user instruction input unit 151 inputs a determination instruction signal to the user operation determination unit 152.
  • the user operation determination unit 152 to which the determination instruction signal is input includes the position information of the remote controller 200 acquired from the remote control position specifying unit 155 and the menu display information acquired from the menu creation unit 154. Based on the operation menu ME displayed on the liquid crystal display unit 3, the operation region (operation designated part) to be selected and determined is determined (operation part determining means), and the corresponding signal is input to the menu creating unit 154. To do. Based on the input signal, the menu creation unit 154 generates a menu display signal that displays the selected operation area in a different manner from the other parts, and outputs the generated menu display signal to the video composition unit 130. .
  • FIG. 6 is a diagram illustrating an example of display on the liquid crystal display unit 3 at this time.
  • the operator S intends to edit the DVD, and the position on the liquid crystal display 3 of the remote controller 200 held by the hand is set to “clock” “record” “edit” “program guide” “ Each area of “Play”, “Reserve”, “Dubbing”, “Erase”, “Others”, etc.
  • Power menu Operation state of “Edit” area of ME (see arrow mark) Represents.
  • the selected and designated “edit” area is displayed in a different color from the other areas.
  • FIG. 7 shows a state in which the operator S intends to perform scheduled recording of a DVD and places the position on the liquid crystal display unit 3 of the remote controller 200 in the “reserved” area and presses the “OK” button.
  • FIG. 8 shows a state in which the operator S intends to play a DVD and places the position on the liquid crystal display unit 3 of the remote controller 200 in the “playback” area and presses the “enter” button.
  • the operation instruction signal corresponding to the selection designation of the “reservation” or “playback” area is output from the user operation determination unit 152 to the operation signal generation unit 153, and the corresponding operation signal from the operation signal generation unit 153 An operation signal is output to the DVD recording / reproducing mechanism 140, and a corresponding reserved recording or reproducing operation can be performed.
  • the transmitter 203, the pulse modulator 204, the FM modulator 206, and the like provided in the remote controller 200 are different from the normal visible light described in each claim.
  • An optical signal generating means for generating an optical signal having an aspect or attribute is configured.
  • the infrared driving unit 202 also recognizes the optical signal generated by the optical signal generating unit by distinguishing the optical signal from normal visible light; displays the operation target diagram on the display screen.
  • a menu display signal for displaying the operation menu ME on the liquid crystal display unit 3 provided in the image display device 1 is generated.
  • -New creation unit 154 and background power of remote controller 200 Infrared filter that has an aspect or attribute different from the incoming visible light and can recognize infrared signals coming from remote controller 200 separately from the above visible light
  • Remote control position specifying unit for specifying the position occupied by remote controller 200 during imaging by power sensor 110 with infrared filter based on the recognition result of the infrared signal in camera 110 with infrared filter and camera 110 with infrared filter 155 and the position of the remote controller 200 specified by the remote control position specifying unit 155 are displayed on the liquid crystal display unit 3.
  • the position display MA of the remote controller 200 on the liquid crystal display unit 3 is displayed as a pointer for selecting and specifying the operation area from the operation menu ME. It can be used as (operation position designation means).
  • operation position designation means the operator S moves the position of the remote controller 200 itself without taking his eyes off the liquid crystal display unit 3 and feels intuitive.
  • a desired operation area can be easily selected and designated, and a corresponding operation can be performed.
  • the image capturing unit 120a of the camera 120 that captures visible light that also has the background BG force of the remote controller 200, and the background BG captured by the image capturing unit 120a are displayed on the liquid crystal display unit 3.
  • a video signal generation unit 120b that generates a video display signal for display on the screen.
  • the operator S since it becomes possible for the operator S to recognize the range of light that can be received by the camera 110 with the infrared filter based on the image displayed on the liquid crystal display unit 3, the operator S is outside the range that can receive the remote controller 200. It can be prevented from moving, and the reliability of operation can be improved.
  • the menu creation unit 154, the remote control position signal creation unit 156, and the video signal generation unit 120b include the operation menu ME, the position of the remote controller 200, and the background BG of the remote controller 200.
  • a menu display signal, a position display signal, and a video display signal are generated so as to be superimposed on the liquid crystal display unit 3.
  • the operation menu ME and the position display of the remote controller 200 are displayed via the video composition unit 130, and the liquid crystal display is overlaid on the actual background video of the background BG of the remote controller 200 captured by the MA force camera 2 10. Since it is displayed on part 3, operator S himself / herself You can intuitively understand the force that specifies the, and can perform intuitive operations that make it easier to distribute force.
  • the menu creation unit 154 displays the operation area determined by the user operation determination unit 152 in the operation menu ME on the liquid crystal display unit 3 in a manner different from other parts.
  • a menu display signal is generated.
  • the color of the operation area in the operation menu ME specified by the operator S as the operation target can be changed to other operation areas, and the specified position can be visually recognized.
  • the operator S can be surely recognized whether the operation area has been specified, and the operator S can be given a sense of security that the specification of the operation area has been completed.
  • the user instruction input unit 150 has an instruction signal corresponding to the “decision” operation from the remote controller 200
  • the user operation determination unit 152 is a remote controller position specifying unit 155.
  • the operation designated portion of the operation menu ME is determined. That is, the operator S performs an appropriate operation with the remote controller 20 (presses the “decision” button), and the determination instruction signal is input from the user instruction input section 151 to the user determination operation section 152.
  • the operation menu ME the operation area to be operated is finally determined.
  • the instruction signal generated by pressing the “OK” button on the operating device 200 to give this determination instruction signal is not limited to the infrared instruction signal, but may be other wireless signals such as electromagnetic waves including visible light.
  • the infrared instruction signal from the remote controller 200 is received by the infrared light receiving unit 101, and the FM demodulator 102 ⁇ BPF103 ⁇ pulse demodulator 104 ⁇ user instruction input unit 151 ⁇ user operation determination
  • the operation signal from the operation signal generation unit 153 to the DV D recording / playback mechanism 140 via the unit 152, it is possible to perform the conventional operation only by the operation unit 201 of the remote controller 200.
  • FIG. 9 is a diagram illustrating an example of display on the liquid crystal display unit 3 of the image display device 1 in the image display system of the present modification, and corresponds to FIG. 6 described above. Parts equivalent to those in Fig. 6 are given the same reference numerals.
  • the position on the liquid crystal display unit 3 of the remote control device 200 held by the hand is set in the operation menu ME. After being positioned in the “edit” area, the selection of the operation area is confirmed by pressing the “decision” button, for example. In this modification, instead of pressing the “OK” button, as shown in FIG.
  • the operation area selection specification is confirmed.
  • the operator S intends to make a reservation recording of a DVD.
  • the position on the liquid crystal display unit 3 of the remote controller 200 held by the hand is indicated in the “reservation” area of the operation menu ME.
  • the remote controller 200 is swung so as to draw a substantially circular shape or a substantially elliptical shape in or near the area, thereby confirming the selection designation of the “reservation” operation area. ! /
  • FIG. 10 is a functional block diagram showing a functional configuration of the image display control apparatus 100 in the present modification, and corresponds to FIG. 3 of the above embodiment. Parts equivalent to those in FIG. 3 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
  • FIG. 10 is different from FIG. 3 in that a controller 150 is newly provided with a motion determination unit 157 that determines the motion of the infrared image of the remote controller 200.
  • the remote controller 200 held by the operator S is moved to move the position display MA on the liquid crystal display unit 3, and the operation executed in the operation menu ME is performed.
  • the position display MA reaches the area
  • the remote controller 200 is swung so as to draw a substantially circular shape or a substantially elliptical shape in or near the area so as to determine the operation of the operation area.
  • the infrared image of the remote controller 200 is captured and recognized by the camera 110 with the infrared filter, and the captured image signal is input to the remote control position specifying unit 155. From the remote control position specifying unit 155 to the motion determining unit 157 Is entered.
  • the motion determination unit 157 recognizes this swing motion. At the same time, it is determined that the operator S has selected and designated the area as an operation target, and the above-described determination instruction signal is input to the user operation determination unit 152. Since the subsequent operation is the same as that of the above embodiment, the description is omitted.
  • FIG. 11 is a functional block diagram showing a functional configuration of the image display control apparatus 100 in the present modification, and corresponds to FIG. 3 of the above embodiment. Parts equivalent to those in FIG. 3 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
  • 11 is different from FIG. 3 in that the infrared light receiving unit 101 is omitted, the infrared instruction signal from the remote controller 200 is received by the power filter 110 with the infrared filter, and the camera 110 with the infrared filter is provided. It is to be supplied to the FM demodulator 102 after being photoelectrically converted by a conversion means (not shown or provided separately from the camera 110). Since the subsequent operation is the same as that of the above embodiment, the description is omitted.
  • the remote controller position identifying unit 155 determines the difference based on the imaging signal of the camera 110 with the infrared filter.
  • FIG. 12 is a functional diagram showing the functional configuration of the image display control apparatus 100 in the present modification.
  • FIG. 12 is a diagram corresponding to FIG. 3 and FIG. 11 described above. Parts equivalent to those in FIG. 3 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
  • the cold mirror CM provided on the optical axis separates the infrared light from the remote controller 200 and the visible light from the background BG of the remote controller 200 and transmits the infrared light as it is, and a camera with an infrared filter.
  • the visible light is reflected and redirected to enter the camera 120. Subsequent operations are the same as those in the above embodiment, and a description thereof will be omitted.
  • the images input to the two cameras 110 and 120 are the same, and therefore, even if the operator S is sufficiently close to the cameras 110 and 120, the two cameras There is no difference in imaging between the cameras 110 and 120, and it is possible to reliably prevent the adverse effects of the positional deviation of the remote controller 200 as described above.
  • the infrared filter camera 110 and the normal camera 120 are provided, the images of the two cameras 110 and 120 do not match exactly due to the lens position shift (position shift). Occurs). If this difference is too large to be ignored, use the cold mirror CM as described in (3) above to eliminate the difference in imaging itself, and to correct the position of one signal to eliminate the difference ( Calibration) may be performed. This modification will be described with reference to FIGS.
  • FIG. 13 is a functional block diagram showing an example of a functional configuration of the image display control apparatus 100 in this modification, and is a diagram corresponding to FIG. 3 and FIG. Parts equivalent to those in FIG. 3 are denoted by the same reference numerals and description thereof is omitted as appropriate.
  • a remote control position correction unit 160 (correction means) for performing the signal correction is newly provided.
  • the remote control position correcting unit 160 is identified by the remote control position identifying unit 155 and generated by the remote control position symbol creating unit 156 in response to an instruction signal from the user instruction input unit 151 (details will be described later). Perform a predetermined correction on the position display signal input to Description).
  • the corrected position display signal is input to the video synthesis unit 130 and synthesized with the video display signal from the video signal generation unit 120b.
  • FIGS. 14A to 14C are explanatory diagrams showing the state of the position correction.
  • position correction is performed as follows.
  • the video display signal from the camera 120 is displayed.
  • a real-world video image of the operator S is displayed on the liquid crystal display unit 3 of the image display device 1.
  • a predetermined position for position correction (refer to the screen center position and white cross mark in this example) among the display positions of the liquid crystal display unit 3 is fixedly determined in advance, and the position correction is intended.
  • the operator S adjusts the standing position, the height of the remote controller 200 held in his hand, etc., and the actual image of the remote controller 200 is displayed at the predetermined position (center position of the screen).
  • the upper diagram in Fig. 14 (a) shows the state at this time.
  • FIG. 14 (b) shows the liquid crystal display unit identified by the remote control position identifying unit 155 based on the imaging signal of the camera 110 with the infrared filter due to the occurrence of the above-described positional deviation in this state.
  • Fig. 3 A conceptual illustration of the state deviated from the center position of the screen (in this example, to the right in the figure) FIG.
  • the X mark mark may be actually generated by the remote control position symbol creating unit 156 and displayed on the liquid crystal display unit 3 by an appropriate operation of the operator S in the remote controller 200.
  • FIG. 14 (b) shows an actual image of the remote controller 200 based on the video display signal from the camera 120 (see the upper part of FIG. 14 (a)) while maintaining this state (that is, without correction).
  • the position display MA of the remote controller 200 specified by the remote control position specifying unit 155 and generated by the remote control position symbol creation unit 156 is superimposed on the MA (in this example, it is indicated by X as in the above example, see the lower part of Fig. 14 (a)).
  • 4 is a diagram illustrating a state displayed on the liquid crystal display unit 3.
  • a specific infrared instruction signal corresponding thereto is transmitted to the infrared light receiving unit 101 and the FM described above.
  • the signal is input to the user instruction input unit 151 through the demodulator 102, BPF 103, and pulse demodulator 104. Then, the user instruction input unit 151 corresponds to the remote control position.
  • a control signal is output to the correction unit 160, and the remote control position correction unit 160 accesses the video composition unit 130 accordingly (for example, outputs an inquiry signal).
  • the video composition unit 130 performs predetermined calculation processing, and the position display signal (position display MA) from the remote control position symbol generation unit 156 input at this time is the center position of the liquid crystal display unit 3. Calculate how much it deviates from (equivalent to the actual video position of remote controller 200) (deviation amount)
  • the calculated shift amount and the position display signal from the remote control position symbol creation unit 156 are input to the remote control position correction unit 160.
  • the remote control position correction unit 160 determines a correction constant for correcting this shift based on the shift amount. For example, when the position on the screen of the liquid crystal display unit 3 is represented on a two-dimensional plane having the X axis and the y axis, if the amount of deviation is (dx, dy), the correction constant is (- dx, —dy).
  • the remote controller position correction unit 160 corrects the position display signal input from the video composition unit 130 using the correction constant, and then outputs the corrected position display signal to the video composition unit 130.
  • the remote control position correction unit 160 may correct the position display signal directly input from the remote control position symbol creation unit 156 using the correction constant (see the two-dot chain line). / ⁇ may correct the position information of the remote controller 200 specified by the remote control position specifying unit 155.
  • the corrected position display signal input to the video compositing unit 130 is combined with the video display signal from the video signal generating unit 120b as described above, and thus the corrected remote controller 200 0
  • the position display MA coincides with the screen center position (white arrow mark) of the liquid crystal display unit 3 described above.
  • Figure 14 (c) shows the state at this time. Since the subsequent operation is the same as that of the above embodiment, the description is omitted.
  • V may be adjusted to match a fixed position (for example, the screen corner or its vicinity, or a specific position corresponding to the background BG), and the position display signal etc. may be corrected accordingly.
  • the method in which the operator S aligns the remote controller 200 to some predetermined position is not limited, and the video composition unit 130 is independent of the position of the remote controller 200 (at any position).
  • the remote controller 200 based on the infrared ray detection with respect to the position of the specified remote controller 200 is performed by specifying the position of the remote controller 200 in the actual video at that time by performing predetermined known image recognition processing, analysis processing, etc. You may make it correct
  • FIG. 15 is a functional block diagram showing an example of a functional configuration of the image display control device 100 in this case, and is a diagram corresponding to FIG. Components equivalent to those in FIG. 13 are denoted by the same reference numerals, and description thereof is omitted as appropriate.
  • a video signal correction unit 170 (correction means) for performing the signal correction is newly provided.
  • This video signal correction unit 170 responds to the instruction signal of the user instruction input unit 151 with respect to the video display signal generated by the video signal generation unit 120b and input to the video synthesis unit 130, and the deviation amount is calculated.
  • predetermined correction according to the amount of deviation is performed.
  • the corrected video display signal is input to video synthesizing section 130 and synthesized with the position display signal from remote control position symbol creating section 156.
  • the video signal correction unit 170 may correct the video display signal directly input from the video signal generation unit 120b using the correction constant (see the two-dot chain line).
  • the position of the remote controller 200 based on the specification of the remote control position specifying unit 155 or the image according to the result of shooting by the camera 120 and the result of shooting by the camera 110 with the infrared filter Correction means (remote control position correction unit 160 or video signal correction unit 170) for correcting the video display signal generated by the signal generation unit 120b is provided.
  • the infrared filter Correction means remote control position correction unit 160 or video signal correction unit 170
  • the infrared high-sensitivity camera 110A has higher sensitivity to the infrared rays as the second light ray than the sensitivity to the visible light rays as the first light ray.
  • FIG. 16 is a characteristic diagram showing an example of sensitivity characteristics of the infrared high-sensitivity camera 110A.
  • the horizontal axis represents wavelength (nm) and the vertical axis represents camera sensitivity (relative value).
  • the sensitivity of the camera 110A has a wavelength range of 940 nm to 950 nm as a peak region, and the sensitivity sharply decreases at both shorter and longer wavelengths.
  • the infrared light from the remote controller 200 has the above wavelength 940 ⁇ !
  • the sensitivity of the remote controller 200 when receiving background BG-powered visible light (wavelength range 760 nm or less) and the sensitivity of receiving remote control 200-power infrared light can make a big difference.
  • the sensitivity threshold value X shown in FIG. 16 is set so as to be between the above two high and low sensitivity values, the visible light of the background BG force of the remote controller 200, Remote control 200 Even if infrared rays of as much as 200 are received by one camera 110A, the image can be obtained with sensitivity higher than threshold X and infrared image (infrared instruction signal), threshold lower than threshold X The obtained imaging can be processed separately from the visible light image.
  • FIG. 17 is a functional block diagram showing a functional configuration of the image display control apparatus 100 in the present modification, and corresponds to FIG. 11 described above. Parts equivalent to those in FIG. 11 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
  • an infrared high-sensitivity camera 110A having the above-described sensitivity characteristics is provided in place of the camera 110 with an infrared filter and the normal camera 120.
  • the difference between the visible light real image from the background BG of the remote controller 200 and the infrared image from the remote controller 200 is also input to the imaging unit lOAa of the infrared high-sensitivity camera 110A.
  • the imaging unit lOAa separates the infrared image (infrared instruction signal) on the high sensitivity side and the visible light image on the low sensitivity side, and the infrared image and infrared instruction signal are the same as in FIG. Are output to the remote control position specifying unit 155 and the FM demodulating unit 102, respectively, and the visible light image is supplied to the video signal generating unit lOAb.
  • the video signal generation unit 1 lOAb generates a corresponding video display signal and outputs it to the video synthesis unit 130. Since the subsequent operation is the same as that of the modified example (2) shown in FIG. 11, description thereof is omitted.
  • an infrared high-sensitivity camera 110A that is set to be higher in sensitivity to infrared light than the sensitivity to visible light and also serves as the first light beam imaging means is used.
  • an infrared high-sensitivity camera 110A that is set to be higher in sensitivity to infrared light than the sensitivity to visible light and also serves as the first light beam imaging means is used.
  • the infrared instruction signal may be received by the infrared light receiving unit 101, and only the infrared image may be captured by the infrared high-sensitivity camera 110A.
  • the display magnification of the background BG displayed on the liquid crystal display unit 3 of the image display device 1 is fixedly set based on the video display signal from the camera 120 or the like.
  • the display magnification is not limited to this, and the display magnification should be changed according to the distance to the operator S.
  • FIG. 18 to FIG. 22 are explanatory diagrams for explaining the outline of the method of changing the display magnification according to this distance.
  • FIG. 18 shows an example in which operator S is positioned at a relatively close distance from camera 120 (in other words, operation device 200 is the same hereinafter).
  • operation device 200 is the same hereinafter.
  • the cut-out part is displayed on the liquid crystal display unit 3 at the same magnification.
  • FIG. 19 shows an example of a case where the distance from the camera 120 of the operator S is medium. Like FIG. 18, the predetermined range of the area photographed by the camera 120 is also used in this case. Is cut out and displayed on the LCD 3 at the same magnification. At this time, as described above, the operator S moves the remote controller 200 and uses the position display MA on the liquid crystal display unit 3 as a pointer for selecting and specifying the operation area from the operation menu ME. Is possible.
  • FIG. 20 is a diagram showing the minimum unit of operation in the moving operation, and the minimum unit of operation in this case is sufficiently small because it is cut out at the same magnification without being enlarged as described above.
  • the remote controller 200 can be moved by the movement of the hand or arm by the operator S, the position display MA can be smoothly moved with high sensitivity on the liquid crystal display unit 3, and the operation area can be selected and specified smoothly.
  • FIG. 21 shows an example in which the operator S is relatively far away from the camera 120. In this case, if the predetermined range near the operator S in the area photographed by the camera 120 is displayed at the same magnification as it is, it is displayed on the liquid crystal display unit 3 and is displayed on the liquid crystal display unit 3. Display MA and operation menu ME are difficult to display. In order to avoid this, the cut-out range is enlarged and displayed on the liquid crystal display unit 3 in a large size.
  • the minimum unit of operation in the moving operation is relatively coarse as the minimum unit of operation in this case increases as shown in FIG. End up.
  • the remote controller 200 is powered by the hand or arm movement of the operator S, it is difficult to move the position display MA on the liquid crystal display unit 3 with good sensitivity and smoothness. The movement is jerky, such as flying to somewhere) or impossible. Therefore, in this case, a virtual movement position is newly assumed between the two adjacent minimum operation unit points, and the position display MA is displayed using this predicted movement position as a complement ( When the position force of the actual actuator 200 moves to the next position, the position indication MA will be delayed from the actual position of the actuator 200, and the “position” ⁇ “between those two positions will be displayed.
  • the intermediate position of the two positions is followed and displayed with a delay, with the intermediate position need not necessarily be the middle point. ) To prevent the above-mentioned deterioration in operability.
  • FIG. 23 is a functional block diagram showing a functional configuration of the image display control apparatus 100 of the present modification for realizing the above-described method, and corresponds to FIG. 3 and the like of the above-described embodiment.
  • the image display control device 100 of this modification example is provided with a primary video composition unit 135 instead of the image composition unit 130 in the configuration shown in FIG. Section 180 and secondary video composition section 195 are provided.
  • the distance detection unit 115 measures the distance from the remote controller 200 by a known method, and for example, an ultrasonic distance meter or the like is used. The detected distance is input to the extraction processing unit 180 as a distance detection signal.
  • the primary video synthesizing unit 135 receives the video signal from the video signal generating unit 120b based on the image taken by the imaging unit 120a of the camera 120, and has a remote control position. Position display from remote control position symbol creation unit 156 based on identification in identification unit 155 A signal is input. As a result, a video signal in which a predetermined position display MA is superimposed on the position (or the vicinity) of the remote controller 200 that is actually photographed on the liquid crystal display unit 3 is realized.
  • the cutout processing unit 180 is a real image signal with a position display MA from the primary video composition unit 135, a distance detection signal from the distance detection unit 115, and a position from the remote control position specifying unit 155. Input a specific signal. Then, out of the live-action video with the position indication MA, a predetermined range is cut out in the vicinity of the position of the operation device 200 specified by the position specifying signal, and the cut out video according to the distance of the distance detection signal. Is set to the enlargement ratio when the image is displayed on the liquid crystal display section 3, and the real image signal with the position display MA enlarged to that magnification is output to the secondary image composition section 195 (see FIG. 24 for details).
  • the secondary video composition unit 195 synthesizes the live-action video signal with the position display MA (enlarged as appropriate) from the cutout processing unit 180 and the menu display signal from the menu creation unit 154. Then, the composite signal is output to the image display device 1, so that a composite image of the above-described live-action image with the position display MA based on the shooting by the camera 120 and the menu display from the menu creation unit 154 is displayed on the liquid crystal display unit 3. Is displayed.
  • FIG. 24 is a functional block diagram showing a detailed configuration of the cutout processing unit 180.
  • the cutout processing unit 180 includes a simple cutout unit 181 for performing simple cutout without enlargement, an enlarged cutout unit 182 for performing cutout with enlargement, and the expansion cutout described above.
  • the remote controller 200 based on the distance detection signal from the distance detection unit 115 and the signal from the remote control position specifying unit 155 (operation resolution). , Movement resolution, speed, etc.
  • a complement determination unit 184 that determines whether or not to perform the above complement, and a switching control signal from the complement determination unit 184, and the switching switch 187
  • the distance detection signal from the switching switch 185 that selectively outputs the input from the enlarged cutout unit 182 or the complementary enlarged cutout unit 183 to one of the shifts and the distance detection unit 115.
  • An enlargement determination unit 186 that determines whether or not to perform enlargement display, and a switching control signal from the enlargement determination unit 186, and the output from the primary video composition unit 135 is switched to the simple cutout unit 181 or the switching switch. Switch to selectively output to either 185 E switch 187.
  • the simple cutout unit 181, the enlarged cutout unit 182 and the complementary enlarged cutout unit 183 are input with position specifying signals from the remote control position specifying unit 155, and the cutout units 181 to 183 are Based on the specified position of the operation device 200, a predetermined range (for example, fixedly set in advance) near the position of the operation device 200 is cut out.
  • a predetermined range for example, fixedly set in advance
  • FIG. 25 is a flowchart showing a control procedure executed by the entire cutout processing unit 180.
  • step S 10 the enlargement determination unit 186 obtains the distance between the operator 120 (operator 200) and the camera 120 detected by the distance detection unit 115.
  • step S20 Thereafter, in step S20, whether or not the distance acquired in step S10 is relatively close by the enlargement determination unit 186 (for example, a predetermined threshold! / Smaller than a predetermined value! /, If the distance is small, the determination in step S20 is satisfied and the process proceeds to step S30, and the enlargement determination unit 186 outputs a switching control signal to the switching switch 187 and switches to the simple clipping unit 182 side.
  • the video signal with the position display MA from the primary video composition unit 135 is supplied to the simple cutout unit 181 to perform normal cutout without enlargement, and the flow ends.
  • step S20 If the distance is large, the determination in step S20 is not satisfied, the process proceeds to step S35, the enlargement determination unit 186 outputs a switching control signal to the switching switch 187, and switches to the switching switch 1 85 side. Then, the video signal with the position display MA from the primary video composition unit 135 is supplied to the enlarged cutout unit 182 or the complementary enlarged cutout unit 183 to perform cutout processing with enlargement. Thereafter, the process proceeds to step S50, where the supplement processing is performed and this flow is finished.
  • FIG. 26 is a flowchart showing the detailed procedure of step S50.
  • step S52 the supplement determining unit 184 assumes an enlargement magnification executed by the enlarged cutout unit 182 or the complementary enlarged cutout unit 183 according to the distance detection signal from the distance detection unit 115. In this case, it is determined whether the operation resolution that tends to decrease as the distance increases is worse than a predetermined threshold value. If the operation resolution is worse than the threshold value, the determination is satisfied, and if the operation resolution is left as it is, it is considered that the operation is jerky and the operability deteriorates (need to be complemented), and the process proceeds to Step S60 described later. Operation resolution is the threshold value If so, the determination is not satisfied and the routine goes to Step S54.
  • step S54 based on the position specifying signal from the remote control position specifying unit 155 (and its behavior within a predetermined time range), the complementary determination unit 184 reads the reading resolution (for example, as a position specifying signal). If the (moving resolution) is lower than the predetermined threshold value! If the moving resolution is worse than the threshold, the judgment is satisfied. For example, the reading is fragmented due to the presence of an obstacle (described later), and smooth operation is difficult (need to be supplemented). It is regarded and it moves to below-mentioned step S60. If the moving resolution is equal to or greater than the threshold value, the determination is not satisfied and the routine goes to Step S56.
  • the reading resolution for example, as a position specifying signal
  • step S56 the complementary determination unit 184 determines the actual moving speed of the operating device 200 based on the position specifying signal from the remote control position specifying unit 155 (and its behavior within a predetermined time range). , Smaller than the value, (slow,) to determine whether the force. If the moving speed is less than the value, the determination is satisfied. For example, it is assumed that the operator S wants to perform the operation with high accuracy slowly, and the process proceeds to step S60 described later. If the moving speed is equal to or higher than the threshold value, the determination is not satisfied, and the routine goes to Step S58.
  • step S58 the complement determination unit 184 determines whether a complement instruction signal from the operator S has been input. That is, in this modified example, the operator S who is not satisfied that the determination conditions such as step S52, step S54, step S56, etc. are not satisfied is intentionally (forcefully) instructed to perform complementary execution by the complementary expansion cutout unit 183. An operation means capable of performing the operation is provided, and a complement instruction signal from the operation means is input to the complement determination unit 184. In step S58, it is determined whether or not there is a force with the input of the complementary instruction signal. If there is a complementary execution instruction from the operator S, the determination is satisfied, and the routine goes to Step S60 described later. If there is no complementary execution instruction, the determination is not satisfied and this flow ends.
  • step S60 where the determination of any of step S52, step S54, step S56, and step S58 is satisfied and the process proceeds to step S60, the complement determination unit 184 is set to execute complement in the “overwatch mode”. Determine whether or not.
  • the operator S is provided with a selection means that can instruct a force to use one of the two modes during the complementing process, and a mode selection signal from the selection means is input to the complementation determination unit 184. In this step S60, it is determined whether or not the above-mentioned additional mode is selected by this mode selection signal.
  • step S60 the determination in step S60 is satisfied, and the routine goes to step S62.
  • step S62 the supplemental enlargement cutout unit 183 starts complementing the follow-up operation start point Ps for the follow-up display when the follow-up display is delayed from the actual movement of the operation device 200 on the movement locus of the operation device 200 as described above.
  • the intermediate position between the current position of the operation unit 200 and a position slightly earlier than that, but not necessarily the middle point The current position.
  • step S64 the supplementary enlargement cutout unit 183 sets the follow-up operation start point Ps as the current position of the operating device 200, and the follow-up end point Pe when the follow-up display is performed as the complement start (activation) point.
  • step S62 or step S64 the process proceeds to step S66.
  • step S66 the complementary determination unit 184 is set to set the tracking (moving) speed of the position display MA when following the actual operating device 200 while complementing as a constant value. Judge whether or not.
  • a constant-speed mode that follows at a predetermined constant speed (regardless of the actual moving speed of the operating device 200), It is equipped with a variable speed mode in which the follow-up speed changes according to the actual moving speed of the operating device 200.
  • the operator S is provided with a selection means that can instruct the force to use one of the two modes during the complementing process.
  • the selection signal is input to the complementary determination unit 184. This step S66 determines whether or not the constant speed mode is selected by this mode selection signal.
  • step S68 the follow-up speed fpv of the position display MA (pointer) when the supplementary enlargement cutout unit 183 performs the follow-up display with a delay from the actual movement of the operating device 200 as described above is set to a predetermined constant value Ss. To do.
  • step S70 the complementary determination unit 184 determines the actual moving speed of the operating device 200 based on the position specifying signal from the remote control position specifying unit 155 (and its behavior within a predetermined time range) as a predetermined threshold value ⁇ (preliminary). It is determined whether it is as follows. If the moving speed of the operating device 200 is so slow, the determination in step S70 is not satisfied, and the routine proceeds to step S68. If the moving speed of the operation device 200 is sufficiently slow, the determination at step S70 is satisfied, and the routine proceeds to step S72.
  • rpv is the moving speed (actual pointer speed) of the actual operating device 200 (actual position display MA)
  • is the maximum follow-up pointer speed that is set as a fixed upper limit in advance.
  • is the threshold value of the moving speed described in step S70.
  • the above formula 1 has the following significance. That is, since the determination in step S70 is satisfied, the actual moving speed rpv ⁇ a of the operating device 200 at the time of step S72 is satisfied, so a-rpv is a value of 0 or more in the above equation 1. Thus, the slower the moving speed of the actual operating device 200 (the slower the operation), the larger the value. As a result, l + ⁇ -rpv with 1 added to it has the property that it is greater than 1 and becomes larger than 1 as the operation is slow. By removing the, it is possible to realize a pointer follow-up speed fpv that does not exceed the upper limit value and becomes slower as the operation becomes slower.
  • step S74 the supplemental enlargement cutout unit 183 performs predetermined delay processing on the position display (pointer) MA created by the remote control position symbol creation unit 156 and input via the primary video composition unit 135, and the above-described delay processing is performed. Complement processing is performed, and from the tracking operation start point Ps determined in step S62 or step S64 to the tracking end point Pe, according to the tracking pointer speed fpv determined in step S68 or step S72 (instead of the actual movement of the operating device 200) The signal is re-synthesized so that the position display MA is displayed (after a delay), and is output to the secondary video composition unit 195.
  • the remote controller position symbol generator 155 outputs a signal to the remote controller position symbol generator 156 based on the strong position specifying signal to generate a remote control position symbol.
  • the same effect can be obtained by correcting (correcting) the position display signal itself created by the unit 156 so that the same display is performed.
  • the image display device 1 of the present modification a part of the background of the operation device 200 in the video display signal generated by the video display signal generation means 120b is extracted and can be enlarged and displayed on the display screen. It has extraction processing means (in this example, cut-out processing units 180 and 180A).
  • the image display control apparatus 1 of the present modification has distance detection means (in this example, distance detection unit 115) for detecting the distance from the operation device 200, and the extraction processing means 180 includes distance detection. According to the detection result of the means 115, the mode of extraction and enlargement (including the presence or absence of enlargement) is determined.
  • the extraction processing means 180 extracts and enlarges the image near the operator S.
  • the size of the operation area on the display screen 3 can be increased. As a result, it is not necessary to operate in a larger range than necessary, and the operation position is not limited.
  • the predicted position setting means (in this example, the complementary enlarged cutout unit 183) is sequentially specified by the position specifying means 155 when the operation device 200 is moved. Set the expected movement position so that it is in the middle of two adjacent points.
  • the cutout processing unit 180 performs the cutout process
  • the simple cutout unit 181, the enlarged cutout unit 182, and the supplementary enlarged cutout unit 183 are included in the remote control position specifying unit 155.
  • the predetermined range in the vicinity fixedly determined considered as the operable range of the operator S
  • the operator S may set the operation range (operable range) by himself and make the device recognize it.
  • FIG. 27 is a functional block diagram showing a functional configuration of cutout processing unit 180A in such a modification, and is a diagram corresponding to FIG. 24 described above.
  • an operation region determining unit 188 is newly provided in the cutout processing unit 180A according to this modification.
  • the operation area determination unit 188 sets the operation area of the operator S corresponding to the movement area of the operating device 200 within a predetermined time range based on the position specifying signal from the remote control position specifying unit 155.
  • the operation area determination unit 188 applies, for example, a known moving body recognition technique to the video signal from the video signal generation unit 120b of the camera 120 (or the position specification signal from the remote control position specification unit 155). Then, a moving body region (a region where motion is intense in the moving image) within the predetermined time range (for example, immediately after or immediately before the reference time) is detected. If it is assumed that the detected moving body region is a region near the arm of the operator S, the operable region by the operator S can be estimated from this. This is output as an operation area to the simple cutout unit 181, the enlarged cutout unit 182, and the complementary enlarged cutout unit 183. These cutout units 181 to 183 can execute cutout processing of the area.
  • a known moving body recognition technique to the video signal from the video signal generation unit 120b of the camera 120 (or the position specification signal from the remote control position specification unit 155). Then, a moving body region (a region where motion is intense in the moving image) within the predetermined time range (for example, immediately after
  • the extraction processing unit 180A is recognized based on the video display signal generated by the video display signal generating unit 120b or the position specifying result by the position specifying unit 155.
  • the mode of extraction and expansion is determined according to the movement (range) information of the operating device 200 to be operated.
  • the extraction processing means 180A extracts and enlarges the image near the operator S.
  • the size of the operation area on the display screen 3 can be increased. As a result, it is not necessary to operate in a larger range than necessary, and the operation position is not limited.
  • the face of the operator S is identified from the video signal captured by the imaging unit 120a of the camera 120 and generated by the video signal generation unit 120b, and the size of the face is determined. It is possible to obtain the distance to the operator S by comparing the average size of the general human face size. In this case, a region within a certain range around the face recognition region may be determined as the operation region, and the clipping units 181 to 183 may perform the clipping. Alternatively, a predetermined range including the face recognition area and the operation device 200 specified by the remote control position specifying unit 155 described above may be determined as the operation area, and the cutout units 181 to 183 may cut out. It is also possible to perform distance measurement on the wrinkle part of the face using known image recognition.
  • the camera 110 with the infrared filter and the normal camera 120 are provided separately, they 2 Due to the displacement of the lens positions of the two cameras 110 and 120, the respective images do not exactly match and parallax occurs.
  • a left camera and a right camera for distance detection are provided (at least one of them can be used as the cameras 110 and 120), and the distance is measured using these parallaxes. You can do it!
  • Fig. 28 which has a method of calculating from the size of a figure in the input image, shows this method. It is explanatory drawing for demonstrating.
  • FIG. 28 for example, assuming that the IR-LED is installed in a substantially “mouth” shape as shown in the tip of the controller 200, the above-mentioned IR-LED “mouth” in the video signal photographed by the camera 120 is used. The size of the “” character becomes smaller as the distance to the controller 200 increases. By using this correlation to obtain the size of the “mouth” in the video signal, the distance to the operation device 200 can be calculated by back calculation.
  • FIG. 29 (a), FIG. 29 (b), and FIG. 29 (c) are explanatory diagrams for explaining an outline of a modified example in which the cutout region is changed as one of the obstacle avoidance techniques.
  • Fig. 29 (a) is a diagram corresponding to Fig. 18 and the like described above, and shows the positional relationship between the area photographed by the camera 120 and the area to be cut out. If operator S is at a relatively close distance (when viewed from camera 120, it is closer to the obstacle), as shown in Fig. 29 (b), the area captured by camera 120 After cutting out a predetermined range in the vicinity of the operator S, the cut-out portion is displayed on the liquid crystal display unit 3 at the same magnification.
  • the operation menu ME is displayed over the obstacle (in this example, the bookshelf) as shown in the figure, but since the operator S is positioned on the near side of the obstacle, the operator When S swings his arm with the operation device 200, the position display MA can be positioned on the operation menu ME in a state where the book is placed on the bookshelf, and the normal operation can be performed.
  • the obstacle in this example, the bookshelf
  • the operation menu ME is directly displayed as described above. Even if it is displayed on an obstacle (book shelf), the operator S is located behind the obstacle as viewed from the camera 120, so even if the operator S shakes his arm, the position is displayed on the operation menu ME.
  • the MA cannot be positioned and cannot be operated! /.
  • Fig. 29 (b) the state where the operator S is in front of the obstacle as viewed from the camera 120 and the obstacle is inactive
  • Fig. 29 (c) Various methods can be considered to distinguish from the state shown (the obstacle is in the active state of the obstacle in front of the operator S when viewed from the camera 120).
  • FIG. 30 there is a method of registering objects that can become obstacles in a database corresponding to the distance from the camera 120 in advance (see database 145 in FIG. 33 described later). .
  • the right column shows the distance (activity distance) of each object from the camera 120, and when the distance from the distance detection unit 115 to the operator S is larger than this activation distance, The object can be regarded as an obstacle.
  • a known object recognition technology for example, digital image processing (CG-ARTS Association) p.192-P.200
  • CG-ARTS Association digital image processing
  • FIG. 31 (a), FIG. 31 (b), and FIG. 31 (c) are explanatory diagrams for explaining an outline of a modified example of shifting the menu display area as another example of the obstacle avoidance technique. .
  • FIG. 31 (a) is a view corresponding to FIG. 29 (a), FIG. 18, etc., and shows the positional relationship between the area photographed by the camera 120 and the area to be cut out.
  • the operation menu ME is displayed on the obstacle (book shelf) as usual.
  • the operator S places the position display MA on the operation menu ME in a state where the operator S shakes his arm with the operation device 200 and wears the book shelf. Can be operated as usual.
  • FIG. 32 is a functional block diagram showing a functional configuration of the image display control device 100 of the present modification for realizing the above-described method, and is a diagram corresponding to FIG. 23, FIG. 3, and the like described above.
  • the image display control apparatus 100 of this modification includes functions corresponding to the cutout processing unit 180 and the secondary video composition unit 195 in the configuration shown in FIG. 23 in the modification of (6).
  • an obstacle determination unit 125 is newly provided.
  • the obstacle determination unit 125 receives the distance detection signal from the distance detection unit 115 and the position specification signal from the remote control position specification unit 155, and the obstacle is in an inactive state as described above. Or active state.
  • the cutout processing unit 180B does not have an expansion function like the above-described cutout processing units 180 and 180A, and the determination result signal in the obstacle determination unit 125 and the remote control position specifying unit Based on the position identification signal from 155, the video signal with the position display MA from the primary video composition unit 135 is cut out in a manner corresponding to the obstacle determination result (cutting out the normal cutting force position). (See Figure 33 below for details).
  • the secondary video composition unit 195A displays the video clipped by the cutout processing unit 18OB in a manner (menu display position force shifted from the normal menu display position) according to the determination result in the obstacle determination unit 125.
  • the operation menu ME input from the menu creation unit 154 Synthesize.
  • FIG. 33 is a functional block diagram showing the detailed configuration of the cutout processing unit 180B and the secondary video composition unit 195A together with the obstacle determination unit 125.
  • the cutout processing unit 180B performs normal cutout unit 189 for performing normal cutout without performing shift for obstacle avoidance, and cutout with shift for obstacle avoidance. Are switched by a switching control signal from the shift cutout unit 190 and the obstacle determination unit 125, and the input from the primary video composition unit 135 is selectively selected as either the normal cutout unit 189 or the shift cutout unit 190. And a switch 191 for outputting to the terminal.
  • the normal cutout unit 189 receives the position specifying signal from the remote control position specifying unit 155, and based on the specified position of the operating device 200, a predetermined range in the vicinity of the operating device 200 position (for example, fixed in advance). Set to, and cut out.
  • the shift cutout unit 190 receives the same position specifying signal from the remote control position specifying unit 155 and the obstacle determination result (including obstacle position information) from the obstacle determining unit 125 as described above. Based on the position of the obstacle and the position of the obstacle, the predetermined range in the vicinity of the position of the operating device 200 is cut out while shifting the position so as to avoid the obstacle position as described above.
  • the secondary image composition unit 195A avoids obstacles with the normal composition unit 196 for performing image composition for normal menu display without shifting for obstacle avoidance.
  • the shift composition unit 197 that performs video composition for the shifted menu display and the switching control signal from the obstacle determination unit 125 are switched, and the input of the clipping processing unit 180B force is input to the normal composition unit 196 or the shift composition unit.
  • a switching switch 198 that selectively outputs to any one of the 197 is provided.
  • the normal compositing unit 196 receives the menu display signal from the menu creation unit 154, and inputs the operation menu ME to a predetermined position (for example, fixed in advance) of the image into which the clipping processing unit 180B is also input. Is set to The shift composition unit 197 receives the same menu display signal from the menu creation unit 154 and the obstacle determination unit 125 as well as the obstacle determination result (including obstacle position information). Based on the above, the input operation menu ME will be used to locate the obstacle as described above. The position is shifted so that it can be avoided.
  • the cutout processing unit 180B capable of executing the shift cutout function shown in Fig. 29 described above, and the above secondary video capable of executing the shift menu display function shown in Fig. 31 described above.
  • a case where both the combining unit 195A is provided is shown as an example. However, if only one of the functions needs to be performed, the other side need only have a general function. For example, in the case where countermeasures against obstacles are performed using only the shift cutout function in the cutout processing unit 180B, the shift combining unit 197 in the secondary video combining unit 195A (along with the switching switch 198) may be omitted. Similarly, when an obstacle countermeasure is performed only by the shift menu display function in the secondary video composition unit 195A, the shift cutout unit 190 in the cutout processing unit 18OB may be omitted (together with the switching switch 191).
  • FIG. 34 is a flowchart showing a control procedure executed by the cutout processing unit 180B, the secondary video composition unit 195A, and the obstacle determination unit 125 as a whole.
  • the same steps as those in FIG. 25 are denoted by the same reference numerals, and the description will be simplified as appropriate.
  • step S10 the obstacle determination unit 125 obtains the distance between the operator S (operator 200) detected by the distance detection unit 115 and the camera 120.
  • step S15 the obstacle determination unit 125 obtains information on the obstacle in question from the database 145 having the obstacle information stored in the database (including at least the active distance) It may include the size of obstacles).
  • step S40 the obstacle determination unit 125 activates the obstacle based on the distance acquired in step S10 and the obstacle information acquired in step S15 ( It is determined whether the obstacle is in front of the operator S as viewed from the camera 120. If it is not in the active state, the determination is not satisfied, and this flow ends.
  • step S40 If the obstacle is in the active state, the determination at step S40 is satisfied, and the routine goes to step S43.
  • step S43 whether the obstacle determination unit 125 can secure a sufficient display space for the operation menu ME in an area other than the obstacle based on the obstacle information (without performing a cutout to avoid the obstacle). Determine if.
  • step S46 the obstacle determination unit 125 outputs a switching control signal to the switching switch 191 to switch to the normal cutout unit 189 side, and outputs a switching control signal to the switching switch 198 to shift to the synthesizing unit 197 side.
  • the video signal with the position display MA from the primary video composition unit 135 is supplied to the normal cutout unit 189 to perform normal cutout without shifting, and the cutout video signal from the normal cutout unit 189 is shifted. This is supplied to the composition unit 197, and the video composition for the shifted menu display to avoid the obstacle is performed as described above, and this flow is finished.
  • step S43 for example, when the obstacle itself is relatively close to the camera 120, or when the obstacle size is large! If the menu ME display space cannot be secured, the determination at step S43 is not satisfied, and the routine goes to step S49.
  • step S49 the obstacle determination unit 125 outputs a switching control signal to the switching switch 191 to shift to the shift-out clipping unit 190 side, and outputs a switching control signal to the switching switch 198 to output the normal combining unit 196. Switch to the side.
  • the video signal with the position display MA from the primary video composition unit 135 is shifted and supplied to the cutout unit 190 to perform the cutout to avoid the obstacle as described above, and from the shift cutout unit 190.
  • the cut-out video signal is supplied to the normal synthesis unit 196, video synthesis is performed for normal menu display without shifting, and this flow ends.
  • the extraction processing means in this example, the cut-out processing unit 180B
  • the mode of extraction and enlargement is determined so as to avoid the image of the obstacle to be performed.
  • the obstacle when there is an obstacle between the controller 200 and the device 1, the obstacle is displayed on the display screen 3 by performing extraction and enlargement so as to avoid the image of the obstacle.
  • the operating area of the operating device 200 can be secured without being obstructed by the image of the object, and the operability can be prevented from being lowered.
  • the operation position is not limited.
  • the image display control device 1 according to the present modification is configured to display the display position on the display screen 3 of the operation target graphic ME generated by the graphic display signal generating means 154 with the video display signal.
  • the graphic position setting means in this example, the secondary video composition unit 195A for setting the image display signal generated by the generation means 120b so as to avoid the image of the obstacle interposed between the operation device 200 and the image display signal is provided. Have.
  • a technique may be executed that gives the operator S an operational feeling as if operating through a hazardous material.
  • FIG. 35 (a), FIG. 35 (b), FIG. 35 (c), and FIG. 35 (d) are explanatory diagrams for explaining an outline of a modified example that obtains such an operation feeling.
  • Fig. 35 (a) is a diagram corresponding to Fig. 18 and the like described above, and represents an area photographed by the camera 120.
  • the area photographed by the camera 120 is directly liquid crystal with the same magnification.
  • an obstacle is located on the near side of the operator S, and the operation menu ME is displayed on the obstacle (in this example, a foliage plant) as shown in the figure.
  • the operation device 200 is put on the houseplant as shown in FIG. 35 (b). Then, it becomes difficult or impossible to specify the position of the operating device 200 by the remote control position specifying unit 155, so that the position display MA cannot be positioned on the operation menu ME.
  • FIG. 36 is a functional block diagram showing a functional configuration of the image display control apparatus 100 of the present modification for realizing the above-described method, and corresponds to FIG. 3 and the like of the above embodiment.
  • the image display control apparatus 100 of this modification is provided with a complementary signal generation unit 165 in the configuration shown in FIG.
  • the complementary signal generation unit 165 receives a position specifying signal from the remote control position specifying unit 155, and newly adds a virtual signal to extend the movement locus of the specific position of the operation device 200 based on the signal. Assuming the moving position of the operating device 200, a complementary signal for complementing the position display MA using the predicted moving position is generated and output to the remote control position symbol creating unit 156.
  • the remote control position symbol creation unit 156 causes the liquid crystal display unit 3 to display the position of the remote controller 200 at the position specified by the position specifying signal from the remote control position specifying unit 155 as usual.
  • the complementary signal generator can be used to replace the position identification signal from the remote control position identification unit 155 when it is over the obstacle.
  • the position display MA is generated by the complementary signal input from 165 and output to the video composition unit 130. As a result, the position display MA corresponding to the assumed movement position of the remote controller 200 is superimposed on the image of the obstacle actually captured on the liquid crystal display unit 3 and displayed.
  • FIG. 37 is a flowchart showing the control procedure executed by complementary signal generation section 165, and corresponds to FIGS. 25 and 26 described above.
  • step S102 based on the position specifying signal (and its behavior within a predetermined time range) from the remote control position specifying unit 155, the actual moving speed of the operating device 200 is determined from a predetermined threshold value. Judge whether the power is small (slow). If the moving speed is less than the threshold value, the determination is satisfied, for example, the operator S is aware of the presence of an obstacle. Therefore, it is considered that the user wants to operate through the obstacle, and the process proceeds to Step S108 described later. If the moving speed is equal to or higher than the threshold value, the determination is not satisfied, and the routine goes to Step S104.
  • step S104 based on the position specifying signal from remote control position specifying unit 155 (and its behavior within a predetermined time range), the actual moving speed of operation device 200 is set based on a predetermined threshold (in step S102 above). Determine whether the threshold is greater than the value! /, Value) greater! /, (Speed). If the moving speed is greater than the threshold value, the determination is satisfied.For example, it is assumed that the operator S is aware of the presence of the obstacle and wants to operate the obstacle, and the process proceeds to step S108 described later. . If the moving speed is less than the threshold value, the determination is not satisfied, and the routine goes to Step S106.
  • step S106 it is determined whether or not a complementary instruction signal from operator S has been input. That is, in this modified example, the operator S who is not satisfied that the determination conditions such as step S102 and step S104 are satisfied can be instructed intentionally (forcibly) by the complementary signal generation unit 165. An operation means is provided, and a complementary instruction signal by the operation means is input to the complementary signal generation unit 165 (see the arrow input from the user instruction input unit 151 in FIG. 36). This step S106 determines whether or not the input of the complementary instruction signal has been received. If there is a complementary execution instruction from the operator S, the determination is satisfied, and the routine goes to Step S108 described later. If there is no complementary execution instruction, the determination is not satisfied and this flow ends.
  • Step S108 where the determination of any of Step S102, Step S104, and Step S106 is satisfied and the transition is made, the movement locus of the actual operating device 200 is interrupted and the extended display is started as described above.
  • the extension operation start point Ps is set as the current position of the actuator 200. Further, the extension operation end point Pe is determined as follows.
  • step S110 it is determined whether or not the point determined as the extension end point Pe in step S108 above (the intersection of the extension line and the screen edge of the display screen) can actually be specified as the end point of the extension operation. judge.
  • step S112 another specifiable element different from the extension end point Pe determined in step S108 above (for example, on the operation menu ME displayed by the menu display signal from the menu creation unit 154. FIG. 38 described above. Change the position of the extension end point Pe so that the extension line passes through a predetermined location (see the center of gravity in this example). Thereafter, the process proceeds to step S114.
  • step S114 it is determined whether or not the extension display (tracking) speed of the position display MA is set to a constant value when extending (tracking) to extend along the extension line. .
  • step S114 it is determined whether or not the constant speed mode is selected by the mode selection signal.
  • step S114 If the constant speed mode has been selected by the operator S, the determination in step S114 is satisfied, and the routine goes to step S116.
  • step S116 the follow-up speed fpv of the position display MA (pointer) when the follow-up display is performed so as to extend the actual movement locus of the operating device 200 as described above is set to a predetermined constant value Ss.
  • step S118 the remote control position specifying unit 155 Based on the strong positioning signal (and its behavior within the predetermined time range), the actual moving speed of the operating device 200 becomes the predetermined threshold value or less than the value oc (preset)! / Determine whether. If the moving speed of the operating device 200 is so slow, the determination in step S118 is not satisfied, and the routine proceeds to step S116. If the moving speed of the operating device 200 is sufficiently slow, the determination at step S118 is satisfied, and the routine goes to step S120.
  • step S120 the follow-up speed fpv of the position display MA (pointer) when the follow-up display is performed so as to extend the movement locus of the actual operating device 200 as described above,
  • rpv is the moving speed (actual pointer speed) of the actual operating device 200 (actual position display MA)
  • is the maximum follow-up pointer speed that is set as a fixed upper limit in advance.
  • is the threshold value of the moving speed described in step S118.
  • the above formula 2 has the same significance as the above-described formula 1. That is, since the determination at step S118 is satisfied, the actual moving speed rpv ⁇ a of the operating device 200 at the time of step S120, so arpv is a value of 0 or more in equation 2 above. Thus, the slower the moving speed of the actual operating device 200 (the slower the operation), the larger the value. As a result, 1 + a-rpv with a value of 1 is greater than 1 and becomes larger than 1 as the operation is slow. By removing the, it is possible to realize the pointer follow-up speed fpv that does not exceed the upper limit value and becomes slower as the operation becomes slower.
  • step S116 or step S120 the process proceeds to step S122.
  • step S122 the above-described extension complement processing is applied to the position display (pointer) MA created and input by the remote control position symbol creation unit 156, and the extension start determined in step S108 (or step S112) is started. From the point Ps to the extension end point Pe, a complementary signal is output to the remote control position symbol creation unit 156 so that the position display MA is displayed at the following pointer speed fpv determined in step S116 or step S120.
  • step S122 is finished, End one Chin.
  • the remote controller 200 held by the operator S is moved to move the position display MA on the liquid crystal display unit 3 to execute the operation menu ME.
  • the operation unit 201 is appropriately operated so as to determine the operation of the operation area (for example, the “OK” button is pressed).
  • a corresponding infrared instruction signal is emitted from the infrared drive unit 202, and the image display control device 100 performs a process based on this to output a corresponding operation signal to the DVD recording / reproducing mechanism 140. , Was able to perform the corresponding action.
  • the prediction of the operating device 200 different from the specified position is expected.
  • Expected position setting means in this example, a complementary signal generating unit 165) for setting the movement position is provided.
  • the moving position is predicted in addition to the result of specifying the position of the operating device 200.
  • the predicted position setting means 165 is such that the predicted movement position is on an extension line in the movement direction that is sequentially specified by the position specifying means 155 when the operation device 200 is moved. Set.
  • the controller 200 covers the houseplant in the middle of the position display MA on the operation menu ME as described above. In this state, it becomes difficult or impossible to locate the operation device 200 by the remote control position specifying unit 155. During this state, the position indication MA is fragmented or discretely (for example, blocked by the foliage of the foliage plant). It may only be displayed (or the moving resolution will be lower).
  • the extension complementing method in the modified example of (8) can be applied to the complementing in the intermediate portion of the movement locus in the same manner as described above. That is, as shown in FIGS. 39 (c) and 39 (d), the remote control position is set before the operating device 200 is put on the houseplant or when the operating device 200 is fragmented from between the branches and leaves. Using the movement trajectory of the specific position (indicated by the “X”) of the controller 200 that can be specified by the identification unit 1 55, connect this (to connect two adjacent points of the specific position of the controller 200) ) Separately, assume a virtual moving position, and display it in the form of complementing the position display MA using this predicted moving position (indicated by “fist”). As a result, the force applied to the operator S is given a continuous operation feeling that the obstacle is not obstructed.
  • the predicted position setting means 165 is an intermediate portion between two adjacent points that are sequentially specified by the position specifying means 155 when the operation device 200 is moved. Set the expected movement position.
  • the menu screen related to the operation of the DVD recording / playback mechanism 140 is displayed on the image display device 1 and the infrared image of the remote controller 200 is used as a menu selection pointer.
  • the use as a pointer is not limited to this, but can be applied to other applications.
  • the pointer function is applied to freely specify the playback position of the stored content.
  • FIG. 40 is a diagram illustrating an example of display on the liquid crystal display unit 3 of the image display device 1 in the image display system according to the present modification, and corresponds to FIG. 6 described above. Parts equivalent to those in Fig. 6 are given the same reference numerals.
  • the operator displays a content (program etc.) display CT of 1 hour in length recorded in advance on a DVD stored in the storage unit (not shown) of the image display control device 100.
  • S intends to play the content from the desired time position (in the example shown, the position where the playback start position force has also passed 42 minutes), and the position on the liquid crystal display unit 3 of the remote controller 200 held by the hand is the content.
  • the image CC (which may be a still image or a movie) of the content at the 42-minute elapsed point (playback start position) is interrupted and displayed in the upper right portion of the liquid crystal display unit 3.
  • the current broadcast image on a predetermined channel unrelated to the content reproduction start position designation operation may be displayed at this position.
  • FIG. 41 is a functional block diagram showing a functional configuration of the image display control apparatus 100. As shown in FIG.
  • the image display control device 100 replaces the menu display creation unit 154 shown in FIG. 3 and the like with a content display creation unit that generates a signal for causing the liquid crystal display unit 3 to display the content.
  • 154A is provided.
  • the operator in a state where the real world where the operator S is displayed on the liquid crystal display unit 3 of the image display device 1 based on the video display signal from the camera 120, the operator When S holds the remote controller 200 and operates the operation unit 201 appropriately, a specific infrared instruction signal (corresponding to the content playback position designation mode) corresponding to this is emitted from the infrared drive unit 202, and Similarly, after being received by the infrared light receiving unit 101 of the image display control device 100, an identification code corresponding to the user instruction input unit 151 of the controller 150 is input through the FM demodulator 102, BPF 103, and pulse demodulator 104.
  • the user instruction input unit 151 inputs a creation instruction signal to the content display creation unit 154A, and the content display creation unit 154A responds to the playback corresponding to the DVD recording and playback mechanism 140.
  • the content display creation unit 154A responds to the playback corresponding to the DVD recording and playback mechanism 140.
  • the content that has a belt-like display power as shown in FIG. 40 on the liquid crystal display unit 3 of the image display device 1
  • a content display signal (graphic display signal) for displaying the time frame (operation target graphic) is generated.
  • This content display signal is combined with the video display signal from the video signal generation unit 120b of the camera 120 by the video synthesis unit 130 as described above, and the combined signal is output to the image display device 1. Then, a composite video of the above-mentioned live-action video by the camera 120 and the content display CT from the above-mentioned content display creation unit 154A is displayed on the liquid crystal display unit 3 (content playback position designation mode, in other words, the screen position selection mode. Migration).
  • the remote controller 200 sends the specific infrared instruction signal (low power consumption) while it is in the content playback position designation mode (until this mode ends). ) Will continue to transmit.
  • the specific infrared instruction signal emitted from the remote controller 200 held by the operator S is captured by the camera 110 with the infrared filter, and the remote control position specifying unit 155
  • the position occupied by the remote controller 200 during imaging by the camera 110 with the infrared filter is specified, and a position display signal is generated by the remote control position symbol generator 156 based on the position information and input to the video composition unit 130.
  • the position display MA (arrow mark, see FIG. 40 above) is displayed in a superimposed manner at the position (or near) of the remote controller 200 that is actually photographed on the liquid crystal display unit 3. This allows operator S to operate remotely.
  • the position display MA of the remote controller 200 displayed on the liquid crystal display 3 so as to overlap the content display CT is displayed. It can be moved on the LCD 3.
  • the position information of the remote controller 200 specified by the remote control position specifying unit 155 is also input to the user operation determining unit 152.
  • the user operation determining unit 152 stores the content Information relating to the content display of the content display signal created by the display creation unit 154A (what kind of content and how long the content is being displayed) is also input.
  • the operator S moves the remote controller 200 and moves the position display MA on the liquid crystal display unit 3 to start playback of the content display CT! /
  • the position display MA reaches the position.
  • the operation unit 201 determines the selection designation (for example, by pressing the “OK” button)
  • the corresponding infrared instruction signal is emitted from the infrared drive unit 202 as described above.
  • the identification code corresponding to the user instruction input unit 151 of the controller 150 is input and decoded through the FM demodulator 102, BPF 103, and pulse demodulator 104.
  • a determination instruction signal is input to the user operation determination unit 152 correspondingly.
  • the user operation determination unit 152 to which the determination instruction signal is input as described above, the position information of the remote controller 200 acquired from the remote control position specifying unit 155 and the content acquired from the content display creation unit 154A. Based on the display information, the reproduction start position (operation designated part) selected and designated from the content display CT displayed on the liquid crystal display unit 3 is determined (operation designated part), and the corresponding signal is sent to the content. Input to display creation unit 154A. Based on the input signal, the content display creation unit 154A generates a content display signal that displays the selected playback start position and its neighboring area in a manner different from that of the other parts. Output to part 130.
  • the playback start position force selected and specified is also displayed in the 42-minute elapsed position and its neighboring area in a different color from the other areas. Then, an operation instruction signal corresponding to the selection designation of the reproduction start position is output from the user operation determination unit 152 to the operation signal generation unit 153, and the operation signal generation unit 153 responds accordingly. The corresponding operation signal is output to the DVD recording / reproducing mechanism 140, and the reproduction operation from the corresponding position can be performed.
  • the position display MA of the remote controller 200 on the liquid crystal display unit 3 can be used as a pointer for selecting and specifying the playback start position from the content display CT.
  • the remote control unit 200 without moving and the position movement of the V itself, V, sensible, intuitively easy to divide easily, and the desired playback start position can be easily selected and specified from the content display CT .
  • the convenience during remote operation can be greatly improved.
  • the details of other effects are omitted, substantially the same effects as in the above embodiment can be obtained.
  • the real-world video and the content display CT are largely displayed on almost the entire liquid crystal display unit 3, and the content image CC ( There is an interrupt display of the current broadcast image on a predetermined channel, but this is not restrictive. That is, conversely to the above, as shown in FIG. 42, the content image CC at the playback start position (or the current broadcast image at the predetermined channel) is displayed largely on the entire liquid crystal display unit 3, and the real world is displayed in the upper right part.
  • Boundary video and content display CT may be interrupted and displayed.
  • the playback start position is not limited to the position of the remote controller 200 as described above.
  • the volume of playback video or playback music, the brightness of the display screen, or the like can be specified. good. Also, it is not limited to playback, but it may be possible to specify the recording start position.
  • the pointer function can be applied to an electronic program guide (EPG) that has been rapidly spreading in recent years. This modification is an example of such a case.
  • EPG electronic program guide
  • FIG. 43 is a diagram showing an example of display on the liquid crystal display unit 3 of the image display device 1 in the image display system of the present modification, and is a diagram corresponding to FIG. 6 and FIG. 40 described above. is there. Parts equivalent to those in Fig. 6 are given the same reference numerals.
  • the image display control device In the state where the electronic program guide E is displayed on the liquid crystal display unit 3 using a known function on the display device 100 or the image display device 1, the operator S views a predetermined program displayed on the electronic program guide E. After positioning the position of the remote control device 200 on the liquid crystal display unit 3 of the remote control device 200 held in the hand in the area (frame) of the program in the electronic program guide E (see the arrow mark), Press the “OK” button to confirm the selection.
  • FIG. 44 is a functional block diagram showing a functional configuration of the image display control device 100. As shown in FIG.
  • the image display control device 100 replaces the content display creation unit 154A shown in FIG. 41 of the modification (9) described above with the electronic program guide ⁇ ⁇ including the desired program that has been viewed as described above.
  • a program guide display creating unit 154B for generating a signal to be displayed on the liquid crystal display unit 3 is provided.
  • a code is entered and decoded.
  • the user instruction input unit 151 inputs a creation instruction signal to the program guide display creation unit 154B, and the program guide display creation unit 154B responds to the DVD recording / playback mechanism 140 (or Furthermore, after obtaining the information (program content, time, etc. displayed on the electronic program guide) by asking the V, the inquiry about the electronic program guide that can be obtained via this, and obtaining the information (program content, time, etc. displayed on the electronic program guide)
  • a program guide display signal (graphic display signal) for displaying an electronic program guide ⁇ (graphic to be operated) in a predetermined manner as shown in FIG. 43 on the liquid crystal display section 3 of the image display device 1 Is generated.
  • This program guide display signal is synthesized with the video display signal from the video signal generation unit 120b of the camera 120 by the video synthesis unit 130, as described above, and the synthesized signal is output to the image display device 1.
  • a composite video of the live-action video from the camera 120 and the electronic program guide E from the program guide display creation unit 154B is displayed on the liquid crystal display unit 3 (electronic program guide).
  • Id display mode in other words, transition to screen position selection mode).
  • the specific infrared instruction signal (low power consumption) is transmitted from the remote controller 200 during the transition to the electronic program guide display mode (until this mode ends). Continue to continue.
  • the specific infrared instruction signal emitted from the remote controller 200 held by the operator S is captured by the camera 110 with the infrared filter, and the remote control position is obtained.
  • the position occupied by the remote controller 200 during imaging by the infrared filter camera 110 is specified in the specifying unit 155, and a position display signal is generated in the remote control position symbol generating unit 156 based on the position information, and the image synthesizing unit 130 is generated.
  • the position display MA (arrow-shaped mark, see Fig. 43 above) is displayed overlaid on the position of the remote controller 200 that is actually captured on the liquid crystal display unit 3 Is done.
  • the liquid crystal display unit 3 is displayed so as to overlap the electronic program guide E.
  • the position display MA of the remote controller 200 can be moved on the liquid crystal display unit 3.
  • the position information of the remote controller 200 specified by the remote control position specifying unit 155 is also input to the user operation determining unit 152, as in the modification of (9) described above.
  • Information on the electronic program guide display of the program guide display signal created by the program guide display creation unit 154B (how many programs of what length and what content are displayed at what time zone) Etc.) is also entered.
  • the operator S moves the remote controller 200 to move the position display MA on the liquid crystal display unit 3, and when viewing the electronic program guide ⁇ , the position display MA is displayed in the program display area.
  • the operation unit 201 By operating the operation unit 201 appropriately to determine the selection designation when it arrives (for example, by pressing the “OK” button), the corresponding infrared line instruction is provided in the same manner as the above-mentioned modification (9).
  • the signal After the signal is emitted from the infrared drive unit 202 and received by the infrared light receiving unit 101 of the image display control device 100, it passes through the FM demodulator 102, BPF 103, and pulse demodulator 104, and the user instruction input unit 15 of the controller i 50 1 5 An identification code corresponding to 1 is input and decoded (instruction signal input means), and a determination instruction signal is input to the user operation determination unit 152 correspondingly. [0215]
  • the user operation determination unit 152 to which the determination instruction signal is input, displays the position information of the remote controller 200 obtained from the remote control position specifying unit 155 and the program table display, as in the modification of (9) described above.
  • the region (operation designated part) of the desired program to be selected from the electronic program guide ⁇ displayed on the liquid crystal display part 3 is determined (operation designated part). Determining means), and a signal corresponding thereto is input to the program guide display creating unit 154B. Based on the input signal, the program guide display creation unit 154B generates a program guide display signal that displays the selected program area (program frame) in a manner different from other parts. Output to the video composition unit 130.
  • the selected program area is displayed in a different color from the other areas.
  • an operation instruction signal corresponding to the selection designation of the program area is output from the user operation determination unit 152 to the operation signal generation unit 153, and the operation signal generation unit 153 sends the corresponding operation signal to the DVD recording.
  • the position display MA of the remote controller 200 on the liquid crystal display unit 3 can be used as a pointer for selecting and specifying a program when the electronic program guide E force is also viewed.
  • the remote controller 200 that keeps an eye on it is the movement of the position of the device itself. ⁇ Easy to use intuitively. ⁇ hardly select and specify the desired program area in the electronic program guide. Can do. At this time, since it is not necessary to memorize the gesture as in the prior art, and the burden on the operator S is not increased, the convenience during remote operation can be greatly improved.
  • the details of other effects are omitted, substantially the same effects as in the above embodiment can be obtained.
  • the position of the remote controller 200 based on infrared imaging and the real-world video by the camera are superimposed and displayed on the liquid crystal display unit 3 of the image display device 1, and the infrared image of the remote controller 200 is displayed in that state. If you can easily select and specify the desired operation area of the operation menu ME by movement, it is very easy to understand intuitively and intuitively. As long as the effect is obtained, the live-action image may be omitted as necessary. This modification is an example of such a case.
  • FIG. 45 is a diagram showing an example of the display on the liquid crystal display unit 3 of the image display device 1 in the image display system of the present modification, and is shown in FIG. 6, FIG. 40, FIG. It is a corresponding figure. Parts equivalent to those in Fig. 6 are given the same reference numerals.
  • the actual images of the operator S and the remote controller 200 are shown in the same way as in FIG. 6, etc., but this is not actually displayed (see the two-dot chain line) Only the position display MA (white arrow) of the remote controller 200 is displayed on the liquid crystal display unit 3.
  • the operator S intends to perform a predetermined operation included in the operation menu ME in a state where the operation menu ME is displayed on the liquid crystal display unit 3.
  • the operator S After placing the position of the remote controller 200 on the LCD display unit 3 in the remote control unit 200 in the corresponding operation area of the operation menu ME (see the arrow mark), press the “OK” button to confirm the selection. Represents the status.
  • FIG. 46 is a functional block diagram showing a functional configuration of the image display control apparatus 100. As shown in FIG.
  • the image display control apparatus 100 deletes the camera 120 from the configuration shown in FIG. 3 of the above embodiment, and includes a signal synthesis unit 130A instead of the video synthesis unit 130. Only two of the position display signal from the remote control position symbol creation unit 156 and the menu display signal from the menu creation unit 154 described above are input to the signal synthesis unit 130A, and these are synthesized and combined into the image display device 1. In response to this, the display as described with reference to FIG. 45 is executed on the liquid crystal display unit 3 of the image display device 1.
  • a specific infrared instruction signal emitted from the remote controller 200 held by the operator S is captured and recognized as an infrared image by the camera 110 with the infrared filter, and the captured image signal is received by the remote control position identifying unit 155.
  • the remote controller position specifying unit 155 specifies the position occupied by the remote controller 200 during imaging by the camera 110 with the infrared filter based on the recognition result.
  • the position information of the remote controller 200 identified by the remote controller position identifying unit 155 is input to the remote controller position symbol creating unit 156, and the position display for displaying the position of the remote controller 200 on the liquid crystal display unit 3 is performed.
  • a signal is generated, and the generated position indication signal is the above signal. It is input to the combining unit 130A.
  • the operation menu ME that has already been displayed based on the menu display signal from the menu creation unit 154 in the liquid crystal display unit 3 by the method described above is used in a predetermined manner corresponding to the position of the remote controller 200.
  • Position display MA (arrow-shaped MA ⁇ see Fig. 45) is displayed in an overlapping manner. As a result, when the operator S holds the remote controller 200 and moves the position (spatially changing the position), it is displayed on the liquid crystal display unit 3 so as to overlap the operation menu ME.
  • the position display MA of the remote controller 200 can be moved on the LCD 3.
  • the remote controller 200 held by the operator S is moved to move the position display MA on the liquid crystal display unit 3 and executed in the operation menu ME.
  • the operation unit 201 is appropriately operated to determine the operation of the operation area when the user reaches (for example, the “OK” button is pressed)
  • the corresponding infrared instruction signal is transmitted from the infrared ray driving unit 202.
  • an identification code corresponding to the user instruction input unit ⁇ 5 ⁇ of the controller 150 is passed through the FM demodulator 102, BPF 103, and pulse demodulator 104. It is input and decoded (instruction signal input means).
  • the user instruction input unit 151 inputs a determination instruction signal to the user operation determination unit 152.
  • the user operation determination unit 152 to which the determination instruction signal is input receives the position information of the remote controller 200 acquired from the remote control position specifying unit 155 and the menu display information acquired from the menu creation unit 154. Based on the operation menu ME displayed on the liquid crystal display unit 3, the operation region (operation designated part) to be selected and determined is determined (operation part determining means), and the corresponding signal is input to the menu creating unit 154. To do. Based on the input signal, the menu creation unit 154 generates a menu display signal that displays the selected operation region in a manner different from the other parts, and outputs the generated menu display signal to the signal synthesis unit 130A.
  • a menu creation unit that generates a menu display signal for displaying the operation menu ME on the liquid crystal display unit 3 provided in the image display device 1 as in the above embodiment.
  • the infrared signal arriving from the remote controller 200 having different modes or attributes, which can be recognized separately from the visible light, and the recognition result of the infrared signal in the camera 110 with the infrared filter.
  • the remote controller 200 identifies the position occupied by the remote controller 200 during imaging by the camera 110 with the infrared filter, and the position of the remote controller 200 identified by the remote controller position identifier 155 are displayed on the liquid crystal display unit 3.
  • Operation menu ME has a user operation determination unit 152 that determines the operation area, and this controls the position display MA of the remote controller 200 on the liquid crystal display unit 3. It can be used as a pointer to select and specify the operation area from the menu ME cover.
  • the operator S moves the position of the remote control device 200 itself without taking his eyes off the liquid crystal display unit 3 and is very intuitive and intuitive to move. It is possible to easily select and specify a desired operation area and perform a corresponding operation. At this time, since it is not necessary to memorize the gesture as in the prior art and the burden on the operator S is not increased, the convenience during remote operation can be greatly improved.
  • the present invention is not limited thereto. That is, a portable operation device that is wired to the image display control device 100 with a predetermined cable or the like may be used.
  • FIG. 47 is a functional block diagram showing an example of a functional configuration of the image display control apparatus 100 in this modification, and is a diagram corresponding to FIG. 3 and the like. Parts equivalent to those in FIG. 3 are denoted by the same reference numerals, and description thereof will be omitted as appropriate.
  • a wired connection (V, so-called pendant type) portable controller 200A that performs the same function is provided instead of the remote controller 200 of FIG.
  • the device 200A and the user instruction input unit 151 are wired by appropriate wires or cables.
  • the infrared receiver 101, the FM demodulator 102, the BPF 103, and the pulse demodulator 104 in FIG. 3 are omitted. [0230] In FIG.
  • the signal output from the controller 200A in response to a predetermined operation instruction by the operator S is input to the user instruction input unit 151 via the cable or the like.
  • the user operation determination unit 152 outputs an operation instruction signal corresponding to the signal input by the user instruction input unit 151 to the operation signal generation unit 153, and the operation signal generation unit 153 responds to the operation instruction signal.
  • a corresponding operation signal is generated and output to the above-described DVD recording / playback mechanism 140. Since other operations are the same as those in the above embodiment, the description thereof is omitted.
  • a menu creation unit that generates a menu display signal for displaying the operation menu ME on the liquid crystal display unit 3 provided in the image display device 1 as in the above embodiment.
  • a camera 110 with an infrared filter that has an aspect or attribute different from the visible light coming from the background of the controller 200A and can recognize the infrared signal coming from the controller 200A separately from the visible light.
  • the remote controller position specifying unit 155 for specifying the position occupied by the controller 200A during imaging by the camera 110 with the infrared filter, and the remote controller A remote control position signal generation unit 156 that generates a position display signal for displaying the position of the operating device 200A specified by the position specification unit 155 on the liquid crystal display unit 3, and a remote controller Based on the position of the operating device 200A specified by the position specifying unit 155, a user operation determining unit 152 that determines an operation area of the operation menu ME displayed on the liquid crystal display unit 3 is provided.
  • the position display MA of the operation device 200A on the display unit 3 can be used as a pointer for selecting and specifying the operation area and the operation menu ME force.
  • the operator S moves the position of the operation device 200A itself without taking his eyes off the liquid crystal display unit 3, and is intuitive and very easy to divide. It is possible to easily select and specify a desired operation area and perform a corresponding operation.
  • the convenience during remote operation can be greatly improved.
  • FIG. 48 shows a display example of the liquid crystal display unit 3 in such a case.
  • each area displays a live-action video by the above-described camera 120, and the menu creation unit 154 generates a menu display signal (in other words, such a display is obtained). ).
  • the real world is projected only within the selectable range. As a result, the area that can be selected and the area that cannot be selected are clearly visible to the operator S.
  • the operation menu ME “clock (time set)” “recording” “editing” “program guide” “playback” “reservation” “dubbing” displayed on almost the entire surface of the liquid crystal display unit 3
  • the operator S extends his hand from side to side and stretches the remote controller 200 at the same location. The operator S must move by walking in the room without moving to the left or right.
  • This modification corresponds to this, and enables selection and designation of all operation areas with as little movement of the remote controller 200 as possible.
  • using the well-known face image recognition technology when entering the above-mentioned menu selection mode, first the face near the remote controller 200 is detected and recognized, and then only the part whose position is somewhat lower is operated.
  • the video signal generation unit 120b of the camera 120 described above processes the video signal and outputs the processed video signal to the video synthesis unit 130 so as to be within the range.
  • the liquid crystal display unit 3 of the image display device 1 has an operation menu ME having a normal shape and a relatively small range from the neck of the operator S to the liquid crystal display unit 3.
  • the operator S can select and designate a desired operation area with a smaller movement of the remote controller 200 (in this example, a relatively small movement under the neck and movement within a range). Furthermore, by specifying the operation range according to the position of the operator S, It is also possible to reduce the amount of movement of the remote controller 200 necessary for operation.
  • the operation menu ME, the position display MA of the remote controller 200, and the actual image of the background BG of the remote controller 200 captured by the camera 210 are all superimposed.
  • the force displayed on the liquid crystal display unit 3 is not limited to this. That is, the position display MA is used as the pointer of the operation menu ME, and the operator S does not take his eyes off the liquid crystal display unit 3, and the position of the remote controller 200 itself can be moved in a very intuitive and intuitive manner. The above is not always necessary as long as the operation area can be easily selected and specified by the easy operation.
  • two of the remote display 200's position display MA, operation menu ME, and background BG live action images are displayed in the same area on the liquid crystal display unit 3, but the remaining one is displayed next to them. It may be displayed in a separate screen or window (or interrupted). Some of the above three may be displayed side-by-side (or interrupted) on separate screens or windows. Even in this case, the above-described effect can be obtained by displaying a list on the same liquid crystal display unit 3 so that the operator S can view it almost simultaneously.
  • the background video of the background BG of the remote controller 200 is shot with the normal camera 120 (in real time), and the video display signal is output to the video synthesizer 130.
  • Remote control position symbol generator based on the image taken with attached camera 110
  • the position information signal of remote controller 200 from 6-6 and the menu display signal from menu generator 154 are combined and displayed on LCD 3
  • the remote controller 200 and the operator S do not exist. Only the background BG image is displayed, and the operation menu ME and the remote controller position display MA are superimposed on it.
  • the position display MA is used as a pointer for the operation menu ME, and the operator S does not take his eyes off the liquid crystal display unit 3 and the position of the remote controller 200 itself. It is possible to obtain the effect that the operation area can be selected and specified easily by the movement. Another advantage is that the system can be built at a lower cost because the camera power is sufficient.
  • the remote controller 200 itself emitted infrared light as the second light beam.
  • the present invention is not limited to this.
  • the infrared light is projected from the image display control device 100 side (or another device), and the remote controller 200 The 200 may reflect an infrared ray to transmit an infrared image or an infrared instruction signal (or one of them) to the image display control device 100 side.
  • the same effect as that of the above embodiment can be obtained, and since the infrared light emitting function is not required on the remote controller 200 side, an effect that a power source can be eliminated can be obtained.
  • the background BG force of the remote controller 200 is also assumed to be the normal visible light for the first light incident on the camera 120 etc. and the infrared light for the second light incident on the camera 110 etc. from the remote controller 200.
  • the first light is continuous normal visible light
  • the second light is intermittent visible light that is emitted intermittently. It may be attributed light.
  • the background light has a certain attribute, such as when the background is pure white
  • visible light having a different attribute for example, a red color
  • the second ray is the first It is sufficient if it has an attribute or mode that can be recognized separately from light rays, and as described above, it is very easy to sensible and intuitively, and it is easy to select and specify the operation area by movement. Effect can be obtained.
  • the power described above is not limited to the power described in the example in which the image display control device 100 is a DVD player Z recorder.
  • the image display control device 100 is a video output device such as a video deck, a CD player Z recorder, an MD player Z recorder, etc., a content playback device, or any other control device having a video output function to the image display device 1.
  • a video output device such as a video deck, a CD player Z recorder, an MD player Z recorder, etc.
  • a content playback device or any other control device having a video output function to the image display device 1.
  • a video deck, CD player Z recorder, MD player Z recorder, etc. a known videotape, CD, MD recording and playback mechanism and the storage unit for these videotapes, CD, MD, etc. 101 is provided.
  • the present invention is not limited to those used in ordinary households, but may be applied to those used in business establishments, research laboratories, etc., and is not limited to those that are fixedly arranged. It can also be applied to various devices such as audio equipment.
  • the power described above is not limited to the power described by taking as an example the case where the image display control device 100 and the image display device 1 are separate bodies, and the system is configured with the respective functions. That is, the image display control device 100 may be configured as one image display device in which the functions of the image display control device 100 are incorporated.
  • the function of the menu creation unit 154 as the graphic display signal generation unit, the function of the remote control position symbol creation unit 156 as the position display signal generation unit are all incorporated in the image display device. Therefore, the technical idea of the present invention is that the display screen, the graphic display control means for displaying the graphic to be operated on the display screen, the first light beam coming from the background power of the portable controller, Has a different aspect or attribute, and recognizes the second light beam coming from the operation device by distinguishing the second light beam from the first light beam, and recognizing the second light beam in the second light beam imaging unit.
  • the position specifying means for specifying the position occupied by the operating device during imaging by the second light beam imaging means, and the position of the operating device specified by the position specifying means on the display screen.
  • Display position Control means, and operation part determining means for determining an operation designated part among the operation target diagrams displayed on the display screen based on the position of the operation device specified by the position specifying means. It can be realized as a characteristic image display device.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Social Psychology (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Details Of Television Systems (AREA)
  • Selective Calling Equipment (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】表示画面から目を離すことなく所望の操作指定部位を容易に選択指定可能とし、遠隔操作時における操作者の利便性を向上する。 【解決手段】画像表示制御装置100は、画像表示装置1の液晶表示部3上に、操作メニューMEを表示させるためのメニュー作成部154と、遠隔操作器200から到来する赤外線信号を認識可能な赤外線フィルタ付きカメラ110と、この認識結果に基づき、遠隔操作器200が撮像中において占める位置を特定するリモコン位置特定部155と、この特定した遠隔操作器200の位置を液晶表示部3上に表示させるリモコン位置信号作成部156と、液晶表示部3上に表示された操作メニューMEのうち操作指定部位を決定するユーザー操作判定部152とを有する。

Description

明 細 書
画像表示制御装置、画像表示装置、遠隔操作器、画像表示システム 技術分野
[0001] 本発明は、表示画面における表示制御を行う画像表示制御装置に係わり、特に、 遠隔操作によって表示制御を行う画像表示制御装置、画像表示装置、及び画像表 示システム、並びにそれらに用いる遠隔操作器に関する。
背景技術
[0002] 元来、離れた場所力 例えばテレビ等の画像表示装置の動作を操作するために、 携帯型の遠隔操作器 (いわゆるリモコン)がよく知られている。遠隔操作時には、例え ば画像表示装置の表示画面に、複数の操作指定部位 (操作領域)を一覧配置した 操作対象図象 (操作メニュー)を表示させ、遠隔操作器の操作ボタンを操作すること で上記操作対象図象中の複数の操作指定部位のうちひとつを選択指定することで、 これに対応した動作 (チャンネル切替、音声切替等)を当該画像表示装置にて実行 することができる。
[0003] また、上記の画像表示装置自体に限られず、テレビ等に接続されて当該テレビ等 への映像出力やさらに音楽等コンテンツの再生出力を行う、ビデオデッキ、 DVDプ レイヤー Zレコーダー、 CDプレイヤー Zレコーダー、 MDプレイヤー Zレコーダ一等 の映像出力装置、コンテンツ再生装置、その他画像表示装置へ映像出力機能を備 えた製品 (以下適宜、映像出力装置等という)に関しても、上記同様、遠隔操作を行う ことができる。すなわち、それら映像出力装置等に対し遠隔操作を行うことで、これに 接続された画像表示装置の表示画面に、当該映像出力装置等に関わる複数の操作 指定部位 (操作領域)を備えた操作対象図象 (操作メニュー)を一覧表示させる。そし てそれら複数の操作指定部位のうちひとつを選択指定することで、その選択指定した 映像出力装置等の動作 (映像再生、予約録画等)を実行することができる。
[0004] ところが、上記のように操作指定部位を選択指定する際には、操作者は、まず表示 画面を見て現在の選択指定位置 (カーソル位置等)から自己の所望する操作指定部 位 (操作領域)がどちら側の方向に位置するかを確認した後、手元の遠隔操作器に 目を移して上記選択指定位置を移動させるべき方向への操作ボタンを押し、さらに 表示画面に目を戻して上記遠隔操作器の操作によって選択指定位置が確かに上記 所望の操作指定部位へ移動し当該操作指定部位が確力に選択指定された力どうか を確認し、移動不十分の場合は再び手元の遠隔操作器に目を移して同様の手順を 繰り返さなければならない。このように、視線を何度も移しながらの非常に煩雑で面倒 な操作が必要となる結果、操作者にとって利便性の低 ヽ不便なものとなって ヽた。
[0005] そこで、このような点に対応し、近年、操作者による遠隔操作性の向上を図るために 、例えば特許文献 1や特許文献 2に記載の技術が既に提唱されて 、る。
[0006] 特許文献 1記載の従来技術では、撮影手段としてのカメラと、このカメラで撮影され た画像の動きを検出する動き検出器と、この動き検出器で検出した画像の動き及び Z又は形状を認識する画像認識器とを有する制御装置が開示されて 、る。操作者が 所定のパターンにしたがって指を動かす(=ジェスチャー)と、カメラで撮影されたそ の指の動きが動き検出器によって検出され、さらに画像認識器で当該動きや形状の 変化が認識されて、被操作機器に対しそのパターンに対応した制御が行われる。こ れにより、操作者は遠隔操作器を用いることなぐ被操作機器に対し所望の操作を行 えるようになっている。
[0007] 特許文献 2記載の従来技術では、赤外線リモコンと、イメージセンサと、ジエスチヤ 一同定手段とを有する遠隔制御システムが開示されている。操作者が所定のパター ンにしたがって赤外線リモコンを振り回す(=ジェスチャー)ことにより、イメージセンサ を介して取得されたリモコンの動いた方向と加速度とに基づき、ジェスチャー同定手 段でそのジェスチャーが同定され、ネットワークを介して被操作機器に対しそのバタ ーンに対応した制御が行われる。これにより、操作者は被操作機器に対し所望の操 作を行えるようになって!/、る。
[0008] 特許文献 1 :特開 2001— 5975号公報(段落番号 0013〜0027、図 1〜図 9)
特許文献 2:特開 2004- 178469号公報(段落番号 0013〜0063、図1〜図15) 発明の開示
発明が解決しょうとする課題
[0009] 特許文献 1及び特許文献 2に記載の従来技術では、例えば、被操作機器を遠隔操 作する際、操作者が実行したい操作とこれに対応するジェスチャーとの関連付け(= どのように指やリモコンを動力したときにどのような操作が実行される力 を予め覚えて おく必要がある。また覚えて 、な 、操作にっ 、ては上記関連付けを別途参照しなけ ればならない。このため、結局、操作者の負担が大きくならざるを得ず、操作者にとつ て禾 lj便'性の低!、不便なものとなって!/ヽた。
[0010] なお、上記した赤外線通信や無線通信を介した操作器以外に、被操作器側と有線
(ケーブル)等によって接続されて離れたところ力 操作する操作器 (V、わゆるベンダ ント方式)においても、前述したのと同様、例えば視線を何度も移しながらの非常に 煩雑で面倒な操作が必要で利便性が低く不便であるという問題があった。
[0011] 本発明の目的は、操作者は、表示画面から目を離すことなく所望の操作指定部位 を容易に選択指定可能とすることで、操作時における操作者の利便性を向上できる 画像表示制御装置、画像表示装置、及び画像表示システム、並びにそれらに用いる 遠隔操作器を提供することにある。
課題を解決するための手段
[0012] 上記目的を達成するために、請求項 1記載の発明は、画像表示装置に備えられた 表示画面上に、操作対象図象を表示させるための図象表示信号を生成する図象表 示信号生成手段と、携帯型の操作器の背景から到来する第 1光線とは異なる態様又 は属性を備え、前記操作器力も到来する第 2光線を、前記第 1光線と区別して認識 可能な第 2光線撮像手段と、この第 2光線撮像手段における前記第 2光線の認識結 果に基づき、前記操作器が前記第 2光線撮像手段による撮像中において占める位 置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を 前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手 段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上 に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段 とを有することを特徴とする。
[0013] 上記目的を達成するために、請求項 21記載の発明は、表示画面と、この表示画面 上に、操作対象図象を表示させる図象表示制御手段と、携帯型の操作器の背景か ら到来する第 1光線とは異なる態様又は属性を備え、前記操作器から到来する第 2 光線を、前記第 1光線と区別して認識可能な第 2光線撮像手段と、この第 2光線撮像 手段における前記第 2光線の認識結果に基づき、前記操作器が前記第 2光線撮像 手段による撮像中において占める位置を特定する位置特定手段と、この位置特定手 段で特定した前記操作器の位置を前記表示画面上に表示させる位置表示制御手段 と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に 表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と を有することを特徴とする。
[0014] 上記目的を達成するために、請求項 22記載の発明は、画像表示操作を行うための 携帯型の遠隔操作器であって、通常の可視光線とは異なる態様又は属性の光信号 を生成する光信号生成手段と、この光信号生成手段で生成した前記光信号を、当該 光信号を前記通常の可視光線と区別して認識可能な第 2光線撮像手段;表示画面 上に操作対象図象を表示させるための信号を生成する第 1手段;前記第 2光線撮像 手段における前記光信号の認識結果に基づき、前記遠隔操作器の背景の映像中に ぉ ヽて前記遠隔操作器が前記第 2光線撮像手段による撮像中にぉ ヽて占める位置 を特定し前記表示画面上に表示させるための信号を生成する第 2手段;前記特定さ れた前記遠隔操作器の位置に基づき、前記表示画面上に表示された前記操作対象 図象のうち操作指定部位を決定して表示するための信号を生成する第 3手段;を備 えた画像表示制御装置へ送信する光信号送信手段とを有することを特徴とする。
[0015] 上記目的を達成するために、請求項 23記載の発明は、携帯型の操作器と、この操 作器の操作に基づき画像表示を行うための信号を生成する画像表示制御装置とを 有する画像表示システムであって、前記画像表示制御装置は、画像表示装置に備 えられた表示画面上に、操作対象図象を表示させるための図象表示信号を生成す る図象表示信号生成手段と、前記操作器の背景から到来する第 1光線とは異なる態 様又は属性を備え、前記操作器力 到来する第 2光線を、前記第 1光線と区別して 認識可能な第 2光線撮像手段と、この第 2光線撮像手段における前記第 2光線の認 識結果に基づき、前記操作器が第 2光線撮像手段による撮像中において占める位 置を特定する位置特定手段と、この位置特定手段で特定した前記操作器の位置を 前記表示画面上に表示させるための位置表示信号を生成する位置表示信号生成手 段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上 に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段 とを有することを特徴とする。
[0016] 上記目的を達成するために、請求項 24記載の発明の画像表示システムは、携帯 型の操作器と、画像表示装置に備えられた表示画面上に、操作対象図象を表示さ せるための図象表示信号を生成する図象表示信号生成手段と、前記操作器の背景 力 到来する第 1光線とは異なる態様又は属性を備え、前記操作器から到来する第 2光線を、前記第 1光線と区別して認識可能な第 2光線撮像手段と、この第 2光線撮 像手段における前記第 2光線の認識結果に基づき、前記操作器が前記第 2光線撮 像手段による撮像中において占める位置を特定する位置特定手段と、この位置特定 手段で特定した前記操作器の位置を前記表示画面上に表示させるための位置表示 信号を生成する位置表示信号生成手段と、前記位置特定手段で特定した前記操作 器の位置に基づき、前記操作対象図象のうち操作指定部位を決定する操作部位決 定手段とを有することを特徴とする。
図面の簡単な説明
[0017] [図 1]本発明の一実施形態による画像表示システムのシステム構成図である。
[図 2]図 1に示された遠隔操作器の機能的構成を表す機能ブロック図である。
[図 3]図 1に示された画像表示制御装置の機能的構成を表す機能ブロック図である。
[図 4]液晶表示部の表示の一例を表す図である。
[図 5]液晶表示部の表示の一例を表す図である。
[図 6]液晶表示部の表示の一例を表す図である。
[図 7]液晶表示部の表示の一例を表す図である。
[図 8]液晶表示部の表示の一例を表す図である。
[図 9]操作領域決定をジェスチャーで指示する変形例の画像表示システムにおいて、 液晶表示部の表示の一例を表す図である。
[図 10]図 9に示す変形例における画像表示制御装置の機能的構成を表す機能プロ ック図である。
[図 11]赤外線フィルタ付カメラがリモコン指示操作を受け取る変形例の機能的構成を 表す機能ブロック図である。
圆 12]コールドミラーを用いる変形例における画像表示制御装置の機能的構成を表 す機能ブロック図である。
圆 13]位置補正を行う変形例における画像表示制御装置の機能的構成の一例を表 す機能ブロック図である。
[図 14]位置補正の様子を表す説明図である。
圆 15]位置補正を行う他の変形例における画像表示制御装置の機能的構成の一例 を表す機能ブロック図である。
[図 16]赤外線高感度カメラを用いる変形例における当該赤外線高感度カメラのもつ 感度特性の一例を表す特性図である。
圆 17]図 16に示す変形例における画像表示制御装置の機能的構成を表す機能ブ ロック図である。
[図 18]距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するため の説明図である。
[図 19]距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するため の説明図である。
圆 20]距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するため の説明図である。
圆 21]距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するため の説明図である。
圆 22]距離に応じ表示倍率の変化を行う変形例における手法の概略を説明するため の説明図である。
圆 23]画像表示制御装置の機能的構成を表す機能ブロック図である。
[図 24]切り出し処理部の詳細構成を表す機能ブロック図である。
[図 25]切り出し処理部全体で実行する制御手順を表すフローチャートである。
[図 26]ステップ S50の詳細手順を表すフローチャートである。
圆 27]操作者が操作範囲を自ら設定する変形例における切り出し処理部の機能的 構成を表す機能ブロック図である。 圆 28]入力画像における図形の大きさから距離を計算する手法を説明するための説 明図である。
圆 29]障害物回避のために切り出し領域を変更する変形例の概略を説明するための 説明図である。
[図 30]障害物となりうる物をデータベース化して登録しておく手法を説明するための 説明図である。
圆 31]障害物回避のためにメニュー表示領域をずらす変形例の概略を説明するため の説明図である。
圆 32]画像表示制御装置の機能的構成を表す機能ブロック図である。
圆 33]切り出し処理部及び 2次映像合成部の詳細構成を、障害物判定部とともに表 す機能ブロック図である。
圆 34]切り出し処理部、 2次映像合成部、及び障害物判定部の全体で実行する制御 手順を表すフローチャートである。
圆 35]障害物越しの操作感を得られるように延長補完する変形例の概略を説明する ための説明図である。
[図 36]画像表示制御装置の機能的構成を表す機能ブロック図である。
圆 37]補完信号生成部が実行する制御手順を表すフローチャートである。
圆 38]延長線の引き方を概念的に説明するための説明図である。
圆 39]障害物越しの操作感を得られるように中間部補完を行う変形例の概略を説明 するための説明図である。
[図 40]蓄積コンテンツの再生位置指定に応用した変形例にぉ 、て、画像表示装置の 液晶表示部の表示の一例を表す図である。
圆 41]図 40に示す変形例における画像表示制御装置の機能的構成を表す機能ブ ロック図である。
[図 42]液晶表示部の表示の他の例を表す図である。
[図 43]EPGに適用した変形例にぉ 、て、画像表示装置の液晶表示部の表示の一例 を表す図である。
圆 44]図 43に示す変形例における画像表示制御装置の機能的構成を表す機能ブ ロック図である。
[図 45]実写画像を省略する変形例において、画像表示装置の液晶表示部の表示の 一例を表す図である。
圆 46]図 45に示す変形例における画像表示制御装置の機能的構成を表す機能ブ ロック図である。
圆 47]有線接続の操作器を用いた変形例における画像表示制御装置の機能的構成 の一例を表す機能ブロック図である。
圆 48]操作メニュー等力 選択指定できる範囲を制限する変形例の液晶表示部の表 示例を表す図である。
圆 49]すべての操作領域を遠隔操作器の狭い移動範囲で選択可能とした変形例の 液晶表示部の表示例を表す図である。
符号の説明
3 揿晶表示部(表示画面)
100 画像表示制御装置
110 赤外線フィルタ付きカメラ (第 2光線撮像手段)
110A 赤外線高感度カメラ (第 2光線撮像手段)
HOAa 撮像部 (第 1光線撮像手段)
HOAb 映像信号生成部 (映像表示信号生成手段)
115 距離検出部 (距離検出手段)
120 カメラ
120a 撮像部 (第 1光線撮像手段)
120b 映像信号生成部 (映像表示信号生成手段)
151 ユーザー指示入力部 (指示信号入力手段)
152 ユーザー操作判定部 (操作部位決定手段)
154 メニュー作成部(図象表示信号生成手段)
154B コンテンツ表示作成部(図象表示信号生成手段)
155 リモコン位置特定部 (位置特定手段) 156 リモコン位置信号作成部 (位置表示信号生成手段)
165 補完信号生成部 (予想位置設定手段)
180 切り出し処理部 (抽出処理手段)
180A 切り出し処理部 (抽出処理手段)
180B 切り出し処理部 (抽出処理手段)
183 補完拡大切り出し部 (予想位置設定手段)
195A 2次映像合成部(図象位置設定手段)
200 遠隔操作器
200A 操作器
202 赤外線駆動部 (光信号送信手段)
203 発信器 (光信号生成手段)
204 パルス変調器 (光信号生成手段)
206 FM変調器 (光信号生成手段)
BG 背景
CT コンテンツ表示 (操作対象図象)
MA 位置表示
ME 操作メニュー (操作対象図象)
発明を実施するための最良の形態
[0019] 以下、本発明の一実施の形態を図面を参照しつつ説明する。
[0020] 図 1は、本実施形態による画像表示システムのシステム構成図である。図 1におい て、この画像表示システムは、画像表示装置 1と、この画像表示装置 1において画像 表示を行うための信号を生成する画像表示制御装置 100と、この画像表示制御装置 100を遠隔操作するための携帯型の遠隔操作器 (リモートコントロール端末) 200とを 有している。
[0021] 画像表示装置 1は、例えば液晶テレビジョンであり、テレビジョン本体 2の前面に液 晶表示部 3 (表示画面)が設けられている。なお、公知の構成で足りるため詳細な図 示及び説明は省略するが、テレビジョン本体 2内には、例えば液晶表示部 3で映し出 すための映像電波を受信する公知のチャンネルチューナや、受信した電波から映像 信号や音声信号を復調する復調手段等が設けられて 、る。
[0022] 遠隔操作器 200は、各種操作キーを備えた操作部 201と、発光素子として例えば 赤外線発光ダイオードを設けた赤外線駆動部 (赤外線発光部) 202とを有して ヽる。
[0023] 図 2は、上記遠隔操作器 200の機能的構成を表す機能ブロック図である。この図 2 及び前述の図 1において、遠隔操作器 200は、識別コード (詳細は後述)の搬送波周 波数を発振する発振器 203と、パルス変調器 204と、遠隔操作器 200全体の動作を 制御する CPU205と、上記操作部 201と、 FM変調器 206と、送信手段である上記 赤外線駆動部 202と、 CPU205の動作プログラム等が記憶された ROM207と、 RA M208とを備えて!/ヽる。
[0024] 上記構成において、 CPU205からの制御信号に基づき、発振器 203から所定 (例 えば 38kHz)の搬送波周波数が発振され、パルス変調器 204に出力される。一方 C PU205力 操作部 201の操作に対応するコマンド (識別コード)を RAM207から読 み出し、ノ ルス変調器 204に供給する。パルス変調器 204は、上記 CPU205から供 給された識別コードで上記発信器 203からの搬送波周波数をパルス変調し、ノ ルス 変調信号を FM変調器 206に供給する。 FM変調器 206は、信号を FM変調した後、 その FM変調信号を赤外線駆動部 202に供給する。赤外線駆動部 202は、 FM変調 器 206から供給される FM信号で前述の赤外線発光素子を駆動(点灯制御)し、これ によって画像表示制御装置 100へ赤外線指示信号の送信が行われる。
[0025] 画像表示制御装置 100は、この例では DVDプレイヤー Zレコーダーであり、筐体 1 01と、この筐体 101の前方側に前面パネル 105を介して設けた操作ユニット 107とを 備えている。操作ユニット 107の前面には、操作手段としての各種操作ボタン 108、 ダイヤル 109と、受光ロ 106とが設けられている。なお、公知の構成で足りるため詳 細な図示及び説明を省略するが、筐体 101内には、公知の DVDの録画'再生機構 140 (後述の図 3参照)やそれら DVDの収納部等が設けられて 、る。
[0026] 図 3は、上記画像表示制御装置 100の機能的構成を表す機能ブロック図である。
図 3において、画像表示制御装置 100は、受信手段である赤外線受光部 101と、 F M復調器 102と、所定 (例えば 38kHz)の搬送波周波数を抽出する BPF (帯域通過 フィルタ) 103と、パルス復調器 104と、コントローラ 150とを有している。コントローラ 1 50は、図示しない CPU、 ROM、及び RAM等から構成されており、機能的には、図 示のように、ユーザー指示入力部 151、ユーザー操作判定部 152、操作信号生成部 153等を備えている。
[0027] 上記構成において、前述の遠隔操作器 200の赤外線駆動部 202から発射された 赤外線指示信号が前述の受光ロ 106を介し赤外線受光部 101で受光され、この赤 外線受光部 101で光一電気変換されて FM復調器 102に供給される。 FM復調器 1 02は、赤外線受光部 101から入力された FM信号を復調し、 BPF103に供給する。 BPF103は、供給された信号の中から、前述の識別コードによりパルス変調されたパ ルス変調信号を抽出し、パルス復調器 104に供給する。パルス復調器 104は、パル ス変調信号を復調して得られた上記識別コードをコントローラ 150のユーザー指示入 力部 151に供給する。ユーザー操作判定部 152は、パルス復調器 104で復調された 識別コードを上記ユーザー指示入力部 151を介し入力して識別 (解読)し、対応する 操作指示信号を操作信号生成部 153へ出力する。操作信号生成部 153はその操作 指示信号に応じて、対応する操作信号を生成し、前述した DVD録画'再生機構 140 に出力し、対応する動作 (録画、再生、編集、予約、ダビング、消去、時計表示、番組 表表示等)を行わせる。
[0028] 以上のような基本構成及び動作の画像表示システムにおいて、本実施形態の最も 大きな特徴は、画像表示装置 1に DVD録画 ·再生機構 140の操作に関わるメニュー 画面を表示させた状態で、遠隔操作器 200の赤外線像を用いてこれをメニュー選択 のポインタとして用いることにある。以下、その詳細を順を追って説明する。
[0029] 図 3に示す画像表示制御装置 100において、上記の本実施形態の特徴に関わる 構成として、遠隔操作器 200が発光した赤外線信号 (赤外線像、光信号、第 2光線) を可視光線とは区別して認識する赤外線フィルタ付きカメラ 110 (第 2光線撮像手段) と、(可視光線にて撮影を行う)通常のカメラ 120と、映像合成部 130とが設けられて いる。
[0030] カメラ 120は、遠隔操作器 200の背景 BG力も到来する(なお遠隔操作器 200自体 からも到来する)可視光線 (第 1光線)を撮影する撮像部 120a (第 1光線撮像手段)と 、その撮影した遠隔操作器 200の背景 BGを画像表示装置 1の液晶表示部 3に表示 させるための映像表示信号を生成する映像信号生成部 120b (映像表示信号生成手 段)とを備えている。
[0031] また、コントローラ 150には、前述の構成のほかに、メニュー作成部 154 (図象表示 信号生成手段)と、リモコン位置特定部 155 (位置特定手段)と、リモコン位置記号作 成部 156 (位置表示信号生成手段)とが備えられている。
[0032] 操作者 Sが画像表示制御装置 100に対し所定の操作を行うことを意図し、遠隔操 作器 200を手に持って画像表示制御装置 100の前に立つと、その操作者 Sのいる実 世界の実写映像(=遠隔操作器 200及び背景 BGの映像)がカメラ 120の撮像部 12 Oaで撮影され、その映像信号が映像信号生成部 120bから映像合成部 130を介し、 画像表示装置 1へ入力される。これにより、画像表示装置 1の液晶表示部 3に、操作 者 Sがいる実世界が表示される。
[0033] 図 4はこのときの液晶表示部 3の表示の一例を表す図である。図 4の例では、画面 中に遠隔操作器 200を持った操作者 Sと、操作者 Sの 、る部屋の風景 (この例では、 ドア、床、床上の敷物、さらにテーブル、椅子等の家具など)が背景 BGとして表示さ れている。
[0034] この状態で、操作者 Sが、画像表示制御装置 100の操作メニューを表示させるため に、遠隔操作器 200を手に持って操作部 201を適宜に操作すると、これに対応する 特定の赤外線指示信号が赤外線駆動部 202から出射され、画像表示制御装置 100 の赤外線受光部 101で受光された後、上記 FM復調器 102、 BPF103、パルス復調 器 104を経てコントローラ 150のユーザー指示入力部 151に対応する識別コードが 入力されて解読される。ユーザー指示入力部 151ではこれに対応してメニュー作成 部 154に作成指示信号を入力し、メニュー作成部 154は、画像表示装置 1の上記液 晶表示部 3に複数の操作領域 (後述)からなる操作メニュー (操作対象図象)を表示さ せるためのメニュー表示信号(図象表示信号)を生成する。このメニュー表示信号は 映像合成部 130によって上記カメラ 120の映像信号生成部 120bからの映像表示信 号と合成され、その合成信号が画像表示装置 1へ出力されることで、カメラ 120による 上記実写映像と上記メニュー作成部 154からのメニュー表示との合成映像が液晶表 示部 3に表示される (メニュー選択モード、言い換えれば画面位置選択モードへの移 行)。なお、このメニュー選択モードへ移行している間 (メニュー選択モードが終了す るまで)、遠隔操作器 200からは上記した特定の赤外線指示信号 (低消費電力であ ることが好ま U、)を発信し続け、これによつてメニュー選択モード (画面位置選択モ ード)であることを画像表示制御装置 100側へ伝達するようになって 、る。
[0035] 図 5はこのときの液晶表示部 3の表示の一例を表す図である。図 5の例では、映像 信号生成部 120bからの映像表示信号に基づく実写映像として、上記図 4と同様、画 面中に遠隔操作器 200を持った操作者 Sと、操作者 Sの ヽる部屋の背景 (この例では 、ドア、床、床上の敷物、さらにテーブル、椅子等の家具など) BGが表示されている。 そしてこれに加え、メニュー作成部 154からのメニュー表示信号に基づき、「時計(時 刻セット)」「録画」「編集」「番組表」「再生」「予約」「ダビング」「消去」「その他」の各操 作をそれぞれ表す複数の領域からなる操作メニュー MEが表示されている。
[0036] 一方このとき、操作者 Sの持った遠隔操作器 200から発せられる上記特定の赤外 線指示信号が赤外線像として赤外線フィルタ付きカメラ 110で撮像されて認識され、 その撮像信号がリモコン位置特定部 155に入力される。リモコン位置特定部 155は、 上記赤外線フィルタ付きカメラ 110における遠隔操作器 200の赤外線像の認識結果 に基づき、遠隔操作器 200が赤外線フィルタ付きカメラ 110による撮像中にぉ 、て占 める位置を特定する。
[0037] 上記リモコン位置特定部 155で特定した遠隔操作器 200の位置情報はリモコン位 置記号作成部 156へ入力され、遠隔操作器 200の位置を上記液晶表示部 3に表示 させるための位置表示信号が生成される。この生成された位置表示信号は上記映像 合成部 130へと入力され、これによつて液晶表示部 3に実写されて 、る遠隔操作器 2 00の位置(あるいは近傍)に、所定の位置表示 MA (この例では矢印型のマーク、後 述の図 6参照)が重ねて表示される。これにより、操作者 Sが遠隔操作器 200を持つ てその位置を移動させる(空間的に存在位置を変える)ことで、液晶表示部 3に操作 メニュー MEと重なるようにして表示されて 、る遠隔操作器 200の位置表示 MAを液 晶表示部 3上で動かすことができる。
[0038] 一方、上記リモコン位置特定部 155で特定した遠隔操作器 200の位置情報は上記 ユーザー操作判定部 152へも入力される。このとき、ユーザー操作判定部 152には、 上記メニュー作成部 154で作成したメニュー表示信号のメニュー表示に関する情報( どのような内容、配列、態様のメニュー表示を行っているか)も入力されている。
[0039] 上記のように操作者 Sが手に持った遠隔操作器 200を移動させて位置表示 MAを 液晶表示部 3上で動かし、操作メニュー MEのうち実行した 、操作領域に上記位置 表示 MAが到達したときにその操作領域の操作を決定すべく操作部 201を適宜に操 作する(例えば「決定」ボタンを押す)ことで、これに対応する赤外線指示信号が赤外 線駆動部 202から出射され、画像表示制御装置 100の赤外線受光部 101で受光さ れた後、上記 FM復調器 102、 BPF103、パルス復調器 104を経てコントローラ 150 のユーザー指示入力部丄 5丄に対応する識別コードが入力されて解読される (指示信 号入力手段)。ユーザー指示入力部 151ではこれに対応して上記ユーザー操作判 定部 152に決定指示信号を入力する。
[0040] 上記決定指示信号が入力されたユーザー操作判定部 152は、前述したリモコン位 置特定部 155から取得した遠隔操作器 200の位置情報と、メニュー作成部 154から 取得したメニュー表示情報とに基づき、上記液晶表示部 3に表示された操作メニュー MEのうち選択指定される操作領域 (操作指定部位)を決定し (操作部位決定手段) 、これに対応する信号をメニュー作成部 154へと入力する。メニュー作成部 154はそ の入力された信号に基づき、上記選択指定された操作領域を、それ以外の部位と異 なる態様で表示するようなメニュー表示信号を生成して映像合成部 130に出力する。
[0041] 図 6は、このときの液晶表示部 3の表示の一例を表す図である。図 6の例では、操作 者 Sが DVDの編集を意図して、手に持った遠隔操作器 200の液晶表示部 3におけ る位置を「時計」「録画」「編集」「番組表」「再生」「予約」「ダビング」「消去」「その他」 の各領域力 なる操作メニュー MEの「編集」領域に位置させた後(矢印型のマーク 参照)、前述の「決定」ボタンを押した状態を表している。この例では、メニュー作成部 154からのメニュー表示信号により、当該選択指定された「編集」領域は他の領域と 色が異なって表示されている。そして、この場合には、ユーザー操作判定部 152から 上記「編集」領域の選択指定に対応した操作指示信号が操作信号生成部 153へ出 力され、操作信号生成部 153がこれに応じて対応する操作信号を上記 DVD録画 · 再生機構 140に出力し、対応する編集動作を行うことができる。 [0042] 同様に、図 7は操作者 Sが DVDの予約録画を意図して遠隔操作器 200の液晶表 示部 3における位置を「予約」領域に位置させ「決定」ボタンを押した状態を表し、図 8 は操作者 Sが DVDの再生を意図して遠隔操作器 200の液晶表示部 3における位置 を「再生」領域に位置させ「決定」ボタンを押した状態を表して 、る。それぞれの場合 、上記同様、ユーザー操作判定部 152から上記「予約」又は「再生」領域の選択指定 に対応した操作指示信号が操作信号生成部 153へ出力され、操作信号生成部 153 からの対応する操作信号が上記 DVD録画'再生機構 140に出力され、対応する予 約録画又は再生動作を行うことができる。他の「時計」「録画」「番組表」「ダビング」「 消去」「その他」領域についても同様である。
[0043] なお、上記にぉ 、て、遠隔操作器 200に備えられた発信器 203、パルス変調器 20 4、及び FM変調器 206等が、各請求項記載の、通常の可視光線とは異なる態様又 は属性の光信号を生成する光信号生成手段を構成する。また赤外線駆動部 202が 、この光信号生成手段で生成した光信号を、当該光信号を通常の可視光線と区別し て認識可能な第 2光線撮像手段;表示画面上に操作対象図象を表示させるための 信号を生成する第 1手段;第 2光線撮像手段における光信号の認識結果に基づき、 遠隔操作器の背景の映像中において遠隔操作器が第 2光線撮像手段による撮像中 にお 、て占める位置を特定し表示画面上に表示させるための信号を生成する第 2手 段;特定された遠隔操作器の位置に基づき、表示画面上に表示された操作対象図 象のうち操作指定部位を決定して表示するための信号を生成する第 3手段;を備え た画像表示制御装置へ送信する光信号送信手段を構成する。
[0044] 以上説明したように、本実施形態にお!ヽては、画像表示装置 1に備えられた液晶表 示部 3上に、操作メニュー MEを表示させるためのメニュー表示信号を生成するメ-ュ 一作成部 154と、遠隔操作器 200の背景力 到来する可視光線とは異なる態様又は 属性を備え、遠隔操作器 200から到来する赤外線信号を、上記可視光線と区別して 認識可能な赤外線フィルタ付きカメラ 110と、この赤外線フィルタ付きカメラ 110にお ける上記赤外線信号の認識結果に基づき、遠隔操作器 200が赤外線フィルタ付き力 メラ 110による撮像中にぉ 、て占める位置を特定するリモコン位置特定部 155と、こ のリモコン位置特定部 155で特定した遠隔操作器 200の位置を液晶表示部 3上に表 示させるための位置表示信号を生成するリモコン位置信号作成部 156と、リモコン位 置特定部 155で特定した遠隔操作器 200の位置に基づき、液晶表示部 3上に表示 された操作メニュー MEのうち操作領域を決定するユーザー操作判定部 152とを有し 、これによつて、液晶表示部 3における遠隔操作器 200の位置表示 MAを操作メ-ュ 一 MEから操作領域を選択指定するためのポインタ (操作位置指定手段)として利用 することができる。この結果、操作者 Sは、液晶表示部 3から目を離すことなぐ遠隔操 作器 200自体の位置移動と ヽぅ体感的 ·直感的に非常に分力ゝりやす ヽ動作で、操作 メニュー MEのうち所望の操作領域を容易に選択指定し、対応する操作を行うことが できる。このとき、従来技術のようにジェスチャーを記憶する必要もなく操作者 Sの負 担を増大させることがないので、遠隔操作時の利便性を大きく向上することができる。
[0045] また、本実施形態では特に、遠隔操作器 200の背景 BG力も到来する可視光線を 撮影するカメラ 120の撮像部 120aと、この撮像部 120aで撮影した背景 BGを液晶表 示部 3上に表示させるための映像表示信号を生成する映像信号生成部 120bとを有 する。これにより、操作者 Sが遠隔操作器 200の位置表示 MAを操作メニュー MEの ポインタとして利用するために遠隔操作器 200を持ってその位置を移動させるとき、 液晶表示部 3上にカメラ 120で撮影した遠隔操作器 200の背景 BGの実映像が映る ので、自分の動作態様や動作距離等を表示画面で確認しながら上記遠隔操作器 20 0の移動を行うことができ、さらに分力りやすい直感的な操作が可能となる。また、液 晶表示部 3に映った映像に基づき赤外線フィルタ付きカメラ 110による受光可能範囲 を操作者 Sが認識することも可能となるので、操作者 Sが遠隔操作器 200を受光可能 範囲外に移動させてしまうのを防止でき、操作の確実性を向上することができる。
[0046] さらに、本実施形態では特に、メニュー作成部 154、リモコン位置信号作成部 156、 映像信号生成部 120bは、前記操作メニュー ME、遠隔操作器 200の位置、遠隔操 作器 200の背景 BGを、液晶表示部 3上にすべて重ね合わせるように表示するような 、メニュー表示信号、位置表示信号、映像表示信号を生成する。これにより、映像合 成部 130を介し、操作メニュー ME及び遠隔操作器 200の位置表示 MA力 カメラ 2 10で撮像した遠隔操作器 200の背景 BGの実写映像上にすべて重ね合わせるよう にして液晶表示部 3に表示されるので、操作者 Sは自身が液晶表示部 3のどの位置 を指定している力を直感的に理解でき、さらに確実に分力りやすい直感的な操作を 行うことができる。
[0047] さらに、本実施形態では特に、メニュー作成部 154は、操作メニュー MEのうちユー ザ一操作判定部 152で決定した操作領域を、それ以外の部位と異なる態様で液晶 表示部 3に表示するようなメニュー表示信号を生成する。これにより、操作者 Sが操作 対象として指定した操作メニュー ME中の操作領域の色をそれ以外の操作領域と変 え、指定位置を視覚的に一目瞭然とすることができるので、自身がどの操作領域を指 定したかを確実に認識することができるとともに、確実に操作領域の指定が完了した という安心感を操作者 Sに与えることもできる。
[0048] また本実施形態では特に、遠隔操作器 200からの「決定」操作に対応した指示信 号をユーザー指示入力部 150を有し、ユーザー操作判定部 152は、リモコン位置特 定部 155で特定した遠隔操作器 200の位置と、ユーザ指示入力部 151で入力した 上記決定指示信号とに応じて、操作メニュー MEのうちの操作指定部位を決定する。 すなわち、操作者 Sが遠隔操作器 20で適宜の操作を行 ヽ(「決定」ボタンを押し)ュ 一ザ一指示入力部 151から決定指示信号がユーザー判定操作部 152に入力される ことで、操作メニュー MEのうち操作対象の操作領域が最終的に決定されるようにし ている。これにより、操作者 Sの確実な操作フィーリングを確保できるとともに、不用意 な操作領域の誤指定を防止でき、操作者 Sの安心感を得ることができる。なお、この 決定指示信号を与えるために操作器 200にて「決定」ボタンを押すことで発せられる 指示信号は、赤外線指示信号に限られず、可視光線を含む電磁波等他の無線信号 でもよい。
[0049] また、本実施形態では、遠隔操作器 200からの赤外線指示信号を赤外線受光部 1 01で受光し、 FM復調器 102→BPF103→パルス復調器 104→ユーザー指示入力 部 151→ユーザー操作判定部 152を介し、操作信号生成部 153から操作信号を DV D録画'再生機構 140へ入力することで、遠隔操作器 200の操作部 201のみによる 従来通りの操作を行うことも可能である。
[0050] なお、本発明は上記実施形態に限られるものではなぐその趣旨や技術的思想を 逸脱しない範囲内で種々の変形が可能である。以下、そのような変形例を順次説明 する。
[0051] (1)操作領域決定をジェスチャーで指示する場合
図 9は、本変形例の画像表示システムにおいて、画像表示装置 1の液晶表示部 3 の表示の一例を表す図であり、上記図 6に対応する図である。図 6と同等の部分には 同一の符号を付している。上記実施形態では、例えば操作者 Sが DVDの編集を意 図した場合には、図 6に示したように、手に持った遠隔操作器 200の液晶表示部 3に おける位置を操作メニュー MEの「編集」領域に位置させた後、例えば「決定」ボタン を押すことで当該操作領域の選択指定を確定した。本変形例ではこの「決定」ボタン を押す代わりに、図 9に示すように、遠隔操作器 200を所定の形状に(この例では一 周させるように)動かし(=ジェスチャー)、これによつて操作領域の選択指定を確定 するようにしたものである。図 9に示す例では、操作者 Sが DVDの予約録画を意図し た例であり、手に持った遠隔操作器 200の液晶表示部 3における位置を操作メ-ュ 一 MEの「予約」領域に位置させた後、当該領域内又はその近傍にて略円形状又は 略楕円形状を描くように遠隔操作器 200を振りまわし、これによつて当該「予約」操作 領域の選択指定を確定して!/、る。
[0052] 図 10は、本変形例における画像表示制御装置 100の機能的構成を表す機能プロ ック図であり、上記実施形態の図 3に相当する図である。図 3と同等の部分には同一 の符号を付し、適宜説明を省略する。図 10において、図 3と異なるのは、コントローラ 150に新たに遠隔操作器 200の赤外線像の動きを判定する動き判定部 157が設け られていることである。
[0053] すなわち、上記実施形態と同様、操作者 Sが手に持った遠隔操作器 200を移動さ せて位置表示 MAを液晶表示部 3上で動かし、操作メニュー MEのうち実行した 、操 作領域に上記位置表示 MAが到達したとき、その操作領域の操作を決定すべく当該 領域内又はその近傍にて略円形状又は略楕円形状を描くように遠隔操作器 200を 振りまわす。このとき、遠隔操作器 200の赤外線像が前述したように赤外線フィルタ 付きカメラ 110で撮像認識されその撮像信号がリモコン位置特定部 155に入力され、 このリモコン位置特定部 155から上記動き判定部 157へと入力されて 、る。上記のよ うに遠隔操作器 200を振り回すことで、動き判定部 157ではこの振り回し運動を認識 するとともに、当該領域を操作者 Sが操作対象として選択指定していると判定し、上 記ユーザー操作判定部 152に前述の決定指示信号を入力する。以降の動作は上記 実施形態と同様なので、説明を省略する。
[0054] 本変形例によっても、上記実施形態と同様の効果を得る。また、操作領域の最終的 な選択指定の確定の際にも遠隔操作器 200の操作部 201の操作が不要となるので 、さらに確実に液晶表示部 3から目を離さずに操作が可能となる。
[0055] (2)赤外線フィルタ付カメラがリモコン指示操作を受け取る場合
図 11は、本変形例における画像表示制御装置 100の機能的構成を表す機能プロ ック図であり、上記実施形態の図 3に相当する図である。図 3と同等の部分には同一 の符号を付し、適宜説明を省略する。図 11において、図 3と異なるのは、赤外線受光 部 101が省略され、遠隔操作器 200からの赤外線指示信号が赤外線フィルタ付き力 メラ 110で受光され、この赤外線フィルタ付きカメラ 110内に備えられた変換手段(図 示せず、あるいはカメラ 110とは別体に設けられて 、てもよ 、)で光 電気変換され た後に FM復調器 102に供給されることである。その後の動作は上記実施形態と同 様であるため、説明を省略する。
[0056] 本変形例によっても、上記実施形態と同様の効果を得る。
[0057] (3)コールドミラーを用いる場合
例えば上記実施形態の図 3に示したように、赤外線フィルタ付きカメラ 110と通常の カメラ 120とを別々に設けた場合、それら 2つのカメラ 110, 120のレンズ位置のずれ によりそれぞれの撮像は厳密には一致しな 、が、操作者 Sがカメラ力も十分離れて ヽ る場合は、 2つのカメラ 110, 120の差異は小さぐ実用上問題ない。しかしながら、 操作者 Sがそれらカメラ 110, 120の近くに 、る場合にはその差異が無視できな!/、ほ ど大きくなり、例えば赤外線フィルタ付きカメラ 110の撮像信号に基づきリモコン位置 特定部 155で特定し液晶表示部 3に表示させた遠隔操作器 200の位置と、カメラ 12 0からの映像表示信号をもとに液晶表示部 3に表示させた遠隔操作器 200の実映像 とのずれが大きくなる可能性がある。本変形例はそのような場合に対応するためのも のである。
[0058] 図 12は、本変形例における画像表示制御装置 100の機能的構成を表す機能プロ ック図であり、上記図 3や図 11に相当する図である。図 3と同等の部分には同一の符 号を付し、適宜説明を省略する。図 12において、本変形例では、赤外線フィルタ付き カメラ 110の入射側に赤外線を透過させるとともに可視光線を反射する機能(=分光 機能)を備えた公知のコールドミラー CMを設け、遠隔操作器 200からの赤外線と遠 隔操作器 200の背景 BG力もの可視光線とを (前述の受光口 106を介して)赤外線フ ィルタ付きカメラ 110へと同一の光軸で導入する。そして、その光軸上に設けた上記 コールドミラー CMによって上記遠隔操作器 200からの赤外線と遠隔操作器 200の 背景 BGからの可視光線とを分光し、赤外線はそのまま透過させて赤外線フィルタ付 きカメラ 110へ入射させるとともに、可視光線は反射させて方向転換させカメラ 120へ と入射させる。以降の動作は上記実施形態と同様であるので説明を省略する。
[0059] 上記構成の本変形例においては、 2つのカメラ 110, 120に入力される映像は同一 のものであるため、操作者 Sがカメラ 110, 120に十分近い位置にいても、 2つのカメ ラ 110, 120の間に撮像の差異が発生せず、前述したような遠隔操作器 200の位置 ずれの弊害を確実に防止できると 、う効果を得る。
[0060] (4)位置補正を行なう場合
上記したように、赤外線フィルタ付きカメラ 110と通常のカメラ 120との 2つを設けた 場合、それら 2つのカメラ 110, 120のレンズ位置のずれによりそれぞれの撮像は厳 密には一致しない (位置ずれが発生する)。この差異が無視できないほど大きくなつ た場合に、上記(3)のようにコールドミラー CMを用いることで撮像自体の差異をなく す手法のほか、差異をなくすように一方の信号に対し位置補正 (キャリブレーション) をしてもよい。この変形例を図 13〜図 15を用いて説明する。
[0061] 図 13は、この変形例における画像表示制御装置 100の機能的構成の一例を表す 機能ブロック図であり、上記図 3や図 11に相当する図である。図 3と同等の部分には 同一の符号を付し、適宜説明を省略する。図 13において、本変形例では、上記信号 補正を行うためのリモコン位置補正部 160 (補正手段)を新たに設けている。このリモ コン位置補正部 160は、ユーザ指示入力部 151からの指示信号 (詳細は後述)に応 じて、リモコン位置特定部 155で特定されリモコン位置記号作成部 156で生成されて 映像合成部 130へ入力された位置表示信号に対して所定の補正を行う(詳細は後 述)。この補正後の位置表示信号は、映像合成部 130に入力されて映像信号生成部 120bからの映像表示信号と合成される。
[0062] 図 14 (a)〜(c)は、上記位置補正の様子を表す説明図である。この変形例では、例 えば以下のようにして位置補正を行う。
[0063] 上記実施形態において図 4を用いて説明したように、操作者 Sが遠隔操作器 200を 手に持って画像表示制御装置 100の前に立つと、カメラ 120からの映像表示信号を もとにその操作者 Sのいる実世界の実写映像が画像表示装置 1の液晶表示部 3に表 示される。このとき、液晶表示部 3の表示位置の中で位置補正用の所定位置 (この例 では画面中央位置、白十字マーク参照)が予め固定的に定められており、位置補正 を行うことを意図する場合には、操作者 Sは、立つ位置や手に持った遠隔操作器 20 0の高さ等を調整して、当該所定位置 (画面中央位置)に遠隔操作器 200の実映像 が表示されるようにする。図 14 (a)の上段の図は、このときの状態を表している。
[0064] 一方、図 14 (b)の下段の図は、この状態で、上記の位置ずれの発生により、赤外線 フィルタ付きカメラ 110の撮像信号に基づきリモコン位置特定部 155で特定し液晶表 示部 3に表示させた遠隔操作器 200の位置(=赤外線検出位置、図中では特に X 印マークで表す)力 画面中央位置から(この例では図示右側に)ずれている状態を 概念的に表した図である。なお、遠隔操作器 200における操作者 Sの適宜の操作に よって実際にこの X印マークをリモコン位置記号作成部 156で生成し液晶表示部 3 に表示させてもよい。
[0065] 図 14 (b)は、このような状態のまま (すなわち補正を行わず)、カメラ 120からの映像 表示信号に基づく遠隔操作器 200の実映像 (図 14 (a)上段参照)と、リモコン位置特 定部 155で特定しリモコン位置記号作成部 156で生成した遠隔操作器 200の位置 表示 MA (この例では上記同様 X印で表す。図 14 (a)下段参照)とが重ね合わされ て液晶表示部 3に表示された状態を表す図である。
[0066] この状態で、操作者 Sが遠隔操作器 200で適宜の補正指示操作を行うことにより、 前述したように、これに対応する特定の赤外線指示信号が前述の赤外線受光部 101 、上記 FM復調器 102、 BPF103、パルス復調器 104を経てユーザー指示入力部 1 51に入力される。そして、ユーザー指示入力部 151ではこれに対応してリモコン位置 補正部 160に制御信号を出力し、リモコン位置補正部 160はこれに応じて映像合成 部 130にアクセスする(例えば問い合わせ信号を出力する)。映像合成部 130ではこ れに応じて所定の演算処理を行い、この時点で入力されているリモコン位置記号作 成部 156からの位置表示信号 (位置表示 MA)が上記液晶表示部 3の中央位置 (遠 隔操作器 200の実映像位置に相当)からどれだけずれているかを算出する(ずれ量)
[0067] この算出したずれ量と、上記リモコン位置記号作成部 156からの位置表示信号とは 、上記リモコン位置補正部 160に入力される。リモコン位置補正部 160では上記ずれ 量に基づき、このずれを補正するための補正定数を決定する。例えば液晶表示部 3 の画面上の位置を、 X軸、 y軸を備えた 2次元平面上にて表したとき、上記ずれの量 を (dx, dy)とすれば、上記補正定数は(— dx, —dy)とすればよい。そして、リモコン 位置補正部 160はこの補正定数を用いて上記映像合成部 130から入力した位置表 示信号を補正した後、この補正後の位置表示信号を映像合成部 130へと出力する。 なお、リモコン位置補正部 160は補正定数を用いてリモコン位置記号作成部 156か ら直接入力した位置表示信号を補正するようにしてもょ 、(二点鎖線参照)し、ある!/ヽ はリモコン位置特定部 155で特定した遠隔操作器 200の位置情報を補正するように してちよい。
[0068] 映像合成部 130に入力された補正後の位置表示信号は、前述したように映像信号 生成部 120bからの映像表示信号と合成され、これによつて補正後の遠隔操作器 20 0の位置表示 MAは上記液晶表示部 3の画面中央位置(白矢印マーク)と合致するこ ととなる。図 14 (c)はこのときの状態を表している。これ以降の動作は上記実施形態と 同様なので、説明を省略する。
[0069] なお、上記は操作者 Sが予め遠隔操作器 200を液晶表示部 3の中央位置に合わ せるように調整することを前提としていた力 これに限られず、液晶表示部 3の他の所 定位置 (例えば画面隅部やその近傍、あるいは背景 BGに対応した特定の位置等) に合わせるように調整させ、これに対して位置表示信号等を補正するようにしてもよ V、。また操作者 Sが遠隔操作器 200をどこかの所定位置に合わせるようにする手法 にも限られず、遠隔操作器 200の位置に関係なく (任意の位置で)映像合成部 130 で所定の公知の画像認識処理や解析処理等を行ってその時点での実映像における 遠隔操作器 200の位置を特定し、この特定した遠隔操作器 200の位置に対する赤 外線検出に基づく遠隔操作器 200の位置のずれ量を算出して補正するようにしても よい。
[0070] さらに、上記のように赤外線検出に基づく遠隔操作器 200の位置を映像信号側に 合致させるように補正するのではなぐその逆に、映像信号を、赤外線検出に基づく 遠隔操作器 200の位置に合致させるように補正してもよい。図 15は、この場合におけ る画像表示制御装置 100の機能的構成の一例を表す機能ブロック図であり、上記図 13に相当する図である。図 13と同等の部分には同一の符号を付し、適宜説明を省 略する。
[0071] 図 15において、この例では、上記信号補正を行うための映像信号補正部 170 (補 正手段)を新たに設けている。この映像信号補正部 170は、ユーザ指示入力部 151 力もの指示信号に応じて、映像信号生成部 120bで生成されて映像合成部 130へ入 力されずれ量が算出された映像表示信号に対し、上記リモコン位置補正部 160と同 様にしてずれ量に応じた所定の補正を行う。そして、この補正後の映像表示信号が、 映像合成部 130に入力されてリモコン位置記号作成部 156からの位置表示信号と合 成される。なお、映像信号補正部 170は補正定数を用いて映像信号生成部 120bか ら直接入力した映像表示信号を補正するようにしてもょ ヽ(二点鎖線参照)。
[0072] これら 2つの変形例においては、カメラ 120による撮影結果と、赤外線フィルタ付き カメラ 110による撮影結果とに応じて、リモコン位置特定部 155の特定に基づく遠隔 操作器 200の位置、若しくは、映像信号生成部 120bで生成した映像表示信号を補 正する補正手段(リモコン位置補正部 160又は映像信号補正部 170)を有する。これ により、 2つのカメラ 110, 120の間に撮像の差異が発生したとしてもこれを補正する ことで、位置ずれによる誤差の発生等を確実に防止することができる。
[0073] (5)赤外線高感度カメラを用いる場合
本変形例は、上記実施形態において第 1光線撮像手段としてのカメラ 120と第 2光 線撮像手段としての赤外線フィルタ付きカメラ 110とを用 V、て 、たのに代え、 1つの赤 外線高感度カメラ 11 OA (後述の図 17参照)を用 、ることで両者を兼用する場合であ る。この場合、赤外線高感度カメラ 110Aは、第 1光線としての可視光線に対する感 度よりも第 2光線としての赤外線に対する感度が高くなつている。
[0074] 図 16は、この赤外線高感度カメラ 110Aのもつ感度特性の一例を表す特性図であ る。横軸には波長 (nm)をとり、縦軸にカメラ感度 (相対値)をとつて表している。図 16 において、この例では、カメラ 110Aの感度は、波長 940nm〜950nmをピーク領域 とし、それより短波長でも長波長でも急激に感度が小さくなる特性となっている。この ようなカメラ 110Aの感度特性において、例えば遠隔操作器 200からの赤外線を上 記波長 940ηπ!〜 950nmの範囲のものを用いることで、遠隔操作器 200の背景 BG 力もの可視光線 (波長範囲 760nm以下)を受光したときの感度と、遠隔操作器 200 力もの赤外線を受光したときの感度との間に、大きな差をつけることができる。この特 性を利用して、上記 2つの高低感度値の間になるような図 16に示す感度しきい値 X を設定すれば、上記遠隔操作器 200の背景 BG力ゝらの可視光線と、遠隔操作器 200 力もの赤外線とを 1つのカメラ 110Aで受光しても、しき 、値 Xより高 、感度で得られる 撮像は赤外線像 (赤外線指示信号)、しき!ヽ値 Xより低 ヽ感度で得られる撮像は可視 光線像と 、うように分けて処理することができる。
[0075] 図 17は、本変形例における画像表示制御装置 100の機能的構成を表す機能プロ ック図であり、上記図 11に相当する図である。図 11と同等の部分には同一の符号を 付し、適宜説明を省略する。図 17において、本変形例では、上記赤外線フィルタ付 きカメラ 110及び通常のカメラ 120に代えて、前述した感度特性を備えた赤外線高感 度カメラ 110Aを設けて 、る。上記遠隔操作器 200の背景 BGからの可視光線実像と 、遠隔操作器 200からの赤外線像とは 、ずれも赤外線高感度カメラ 110Aの撮像部 l lOAaに入力される。撮像部 l lOAaでは、上記した原理に基づき、高感度側の赤 外線像 (赤外線指示信号)と低感度側の可視光線像に分けて撮像し、赤外線像及び 赤外線指示信号については図 11と同様にリモコン位置特定部 155及び FM復調部 102にそれぞれ出力し、可視光線像については映像信号生成部 l lOAbに供給する 。映像信号生成部 1 lOAbでは対応する映像表示信号を生成して映像合成部 130 へ出力する。これ以降の動作は上記図 11に示した(2)の変形例と同様であるので説 明を省略する。 [0076] 本変形例によれば、第 2光線撮像手段として、可視光線に対する感度よりも赤外線 に対する感度が高く設定され、第 1光線撮像手段を兼ねた赤外線高感度カメラ 110 Aを用いる。これにより、赤外線フィルタを用いることなぐかつ、カメラ 1台で上記実施 形態と同様の効果を得ることができる。
[0077] なお、前述の図 3のように、赤外線指示信号については赤外線受光部 101で受光 するようにし、赤外線像のみを赤外線高感度カメラ 110Aで撮像するようにしてもょ ヽ
[0078] (6)操作者までの距離に応じて拡大表示する場合
上記実施形態及び(1)〜(5)の変形例は、カメラ 120等による映像表示信号に基 づき画像表示装置 1の液晶表示部 3に表示する背景 BGの表示倍率は固定的に設 定されていたが、これに限られず、操作者 Sまでの距離に応じて当該表示倍率を変 ィ匕させるようにしてちょい。
[0079] 図 18〜図 22は、この距離に応じた表示倍率の変化の手法の概略を説明するため の説明図である。
[0080] 図 18は、まず操作者 Sが(言い換えれば操作器 200が、以下同様)カメラ 120から 比較的近い距離に位置する場合の例を表している。この場合、カメラ 120が撮影した 領域のうち、操作者 Sの近傍の所定の範囲を切り出した後、その切り出した部分を同 一の倍率で液晶表示部 3に表示する。
[0081] 図 19は、操作者 Sのカメラ 120からの距離が中程度の場合の例を表しており、上記 図 18と同様、この場合も、カメラ 120が撮影した領域のうち、所定の範囲を切り出して 同一倍率でそのまま液晶表示部 3に表示する。このとき上記したように、操作者 Sは、 遠隔操作器 200を移動操作することで、その液晶表示部 3における位置表示 MAを 操作メニュー MEから操作領域を選択指定するためのポインタとして利用することが できる。図 20はその移動操作における操作の最小単位を表す図であり、上記のよう に拡大することなく同一倍率で切り出して 、ることから、この場合の操作最小単位は 十分に小さい。この結果、操作者 Sによる手や腕の動作によって遠隔操作器 200を 移動させ液晶表示部 3上で位置表示 MAを感度良くなめらかに動かし、円滑に操作 領域を選択指定することができる。 [0082] 図 21は、操作者 Sがカメラ 120から比較的遠く離れている場合の例を表している。 この場合、カメラ 120が撮影した領域のうち操作者 Sの近傍の所定の範囲をそのまま 同一倍率で表示したのでは非常に小さく液晶表示部 3で表示されてしま 、、液晶表 示部 3に位置表示 MAや操作メニュー MEを表示するのが困難となる。そこでこれを 回避するために、切り出した範囲を拡大して液晶表示部 3にお 、て大きく表示する。
[0083] し力しながらこのように切り出し後の拡大表示を行う関係上、移動操作における操 作の最小単位を図 22に示すように、この場合の操作最小単位が大きくなつて比較的 粗くなつてしまう。この結果、操作者 Sによる手や腕の動作によって遠隔操作器 200を 動力したとき、液晶表示部 3上で位置表示 MAを感度良くなめらかに動かすことが困 難 (しばらく一点で止まった後に突然離れたところに飛ぶ等、動きがぎくしゃくする)又 は不可能となる。そこで、この場合には、隣接する上記操作最小単位の 2点の間に別 途新たに仮想的な移動位置を想定し、この予想移動位置を用いて位置表示 MAを 補完した形で表示する (実際の操作器 200がある位置力も次の位置へ移動したとき、 位置表示 MAは、その実際の操作器 200の移動よりも遅れて、当該「ある位置」→「そ れら 2つの位置間に予想した移動位置」→当該「次の位置」のように、 2つの位置の中 間部に予想位置を介在させつつ遅れて追従表示する。なおこの中間部は必ずしも 中点である必要はな 、)ことで、上記操作性の低下を防止するようにして 、る。
[0084] 図 23は、上記の手法を実現するための本変形例の画像表示制御装置 100の機能 的構成を表す機能ブロック図であり、上記実施形態の図 3等に相当する図である。図 23において、この変形例の画像表示制御装置 100は、図 3に示した構成における映 像合成部 130に代えて 1次映像合成部 135を設けるとともに、新たに距離検出部 11 5、切り出し処理部 180、 2次映像合成部 195を設けている。
[0085] 距離検出部 115は、公知の手法により遠隔操作器 200との距離を測定するもので あり、例えば超音波距離計等が用いられる。検出した距離は距離検出信号として切り 出し処理部 180へ入力される。
[0086] 1次映像合成部 135は、図 3の映像合成部 130と同様、カメラ 120の撮像部 120a での撮影に基づく映像信号生成部 120bからの映像信号が入力されるとともに、リモ コン位置特定部 155での特定に基づくリモコン位置記号作成部 156からの位置表示 信号が入力される。これによつて、液晶表示部 3に実写されている遠隔操作器 200の 位置 (あるいは近傍)に所定の位置表示 MAが重ねられた状態の映像信号が実現さ れる。
[0087] 切り出し処理部 180は、上記 1次映像合成部 135からの位置表示 MAつき実写映 像信号と、上記距離検出部 115からの距離検出信号と、上記リモコン位置特定部 15 5からの位置特定信号とを入力する。そして、上記位置表示 MA付き実写映像のうち 、上記位置特定信号により特定される操作器 200位置近傍の所定範囲切り出しを行 い、さらに上記距離検出信号の距離の遠近に応じて、当該切り出した映像を液晶表 示部 3に表示するときの拡大倍率を設定し、その倍率に拡大した位置表示 MA付き 実写映像信号を 2次映像合成部 195へ出力する(詳細は後述の図 24参照)。
[0088] 2次映像合成部 195は、上記切り出し処理部 180からの(適宜拡大された)位置表 示 MAつき実写映像信号と、メニュー作成部 154からのメニュー表示信号とを合成す る。そして、この合成信号が画像表示装置 1へ出力されることで、カメラ 120の撮影に 基づく上記位置表示 MA付き実写映像と上記メニュー作成部 154からのメニュー表 示との合成映像が液晶表示部 3に表示される。
[0089] 図 24は、上記切り出し処理部 180の詳細構成を表す機能ブロック図である。
[0090] 図 24において、切り出し処理部 180は、拡大を伴わない単純な切り出しを行うため の単純切り出し部 181と、拡大を伴う切り出しを行うための拡大切り出し部 182と、拡 大切り出しにさらに上記の予想移動位置の補完を行うための補完拡大切り出し部 18 3と、距離検出部 115からの距離検出信号とリモコン位置特定部 155からの信号に基 づく遠隔操作器 200の移動の態様 (操作解像度、移動解像度、速度等。詳細は後述 )とに応じて上記補完を行うかどうかを判定する補完判定部 184と、この補完判定部 1 84からの切替制御信号によって切り替えられ、上記切り換えスィッチ 187 (後述)から の入力を拡大切り出し部 182又は補完拡大切り出し部 183の 、ずれか一方に選択 的に出力する切り換えスィッチ 185と、距離検出部 115からの距離検出信号に応じて 拡大表示を行うかどうかの判定を行う拡大判定部 186と、この拡大判定部 186からの 切替制御信号によって切り替えられ、上記 1次映像合成部 135からの出力を単純切 り出し部 181又は切り換えスィッチ 185のいずれか一方に選択的に出力する切り換 えスィッチ 187とを備えている。
[0091] 単純切り出し部 181、拡大切り出し部 182、及び補完拡大切り出し部 183には、そ れぞれリモコン位置特定部 155からの位置特定信号が入力され、それぞれの切り出 し部 181〜 183はその特定された操作器 200の位置に基づき、操作器 200位置の 近傍の所定範囲(例えば予め固定的に設定されて 、る)の切り出しを行う。
[0092] 図 25は、切り出し処理部 180全体で実行する制御手順を表すフローチャートであ る。
[0093] 図 25において、まずステップ S10において、拡大判定部 186で、距離検出部 115 で検出した操作者 S (操作器 200)とカメラ 120との距離を取得する。
[0094] その後、ステップ S20において、拡大判定部 186で、上記ステップ S 10で取得した 距離が比較的近 、かどうか (例えば予め定められた所定のしき!/、値よりも小さ!/、かど う力 を判定する。距離が小さい場合にはステップ S20の判定が満たされてステップ S 30に移り、拡大判定部 186で切り替えスィッチ 187に切替制御信号を出力して単純 切り出し部 182側へ切り替え、これによつて 1次映像合成部 135からの位置表示 MA つき映像信号を単純切り出し部 181へ供給して拡大のな 、通常の切り出しを行!、、 このフローを終了する。
[0095] 距離が大きい場合には、ステップ S20の判定が満たされずステップ S35に移り、拡 大判定部 186で切り替えスィッチ 187に切替制御信号を出力して切り替えスィッチ 1 85側へ切り替え、これによつて 1次映像合成部 135からの位置表示 MAつき映像信 号を拡大切り出し部 182又は補完拡大切り出し部 183へ供給し拡大を伴う切り出し 処理を行う。その後ステップ S50に移り、補完処理を行ってこのフローを終了する。
[0096] 図 26は、上記ステップ S50の詳細手順を表すフローチャートである。
[0097] まずステップ S52において、補完判定部 184で、距離検出部 115からの距離検出 信号に応じて (その距離により拡大切り出し部 182又は補完拡大切り出し部 183で実 行される拡大倍率を想定した場合に)距離が長くなるほど低下する傾向となる操作解 像度が所定のしきい値より悪いかどうかを判定する。操作解像度が当該しきい値より 悪 、場合は判定が満たされ、そのままでは操作がぎくしゃくし操作性が悪くなる (補完 の必要がある)とみなされて後述のステップ S60に移る。操作解像度が当該しきい値 以上である場合には判定が満たされず、ステップ S54に移る。
[0098] ステップ S54では、補完判定部 184で、リモコン位置特定部 155からの位置特定信 号 (及び所定時間範囲内におけるその挙動)に基づき、何らかの理由により位置特 定信号として読みとれる読み取り解像度 (移動解像度)が所定のしき!ヽ値より悪くなつ て!ヽな ヽかどうかを判定する。移動解像度が当該しき ヽ値より悪 ヽ場合は判定が満 たされ、例えば障害物(後述)の存在等の理由によりそのままでは読み取りが断片的 となり円滑な操作が困難 (補完の必要がある)とみなされて後述のステップ S60に移る 。移動解像度が当該しきい値以上である場合には判定が満たされず、ステップ S56 に移る。
[0099] ステップ S56では、補完判定部 184で、リモコン位置特定部 155からの位置特定信 号 (及び所定時間範囲内におけるその挙動)に基づき、実際の操作器 200の移動速 度が所定のしき 、値より小さ 、 (遅 、)力どうかを判定する。移動速度が当該しき 、値 未満である場合は判定が満たされ、例えば操作者 Sがゆっくりと精度の高い操作をし たがっている等とみなされて後述のステップ S60に移る。移動速度が当該しきい値以 上である場合には判定が満たされず、ステップ S58に移る。
[0100] ステップ S58では、補完判定部 184で、操作者 Sからの補完指示信号が入力され たかどうかを判定する。すなわち、本変形例では上記ステップ S52、ステップ S54、ス テツプ S56等の判定条件を満たす満たさないに関係なぐ操作者 Sが意図的に (強 制的に)補完拡大切り出し部 183による補完実行を指示できる操作手段が備えられ ており、その操作手段による補完指示信号は補完判定部 184に入力される。このス テツプ S58は、この補完指示信号の入力があった力どうかを判定するものである。操 作者 Sによる補完実行指示があった場合には判定が満たされて後述のステップ S60 に移る。補完実行指示がない場合には判定が満たされず、このフローを終了する。
[0101] ステップ S52、ステップ S54、ステップ S56、ステップ S58のいずれかの判定が満た されて移行するステップ S60では、補完判定部 184で、補完を「おいかけモード」で 実行する設定になって 、るかどうかを判定する。
[0102] すなわち、本変形例で実行する補完処理には、リモコン位置特定部 155からの位 置特定信号 (及び所定時間範囲内におけるその挙動)に基づき、操作器 200の現在 位置よりも少し前に位置して 、たと思われる位置力 現在位置までを追跡するように 補完する追いかけモード(=現実の操作器 200の動き力も少し遅れて位置表示 MA が滑らかに追いかけてくるように表示される)と、操作器 200の現在位置から、少し前 に位置して 、たと思われる位置までを逆に遡るように補完する逆戻りモード( =現実 の操作器 200の動きとは逆方向に位置表示 MAが滑らかに少し戻るように表示され る)とが備えられている。そして、操作者 Sが補完処理時に上記 2つのモードのうちい ずれを用いる力を指示できる選択手段が備えられており、その選択手段によるモード 選択信号は補完判定部 184に入力される。このステップ S60は、このモード選択信 号で上記追 、かけモードが選択されて 、るかどうかを判定するものである。
[0103] 操作者 Sにより追いかけモードが選択されていた場合にはステップ S60の判定が満 たされてステップ S62に移る。ステップ S62では、補完拡大切り出し部 183で、前述し たように実際の操作器 200の移動よりも遅れて追従表示するときの追従動作開始点 Psを、操作器 200の移動軌跡上における補完を開始 (発動)した点 (例えば操作器 2 00の現在位置とそれより少し前の位置との中間部位置。なお必ずしも中点である必 要はない)とし、追従表示するときの追従終了点 Peを、現在位置とする。
[0104] 一方操作者 Sにより逆戻りモードが選択されていた場合にはステップ S60の判定が 満たされず、ステップ S64に移る。ステップ S64では、補完拡大切り出し部 183で、上 記追従動作開始点 Psを操作器 200の現在位置とし、追従表示するときの追従終了 点 Peを、上記補完開始 (発動)点とする。
[0105] 上記ステップ S62又はステップ S64が終了すると、ステップ S66に移る。
[0106] ステップ S66では、補完判定部 184で、補完しつつ実際の操作器 200に遅れて追 従してくるときの位置表示 MAの追従 (移動)速度を一定値とする設定になって 、るか どうかを判定する。
[0107] すなわち、本変形例で実行する補完処理時の位置表示 MAの追従速度として、 ( 操作器 200の実際の移動速度に関係なく)予め定められた一定速度で追従する定 速モードと、操作器 200の実際の移動速度に応じて追従速度が変化する可変速モ ードとが備えられている。そして、操作者 Sが補完処理時に上記 2つのモードのうちい ずれを用いる力を指示できる選択手段が備えられており、その選択手段によるモード 選択信号は補完判定部 184に入力される。このステップ S66は、このモード選択信 号で上記定速モードが選択されているかどうかを判定するものである。
[0108] 操作者 Sにより定速モードが選択されていた場合にはステップ S66の判定が満たさ れてステップ S68に移る。ステップ S68では、補完拡大切り出し部 183で、前述したよ うに実際の操作器 200の移動よりも遅れて追従表示するときの位置表示 MA (ポイン タ)の追従速度 fpvを、所定の一定値 Ssとする。
[0109] 一方操作者 Sにより可変速モードが選択されていた場合にはステップ S66の判定 が満たされず、ステップ S70に移る。ステップ S70では、補完判定部 184で、リモコン 位置特定部 155からの位置特定信号 (及び所定時間範囲内におけるその挙動)に 基づき、実際の操作器 200の移動速度が所定のしきい値 α (予め設定される)以下と なって 、るかどうかを判定する。操作器 200の移動速度がそれほど遅くなつて 、な ヽ 場合にはステップ S70の判定が満たされず、上記ステップ S68へ移行する。操作器 2 00の移動速度が十分に遅くなつている場合にはステップ S 70の判定が満たされ、ス テツプ S72に移る。
[0110] ステップ S72では、補完拡大切り出し部 183で、前述したように実際の操作器 200 の移動よりも遅れて追従表示するときの位置表示 ΜΑ (ポインタ)の追従速度 fpvを、 fpv= j8 / ( l + a -rpv) … (式 1)
により算出する。ここで、 rpvは実際の操作器 200 (実際の位置表示 MA)の移動速度 (実ポインタ速度)であり、 βは予め固定的に上限として設定されている追従ポインタ 最高速度である。また αはステップ S70で前述した移動速度のしきい値である。
[0111] 上記式 1には、以下のような意義がある。すなわち、ステップ S 70での判定が満たさ れていることからステップ S72の時点で実際の操作器 200の移動速度 rpv≤ aとなつ ているため、上記式 1のうち a—rpvは 0以上の値となり、実際の操作器 200の移動 速度が遅い (操作がゆっくりである)ほど大きな値となる。この結果、これに 1を加えた l + α—rpvは 1以上の値であって操作がゆっくりであるほど 1よりも大きくなる性質を 備え、このような値を用いて追従ポインタ最高速度 |8を除することにより、上限値を超 えることなくかつ操作がゆっくりであるほど遅くなるポインタ追従速度 fpvを実現するこ とがでさる。 [0112] 上記ステップ S68又はステップ S72が終了すると、ステップ S74に移る。ステップ S7 4では、補完拡大切り出し部 183で、上記リモコン位置記号作成部 156で作成され 1 次映像合成部 135を介して入力された位置表示 (ポインタ) MAに所定の遅延処理を 施すとともに上記の補完処理を施し、上記ステップ S62又はステップ S64で決定した 追従動作開始点 Psから追従終了点 Peまで、上記ステップ S68又はステップ S72で 決定した追従ポインタ速度 fpvにより(実際の操作器 200の移動よりも遅れて)位置表 示 MAが表示されるように信号を再合成し、上記 2次映像合成部 195へ出力する。な お、後述する(8)の変形例の補完信号生成部 165のように、リモコン位置特定部 155 力もの位置特定信号に基づきリモコン位置記号作成部 156に信号を出力してリモコ ン位置記号作成部 156で作成する位置表示信号自体を修正 (補正)し、同様の表示 を行わせるようにしても同じ効果が得られる。ステップ S74が終了すると、このルーチ ンを終了する。
[0113] 本変形例の画像表示装置 1においては、映像表示信号生成手段 120bで生成した 映像表示信号における操作器 200の背景の一部分を抽出し、表示画面上に拡大表 示可能とするための抽出処理手段 (この例では切り出し処理部 180, 180A)を有し ている。
[0114] これにより、操作者 Sが比較的遠く離れていて第 1光線撮像手段 120aで撮影した 操作器 200の背景全体の画像に占める操作者 Sの映像の割合力 S小さい場合等、背 景 BG全体の画像に占める操作器 200を移動操作可能な領域 (操作領域)の割合が 小さい場合において、操作者 S付近の映像を抽出して拡大することにより、表示画面 3上における操作領域の大きさを増大させることが可能となる。この結果、操作困難 性を低減し、操作性を向上することができる。
[0115] また本変形例の画像表示制御装置 1においては、操作器 200との距離を検出する 距離検出手段 (この例では距離検出部 115)を有し、抽出処理手段 180は、距離検 出手段 115の検出結果に応じて、抽出及び拡大の態様 (拡大有無を含む)を決定す る。
[0116] これにより、距離検出手段 115で検出した操作器 200までの距離が比較的遠く離 れて ヽる場合には、抽出処理手段 180で操作者 S付近の映像を抽出して拡大するこ とで、表示画面 3上における操作領域の大きさを増大させることが可能となる。この結 果、必要以上に大きな範囲で操作する必要がなくなり、また操作位置を限定されるこ ともなくなる。
[0117] また、本変形例の画像表示制御装置 1においては、予想位置設定手段 (この例で は補完拡大切り出し部 183)は、操作器 200の移動時に位置特定手段 155により順 次特定される隣接する 2点の中間部となるように、予想移動位置を設定する。
[0118] これにより、表示画面 3における操作器 20の移動軌跡が粗くぎくしゃくした場合に、 隣接 2点間に予想移動位置を設定して仮想的に表示画面 3上における移動軌跡を 補い、粗い移動軌跡を細力べ表現することで、操作円滑性を向上することができる。
[0119] なお、上記(6)の変形例においては、切り出し処理部 180で切り出し処理を行う際 、単純切り出し部 181、拡大切り出し部 182、及び補完拡大切り出し部 183は、リモコ ン位置特定部 155からの位置特定信号で特定された操作器 200の位置に基づき、 固定的に決められたその近傍の所定範囲を (操作者 Sの操作可能範囲とみなして) 切り出しを行ったが、これに限られず、操作者 Sが当該操作範囲 (操作可能範囲)を 自ら設定して装置側に認識させるようにしてもょ 、。
[0120] 図 27はそのような変形例における切り出し処理部 180Aの機能的構成を表す機能 ブロック図であり、前述の図 24に相当する図である。図 27に示されるように、この変 形例による切り出し処理部 180Aでは、操作領域決定部 188が新たに備えられてい る。この操作領域決定部 188は、リモコン位置特定部 155からの位置特定信号に基 づき、所定時間範囲内における操作器 200の移動領域に対応して操作者 Sの操作 領域を設定するものである。
[0121] すなわち操作領域決定部 188は、カメラ 120の映像信号生成部 120bからの映像 信号 (又はリモコン位置特定部 155からの位置特定信号でもよ 、)に対し例えば公知 の動体認識技術を適用し、上記所定時間範囲内 (例えば基準時の直後又は直前) における動体領域 (動画像内で動きの激し力つた領域)を検出する。そして、その検 出した動体領域は操作者 Sの腕近辺の領域であると仮定すれば、これによつて操作 者 Sによる操作可能領域を推定することができる。そしてこれを操作領域として単純 切り出し部 181、拡大切り出し部 182、補完拡大切り出し部 183に出力することで、そ れら切り出し部 181〜183は当該領域の切り出し処理を実行することができる。
[0122] この変形例における画像表示装置 1においては、抽出処理手段 180Aは、映像表 示信号生成手段 120bで生成した映像表示信号、若しくは、位置特定手段 155によ る位置特定結果に基づき認識される操作器 200の移動 (範囲)情報に応じて、抽出 及び拡大の態様 (拡大有無を含む)を決定する。
[0123] これにより、操作器 200の移動範囲が小さく背景 BG全体の画像に占める操作領域 の割合が小さい場合には、抽出処理手段 180Aで操作者 S付近の映像を抽出して 拡大することで、表示画面 3上における操作領域の大きさを増大させることが可能と なる。この結果、必要以上に大きな範囲で操作する必要がなくなり、また操作位置を 限定されることちなくなる。
[0124] なお、上記距離検出部 115による距離検出には、上記超音波検出計を用いる以外 にも種々の方法が考えられる。
[0125] すなわち例えば、公知の顔認識技術を活用すれば、カメラ 120の撮像部 120aで撮 影し映像信号生成部 120bで生成した映像信号より操作者 Sの顔を識別し、その顔 の大きさと、人間の一般的な顔の大きさの平均値とを比較することで、操作者 Sまで の距離を求めることが可能である。なおこの場合、この顔認識領域の周囲一定範囲 の領域を操作領域と決定して切り出し部 181〜183に切り出しを行わせるようにして もよい。あるいは顔認識領域と、前述のリモコン位置特定部 155で特定される操作器 200を含む所定の範囲を操作領域と決定して切り出し部 181〜183に切り出しを行 わせるようにしてもょ ヽ。また顔でな ヽ部分に対し公知の画像認識を用いて距離計測 を行うことも可能である。
[0126] また、上記(3)の変形例において説明したように、例えば図 3に示した構成におい て、赤外線フィルタ付きカメラ 110と通常のカメラ 120とを別々に設けた場合にはそれ ら 2つのカメラ 110, 120のレンズ位置のずれによりそれぞれの撮像は厳密には一致 せず、視差が生じる。このようなカメラの視差を利用して、例えば距離検出用の左側 カメラと右側カメラとをそれぞれ設け (少なくとも一方をカメラ 110, 120と兼用も可能) 、それらの視差を利用して距離を計測するようにしてもよ!、。
[0127] また、入力画像における図形の大きさから計算する手法もある図 28は、この手法を 説明するための説明図である。図 28において、例えば操作器 200の先端部に図示 のように略「口」の字状に IR— LEDが設置されていたとすると、カメラ 120で撮影され た映像信号における上記 IR— LEDの「口」の字の大きさは、操作器 200までの距離 が大きくなるほど小さくなる。この相関関係を利用して、映像信号中の「口」の字の大き さを取得することで、操作器 200までの距離を逆算して求めることができる。
[0128] (7)障害物回避の対策を講じる場合
すなわち、操作者 Sとカメラ 120との間に操作器 200による操作範囲の妨げとなるよ うな障害物がある場合、この障害物の存在する弊害を回避するような手法を実行して も良い。
[0129] 図 29 (a)、図 29 (b)、図 29 (c)は、この障害物回避手法の 1つとして切り出し領域を 変更する変形例の概略を説明するための説明図である。
[0130] 図 29 (a)は、前述の図 18等に相当する図であり、カメラ 120が撮影した領域と、切り 出される領域との位置関係を表している。操作者 Sが比較的近い距離 (カメラ 120か ら見て障害物よりも手前側に出ている状態)〖こ位置する場合は、図 29 (b)に示すよう に、カメラ 120が撮影した領域のうち操作者 Sの近傍の所定の範囲を切り出した後、 その切り出した部分を同一の倍率で液晶表示部 3に表示する。この状態では操作メ ニュー MEが図示のように障害物(この例では本棚)上にかぶって表示されることとな るが、操作者 Sが障害物よりも手前側に位置するので、操作者 Sが操作器 200をもつ て腕を振ることで当該本棚にかぶった状態の操作メニュー ME上に位置表示 MAを 位置させることができ、通常通りの操作を行うことができる。
[0131] 一方、操作者 Sが後ろに下がった位置に立ち、カメラ 120から見て障害物のほうが 操作者 Sよりも手前側に出ている状態になると、前述のようにそのまま操作メニュー M Eを障害物 (本棚)上にかぶって表示しても、操作者 Sがカメラ 120から見て障害物よ りも奥側に位置するので操作者 Sが腕を振っても操作メニュー ME上に位置表示 MA を位置させることができず操作を行うことができな!/、。
[0132] そこで本変形例においては、このような状態となったら、図 29 (c)及び図 29 (a)に 示すように、切り出し位置を、障害物を回避する(なるべく含まない)ような位置にずら す。これにより、図 29 (c)に示すように、障害物の影響のほとんどない状態で操作メ- ユー MEを表示でき、通常通り、操作者 Sが操作器 200をもって腕を振ることで操作メ ニュー ME上に位置表示 MAを位置させることができる。
[0133] なお、図 29 (b)に示す状態 (カメラ 120から見て操作者 Sが障害物よりも手前側に 出ている、障害物の非活性化状態)と、図 29 (c)に示す状態 (カメラ 120から見て障 害物が操作者 Sよりも手前側になる、障害物の活性ィ匕状態)との区別は、種々の手法 が考えられる。一例としては、図 30に示すように、予めカメラ 120からの距離に対応さ せる形で、障害物となりうる物をデータベース化して登録しておく手法がある(後述の 図 33のデータベース 145参照)。図 30において、右側の欄が各物体のカメラ 120か らの距離 (活性ィ匕距離)であり、距離検出部 115から操作者 Sまでの距離がこの活性 化距離よりも大きくなつた場合に、当該物体が障害物となるとみなすことができる。ま たこのときに、公知の物体認識技術 (例えば、ディジタル画像処理 (CG-ARTS協会) p .192-P.200参照)を併せて用いるようにしてもよ!、。
[0134] また、操作器 200をある方向に連続的に動力して移動操作していたとき、あるときか らリモコン位置特定部 155の位置特定信号に基づく移動軌跡が検出できなくなった 場合、これをもって活性ィ匕状態にある障害物を検出したとしてもよ!/、 (後述の(8)の変 形例も参照)。少し逆方向に元に戻したときに操作器 200の移動軌跡が検出できるよ うになった( =非活性状態への復帰)ことを確認できればなお確実である。
[0135] 図 31 (a)、図 31 (b)、図 31 (c)は、障害物回避手法の他の例としてメニュー表示領 域をずらす変形例の概略を説明するための説明図である。
[0136] 図 31 (a)は、前述の図 29 (a)や図 18等に相当する図であり、カメラ 120が撮影した 領域と、切り出される領域との位置関係を表している。操作者 Sがカメラ 120から見て 障害物よりも手前側に出ている状態では、図 31 (b)に示すように、通常通り、例えば 操作メニュー MEを障害物 (本棚)上にかぶって表示させる。この状態では、操作者 S が障害物よりも手前側に位置するので、操作者 Sが操作器 200をもって腕を振ること で当該本棚にかぶった状態の操作メニュー ME上に位置表示 MAを位置させること ができ、通常通りの操作を行うことができる。
[0137] 一方、操作者 Sが後ろに下がった位置に立ち、カメラ 120から見て障害物のほうが 操作者 Sよりも手前側に出ている状態になると、前述と同様、操作者 Sがカメラ 120か ら見て障害物よりも奥側に位置するので操作者 Sが腕を振っても操作メニュー ME上 に位置表示 MAを位置させることができな!/、。
[0138] そこで本変形例においては、このような状態となったら、図 31 (c)に示すように、(こ の例のように切り出しを行う場合には必ずしも切り出し位置を変えず)、障害物を回避 する(なるべく含まな 、)ような位置に操作メニューの表示位置を(図示の例では左側 に)ずらす。これにより、図 31 (c)に示すように、カメラ 120から見て障害物とかぶらず (障害物の影響のほとんどない状態で)操作メニュー MEを表示でき、通常通り、操作 者 Sが操作器 200をもって腕を振ることで操作メニュー ME上に位置表示 MAを位置 させることがでさる。
[0139] なお、障害物の非活性ィ匕状態と活性ィ匕状態との区別は、前述と同様の手法で行え ば足りる。
[0140] 図 32は、上記の手法を実現するための本変形例の画像表示制御装置 100の機能 的構成を表す機能ブロック図であり、前述の図 23や図 3等に相当する図である。図 3 2において、この変形例の画像表示制御装置 100は、先に(6)の変形例において図 23に示した構成における切り出し処理部 180及び 2次映像合成部 195にそれぞれ 対応する機能を備えた切り出し処理部 180B及び 2次映像合成部 195Aを設けるとと もに、新たに障害物判定部 125を設けている。
[0141] 障害物判定部 125は、上記距離検出部 115からの距離検出信号と、リモコン位置 特定部 155からの位置特定信号とが入力され、前述したように障害物が非活性ィ匕状 態か活性ィ匕状態かを判定する。
[0142] 切り出し処理部 180Bは、この例では前述の切り出し処理部 180, 180Aのような拡 大機能は備えておらず、上記障害物判定部 125における上記判定結果信号と、リモ コン位置特定部 155からの位置特定信号とに基づき、上記障害物判定結果に応じた 態様 (通常の切り出し力位置をずらした切り出しか)で、 1次映像合成部 135からの位 置表示 MA付き映像信号を切り出す (詳細は後述の図 33参照)。
[0143] 2次映像合成部 195Aは、上記障害物判定部 125における上記判定結果に応じた 態様 (通常メニュー表示位置かずらしたメニュー表示位置力 )で、切り出し処理部 18 OBで切り出された映像に対し、メニュー作成部 154から入力した操作メニュー MEを 合成する。
[0144] 図 33は、上記切り出し処理部 180B及び 2次映像合成部 195Aの詳細構成を、障 害物判定部 125とともに表す機能ブロック図である。
[0145] 図 33において、切り出し処理部 180Bは、障害物回避のためのずらしを行わず通 常の切り出しを行うための通常切り出し部 189と、障害物回避のためのずらしを伴う 切り出しを行うためのずらし切り出し部 190と、上記障害物判定部 125からの切替制 御信号によって切り替えられ、上記 1次映像合成部 135からの入力を通常切り出し部 189又はずらし切り出し部 190のいずれか一方に選択的に出力する切り換えスイツ チ 191とを備えている。
[0146] 通常切り出し部 189には、リモコン位置特定部 155からの位置特定信号が入力され 、その特定された操作器 200の位置に基づき、操作器 200位置の近傍の所定範囲( 例えば予め固定的に設定されて 、る)の切り出しを行う。ずらし切り出し部 190には、 上記同様のリモコン位置特定部 155からの位置特定信号と障害物判定部 125からの 障害物判定結果 (障害物位置情報を含む)とが入力され、操作器 200の位置と障害 物の位置とに基づき、上記操作器 200位置の近傍の所定範囲の切り出しを、前述の ように障害物位置をなるベく回避するように位置をずらしながら行う。
[0147] 一方、 2次映像合成部 195Aは、障害物回避のためのずらしを行わず通常のメ-ュ 一表示のための映像合成を行うための通常合成部 196と、障害物を回避するずらし たメニュー表示のための映像合成を行うずらし合成部 197と、上記障害物判定部 12 5からの切替制御信号によって切り替えられ、上記切り出し処理部 180B力 の入力 を通常合成部 196又はずらし合成部 197のいずれか一方に選択的に出力する切り 換えスィッチ 198とを備えている。
[0148] 通常合成部 196には、メニュー作成部 154からのメニュー表示信号が入力され、そ の入力された操作メニュー MEを、切り出し処理部 180B力も入力した画像の所定位 置 (例えば予め固定的に設定されている)となるように合成する。ずらし合成部 197に は、上記同様のメニュー作成部 154からのメニュー表示信号と、障害物判定部 125 力もの障害物判定結果 (障害物位置情報を含む)とが入力され、障害物の位置情報 に基づき、上記入力された操作メニュー MEを、前述のように障害物位置をなるベく 回避できるように位置をずらして合成する。
[0149] なおこの例では、前述の図 29に示したずらし切り出し機能を実行可能な上記切り 出し処理部 180Bと、前述の図 31に示したずらしメニュー表示機能を実行可能な上 記 2次映像合成部 195Aとを両方併せて備える場合を例にとって示している。しかし ながら、いずれか一方のみの機能を実行すれば良い場合は、反対側は一般的な機 能を備えて ヽれば足りる。例えば上記切り出し処理部 180Bでのずらし切り出し機能 のみで障害物対策を行う場合には、 2次映像合成部 195Aにおけるずらし合成部 19 7は (切り換えスィッチ 198とともに)省略して良い。同様に上記 2次映像合成部 195A でのずらしメニュー表示機能のみで障害物対策を行う場合には、切り出し処理部 18 OBにおけるずらし切り出し部 190は (切り換えスィッチ 191とともに)省略して良い。
[0150] 図 34は、切り出し処理部 180B、 2次映像合成部 195A、及び障害物判定部 125の 全体で実行する制御手順を表すフローチャートである。先の図 25と同等の手順には 同一の符号を付し、適宜説明を簡略化する。
[0151] 図 34において、まずステップ S10において、障害物判定部 125で、距離検出部 11 5で検出した操作者 S (操作器 200)とカメラ 120との距離を取得する。
[0152] その後、ステップ S15において、障害物判定部 125で、前述のデータベース化され た障害物情報を備えたデータベース 145より、今回問題となる障害物に関する情報( 少なくとも活性ィ匕距離を含み、その他障害物の大きさ等を含んでいても良い)を取得 する。
[0153] そして、ステップ S40に移り、障害物判定部 125で、上記ステップ S 10で取得した距 離と、上記ステップ S15で取得した障害物情報とに基づき、障害物が活性化した状 態 (カメラ 120から見て障害物が操作者 Sよりも手前側)であるかどうかを判定する。活 性ィ匕状態になければ判定が満たされず、このフローを終了する。
[0154] 障害物が活性ィ匕状態にあればステップ S40の判定が満たされ、ステップ S43に移 る。ステップ S43では、障害物判定部 125で、上記障害物情報に基づき、(障害物を 回避するずらし切り出しを行わなくても)障害物以外の領域で十分な操作メニュー M Eの表示スペースを確保できるかどうかを判定する。
[0155] 例えば障害物自体が比較的カメラ 120より遠い距離にある場合や障害物の大きさ 自体がそれほど大きくな 、場合等で上記表示スペースを確保できる場合にはステツ プ S43の判定が満たされ、ステップ S46に移る。ステップ S46では、障害物判定部 12 5で切り替えスィッチ 191に切替制御信号を出力して通常切り出し部 189側へ切り替 えるとともに、切り替えスィッチ 198に切替制御信号を出力してずらし合成部 197側 へ切り替える。これ〖こより、 1次映像合成部 135からの位置表示 MAつき映像信号を 通常切り出し部 189へ供給してずらしのな 、通常の切り出しを行うとともに、その通常 切り出し部 189からの切り出し映像信号をずらし合成部 197に供給して、前述のよう に障害物を回避するずらしたメニュー表示のための映像合成を行い、このフローを終 了する。
[0156] 一方、上記ステップ S43において、例えば障害物自体が比較的カメラ 120に近い 距離にある場合や障害物の大きさ自体が大き!、場合等で、障害物以外の領域で十 分な操作メニュー MEの表示スペースを確保できない場合にはステップ S43の判定 が満たされず、ステップ S49に移る。
[0157] ステップ S49では、障害物判定部 125で切り替えスィッチ 191に切替制御信号を出 力してずらし切り出し部 190側へ切り替えるとともに、切り替えスィッチ 198に切替制 御信号を出力して通常合成部 196側へ切り替える。これにより、 1次映像合成部 135 からの位置表示 MAつき映像信号をずらし切り出し部 190へ供給して前述のように障 害物を回避するずらした切り出しを行うとともに、そのずらし切り出し部 190からの切り 出し映像信号を通常合成部 196に供給して、ずらしのない通常のメニュー表示のた めの映像合成を行い、このフローを終了する。
[0158] 本変形例の画像表示制御装置 1においては、抽出処理手段 (この例では切り出し 処理部 180B)は、映像表示信号生成手段 120bで生成した映像表示信号において 操作器 200との間に介在する障害物の映像を回避するように、抽出及び拡大の態様 (拡大有無を含む)を決定する。
[0159] これにより、操作器 200と装置 1との間に障害物が存在するような場合に、その障害 物の映像を回避するように抽出及び拡大を行うことで、表示画面 3上において障害物 の映像に阻害されることなく操作器 200の操作領域を確保することができ、操作性の 低下を防止することができる。また操作位置を限定されることもなくなる。 [0160] また、本変形例の画像表示制御装置 1にお!/、ては、図象表示信号生成手段 154で 生成した操作対象図象 MEの表示画面 3上における表示位置を、映像表示信号生 成手段 120bで生成した映像表示信号において操作器 200との間に介在する障害 物の映像を回避するように設定するための図象位置設定手段 (この例では 2次映像 合成部 195A)を有する。
[0161] これにより、操作器 200と装置 1との間に障害物が存在し、そのままでは背景全体 の画像に占める操作器 200を移動操作可能な領域 (操作領域)の割合が小さくなる 場合にお 1ヽて、障害物の映像を回避するように操作対象図象 MEの表示を行うことで 、表示画面 3上において操作器 200の操作領域を確保することができ、操作性の低 下を防止することができる。
[0162] (8)障害物越しの操作感を得られるようにする場合
すなわち、操作者 Sとカメラ 120との間に操作器 200による操作範囲の妨げとなるよ うな障害物があった場合にも、その障害物の存在していないかのような、あた力も障 害物越しに操作できているような操作感を操作者 Sに与えるような手法を実行しても 良い。
[0163] 図 35 (a)、図 35 (b)、図 35 (c)、図 35 (d)は、このような操作感を得る変形例の概 略を説明するための説明図である。
[0164] 図 35 (a)は、前述の図 18等に対応する図であり、カメラ 120が撮影した領域を表し ており、この例では、カメラ 120が撮影した領域をそのまま同一の倍率で液晶表示部 3に表示する。ここで、図示のように、操作者 Sよりも障害物が手前側に位置し、操作 メニュー MEが図示のように障害物(この例では観葉植物)上にかぶって表示された ような場合を想定する。この場合、そのままでは、操作者 Sが操作器 200をもって操作 メニュー ME側に腕を振ったとしても、図 35 (b)に示すように、操作器 200が当該観 葉植物にかぶつた状態になるとリモコン位置特定部 155による操作器 200の位置特 定が困難又は不可能となるため、操作メニュー ME上に位置表示 MAを位置させるこ とができなくなる。
[0165] そこで本変形例においては、このような状態となったら、図 35 (c)及び図 35 (d)に 示すように、それまでに (操作器 200が当該観葉植物にかぶる状態となる前に)リモコ ン位置特定部 155により特定できた操作器 200の特定位置(「 X」印で示す)の移動 軌跡を用いて、これを延長するように別途新たに仮想的な移動位置を想定し、この予 想移動位置を用いて位置表示 MAを補完した形で表示する(「參」印で示す)。これ によって、操作者 Sにとつてあた力も障害物がないかのような (障害物越しに操作でき て!、るかのような)操作感を与え、操作性の低下を防止するようにして 、る。
[0166] 図 36は、上記の手法を実現するための本変形例の画像表示制御装置 100の機能 的構成を表す機能ブロック図であり、上記実施形態の図 3等に相当する図である。図 36において、この変形例の画像表示制御装置 100は、図 3に示した構成に、新たに 補完信号生成部 165を設けて 、る。
[0167] 補完信号生成部 165は、リモコン位置特定部 155からの位置特定信号を入力し、こ れに基づく前述した操作器 200の特定位置の移動軌跡を延長するように別途新たに 仮想的な操作器 200の移動位置を想定し、この予想移動位置を用いて位置表示 M Aを補完して表示するための補完信号を生成し、リモコン位置記号作成部 156へと 出力する。
[0168] これにより、リモコン位置記号作成部 156は、通常通りリモコン位置特定部 155から の位置特定信号によって特定される位置に、遠隔操作器 200の位置を上記液晶表 示部 3に表示させるための位置表示 MAを生成するのにカ卩え、前述のように障害物 にかぶつてリモコン位置特定部 155からの位置特定信号が入力されなくなっても、こ れに代わるように補完信号生成部 165から入力される補完信号によって位置表示 M Aを生成し、映像合成部 130へと出力する。これにより、液晶表示部 3に実写されて いる障害物の映像上に対し、遠隔操作器 200の上記想定移動位置に対応した位置 表示 MAが重ねられて表示される。
[0169] 図 37は、補完信号生成部 165が実行する制御手順を表すフローチャートであり、 前述の図 25や図 26に対応する図である。
[0170] 図 37において、まずステップ S102において、リモコン位置特定部 155からの位置 特定信号 (及び所定時間範囲内におけるその挙動)に基づき、実際の操作器 200の 移動速度が所定のしき 、値より小さ ヽ (遅 、)力どうかを判定する。移動速度が当該し き ヽ値未満である場合は判定が満たされ、例えば操作者 Sが障害物の存在を意識し て障害物越しの操作をしたがっている等とみなされて後述のステップ S 108に移る。 移動速度が当該しきい値以上である場合には判定が満たされず、ステップ S104に 移る。
[0171] ステップ S104では、リモコン位置特定部 155からの位置特定信号 (及び所定時間 範囲内におけるその挙動)に基づき、実際の操作器 200の移動速度が所定のしきい 値より(上記ステップ S102のしき 、値よりも大き!/、値)大き!/、(速 、)かどうかを判定す る。移動速度が当該しきい値より大きい場合は判定が満たされ、例えば操作者 Sが障 害物の存在を意識して障害物越しの操作をしたがっている等とみなされて後述のス テツプ S108に移る。移動速度が当該しきい値未満である場合には判定が満たされ ず、ステップ S 106に移る。
[0172] ステップ S106では、操作者 Sからの補完指示信号が入力されたかどうかを判定す る。すなわち、本変形例では上記ステップ S102、ステップ S 104等の判定条件を満 たす満たさないに関係なぐ操作者 Sが意図的に (強制的に)補完信号生成部 165に よる補完実行を指示できる操作手段が備えられており、その操作手段による補完指 示信号は補完信号生成部 165に入力される (図 36のユーザ指示入力部 151から入 力する矢印参照)。このステップ S106は、この補完指示信号の入力があつたかどうか を判定するものである。操作者 Sによる補完実行指示があった場合には判定が満た されて後述のステップ S108に移る。補完実行指示がない場合には判定が満たされ ず、このフローを終了する。
[0173] ステップ S102、ステップ S104、ステップ S 106のいずれかの判定が満たされて移 行するステップ S 108では、前述したように実際の操作器 200の移動軌跡が途絶えそ の延長表示を開始するときの延長動作開始点 Psを、操作器 200の現在位置とする。 また、延長動作終了点 Peを以下のようにして決定する。
[0174] すなわち、図 38に概念的に示すように、操作器 200の現在位置と、それより少し前 の位置との間に線分を引き、この少し前の位置から上記現在位置に向力つて当該線 分を延長した直線を引き、その延長線と表示画面の画面端との交点を、延長終了点 Peとする。このようにして延長開始点 Ps及び延長終了点 Peを決定したら、ステップ S 110へ移る。 [0175] ステップ S110では、上記ステップ S108で延長終了点 Peとして決定した地点(上記 延長線と表示画面の画面端との交点)が、実際に延長動作の終了点として指定可能 であるかどうかを判定する。例えば通常の操作者 Sの身長等から見て上記終了点が 明らかに操作可能な範囲力も逸脱している等、指定できない場合には判定が満たさ れず、ステップ S 112へ移る。指定可能であった場合にはステップ S 110の判定が満 たされ、後述のステップ S 114へ移る。
[0176] ステップ S112では、上記ステップ S108で決定した延長終了点 Peとは異なる、別 の指定可能要素(例えばメニュー作成部 154からのメニュー表示信号により表示され る操作メニュー ME上。前述の図 38参照)の所定箇所 (この例では重心位置)を上記 延長線が通過するように、延長終了点 Peの位置を変更する。その後、ステップ S 114 へ移る。
[0177] ステップ S114では、延長線上を伸びていくように延長補完 (追従)するときの位置 表示 MAの延長補完 (追従)速度を一定値とする設定になって 、るかどうかを判定す る。
[0178] すなわち、本変形例でも、先に (6)の変形例で述べたのと同様、実行する延長補完 処理時の位置表示 MAの追従速度として、(操作器 200の実際の移動速度に関係な く)予め定められた一定速度で追従する定速モードと、操作器 200の実際の移動速 度に応じて追従速度が変化する可変速モードとが備えられている。そして、操作者 S が上記延長補完処理時に上記 2つのモードのうちいずれを用いるかを指示できる選 択手段が備えられており、その選択手段によるモード選択信号は補完信号生成部 1 65に入力される。このステップ S114は、このモード選択信号で上記定速モードが選 択されて 、るかどうかを判定するものである。
[0179] 操作者 Sにより定速モードが選択されていた場合にはステップ S114の判定が満た されてステップ S 116に移る。ステップ S116では、前述したように実際の操作器 200 の移動軌跡を延長するように追従表示するときの位置表示 MA (ポインタ)の追従速 度 fpvを、所定の一定値 Ssとする。
[0180] 一方操作者 Sにより可変速モードが選択されていた場合にはステップ S114の判定 が満たされず、ステップ S118に移る。ステップ S118では、リモコン位置特定部 155 力もの位置特定信号 (及び所定時間範囲内におけるその挙動)に基づき、実際の操 作器 200の移動速度が所定のしき 、値 oc (予め設定される)以下となって!/、るかどう かを判定する。操作器 200の移動速度がそれほど遅くなつて 、な 、場合にはステツ プ S 118の判定が満たされず、上記ステップ S 116へ移行する。操作器 200の移動速 度が十分に遅くなつている場合にはステップ S 118の判定が満たされ、ステップ S 12 0に移る。
[0181] ステップ S 120では、前述したように実際の操作器 200の移動軌跡を延長するよう に追従表示するときの位置表示 MA (ポインタ)の追従速度 fpvを、前述の式 1と同様 の、
fpv= j8 / ( l + a -rpv) … (式 2)
により算出する。前述と同様、 rpvは実際の操作器 200 (実際の位置表示 MA)の移 動速度(実ポインタ速度)であり、 βは予め固定的に上限として設定されている追従 ポインタ最高速度である。また αはステップ S 118で前述した移動速度のしきい値で ある。
[0182] 上記式 2においても、前述した式 1と同様の意義がある。すなわち、ステップ S 118 での判定が満たされていることからステップ S 120の時点で実際の操作器 200の移動 速度 rpv≤ aとなっているため、上記式 2のうち a rpvは 0以上の値となり、実際の 操作器 200の移動速度が遅い (操作がゆっくりである)ほど大きな値となる。この結果 、これに 1をカ卩えた 1 + a—rpvは 1以上の値であって操作がゆっくりであるほど 1より も大きくなる性質を備え、このような値を用いて追従ポインタ最高速度 βを除すること により、上限値を超えることなくかつ操作がゆっくりであるほど遅くなるポインタ追従速 度 fpvを実現することができる。
[0183] 上記ステップ S 116又はステップ S 120が終了すると、ステップ S 122に移る。ステツ プ S 122では、上記リモコン位置記号作成部 156で作成され入力された位置表示 (ポ インタ) MAに上記の延長補完処理を施し、上記ステップ S 108 (又はステップ S 112) で決定した延長開始点 Psから延長終了点 Peまで、上記ステップ S 116又はステップ S 120で決定した追従ポインタ速度 fpvにより位置表示 MAが表示されるようにリモコ ン位置記号作成部 156へ補完信号を出力する。ステップ S 122が終了すると、このル 一チンを終了する。
[0184] なお、上記実施形態等においては、操作者 Sが手に持った遠隔操作器 200を移動 させて位置表示 MAを液晶表示部 3上で動かし、操作メニュー MEのうち実行した ヽ 操作領域に上記位置表示 MAが到達したときにその操作領域の操作を決定すべく 操作部 201を適宜に操作する(例えば「決定」ボタンを押す)。そしてこれによつて、対 応する赤外線指示信号が赤外線駆動部 202から出射され、画像表示制御装置 100 側でこれに基づく処理を行って対応した操作信号が上記 DVD録画'再生機構 140 に出力され、対応する動作を行わせることができた。
[0185] 本変形例においては、上記のようにして障害物に遮られたままその延長線上に位 置表示 MAを到達させた状態では、対応する赤外線指示信号を画像表示制御装置 100側で受け取ることが不可能又は困難であり、そのままでは、操作メニュー MEのう ち実行したい操作領域に上記位置表示 MAが到達したときにその操作領域の操作 を決定することができない。この操作領域の決定に関しては、例えば、上記延長補完 動作を開始してから所定時間の経過後に位置表示 MAが到達した位置を自動的に 操作者 Sが決定した操作領域とみなすようにしたり、別途の (操作領域決定のための )指示手段を設けて決定指示を行うようにすればょ 、。
[0186] 本変形例の画像表示制御装置 1においては、位置特定手段 155による位置特定 結果に基づき認識される操作器 200の移動情報に基づき、特定された位置とは異な る操作器 200の予想移動位置を設定する予想位置設定手段 (この例では補完信号 生成部 165)を有する。
[0187] これにより、例えば障害物の存在により操作器 200の移動軌跡を途中で検出できな くなつた場合等にぉ 、て、操作器 200の位置特定結果以外にも移動位置を予想して 設定することで、仮想的に表示画面 3上における移動軌跡を補って連続的に表現し 、操作性を向上することができる。
[0188] また本変形例の画像表示制御装置 1においては、予想位置設定手段 165は、操作 器 200の移動時に位置特定手段 155により順次特定される移動方向延長線上となる ように、予想移動位置を設定する。
[0189] これにより、障害物の存在等により移動軌跡を途中で検出できなくなった場合に、 操作器 200の移動方向延長線上に移動位置を予想して仮想的に表示画面 3上にお ける移動軌跡を補い、途切れた移動軌跡を再現することで、操作性を向上することが できる。
[0190] なお、上記は操作器 200を障害物方向に移動させているときに障害物によって操 作器 200が完全に遮られて移動軌跡が途中で検出できなくなり、これに対応して移 動方向延長線上に移動位置を予想する場合を例にとって説明したが、これに限られ ない。すなわち例えば、図 39 (a)のように、操作者 Sより手前側に位置する障害物 (こ の例では観葉植物)があり、操作メニュー MEが図示のように障害物を挟んで操作者 Sと反対側に表示された (操作メニュー ME自体は障害物とかぶって 、な 、)ような場 合を考える。この場合、操作者 Sが操作器 200をもって腕を振ることで、 (操作メニュ 一 MEは障害物とかぶっていないため)最終的に操作メニュー ME上に側に位置表 示 MAを位置させ、通常の操作を行うことはできる。し力しながら、上記のように操作メ ニュー ME上に側に位置表示 MAを位置させるまでの途中の段階で、図 39 (b)に示 すように、操作器 200が当該観葉植物にかぶった状態になるとリモコン位置特定部 1 55による操作器 200の位置特定が困難又は不可能となり、この状態の間、位置表示 MAが (例えば観葉植物の枝葉に遮られて)断片的 ·離散的にしか表示されなくなる( あるいは移動解像度が低くなる)可能性がある。
[0191] このような場合、上記(8)の変形例における延長補完の手法を、前述と同様にして 、この移動軌跡中間部における補完についても適用することができる。すなわち、図 39 (c)及び図 39 (d)に示すように、操作器 200が当該観葉植物にかぶる状態となる 前や、枝葉の間から操作器 200が断片的に覼く状態においてリモコン位置特定部 1 55により特定できた操作器 200の特定位置(「 X」印で示す)の移動軌跡を用いて、 これを結ぶように (操作器 200の特定位置の隣接する 2点を結ぶように)別途新たに 仮想的な移動位置を想定し、この予想移動位置を用いて位置表示 MAを補完した形 で表示する(「拳」印で示す)。これによつて、操作者 Sにとつてあた力も障害物による 障害がな 、ような連続的な操作感を与えるようにして 、る。
[0192] この画像表示制御装置 1においては、予想位置設定手段 165は、操作器 200の移 動時に位置特定手段 155により順次特定される隣接する 2点の中間部となるように、 予想移動位置を設定する。
[0193] これにより、表示画面 3における操作器 200の移動軌跡が障害物の存在により断片 的-離散的にしか検出できな力 た場合に、隣接 2点間に予想移動位置を設定して 仮想的に表示画面 3上における移動軌跡を補い連続的に表現することで、操作円滑 性を向上することができる。
[0194] (9)蓄積コンテンツの再生位置指定に応用する場合
以上は、画像表示装置 1に DVD録画'再生機構 140の操作に関わるメニュー画面 を表示させ、遠隔操作器 200の赤外線像をメニュー選択のポインタとして用いた場合 を例にとって説明した。し力しながら、このポインタとしての活用はこれに限られるもの ではなぐそれ以外にも適用可能である。本変形例は、上記ポインタの機能を蓄積コ ンテンッの再生位置の自在な指定に応用した場合の例である。
[0195] 図 40は、本変形例の画像表示システムにお 、て、画像表示装置 1の液晶表示部 3 の表示の一例を表す図であり、前述の図 6に対応する図である。図 6と同等の部分に は同一の符号を付している。図 40において、この例では、画像表示制御装置 100の 図示しない上記収納部に収納された DVDに予め録画された長さ 1時間のコンテンツ (番組等)表示 CTを実行させた状態で、操作者 Sがそのコンテンツを所望の時間位 置(図示の例では再生開始位置力も 42分経過した位置)から再生させることを意図し 、手に持った遠隔操作器 200の液晶表示部 3における位置をコンテンツ表示 CTの 当該 42分経過点に位置させた後(矢印型のマーク参照)、前述の「決定」ボタンを押 してその選択指定を確定させた状態を表している。なお、この例では液晶表示部 3の 右上部に当該 42分経過点(再生開始位置)における当該コンテンツの画像 CC (静 止画でも動画でもよい)が割り込み表示されている。あるいはこのコンテンツ再生開始 位置指定操作とは関係なぐ所定のチャンネルにおける現在の放映画像をこの位置 に表示するようにしてもよい。
[0196] 図 41は、上記画像表示制御装置 100の機能的構成を表す機能ブロック図である。
図 41において、画像表示制御装置 100は、図 3等に示されたメニュー表示作成部 1 54に代えて、上記コンテンツを上記液晶表示部 3に表示させるための信号を生成す るコンテンツ表示作成部 154Aが設けられて 、る。 [0197] 本変形例では、前述したように、カメラ 120からの映像表示信号をもとに画像表示 装置 1の液晶表示部 3に操作者 Sがいる実世界が表示された状態において、操作者 Sが遠隔操作器 200を手に持って操作部 201を適宜に操作すると、これに対応する 特定の赤外線指示信号 (コンテンツ再生位置指定モードに対応)が赤外線駆動部 2 02から出射され、前述と同様、画像表示制御装置 100の赤外線受光部 101で受光 された後、上記 FM復調器 102、 BPF103、パルス復調器 104を経てコントローラ 15 0のユーザー指示入力部 151に対応する識別コードが入力されて解読される。ユー ザ一指示入力部 151ではこれに対応してコンテンツ表示作成部 154Aに作成指示 信号を入力し、コンテンツ表示作成部 154Aは、これに対応して、 DVD録画'再生機 構 140に対応する再生コンテンツについての問い合わせを行ってその情報 (コンテン ッの有無、全録画時間等)を取得した後、画像表示装置 1の上記液晶表示部 3に図 4 0に示したような帯状の表示力 なるコンテンツ時間枠 (操作対象図象)を表示させる ためのコンテンツ表示信号(図象表示信号)を生成する。
[0198] このコンテンツ表示信号は、前述と同様、映像合成部 130によって上記カメラ 120 の映像信号生成部 120bからの映像表示信号と合成され、その合成信号が画像表 示装置 1へ出力されることで、カメラ 120による上記実写映像と上記コンテンツ表示作 成部 154Aからのコンテンツ表示 CTとの合成映像が液晶表示部 3に表示される(コン テンッ再生位置指定モード、言い換えれば画面位置選択モードへの移行)。なお、 本変形例でも、前述と同様、このコンテンツ再生位置指定モードへ移行している間( このモードが終了するまで)、遠隔操作器 200からは上記した特定の赤外線指示信 号 (低消費電力)を発信し続けるようになって 、る。
[0199] 一方このとき、前述と同様、操作者 Sの持った遠隔操作器 200から発せられる上記 特定の赤外線指示信号が赤外線フィルタ付きカメラ 110で撮像されて、リモコン位置 特定部 155にお 、て遠隔操作器 200が赤外線フィルタ付きカメラ 110による撮像中 において占める位置が特定され、その位置情報をもとにリモコン位置記号作成部 15 6で位置表示信号が生成されて映像合成部 130へと入力され、これによつて液晶表 示部 3に実写されている遠隔操作器 200の位置 (あるいは近傍)に位置表示 MA (矢 印型のマーク、上記図 40参照)が重ねて表示される。これにより、操作者 Sが遠隔操 作器 200を持ってその位置を移動させる(空間的に存在位置を変える)ことで、液晶 表示部 3にコンテンツ表示 CTと重なるようにして表示されている遠隔操作器 200の位 置表示 MAを液晶表示部 3上で動かすことができる。
[0200] 一方、前述と同様、上記リモコン位置特定部 155で特定した遠隔操作器 200の位 置情報は上記ユーザー操作判定部 152へも入力され、このときユーザー操作判定 部 152には、上記コンテンツ表示作成部 154Aで作成したコンテンツ表示信号のコン テンッ表示に関する情報(どのような内容、時間長さのコンテンツ表示を行っているか )も入力されている。
[0201] 上記のように操作者 Sが遠隔操作器 200を移動させて位置表示 MAを液晶表示部 3上で動かし、コンテンツ表示 CTのうち再生開始した!/、位置に上記位置表示 MAが 到達したときにその選択指定を決定すべく操作部 201を適宜に操作する (例えば「決 定」ボタンを押す)ことで、上記同様、これに対応する赤外線指示信号が赤外線駆動 部 202から出射され、画像表示制御装置 100の赤外線受光部 101で受光された後、 上記 FM復調器 102、 BPF103、パルス復調器 104を経てコントローラ 150のユーザ 一指示入力部 151に対応する識別コードが入力されて解読され (指示信号入力手段 )、対応して上記ユーザー操作判定部 152に決定指示信号が入力される。
[0202] 上記決定指示信号が入力されたユーザー操作判定部 152は、前述したのと同様、 リモコン位置特定部 155から取得した遠隔操作器 200の位置情報と、コンテンツ表示 作成部 154Aから取得したコンテンツ表示情報とに基づき、上記液晶表示部 3に表 示されたコンテンツ表示 CTのうち選択指定された再生開始位置 (操作指定部位)を 決定し (操作部位決定手段)、これに対応する信号をコンテンツ表示作成部 154Aへ と入力する。コンテンツ表示作成部 154Aはその入力された信号に基づき、上記選 択指定された再生開始位置及びその近傍領域を、それ以外の部位と異なる態様で 表示するようなコンテンツ表示信号を生成して映像合成部 130に出力する。
[0203] 上記の結果、図 40に示したように、この例では当該選択指定された再生開始位置 力も 42分経過位置及びその近傍領域は他の領域と色が異なって表示されている。 そして、ユーザー操作判定部 152から上記再生開始位置の選択指定に対応した操 作指示信号が操作信号生成部 153へ出力され、操作信号生成部 153がこれに応じ て対応する操作信号を上記 DVD録画'再生機構 140に出力し、対応する位置から の再生動作を行うことができる。
[0204] 以上説明した本変形例においても、上記実施形態と同様の効果を得ることができる 。すなわち、液晶表示部 3における遠隔操作器 200の位置表示 MAをコンテンツ表 示 CTから再生開始位置を選択指定するためのポインタとして利用することができ、 操作者 Sは、液晶表示部 3から目を離すことなぐ遠隔操作器 200自体の位置移動と V、う体感的 ·直感的に非常に分力りやす 、動作で、コンテンツ表示 CTのうち所望の 再生開始位置を容易に選択指定することができる。このとき、従来技術のようにジエス チヤ一を記憶する必要もなく操作者 Sの負担を増大させることがな 、ので、遠隔操作 時の利便性を大きく向上することができる。またそれ以外の効果についても、詳細は 省略するが上記実施形態とほぼ同様の効果を得ることができる。
[0205] なお、上記においては、図 40に示したように、液晶表示部 3のほぼ全体に実世界 映像及びコンテンツ表示 CTを大きく表示するとともに、右上部に当該再生開始位置 におけるコンテンツ画像 CC (ある 、は所定チャンネルにおける現在の放映画像)を 割り込み表示させたが、これに限られない。すなわち、上記の逆に、図 42に示すよう に、液晶表示部 3のほぼ全体に再生開始位置におけるコンテンツ画像 CC (あるいは 所定チャンネルにおける現在の放映画像)を大きく表示するとともに、右上部に実世 界映像及びコンテンツ表示 CTを割り込み表示させるようにしてもょ ヽ。
[0206] さらに、上記のように遠隔操作器 200の位置によって再生開始位置を指定するのに も限られず、例えば再生映像や再生音楽の音量、表示画面の明るさ等を指定できる ようにしても良い。また再生に限られず、録画開始位置等を指定できるようにしてもよ い。
[0207] (10) EPGに適用した場合
さらに、上記ポインタの機能は、近年急速に普及しつつある電子番組ガイド (EPG) に適用することもできる。本変形例はそのような場合の例である。
[0208] 図 43は、本変形例の画像表示システムにお 、て、画像表示装置 1の液晶表示部 3 の表示の一例を表す図であり、前述の図 6や図 40に対応する図である。図 6と同等 の部分には同一の符号を付している。図 43において、この例では、画像表示制御装 置 100又は画像表示装置 1側の公知の機能を用いて液晶表示部 3に電子番組ガイ ド Eを表示させた状態で、操作者 Sがその電子番組ガイド Eに表示された所定の番組 を視聴することを意図し、手に持った遠隔操作器 200の液晶表示部 3における位置 を電子番組ガイド Eの当該番組の領域 (枠)に位置させた後(矢印型のマーク参照)、 前述の「決定」ボタンを押してその選択指定を確定させた状態を表して 、る。
[0209] 図 44は、上記画像表示制御装置 100の機能的構成を表す機能ブロック図である。
図 44において、画像表示制御装置 100は、前述の(9)の変形例の図 41に示された コンテンツ表示作成部 154Aに代えて、前述した視聴した 、所望の番組を含む電子 番組ガイド Έを上記液晶表示部 3に表示させるための信号を生成する番組表表示作 成部 154Bが設けられて 、る。
[0210] 本変形例でも、前述した (9)の変形例と同様、カメラ 120からの映像表示信号をもと に画像表示装置 1の液晶表示部 3に操作者 Sがいる実世界が表示された状態にお いて、操作者 Sが遠隔操作器 200を手に持って操作部 201を適宜に操作すると、こ れに対応する特定の赤外線指示信号 (電子番組ガイド表示モードに対応)が赤外線 駆動部 202から出射され画像表示制御装置 100の赤外線受光部 101で受光された 後、上記 FM復調器 102、 BPF103、パルス復調器 104を経てコントローラ 150のュ 一ザ一指示入力部 151に対応する識別コードが入力されて解読される。ユーザー指 示入力部 151ではこれに対応して番組表表示作成部 154Bに作成指示信号を入力 し、番組表表示作成部 154Bは、これに対応して、 DVD録画 ·再生機構 140に対し( あるいはさらにこれを介して画像表示装置 1に対し)取得可能な電子番組ガイドにつ V、ての問 、合わせを行ってその情報 (電子番組ガイドに表示する番組内容、時間等 )を取得した後、画像表示装置 1の上記液晶表示部 3に図 43に一例を示したような所 定の態様の電子番組ガイド Έ (操作対象図象)を表示させるための番組表表示信号( 図象表示信号)を生成する。
[0211] この番組表表示信号は、前述と同様、映像合成部 130によって上記カメラ 120の映 像信号生成部 120bからの映像表示信号と合成され、その合成信号が画像表示装 置 1へ出力されることで、カメラ 120による上記実写映像と上記番組表表示作成部 15 4Bからの電子番組ガイド Eとの合成映像が液晶表示部 3に表示される(電子番組ガ イド表示モード、言い換えれば画面位置選択モードへの移行)。なお、本変形例でも 、この電子番組ガイド表示モードへ移行している間(このモードが終了するまで)、遠 隔操作器 200からは上記した特定の赤外線指示信号 (低消費電力)を発信し続ける ようになっている。
[0212] 一方、前述した (9)の変形例と同様、操作者 Sの持った遠隔操作器 200から発せら れる上記特定の赤外線指示信号が赤外線フィルタ付きカメラ 110で撮像されて、リモ コン位置特定部 155において遠隔操作器 200が赤外線フィルタ付きカメラ 110による 撮像中において占める位置が特定され、その位置情報をもとにリモコン位置記号作 成部 156で位置表示信号が生成されて映像合成部 130へと入力され、これによつて 液晶表示部 3に実写されて ヽる遠隔操作器 200の位置 (ある ヽは近傍)に位置表示 MA (矢印型のマーク、上記図 43参照)が重ねて表示される。これにより、操作者 Sが 遠隔操作器 200を持ってその位置を移動させる (空間的に存在位置を変える)ことで 、液晶表示部 3に電子番組ガイド Eと重なるようにして表示されて 、る遠隔操作器 20 0の位置表示 MAを液晶表示部 3上で動かすことができる。
[0213] 一方、前述した (9)の変形例と同様、上記リモコン位置特定部 155で特定した遠隔 操作器 200の位置情報は上記ユーザー操作判定部 152へも入力され、このときユー ザ一操作判定部 152には、上記番組表表示作成部 154Bで作成した番組表表示信 号の電子番組ガイド表示に関する情報(どのような長さでどのような内容の番組を何 時の時間帯にいくつ表示を行っているか等)も入力されている。
[0214] 上記のように操作者 Sが遠隔操作器 200を移動させて位置表示 MAを液晶表示部 3上で動かし、電子番組ガイド Έのうち視聴した 、番組の表示領域に上記位置表示 MAが到達したときにその選択指定を決定すべく操作部 201を適宜に操作する (例 えば「決定」ボタンを押す)ことで、前述した (9)の変形例と同様、これに対応する赤 外線指示信号が赤外線駆動部 202から出射され、画像表示制御装置 100の赤外線 受光部 101で受光された後、上記 FM復調器 102、 BPF103、パルス復調器 104を 経てコントローラ i 50のユーザー指示入力部 151に対応する識別コードが入力され て解読され (指示信号入力手段)、対応して上記ユーザー操作判定部 152に決定指 示信号が入力される。 [0215] 上記決定指示信号が入力されたユーザー操作判定部 152は、前述した (9)の変形 例と同様、リモコン位置特定部 155から取得した遠隔操作器 200の位置情報と、番 組表表示作成部 154Bから取得した電子番組ガイド表示情報とに基づき、上記液晶 表示部 3に表示された電子番組ガイド Έのうち選択指定された視聴希望番組の領域( 操作指定部位)を決定し (操作部位決定手段)、これに対応する信号を番組表表示 作成部 154Bへと入力する。番組表表示作成部 154Bはその入力された信号に基づ き、上記選択指定された番組領域 (番組枠)を、それ以外の部位と異なる態様で表示 するような番組表表示信号を生成して映像合成部 130に出力する。
[0216] 上記の結果、図 2に示したように、この例では当該選択指定された番組領域は他の 領域と色が異なって表示されている。そして、ユーザー操作判定部 152から上記番 組領域の選択指定に対応した操作指示信号が操作信号生成部 153へ出力され、操 作信号生成部 153がこれに応じて対応する操作信号を上記 DVD録画 ·再生機構 14 0を介し画像表示装置 1に出力し、対応する番組を画像表示装置 1の液晶表示部 3 に表示させ視聴することができる。
[0217] 以上説明した本変形例においても、上記実施形態と同様の効果を得ることができる 。すなわち、液晶表示部 3における遠隔操作器 200の位置表示 MAを電子番組ガイ ド E力も視聴した 、番組を選択指定するためのポインタとして利用することができ、操 作者 Sは、液晶表示部 3から目を離すことなぐ遠隔操作器 200自体の位置移動とい う体感的 ·直感的に非常に分力ゝりやす ヽ動作で、電子番組ガイド Έのうち所望の番組 の領域を容易に選択指定することができる。このとき、従来技術のようにジェスチャー を記憶する必要もなく操作者 Sの負担を増大させることがな 、ので、遠隔操作時の利 便性を大きく向上することができる。またそれ以外の効果についても、詳細は省略す るが上記実施形態とほぼ同様の効果を得ることができる。
[0218] (11)実写画像を省略する場合
以上は、画像表示装置 1の液晶表示部 3に、赤外線撮像に基づく遠隔操作器 200 の位置と、カメラによる実世界映像とを重ねて表示し、その状態で上記遠隔操作器 2 00の赤外線像をポインタとして利用した力 前述した、体感的 ·直感的に非常に分か りやす 、動作で操作メニュー MEの所望の操作領域を容易に選択指定できると!、う 効果を得る限りにおいては、上記実写映像は必ずしも必要なぐ省略してもよい。本 変形例はそのような場合の例である。
[0219] 図 45は、本変形例の画像表示システムにお 、て、画像表示装置 1の液晶表示部 3 の表示の一例を表す図であり、前述の図 6、図 40、図 43等に対応する図である。図 6 と同等の部分には同一の符号を付している。なお、説明の便宜と理解の容易のため に図 6等と同様に操作者 Sや遠隔操作器 200の実映像を図示しているが、実際はこ れは表示されず(二点鎖線参照)、前述の遠隔操作器 200の位置表示 MA (白矢印) のみが液晶表示部 3に表示される。
[0220] 図 45において、この例では、液晶表示部 3に前述の操作メニュー MEを表示させた 状態で、操作者 Sがその操作メニュー MEに含まれる所定の操作を行うことを意図し、 手に持った遠隔操作器 200の液晶表示部 3における位置を操作メニュー MEの対応 する操作領域に位置させた後(矢印型のマーク参照)、前述の「決定」ボタンを押して その選択指定を確定させた状態を表して 、る。
[0221] 図 46は、上記画像表示制御装置 100の機能的構成を表す機能ブロック図である。
図 46において、画像表示制御装置 100は、上記実施形態の図 3に示された構成より カメラ 120を削除するとともに、映像合成部 130に代えて信号合成部 130Aが設けら れている。信号合成部 130Aには、前述したリモコン位置記号作成部 156からの位置 表示信号と、メニュー作成部 154からのメニュー表示信号との 2つのみが入力され、 これらが合成されて画像表示装置 1に出力され、これに応じて画像表示装置 1の液 晶表示部 3には図 45を用いて説明したような表示が実行される。
[0222] すなわち、操作者 Sの持った遠隔操作器 200から発せられる特定の赤外線指示信 号が赤外線像として赤外線フィルタ付きカメラ 110で撮像されて認識され、その撮像 信号がリモコン位置特定部 155に入力され、リモコン位置特定部 155が上記認識結 果に基づき、遠隔操作器 200が赤外線フィルタ付きカメラ 110による撮像中にぉ 、て 占める位置を特定する。
[0223] 上記リモコン位置特定部 155で特定した遠隔操作器 200の位置情報はリモコン位 置記号作成部 156へ入力され、遠隔操作器 200の位置を上記液晶表示部 3に表示 させるための位置表示信号が生成され、この生成された位置表示信号は上記信号 合成部 130Aへと入力される。これによつて、液晶表示部 3において前述した手法で メニュー作成部 154からのメニュー表示信号に基づき既に表示されている操作メ-ュ 一 MEに対し、遠隔操作器 200の位置に対応した所定の位置表示 MA (矢印型のマ →、図 45参照)が重ねて表示される。これにより、操作者 Sが遠隔操作器 200を持 つてその位置を移動させる(空間的に存在位置を変える)ことで、液晶表示部 3に操 作メニュー MEと重なるようにして表示されて 、る遠隔操作器 200の位置表示 MAを 液晶表示部 3上で動かすことができる。
[0224] 上記のように操作者 Sが手に持った遠隔操作器 200を移動させて位置表示 MAを 液晶表示部 3上で動かし、操作メニュー MEのうち実行した 、操作領域に上記位置 表示 MAが到達したときにその操作領域の操作を決定すべく操作部 201を適宜に操 作する(例えば「決定」ボタンを押す)ことで、これに対応する赤外線指示信号が赤外 線駆動部 202から出射され、画像表示制御装置 100の赤外線受光部 101で受光さ れた後、上記 FM復調器 102、 BPF103、パルス復調器 104を経てコントローラ 150 のユーザー指示入力部丄 5丄に対応する識別コードが入力されて解読される (指示信 号入力手段)。ユーザー指示入力部 151ではこれに対応して上記ユーザー操作判 定部 152に決定指示信号を入力する。
[0225] 上記決定指示信号が入力されたユーザー操作判定部 152は、前述したリモコン位 置特定部 155から取得した遠隔操作器 200の位置情報と、メニュー作成部 154から 取得したメニュー表示情報とに基づき、上記液晶表示部 3に表示された操作メニュー MEのうち選択指定される操作領域 (操作指定部位)を決定し (操作部位決定手段) 、これに対応する信号をメニュー作成部 154へと入力する。メニュー作成部 154はそ の入力された信号に基づき、上記選択指定された操作領域を、それ以外の部位と異 なる態様で表示するようなメニュー表示信号を生成して信号合成部 130Aに出力す る。
[0226] その他の動作は、上記実施形態とほぼ同様であるので、説明を省略する。
[0227] 以上説明した本変形例においても、上記実施形態と同様、画像表示装置 1に備え られた液晶表示部 3上に、操作メニュー MEを表示させるためのメニュー表示信号を 生成するメニュー作成部 154と、遠隔操作器 200の背景力 到来する可視光線とは 異なる態様又は属性を備え、遠隔操作器 200から到来する赤外線信号を、上記可 視光線と区別して認識可能な赤外線フィルタ付きカメラ 110と、この赤外線フィルタ付 きカメラ 110における上記赤外線信号の認識結果に基づき、遠隔操作器 200が赤外 線フィルタ付きカメラ 110による撮像中にぉ 、て占める位置を特定するリモコン位置 特定部 155と、このリモコン位置特定部 155で特定した遠隔操作器 200の位置を液 晶表示部 3上に表示させるための位置表示信号を生成するリモコン位置信号作成部 156と、リモコン位置特定部 155で特定した遠隔操作器 200の位置に基づき、液晶 表示部 3上に表示された操作メニュー MEのうち操作領域を決定するユーザー操作 判定部 152とを有し、これによつて、液晶表示部 3における遠隔操作器 200の位置表 示 MAを操作メニュー MEカゝら操作領域を選択指定するためのポインタとして利用す ることができる。この結果、操作者 Sは、液晶表示部 3から目を離すことなぐ遠隔操作 器 200自体の位置移動と 、う体感的 ·直感的に非常に分力りやす 、動作で、操作メ ニュー MEのうち所望の操作領域を容易に選択指定し、対応する操作を行うことがで きる。このとき、従来技術のようにジェスチャーを記憶する必要もなく操作者 Sの負担 を増大させることがないので、遠隔操作時の利便性を大きく向上することができる。
[0228] (12)有線接続の操作器を用いた場合
以上は、操作者側の携帯型の操作器として、無線遠隔操作を行う(=いわゆるリモ コン)の遠隔操作器 200を用いた場合を例にとって説明したが、これに限られない。 すなわち、画像表示制御装置 100と所定のケーブル等により有線接続された携帯型 の操作器を用いてもよい。
[0229] 図 47は、この変形例における画像表示制御装置 100の機能的構成の一例を表す 機能ブロック図であり、上記図 3等に相当する図である。図 3と同等の部分には同一 の符号を付し、適宜説明を省略する。図 47において、本変形例では、図 3の遠隔操 作器 200に代えて、同等の機能を果たす有線接続 (V、わゆるペンダントタイプ)の携 帯型の操作器 200Aが設けられ、この操作器 200Aと上記ユーザー指示入力部 151 とが適宜の電線やケーブル等によって有線接続されている。これに対応して、図 3に おける赤外線受光部 101、 FM復調器 102、 BPF103、パルス復調器 104は省略さ れている。 [0230] 図 47にお ヽて、本変形例では、操作者 Sによる所定の操作指示に対応して操作器 200Aから出力された信号は上記ケーブル等を介しユーザー指示入力部 151に入 力される。そして、ユーザー操作判定部 152は、上記ユーザー指示入力部 151で入 力された信号に対応する操作指示信号を操作信号生成部 153へ出力し、操作信号 生成部 153はその操作指示信号に応じて、対応する操作信号を生成し、前述した D VD録画 ·再生機構 140に出力する。その他の動作は上記実施形態と同様であるの で説明を省略する。
[0231] 以上説明した本変形例においても、上記実施形態と同様、画像表示装置 1に備え られた液晶表示部 3上に、操作メニュー MEを表示させるためのメニュー表示信号を 生成するメニュー作成部 154と、操作器 200Aの背景カゝら到来する可視光線とは異 なる態様又は属性を備え、操作器 200Aから到来する赤外線信号を、上記可視光線 と区別して認識可能な赤外線フィルタ付きカメラ 110と、この赤外線フィルタ付きカメ ラ 110における上記赤外線信号の認識結果に基づき、操作器 200Aが赤外線フィル タ付きカメラ 110による撮像中にぉ 、て占める位置を特定するリモコン位置特定部 15 5と、このリモコン位置特定部 155で特定した操作器 200Aの位置を液晶表示部 3上 に表示させるための位置表示信号を生成するリモコン位置信号作成部 156と、リモコ ン位置特定部 155で特定した操作器 200Aの位置に基づき、液晶表示部 3上に表示 された操作メニュー MEのうち操作領域を決定するユーザー操作判定部 152とを有し 、これによつて、液晶表示部 3における操作器 200Aの位置表示 MAを操作メニュー ME力も操作領域を選択指定するためのポインタとして利用することができる。この結 果、操作者 Sは、液晶表示部 3から目を離すことなぐ操作器 200A自体の位置移動 t 、う体感的 ·直感的に非常に分力りやす 、動作で、操作メニュー MEのうち所望の 操作領域を容易に選択指定し、対応する操作を行うことができる。このとき、従来技 術のようにジェスチャーを記憶する必要もなく操作者 Sの負担を増大させることがな ヽ ので、遠隔操作時の利便性を大きく向上することができる。
[0232] (13)その他
(1)操作メニュー等力 選択指定できる範囲を制限する場合
例えば図 6等において液晶表示部 3に表示された操作メニュー MEに含まれる複数 の操作領域のうち、 V、くつかの操作領域を選択指定できな 、ように制限してもよ!/、。 図 48は、そのような場合の液晶表示部 3の表示例を表しており、この場合操作メ-ュ 一 MEに含まれる「時計(時刻セット)」「録画」「編集」「番組表」「再生」「予約」「ダビン グ」「消去」「その他」の各領域のうち、「ダビング」「消去」「その他」については文字表 示が他のものと異なる態様 (この例では白抜き表記)となっているとともに、各領域に は前述のカメラ 120による実写映像を表示して 、な 、(言 、換えればそのような表示 となるようなメニュー表示信号をメニュー作成部 154が生成している)。すなわち、選 択可能範囲のみに限定して実世界を投影するようになっている。これにより、選択指 定可能な領域と、そうでない領域とが操作者 Sにとつて一目瞭然になる。
[0233] (2)すべての操作領域を遠隔操作器の狭 、移動範囲で選択可能とした例
例えば図 6等において、液晶表示部 3のほぼ全面にわたって表示される操作メ-ュ 一 MEの「時計(時刻セット)」「録画」「編集」「番組表」「再生」「予約」「ダビング」「消去 」「その他」の各領域をすベて選択指定可能とするには、図 6に示されるように、操作 者 Sは同一箇所で左右に手を 、つぱいに伸ばして遠隔操作器 200を左右に移動さ せるか、場合によってはそれでも足りずに操作者 S自らが部屋の中で歩いて移動しな ければならない。
[0234] 本変形例はこれに対応し、なるべく少ない遠隔操作器 200の移動量ですベての操 作領域の選択指定を可能とするものである。この例では、公知の顔画像認識技術を 用い、前述のメニュー選択モードに入った時にまず遠隔操作器 200の近くにある顔 を検出して認識した後、その位置力もある程度下の部分のみが操作範囲となるように 、前述したカメラ 120の映像信号生成部 120bが映像信号を加工して映像合成部 13 0へ出力する。この結果、画像表示装置 1の液晶表示部 3には、図 49に示すように、 通常の形状の操作メニュー MEと、操作者 Sの上記首から下の比較的小さ 、範囲が 液晶表示部 3のほぼ全面にわたるように加工された (この例では上下方向に大きく拡 大、さらに左右方向にも若干拡大するように歪められた)背景 (部屋) BGの上記加工 後の実写映像とが表示されている。このようにすることで、操作者 Sはより小さな遠隔 操作器 200移動挙動(この例では首下の比較的小さ!、範囲での移動)で希望の操作 領域を選択指定できる。さらに、操作範囲を操作者 Sの位置に応じて特定することで 、操作に必要な遠隔操作器 200の移動量を減らすことも可能である。
[0235] (3)各映像の重ね合わせ方のバリエーション
上記においては、例えば上記図 6等に示すように、操作メニュー MEと、遠隔操作 器 200の位置表示 MAと、カメラ 210で撮像した遠隔操作器 200の背景 BGの実写 映像とを、すべて重ね合わせるようにして液晶表示部 3にて表示した力 これに限ら れない。すなわち、位置表示 MAを操作メニュー MEのポインタとして利用し、操作者 Sが液晶表示部 3から目を離さず、遠隔操作器 200自体の位置移動と 、う体感的 ·直 感的に非常に分力ゝりやす ヽ動作で操作領域を容易に選択指定できると ヽぅ効果を得 る限りにおいては、上記は必ずしも必要ではない。すなわち例えば、それら遠隔操作 器 200の位置表示 MA、操作メニュー ME、背景 BGの実写映像のうち 2つは液晶表 示部 3上で同一領域に重ねて表示するが残りの 1つはそれらの横に(又は割り込むよ うにして)別画面又は別ウィンドウにて表示してもよ 、。ある 、は上記 3つをすベてバラ バラに横並び (又は割り込むようにして)別画面又は別ウィンドウにて表示するようにし てもよい。この場合でも、同一の液晶表示部 3において、ほぼ同時に操作者 Sが閲覧 できるように一覧表示するようにすれば、上記効果を得ることができる。
[0236] (4)録画による実写映像を用いる場合
例えば上記実施形態等にぉ 、ては、遠隔操作器 200の背景 BGの実写映像を通 常のカメラ 120で (リアルタイムで)撮影してその映像表示信号を映像合成部 130へ 出力し、赤外線フィルタ付きカメラ 110での撮像に基づくリモコン位置記号作成部 15 6からの遠隔操作器 200の位置情報信号や、メニュー作成部 154からのメニュー表 示信号と合成して、液晶表示部 3における表示を行ったが、これに限られない。
[0237] すなわち、背景 BGに時間的に大きな変動がない、あるいは、それほど厳密な背景 BGの映像を必要としない等の場合には、 1台のカメラのみを用意しておき、まずあら 力じめ背景 BGのみの画像を撮影し(=上記カメラ 120と同等の機能として使用)これ を適宜の録画手段に録画しておく。その後、そのカメラに赤外線フィルタをつけて遠 隔操作器 200の赤外線像を撮像し(=上記カメラ 110と同等の機能として使用)、前 述した録画手段に録画した画像を再生してその映像表示信号を映像合成部 130へ 出力しつつ、これに対して、上記赤外線フィルタを取り付けたカメラでの撮像に基づく リモコン位置記号作成部 156からの遠隔操作器 200の位置情報信号と、メニュー作 成部 154からのメニュー表示信号とを上記映像合成部 130で合成し、液晶表示部 3 における表示を行うようにしてもょ 、。
[0238] この場合、実写映像につ!ヽては遠隔操作器 200や操作者 Sの存在しな ヽ背景 BG のみの画像となり、これに対して操作メニュー ME及び遠隔操作器位置表示 MAが 重ねて表示されることとなるが、上記実施形態と同様、位置表示 MAを操作メニュー MEのポインタとして利用し、操作者 Sが液晶表示部 3から目を離さず、遠隔操作器 2 00自体の位置移動と 、う体感的 ·直感的に非常に分力りやす 、動作で操作領域を 容易に選択指定できるという効果を得ることができる。またカメラ力 ^台で足りることか らより安価にシステムを構築できるという効果もある。
[0239] (5)反射光を利用する場合
以上においては、遠隔操作器 200自らが第 2光線としての赤外線を発光したが、こ れに限られず、例えば赤外線を画像表示制御装置 100側(あるいはさらに別の装置 )から投影し、遠隔操作器 200はこの赤外線を反射することで画像表示制御装置 10 0側に赤外線像や赤外線指示信号 (あるいはそれらのうち一方)を伝達するようにし ても良い。この場合も上記実施形態と同様の効果を得られるとともに、遠隔操作器 20 0側に赤外線発光機能がいらなくなることから、電源を不要にできるという効果も得ら れる。
[0240] (6)赤外線以外の光線を使用する場合
上記においては、遠隔操作器 200の背景 BG力もカメラ 120等に入射する第 1光線 を通常の可視光線、遠隔操作器 200からカメラ 110等に入射する第 2光線を赤外線 としたが、これに限られない。例えば第 2光線は、可視光線と波長の異なる光(=可視 光線の波長範囲外となる波長を備えた光)、たとえば紫外線等の他の光線としてもよ い。また必ずしも波長などの属性が異なる必要もなぐ例えば第 1光線は連続性の通 常の可視光線、第 2光線は断続的に発光される断続性の可視光線とする等、互いに 態様のみが異なる同じ属性の光としてもよい。さらには例えば背景が真つ白である等 、背景力 到来する第 1光線がある決まった属性をとる場合に、これと異なる属性 (例 えば真っ赤な色等)をとる可視光線を第 2光線に用いてもよい。要は第 2光線は第 1 光線と区別して認識可能な属性又は態様を備えていれば足り、これによつて上記同 様、体感的 ·直感的に非常に分力りやす 、動作で操作領域を容易に選択指定できる t 、う効果を得ることができる。
[0241] (7)他の AV機器等への適用
以上は、画像表示制御装置 100が DVDプレイヤー Zレコーダーである例を説明し た力 これには限られない。すなわち、画像表示制御装置 100は、ビデオデッキ、 C Dプレイヤー Zレコーダー、 MDプレイヤー Zレコーダ一等の映像出力装置、コンテ ンッ再生装置、その他画像表示装置 1へ映像出力機能を備えた制御装置であれば よぐ例えばビデオデッキ、 CDプレイヤー Zレコーダー、 MDプレイヤー Zレコーダ 一等の場合は、公知のビデオテープ、 CD、 MDの録画'再生機構やそれらビデオテ ープ、 CD、 MDの収納部等が筐体 101内に設けられている。
[0242] さらに、一般家庭で用いられるものにも限られず、事業所、研究所等で用いられるも のに適用してもよいし、さらに固定的に配置されるものにも限られず、車両搭載用の オーディオ機器等の各種機器に適用しても良 、。
[0243] (8)表示制御装置と表示装置の一体ィ匕
以上は、画像表示制御装置 100と画像表示装置 1とが別体であり、それぞれに機 能分ィ匕してシステムが構成されている場合を例にとって説明した力 これに限られな い。すなわち、画像表示制御装置 100の機能を画像表示装置 1に組み込んだ 1つの 画像表示装置として構成してもよ ヽ。
[0244] この場合、上記図象表示信号生成手段としてのメニュー作成部 154の機能や、位 置表示信号生成手段としてのリモコン位置記号作成部 156の機能等がすべて当該 画像表示装置の中に組み込まれることから、本発明の技術思想は、表示画面と、こ の表示画面上に、操作対象図象を表示させる図象表示制御手段と、携帯型の操作 器の背景力 到来する第 1光線とは異なる態様又は属性を備え、前記操作器から到 来する第 2光線を、前記第 1光線と区別して認識可能な第 2光線撮像手段と、この第 2光線撮像手段における前記第 2光線の認識結果に基づき、前記操作器が前記第 2 光線撮像手段による撮像中にぉ 、て占める位置を特定する位置特定手段と、この位 置特定手段で特定した前記操作器の位置を前記表示画面上に表示させる位置表示 制御手段と、前記位置特定手段で特定した前記操作器の位置に基づき、前記表示 画面上に表示された前記操作対象図象のうち操作指定部位を決定する操作部位決 定手段とを有することを特徴とする画像表示装置として具現化してとらえることができ る。
その他、一々例示はしないが、本発明は、その趣旨を逸脱しない範囲内において、 種々の変更が加えられて実施されるものである。

Claims

請求の範囲
[1] 画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図 象表示信号を生成する図象表示信号生成手段と、
携帯型の操作器の背景力 到来する第 1光線とは異なる態様又は属性を備え、前 記操作器力も到来する第 2光線を、前記第 1光線と区別して認識可能な第 2光線撮 像手段と、
この第 2光線撮像手段における前記第 2光線の認識結果に基づき、前記操作器が 前記第 2光線撮像手段による撮像中において占める位置を特定する位置特定手段 と、
この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させる ための位置表示信号を生成する位置表示信号生成手段と、
前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表 示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と を有することを特徴とする画像表示制御装置。
[2] 請求項 1記載の画像表示制御装置において、
前記第 2光線撮像手段は、無線通信により信号送受を行う遠隔式の前記操作器か ら到来する前記第 2光線を、前記第 1光線と区別して認識可能であることを特徴とす る画像表示制御装置。
[3] 請求項 1又は 2記載の画像表示制御装置にお 、て、
前記図象表示信号生成手段は、前記操作対象図象のうち前記操作部位決定手段 で決定した前記操作指定部位を、それ以外の部位と異なる態様で前記表示画面に 表示するような前記図象表示信号を生成することを特徴とする画像表示制御装置。
[4] 請求項 1乃至 3のいずれか 1項記載の画像表示制御装置において、
前記操作器の背景から到来する前記第 1光線を撮影する第 1光線撮像手段を有す ることを特徴とする画像表示制御装置。
[5] 請求項 4記載の画像表示制御装置にお 、て、
前記第 1光線撮像手段で撮影した前記操作器の背景を前記表示画面上に表示さ せるための映像表示信号を生成する映像表示信号生成手段を有することを特徴とす る画像表示制御装置。
[6] 請求項 5記載の画像表示制御装置にお 、て、
前記図象表示信号生成手段、前記位置表示信号生成手段、前記映像表示信号 生成手段は、前記操作対象図象、前記操作器の位置、前記操作器の背景を、前記 表示画面上にすべて重ね合わせるように表示するような、前記図象表示信号、前記 位置表示信号、前記映像表示信号を生成することを特徴とする画像表示制御装置。
[7] 請求項 6記載の画像表示制御装置にお 、て、
前記映像表示信号生成手段で生成した前記映像表示信号における前記操作器の 背景の一部分を抽出し、前記表示画面上に拡大表示可能とするための抽出処理手 段を有する
ことを特徴とする画像表示制御装置。
[8] 請求項 7記載の画像表示制御装置にお 、て、
前記操作器との距離を検出する距離検出手段を有し、
前記抽出処理手段は、
前記距離検出手段の検出結果に応じて、前記抽出及び拡大の態様を決定すること を特徴とする画像表示制御装置。
[9] 請求項 7記載の画像表示制御装置にお 、て、
前記抽出処理手段は、
前記映像表示信号生成手段で生成した前記映像表示信号、若しくは、前記位置 特定手段による位置特定結果に基づき認識される前記操作器の移動情報に応じて 、前記抽出及び拡大の態様を決定することを特徴とする画像表示制御装置。
[10] 請求項 7記載の画像表示制御装置において、
前記抽出処理手段は、
前記映像表示信号生成手段で生成した前記映像表示信号において前記操作器と の間に介在する障害物の映像を回避するように、前記抽出及び拡大の態様を決定 することを特徴とする画像表示制御装置。
[11] 請求項 6記載の画像表示制御装置において、
前記図象表示信号生成手段で生成した前記操作対象図象の前記表示画面上に おける表示位置を、前記映像表示信号生成手段で生成した前記映像表示信号にお いて前記操作器との間に介在する障害物の映像を回避するように設定するための図 象位置設定手段を有する
ことを特徴とする画像表示制御装置。
[12] 請求項 6乃至 11のいずれか 1項記載の画像表示制御装置において、
前記位置特定手段による位置特定結果に基づき認識される前記操作器の移動情 報に基づき、特定された位置とは異なる前記操作器の予想移動位置を設定する予 想位置設定手段を有する
ことを特徴とする画像表示制御装置。
[13] 請求項 12記載の画像表示制御装置において、
前記予想位置設定手段は、
前記操作器の移動時に前記位置特定手段により順次特定される隣接する 2点の中 間部となるように、前記予想移動位置を設定する
ことを特徴とする画像表示制御装置。
[14] 請求項 12記載の画像表示制御装置において、
前記予想位置設定手段は、
前記操作器の移動時に前記位置特定手段により順次特定される移動方向延長線 上となるように、前記予想移動位置を設定する
ことを特徴とする画像表示制御装置。
[15] 請求項 5乃至 14のいずれか 1項記載の画像表示制御装置において、
前記第 2光線撮像手段は、前記第 2光線として、可視光線の波長範囲外となる波長 を備えた光を受光し認識することを特徴とする画像表示制御装置。
[16] 請求項 15記載の画像表示制御装置において、
前記第 2光線撮像手段は、前記第 1光線としての可視光線と区別して前記第 2光線 としての赤外線を認識可能な赤外線フィルタ付きカメラであることを特徴とする画像表 示制御装置。
[17] 請求項 15記載の画像表示制御装置において、
前記第 2光線撮像手段は、前記第 1光線としての可視光線に対する感度よりも前記 第 2光線としての赤外線に対する感度が高く設定され、前記第 1光線撮像手段を兼 ねた赤外線高感度カメラであることを特徴とする画像表示制御装置。
[18] 請求項 5乃至 17のいずれか 1項記載の画像表示制御装置において、
前記第 1光線撮像手段による撮影結果と、前記第 2光線撮像手段による撮影結果 とに応じて、前記位置特定手段の特定に基づく前記操作器の位置若しくは前記映像 表示信号生成手段で生成した映像表示信号を補正する補正手段を有することを特 徴とする画像表示制御装置。
[19] 請求項 1乃至 18のいずれか 1項記載の画像表示制御装置において、
前記操作器からの決定指示信号を入力する指示信号入力手段を有し、 前記操作部位決定手段は、前記位置特定手段で特定した前記操作器の位置と、 前記指示信号入力手段で入力した前記決定指示信号とに応じて、前記操作対象図 象のうちの前記操作指定部位を決定することを特徴とする画像表示制御装置。
[20] 請求項 1乃至 19のいずれか 1項記載の画像表示制御装置において、
前記第 2光線撮像手段は、前記第 2光線として、前記操作器の発光した所定の光 信号を受光し認識することを特徴とする画像表示制御装置。
[21] 表示画面と、
この表示画面上に、操作対象図象を表示させる図象表示制御手段と、 携帯型の操作器の背景力 到来する第 1光線とは異なる態様又は属性を備え、前 記操作器力も到来する第 2光線を、前記第 1光線と区別して認識可能な第 2光線撮 像手段と、
この第 2光線撮像手段における前記第 2光線の認識結果に基づき、前記操作器が 前記第 2光線撮像手段による撮像中において占める位置を特定する位置特定手段 と、
この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させる 位置表示制御手段と、
前記位置特定手段で特定した前記操作器の位置に基づき、前記表示画面上に表 示された前記操作対象図象のうち操作指定部位を決定する操作部位決定手段と を有することを特徴とする画像表示装置。
[22] 画像表示操作を行うための携帯型の遠隔操作器であって、
通常の可視光線とは異なる態様又は属性の光信号を生成する光信号生成手段と、 この光信号生成手段で生成した前記光信号を、当該光信号を前記通常の可視光 線と区別して認識可能な第 2光線撮像手段;表示画面上に操作対象図象を表示さ せるための信号を生成する第 1手段;前記第 2光線撮像手段における前記光信号の 認識結果に基づき、前記遠隔操作器の背景の映像中にぉ ヽて前記遠隔操作器が 前記第 2光線撮像手段による撮像中にぉ ヽて占める位置を特定し前記表示画面上 に表示させるための信号を生成する第 2手段;前記特定された前記遠隔操作器の位 置に基づき、前記表示画面上に表示された前記操作対象図象のうち操作指定部位 を決定して表示するための信号を生成する第 3手段;を備えた画像表示制御装置へ 送信する光信号送信手段と
を有することを特徴とする遠隔操作器。
[23] 携帯型の操作器と、この操作器の操作に基づき画像表示を行うための信号を生成 する画像表示制御装置とを有する画像表示システムであって、
前記画像表示制御装置は、
画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図 象表示信号を生成する図象表示信号生成手段と、前記操作器の背景から到来する 第 1光線とは異なる態様又は属性を備え、前記操作器力も到来する第 2光線を、前 記第 1光線と区別して認識可能な第 2光線撮像手段と、この第 2光線撮像手段にお ける前記第 2光線の認識結果に基づき、前記操作器が第 2光線撮像手段による撮像 中にお 、て占める位置を特定する位置特定手段と、この位置特定手段で特定した前 記操作器の位置を前記表示画面上に表示させるための位置表示信号を生成する位 置表示信号生成手段と、前記位置特定手段で特定した前記操作器の位置に基づき 、前記表示画面上に表示された前記操作対象図象のうち操作指定部位を決定する 操作部位決定手段とを有することを特徴とする画像表示システム。
[24] 携帯型の操作器と、
画像表示装置に備えられた表示画面上に、操作対象図象を表示させるための図 象表示信号を生成する図象表示信号生成手段と、 前記操作器の背景から到来する第 1光線とは異なる態様又は属性を備え、前記操 作器力も到来する第 2光線を、前記第 1光線と区別して認識可能な第 2光線撮像手 段と、
この第 2光線撮像手段における前記第 2光線の認識結果に基づき、前記操作器が 前記第 2光線撮像手段による撮像中において占める位置を特定する位置特定手段 と、
この位置特定手段で特定した前記操作器の位置を前記表示画面上に表示させる ための位置表示信号を生成する位置表示信号生成手段と、
前記位置特定手段で特定した前記操作器の位置に基づき、前記操作対象図象の うち操作指定部位を決定する操作部位決定手段と
を有することを特徴とする画像表示システム。
PCT/JP2006/315134 2005-07-29 2006-07-31 画像表示制御装置、画像表示装置、遠隔操作器、画像表示システム Ceased WO2007013652A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007526938A JP4712804B2 (ja) 2005-07-29 2006-07-31 画像表示制御装置及び画像表示装置
US11/996,748 US20100141578A1 (en) 2005-07-29 2006-07-31 Image display control apparatus, image display apparatus, remote controller, and image display system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2005219743 2005-07-29
JP2005-219743 2005-07-29

Publications (1)

Publication Number Publication Date
WO2007013652A1 true WO2007013652A1 (ja) 2007-02-01

Family

ID=37683532

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2006/315134 Ceased WO2007013652A1 (ja) 2005-07-29 2006-07-31 画像表示制御装置、画像表示装置、遠隔操作器、画像表示システム

Country Status (3)

Country Link
US (1) US20100141578A1 (ja)
JP (1) JP4712804B2 (ja)
WO (1) WO2007013652A1 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009218910A (ja) * 2008-03-11 2009-09-24 Mega Chips Corp 遠隔制御可能機器
JP2010068385A (ja) * 2008-09-12 2010-03-25 Sony Corp 画像表示装置および検出方法
JP2010108482A (ja) * 2008-08-11 2010-05-13 Imu Solutions Inc 選択装置及び選択方法
JP2010231355A (ja) * 2009-03-26 2010-10-14 Sanyo Electric Co Ltd 情報表示装置
CN102112941A (zh) * 2008-06-04 2011-06-29 惠普开发有限公司 计算机的遥控系统和方法
WO2012157486A1 (ja) * 2011-05-17 2012-11-22 ソニー株式会社 表示制御装置および方法、並びにプログラム
JP2014510459A (ja) * 2011-02-21 2014-04-24 コーニンクレッカ フィリップス エヌ ヴェ カメラを持つリモコンからの制御フィーチャの推定
WO2014073384A1 (ja) * 2012-11-06 2014-05-15 株式会社ソニー・コンピュータエンタテインメント 情報処理装置
JP2014512620A (ja) * 2011-04-20 2014-05-22 クゥアルコム・インコーポレイテッド 仮想キーボードおよびその提供方法
CN104656889A (zh) * 2009-08-10 2015-05-27 晶翔微系统股份有限公司 指令装置
KR101904223B1 (ko) * 2016-11-22 2018-10-04 주식회사 매크론 적외선 조명과 재귀반사시트를 이용한 리모트 컨트롤러 제어 방법 및 그 장치

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101451271B1 (ko) 2007-10-30 2014-10-16 삼성전자주식회사 방송수신장치 및 그 제어방법
US8669938B2 (en) * 2007-11-20 2014-03-11 Naturalpoint, Inc. Approach for offset motion-based control of a computer
US20100201808A1 (en) * 2009-02-09 2010-08-12 Microsoft Corporation Camera based motion sensing system
US8525786B1 (en) * 2009-03-10 2013-09-03 I-Interactive Llc Multi-directional remote control system and method with IR control and tracking
JP5540537B2 (ja) * 2009-03-24 2014-07-02 株式会社オートネットワーク技術研究所 制御装置、制御方法及びコンピュータプログラム
WO2010120304A2 (en) * 2009-04-16 2010-10-21 Hewlett-Packard Development Company, L.P. Communicating visual representations in virtual collaboration systems
US8438503B2 (en) * 2009-09-02 2013-05-07 Universal Electronics Inc. System and method for enhanced command input
US20120218321A1 (en) * 2009-11-19 2012-08-30 Yasunori Ake Image display system
US8861797B2 (en) 2010-11-12 2014-10-14 At&T Intellectual Property I, L.P. Calibrating vision systems
US8907287B2 (en) * 2010-12-01 2014-12-09 Hill-Rom Services, Inc. Patient monitoring system
EP2611152A3 (en) * 2011-12-28 2014-10-15 Samsung Electronics Co., Ltd. Display apparatus, image processing system, display method and imaging processing thereof
US20130194394A1 (en) * 2012-02-01 2013-08-01 Peter Rae Shintani Energy Conserving Display
JP5935529B2 (ja) 2012-06-13 2016-06-15 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
FR2999847A1 (fr) * 2012-12-17 2014-06-20 Thomson Licensing Procede d'activation d'un dispositif mobile dans un reseau, dispositif d'affichage et systeme associes
AU2014213692B2 (en) * 2013-02-07 2019-05-23 Dizmo Ag System for organizing and displaying information on a display device
US9154722B1 (en) * 2013-03-13 2015-10-06 Yume, Inc. Video playback with split-screen action bar functionality
KR20150137452A (ko) * 2014-05-29 2015-12-09 삼성전자주식회사 디스플레이 장치 제어 방법 및 이를 위한 원격 제어 장치
US20150373408A1 (en) * 2014-06-24 2015-12-24 Comcast Cable Communications, Llc Command source user identification
KR20160126452A (ko) * 2015-04-23 2016-11-02 엘지전자 주식회사 복수의 디바이스에 대한 원격제어를 수행할 수 있는 원격제어장치
JP6390504B2 (ja) * 2015-04-28 2018-09-19 京セラドキュメントソリューションズ株式会社 電子機器及び操作画面表示プログラム
TWI594146B (zh) * 2015-06-17 2017-08-01 鴻海精密工業股份有限公司 遙控器的文字輸入方法
KR102027670B1 (ko) * 2015-07-03 2019-10-01 천종윤 관람자 관계형 동영상 제작 장치 및 제작 방법
US20170097627A1 (en) * 2015-10-02 2017-04-06 Southwire Company, Llc Safety switch system
US9918129B2 (en) 2016-07-27 2018-03-13 The Directv Group, Inc. Apparatus and method for providing programming information for media content to a wearable device
WO2019102897A1 (ja) * 2017-11-27 2019-05-31 ソニー株式会社 制御装置、および制御方法、電子機器、並びにプログラム
WO2022047216A1 (en) 2020-08-28 2022-03-03 Greenlee Tools, Inc. Wireless control in a cable puller and feeder system
US11361656B2 (en) * 2020-08-28 2022-06-14 Greenlee Tools, Inc. Wireless control in a cable feeder and puller system
CN114323089B (zh) * 2020-10-12 2025-02-25 群创光电股份有限公司 光检测元件
TWI783529B (zh) * 2021-06-18 2022-11-11 明基電通股份有限公司 模式切換方法及其顯示設備
US20250097540A1 (en) * 2021-11-16 2025-03-20 Shenzhen Tcl New Technology Co., Ltd. Image quality adjusting method and apparatus, device, and storage medium
CN114827646B (zh) * 2022-03-23 2023-12-12 百果园技术(新加坡)有限公司 视频流中预加载直播间方法、装置、设备及存储介质
EP4468715A1 (en) * 2023-05-24 2024-11-27 Top Victory Investments Limited Method for a television to assist a viewer in improving watching experience in a room, and a television implementing the same

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0937357A (ja) * 1995-07-15 1997-02-07 Nec Corp 位置検出機能付リモコンシステム
JP2004258837A (ja) * 2003-02-25 2004-09-16 Nippon Hoso Kyokai <Nhk> カーソル操作装置、その方法およびそのプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0675695A (ja) * 1992-06-26 1994-03-18 Sanyo Electric Co Ltd カーソル制御装置
US5448261A (en) * 1992-06-12 1995-09-05 Sanyo Electric Co., Ltd. Cursor control device
JPH06153017A (ja) * 1992-11-02 1994-05-31 Sanyo Electric Co Ltd 機器の遠隔制御装置
JP3777650B2 (ja) * 1995-04-28 2006-05-24 松下電器産業株式会社 インターフェイス装置
EP0823683B1 (en) * 1995-04-28 2005-07-06 Matsushita Electric Industrial Co., Ltd. Interface device
JP2000010696A (ja) * 1998-06-22 2000-01-14 Sony Corp 画像処理装置および方法、並びに提供媒体
JP4275304B2 (ja) * 2000-11-09 2009-06-10 シャープ株式会社 インターフェース装置およびインターフェース処理プログラムを記録した記録媒体
JP4035610B2 (ja) * 2002-12-18 2008-01-23 独立行政法人産業技術総合研究所 インタフェース装置
JP2004258766A (ja) * 2003-02-24 2004-09-16 Nippon Telegr & Teleph Corp <Ntt> 自己画像表示を用いたインタフェースにおけるメニュー表示方法、装置、プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0937357A (ja) * 1995-07-15 1997-02-07 Nec Corp 位置検出機能付リモコンシステム
JP2004258837A (ja) * 2003-02-25 2004-09-16 Nippon Hoso Kyokai <Nhk> カーソル操作装置、その方法およびそのプログラム

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009218910A (ja) * 2008-03-11 2009-09-24 Mega Chips Corp 遠隔制御可能機器
US8736549B2 (en) 2008-06-04 2014-05-27 Hewlett-Packard Development Company, L.P. System and method for remote control of a computer
CN102112941A (zh) * 2008-06-04 2011-06-29 惠普开发有限公司 计算机的遥控系统和方法
JP2011523138A (ja) * 2008-06-04 2011-08-04 ヒューレット−パッカード デベロップメント カンパニー エル.ピー. コンピュータを遠隔制御するためのシステム及び方法
GB2473168B (en) * 2008-06-04 2013-03-06 Hewlett Packard Development Co System and method for remote control of a computer
KR101494350B1 (ko) * 2008-06-04 2015-02-17 휴렛-팩커드 디벨롭먼트 컴퍼니, 엘.피. 컴퓨터의 원격 제어를 위한 시스템 및 방법
US8456421B2 (en) 2008-08-11 2013-06-04 Imu Solutions, Inc. Selection device and method
JP2010108482A (ja) * 2008-08-11 2010-05-13 Imu Solutions Inc 選択装置及び選択方法
JP2010068385A (ja) * 2008-09-12 2010-03-25 Sony Corp 画像表示装置および検出方法
JP2010231355A (ja) * 2009-03-26 2010-10-14 Sanyo Electric Co Ltd 情報表示装置
CN104656889A (zh) * 2009-08-10 2015-05-27 晶翔微系统股份有限公司 指令装置
JP2014510459A (ja) * 2011-02-21 2014-04-24 コーニンクレッカ フィリップス エヌ ヴェ カメラを持つリモコンからの制御フィーチャの推定
JP2014512620A (ja) * 2011-04-20 2014-05-22 クゥアルコム・インコーポレイテッド 仮想キーボードおよびその提供方法
WO2012157486A1 (ja) * 2011-05-17 2012-11-22 ソニー株式会社 表示制御装置および方法、並びにプログラム
US9817485B2 (en) 2011-05-17 2017-11-14 Sony Semiconductor Solutions Corporation Display control device, method, and program
WO2014073384A1 (ja) * 2012-11-06 2014-05-15 株式会社ソニー・コンピュータエンタテインメント 情報処理装置
JPWO2014073384A1 (ja) * 2012-11-06 2016-09-08 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置
US9672413B2 (en) 2012-11-06 2017-06-06 Sony Corporation Setting operation area for input according to face position
KR101904223B1 (ko) * 2016-11-22 2018-10-04 주식회사 매크론 적외선 조명과 재귀반사시트를 이용한 리모트 컨트롤러 제어 방법 및 그 장치

Also Published As

Publication number Publication date
US20100141578A1 (en) 2010-06-10
JPWO2007013652A1 (ja) 2009-02-12
JP4712804B2 (ja) 2011-06-29

Similar Documents

Publication Publication Date Title
JP4712804B2 (ja) 画像表示制御装置及び画像表示装置
US8704768B2 (en) Image processing apparatus and method
US9081420B2 (en) Video reproduction apparatus and video reproduction method
US9086790B2 (en) Image displaying method, image displaying program, and display
US6556240B2 (en) Video camera system having remote commander
KR101730881B1 (ko) 증강 원격제어장치 및 그 동작 방법
JP4697279B2 (ja) 画像表示装置および検出方法
US20140229845A1 (en) Systems and methods for hand gesture control of an electronic device
JP2013257686A (ja) 投影型画像表示装置及び画像投影方法、並びにコンピューター・プログラム
JPH1124839A (ja) 情報入力装置
JP2003316510A (ja) 表示画面上に指示されたポイントを表示する表示装置、及び表示プログラム。
US20120242868A1 (en) Image capturing device
JP2009077226A (ja) 撮像装置とその制御方法及びプログラム及びプログラムを記憶した記憶媒体
US20030044083A1 (en) Image processing apparatus, image processing method, and image processing program
CN118411814B (zh) 基于投影仪摄像头的类触控遥控方法及系统
JP4712754B2 (ja) 情報処理装置及び情報処理方法
JP2006033567A (ja) 撮影装置および撮影方法
KR20180043139A (ko) 디스플레이 장치 및 그의 동작 방법
JP2010033604A (ja) 情報入力装置及び情報入力方法
KR101694166B1 (ko) 증강 원격제어장치 및 그 동작 방법
JPH0918774A (ja) 視線による機能設定装置
JP2009205245A (ja) 画像再生システム
JP2009048479A (ja) 機器操作装置
KR20180046643A (ko) 디스플레이 장치 및 그의 동작 방법
JP5119172B2 (ja) 入力操作制御装置および方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2007526938

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 11996748

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 06782012

Country of ref document: EP

Kind code of ref document: A1