WO2024232320A1 - 画像処理装置および画像処理システム - Google Patents
画像処理装置および画像処理システム Download PDFInfo
- Publication number
- WO2024232320A1 WO2024232320A1 PCT/JP2024/016771 JP2024016771W WO2024232320A1 WO 2024232320 A1 WO2024232320 A1 WO 2024232320A1 JP 2024016771 W JP2024016771 W JP 2024016771W WO 2024232320 A1 WO2024232320 A1 WO 2024232320A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- frame
- information
- pull
- image
- pulldown
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B20/00—Signal processing not specific to the method of recording or reproducing; Circuits therefor
- G11B20/10—Digital recording or reproducing
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/92—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
Definitions
- This technology relates to image processing devices and image processing systems, and more specifically to image processing devices that handle image information that has been subjected to pull-down processing.
- image information can be transmitted from a source device such as a media player to a sink device such as a television (TV) via an HDMI (High-Definition Multimedia Interface) transmission path.
- the image information includes not only image information that has not been pulled down, but also image information that has been pulled down.
- HDMI High-Definition Multimedia Interface
- image information from 24 Hz film material is pulled down and transmitted as 60 Hz image information.
- This allows the frame rates of both types of image information to be matched when transmitting a mixture of film material and video material, making it possible to transmit without changing the transmission mode and reducing display distortion on the receiving side that would otherwise occur when changing the transmission mode.
- image information from all frames is used to perform frame interpolation to obtain image information for display, while when it comes to 60 Hz image information obtained by pulling down 24 Hz image information from film material, image information from the 24 Hz frames before pull-down is obtained, and frame multiplexing is performed on this 24 Hz frame image information to obtain image information for display.
- variations in pulldown from 24 Hz to 60 Hz include (a) 2-3 pulldown, (b) 3-2 pulldown, and (c) a mixture of a and b.
- Patent Document 1 discloses a technique for deriving the pulldown period and the number of motion frames from motion detection within a video, determining the type of pulldown, and calculating the original frame frequency before pulldown.
- the purpose of this technology is to make it easy to obtain and use pull-down information related to image information.
- the image processing device includes an information associating unit that associates pull-down information with image information for each frame.
- the information associating unit associates pull-down information with image information for each frame.
- the pull-down information may include a pull-down ratio and an identifier within the repeat sequence.
- the pull-down ratio By including the pull-down ratio in the pull-down information in this way, if the image information has been pulled down, the pull-down ratio can be easily recognized, and a synchronization signal corresponding to the frame rate of the image information before pull-down can be easily generated.
- an identifier within the repeat sequence in the pull-down information in this way, if the image information has been pulled down, it becomes easy to recognize the pull-down period, and it becomes easy to extract image information of the frame before pull-down.
- the pull-down ratio may be set to 1:1. This makes it possible to recognize that the image information is not pulled down, since the pull-down ratio is 1:1.
- the identifier may be composed of a combination of a source frame count corresponding to the frame before pull-down and a base frame count corresponding to the frame after pull-down. This makes it easy to recognize that, when image information has been pulled down, a frame where both the source frame count and the base frame count are 1 is the first frame in a pull-down period, and by extracting image information of a frame where the source frame count changes, it becomes easy to extract image information of the frame before pull-down.
- the source frame count may be fixed to 0. This makes it possible to recognize that the image information is not pulled down, since the source frame count is 0. This also makes it possible to set the pull-down ratio to one that corresponds to the pulled-down image information to which this image information will be switched, and to prepare in advance for the pulled-down image information.
- the pull-down information may be configured to include flag information indicating whether or not the image information overlaps with the immediately preceding frame. This makes it possible, when the image information has been pulled down, to easily detect whether or not it has been pulled down, without using frame correlation. Also, for example, the pull-down information may be configured to include flag information indicating whether or not it has been pulled down. This makes it possible, when the image information has been pulled down, to easily detect that it has been pulled down.
- the information matching unit may insert the pull-down information into the blanking period of the image information for each frame.
- the information matching unit may insert the pull-down information into the blanking period as IF (InfoFrame) information.
- the information matching unit may insert the pull-down information into the blanking period as EMP (Extended Metadata Packet) information. This makes it easy to match the pull-down information to the image information for each frame.
- a transmitting unit may be provided that transmits image information in which pull-down information is associated with each frame to an external device via a transmission path.
- the transmission path may be, for example, an HDMI transmission path. This makes it possible to transmit image information in which pull-down information is associated with each frame to an external device, and to obtain image information for display by simply and appropriately processing the image information in the external device based on the pull-down information.
- this technology associates pull-down information with image information for each frame, making it possible to easily obtain and use the pull-down information related to image information.
- the image processing device includes a processing unit that obtains second image information of a frame before pulldown from first image information based on pulldown information associated with the first image information for each frame, and obtains image information for display.
- the processing unit obtains second image information of the frame before pulldown from the first image information based on pulldown information that is associated with the first image information for each frame, and obtains image information for display.
- the pull-down information may include a pull-down ratio and an identifier in the repeat sequence.
- the processing unit may acquire second image information of the frame before pull-down based on the identifier in the repeat sequence, set the division ratio of the divider unit based on the pull-down ratio to acquire a synchronization signal corresponding to the frame rate of the frame before pull-down, and process the acquired second image information of the frame before pull-down based on the acquired synchronization signal to acquire image information for display. This makes it possible to satisfactorily acquire image information for display based on the pull-down ratio included in the pull-down information and the identifier in the repeat sequence.
- the identifier may be composed of a combination of a source frame count corresponding to the frame before pulldown and a base frame count corresponding to the frame after pulldown
- the processing unit may obtain the second image information of the frame before pulldown by extracting image information of the frame corresponding to the change in the source frame count from the first image information. This makes it possible to appropriately obtain the second image information of the frame before pulldown.
- the identifier may be composed of a combination of a source frame count corresponding to the frame before pull-down and a base frame count corresponding to the frame after pull-down
- the processing unit may synchronize the frequency divider unit at the timing of a frame where both the source frame count and the base frame count are 1. This makes it possible to match the phase of the synchronization signal acquired by the frequency divider unit to the phase of the frame of the second image information of the frame before pull-down, making it possible to achieve good synchronization with, for example, audio.
- the second image information of the frame before pull-down is obtained from the first image information based on the pull-down information associated with the first image information for each frame, and image information for display is obtained. This makes it possible to easily and appropriately obtain image information for display without the need to detect whether the first image information has been pulled down using frame correlation.
- the processing unit may determine whether or not the first image information has been pulled down based on the pull-down information, and if the first image information has been pulled down, obtain second image information of the frame before pull-down from the first image information based on the pull-down information to obtain image information for display. This makes it possible to obtain second image information of the frame before pull-down based on the pull-down information to obtain image information for display only if the first image information has been pulled down.
- the pulldown information may include a pulldown ratio
- the processing unit may be configured to determine that the first image information has not been pulled down if the pulldown ratio is 1:1.
- the pulldown information may include an identifier in a repeating sequence, and this identifier is configured as a combination of a source frame count corresponding to a frame before pulldown and a base frame count corresponding to a frame after pulldown, and the processing unit may be configured to determine that the first image information has not been pulled down if the source frame count is 0.
- a first image processing device and a second image processing device are included, the first image processing device includes an information associating unit that associates pull-down information with the first image information for each frame;
- the second image processing device is in an image processing system including a processing unit that obtains second image information of a frame before pulldown from the first image information based on pulldown information associated with the first image information for each frame, to obtain image information for display.
- FIG. 1 is a block diagram showing an example of the configuration of an image processing system according to an embodiment
- 1 is a diagram showing an example of the configuration of a data transmitting unit (HDMI transmitting unit) of a media player and a data receiving unit (HDMI receiving unit) of a television receiver in an image processing system.
- FIG. 2 is a diagram showing an example of the structure of TMDS transmission data
- FIG. 2 is a block diagram showing an example of the configuration of a media player.
- FIG. 13 is a diagram showing an example of the type of pull-down from 24 Hz to 60 Hz.
- FIG. 13 is a diagram illustrating an example of the data structure of an AVI infoframe packet.
- FIG. 13 is a diagram illustrating an example of the data structure of a pulldown infoframe packet.
- FIG. 13 is a diagram showing an example of the pulldown ratio N:M included in the pulldown infoframe associated with each frame in pulldown from 24 Hz to 60 Hz, and the counts s and b constituting the identifier in the repeat sequence.
- FIG. 13 is a diagram for explaining EMP, which is a packet having a pull-down EM.
- FIG. 13 is a diagram showing an example of pull-down information associated with image data of a frame rate of 60 Hz, which is image information of a video material that has not been pulled down, for each frame.
- FIG. 13 is a diagram showing another example of pull-down information associated with image data of a frame rate of 60 Hz, which is image information of a video material that has not been pulled down, for each frame.
- FIG. 1 is a block diagram showing an example of the configuration of a television receiver. 4 is a block diagram showing an example of the configuration of an image conversion unit and a display control unit.
- FIG. FIG. 1 is a diagram for explaining processing for video and processing for film.
- 10 is a flowchart showing an example of a control process for each frame of an N/M frequency dividing unit and a frame extraction unit of a control unit.
- 13 is a flowchart showing another example of the control process for each frame of the control unit with respect to the N/M frequency dividing unit and the frame extraction unit.
- FIG. 13 is a flowchart showing another example of the control process for each frame of the control unit with respect to the N/M frequency dividing unit and the frame extraction unit.
- 13 is a flowchart showing another example of the control process for each frame of the control unit with respect to the N/M frequency dividing unit and the frame extraction unit.
- FIG. 13 is a diagram showing the outline of the processing in a television receiver when image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material, is sent from a media player.
- FIG. 13 is a block diagram showing another example of the configuration of a television receiver.
- FIG. 2 is a block diagram illustrating an example of a hardware configuration of a computer.
- FIG. 13 is a diagram showing an example of a pull-down.
- FIG. 13 is a diagram showing an example of the type of pull-down from 48 Hz to 60 Hz.
- FIG. 13 is a diagram showing an example of the pulldown ratio N:M associated with each frame in pulldown with a plurality of pulldown ratios, and counts s and b constituting an identifier in a repeat sequence.
- FIG. 13 is a diagram showing an example of pull-down information associated with each frame when image data (image information) with a frame rate of 24 Hz is pulled down from 24 Hz to 60 Hz (first pull-down) and image data (image information) with a frame rate of 48 Hz is pulled down from 48 Hz to 60 Hz (second pull-down).
- image data image information
- FIG. 13 is a diagram showing an example of pull-down information associated with each frame when image data (image information) with a frame rate of 24 Hz is pulled down from 24 Hz to 48 Hz, and image data (image information) with a frame rate of 48 Hz is not pulled down.
- This figure shows an example where the pull-down information associated with image data (image information) for each frame is a duplicate flag that constitutes flag information indicating whether or not the image data overlaps with the immediately preceding frame.
- the pull-down information associated with image data (image information) for each frame is a pull-down flag that constitutes flag information indicating whether or not pull-down is performed.
- This figure shows an example in which the pull-down information associated with image data (image information) for each frame is both a duplicate flag and a pull-down flag.
- EMP Extended Metadata Packet
- EM Video frame structure Extended Metadata
- Embodiment 1-1 Example of the configuration of a transmission/reception system 1-2.
- EMP which is a packet having a pull-down EM 1-5.
- Display operation for received image data in a television receiver 1-5-3 Control processing procedure for the N/M frequency division unit and frame extraction unit 1-6.
- Example of the configuration of a transmission/reception system] 1 shows an example of the configuration of an image processing system 10 according to an embodiment.
- the image processing system 10 includes a media player 100, which is a source device, and a television receiver 200, which is a sink device, connected by an HDMI cable 300.
- the HDMI cable 300 constitutes a transmission path.
- the media player 100 associates pull-down information with the image information for each frame.
- the media player 100 then transmits the image information with the pull-down information associated with each frame to the television receiver 200 via the HDMI cable 300.
- the pulldown information includes a pulldown ratio and a repeat sequence identifier.
- the repeat sequence identifier is composed of a combination of a source frame count corresponding to the frame before pulldown and a base frame count corresponding to the frame after pulldown. Note that the repeat sequence identifier is not limited to a combination of these two counts, and may be configured in any way that allows identification of each frame of the repeat sequence.
- the pull-down information is set, for example, to a state that makes it possible to identify that the image information is not pull-down information.
- the pull-down ratio included in the pull-down information is set to 1:1.
- the source frame count constituting the identifier of the repeat sequence included in the pull-down information is fixed to 0.
- pull-down information is inserted into the blanking period of image information, thereby associating pull-down information with image information for each frame.
- pull-down information is inserted into the blanking period as IF (InfoFrame) information.
- IF InfoFrame
- pull-down information can also be inserted into the blanking period as EMP (Extended Metadata Packet) information.
- EMP Extended Metadata Packet
- the television receiver 200 When the image information (first image information) received from the media player 100 via the HDMI cable 300 has been pulled down, the television receiver 200 performs a process to obtain image information for display by acquiring image information (second image information) of the frame before the pull-down from this image information (first image information) based on the pull-down information associated with this image information (first image information) for each frame, and then displays the image.
- the pull-down information includes the pull-down ratio and the repeat sequence identifier, as described above.
- the television receiver 200 acquires image information of the frame before pull-down (second image information) based on the identifier in the repeat sequence, sets the division ratio of the divider based on the pull-down ratio to acquire a synchronization signal corresponding to the frame rate of the frame before pull-down, and processes the acquired image information of the frame before pull-down (second image information) based on the acquired synchronization signal to acquire image information for display.
- the pull-down ratio and the repeat sequence identifier included in the pull-down information it is possible to obtain image information for display in a good condition.
- the repeat sequence identifier is composed of a combination of the source frame count corresponding to the frame before pull-down and the base frame count corresponding to the frame after pull-down, as described above.
- the television receiver 200 properly acquires the image information of the frame before pull-down (second image information) by extracting the image information of the frame corresponding to the change in the source frame count from the image information (first image information).
- the television receiver 200 can align the phase of the synchronization signal acquired by the frequency division unit with the frame phase of the image information before pull-down (second image information) by synchronizing the frequency division unit at the timing of a frame where both the source frame count and the base frame count are 1, and can therefore satisfactorily synchronize with, for example, audio.
- the television receiver 200 also determines whether the image information received from the media player 100 via the HDMI cable 300 has been pulled down, and if it has not been pulled down, performs processing to obtain image information for display using this image information, and displays the image.
- the television receiver 200 determines that the received image information has not been pulled down. Also, if there is pull-down information associated with the received image information for each frame but the pull-down ratio is 1:1, the television receiver 200 determines that the received image information has not been pulled down. Also, if there is pull-down information associated with the received image information for each frame but the source frame count is 0, the television receiver 200 determines that the received image information has not been pulled down.
- FIG. 2 shows an example of the configuration of a data transmitting section (HDMI transmitting section) of the media player 100 and a data receiving section (HDMI receiving section) of the television receiver 200 in the image processing system 10.
- the media player 100 transmits differential signals corresponding to one screen's worth of image data (Vido) over multiple channels to the television receiver 200 in the effective image section (hereinafter also referred to as the "active video section” as appropriate), which is the section from one vertical synchronization signal to the next vertical synchronization signal, excluding the horizontal and vertical blanking sections, and transmits differential signals corresponding to audio data (Audio) and auxiliary data (Auxiliary) accompanying the image data over multiple channels to the television receiver 200 during the horizontal or vertical blanking period.
- the auxiliary data includes an active audio stream, an active video stream, or an InfoFrame for describing the source, and other data.
- the media player 100 has an HDMI transmitter 101.
- the HDMI transmitter 101 converts, for example, image data into a corresponding differential signal, and transmits the signal serially over three TMDS channels #0, #1, and #2, which are multiple channels, to the television receiver 200 connected via an HDMI cable 300.
- the HDMI transmitter 101 also converts audio data and auxiliary data accompanying the image data into corresponding differential signals, and transmits them serially over three TMDS channels #0, #1, and #2 to the television receiver 200 connected via the HDMI cable 300.
- the HDMI transmitter 101 transmits a pixel clock synchronized with the image data transmitted on the three TMDS channels #0, #1, and #2, on the TMDS clock channel to the television receiver 200 connected via the HDMI cable 300.
- TMDS channel #i 10 bits of image data are transmitted during one pixel clock cycle.
- TMDS coding is 8-bit/10-bit conversion coding that converts 8-bit data into 10-bit data, and is coding that maintains DC balance while suppressing adverse effects such as unwanted radiation by reducing the number of transition points compared to the previous data. Therefore, since the coding run length cannot be theoretically guaranteed, DC coupling and separate clock transmission are essential.
- the television receiver 200 receives differential signals corresponding to image data transmitted from the media player 100 over multiple channels during the active video period, and receives differential signals corresponding to audio data and auxiliary data transmitted from the television receiver 200 over multiple channels during the horizontal blanking period or vertical blanking period.
- the television receiver 200 has an HDMI receiver 201.
- the HDMI receiver 201 receives differential signals corresponding to image data and differential signals corresponding to audio data and auxiliary data transmitted from the media player 100 connected via an HDMI cable 300 on TMDS channels #0, #1, and #2 in synchronization with a pixel clock transmitted from the media player 100 on the TMDS clock channel.
- the above shows an example in which image data, audio data, and auxiliary data are transmitted over TMDS channels #0, #1, and #2, and the pixel clock is transmitted over the TMDS clock channel, but this is compatible with HDMI 1.4 and earlier and HDMI 2.0.
- transmission is performed using FRL lanes #0, #1, #2, and #3.
- the TMDS clock channel is FRL lane #3.
- FRL character coding is 16-bit/18-bit conversion coding that converts 16-bit data into 18-bit data, and is coding that maintains DC balance and allows clock extraction.
- the HDMI system also has transmission channels called DDC (Display Data Channel), CEC Line, Utility Line, and HPD Line.
- DDC Display Data Channel
- CEC Line CEC Line
- Utility Line Utility Line
- HPD Line HPD Line
- the DDC consists of two lines (signal lines) (not shown) contained in the HDMI cable 300.
- the DDC is used by the media player 100 to read the EDID stored in the EDID ROM (Extended Display Identification ROM) of the television receiver 200 via the HDMI cable 300.
- the DDC is also used by the media player 100 to read and write SCDCS data stored in the SCDC (Status and Control Data Channel) register of the television receiver 200 via the HDMI cable 300.
- the CEC line is also used for two-way communication of control data between the media player 100 and the television receiver 200.
- the HPD line is used by the media player 100 to detect the connection of the television receiver 200.
- the utility line and the HPD line are also used to configure the HEAC (HDMI Ethernet and Audio Return Channel) and eARC (Enhanced Audio Return Channel).
- Example of TMDS transmission data structure 3 shows an example of the structure of TMDS transmission data.
- various transmission data sections are shown when image data of B pixels horizontal ⁇ A lines vertical is transmitted on TMDS channels #0 to #2.
- TMDS channels #0 to #2 In a video field in which transmission data is transmitted on a HDMI TMDS channel, there are three types of sections depending on the type of transmission data. These three types of sections are a video data period, a data island period, and a control period.
- the video field section is the section from the rising edge (active edge) of one vertical sync signal to the rising edge of the next vertical sync signal.
- This video field section is divided into a horizontal blanking period (horizontal blanking), a vertical blanking period (vertical blanking), and an active video section (Active Video).
- This active video section is the section excluding the horizontal blanking period and the vertical blanking period from the video field section, and corresponds to the video data section mentioned above.
- data for B pixels (picture elements) x A lines of active pixels (Active pixels) that make up one screen's worth of image data is transmitted.
- the data island section is allocated to a part of the horizontal blanking period and vertical blanking period. In this data island section, audio data and auxiliary data are packetized and transmitted.
- the control section is allocated to the other part of the horizontal blanking period and vertical blanking period. In this control section, the vertical synchronization signal, horizontal synchronization signal, etc. are transmitted.
- Fig. 4 shows an example of the configuration of a media player 100.
- the media player 100 has a control unit 102, a pull-down conversion unit 103, and change-over switches 104 and 105.
- the control unit 102 controls the operation of each unit of the media player 100.
- the pulldown conversion unit 103 pulls down image data Va with a frame rate of 24 Hz, which is image information of film material (movie material), to obtain image data Vb with a frame rate of 60 Hz. There are several types of pulldown from 24 Hz to 60 Hz, and the pulldown conversion unit 103 performs one of these types of pulldown.
- Figures 5(a) to (c) show examples of types of pulldown from 24 Hz to 60 Hz.
- Figure 5(a) shows so-called 2-3 pulldown, in which every two frames before pulldown are converted into five frames after pulldown, with the first frame being converted into two frames and the second frame being converted into three frames.
- frames after pulldown marked with an "*" indicate that they are the same frame as the previous frame (duplicate frame). This is the same in the other figures.
- Fig. 5(b) shows how every two frames before pulldown are converted to five frames after pulldown, with the first frame being converted to three frames and the second frame being converted to two frames; this is known as 3-2 pulldown.
- Fig. 5(c) shows a combination of the 2-3 pulldown shown in Fig. 5(a) and the 3-2 pulldown shown in Fig. 5(b).
- the changeover switch 104 switches between image data Va with a frame rate of 24 Hz that has not been pulled down converted and image data Vb with a frame rate of 60 Hz that has been pulled down converted.
- image data Va is input to the fixed terminal on side a
- image data Vb is input to the fixed terminal on side b
- image data Va or image data Vb is output from the movable terminal as image data Vc.
- the changeover switch 105 switches between image data Vd with a frame rate of 60 Hz, which is image information of the video material, and image data Vc output from the changeover switch 104.
- the image data Vd is input to the fixed terminal on the a side
- the image data Vc is input to the fixed terminal on the b side
- the image data Vd or image data Vc is output from the movable terminal as image data Ve, and is supplied to the HDMI transmitter 101 as image data (Video).
- the image data Ve becomes image data with a frame rate of 60 Hz, which is image information of video material, image data with a frame rate of 24 Hz, which is image information of film material (movie material), or image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material).
- the HDMI transmitter 101 is supplied with a horizontal synchronization signal (Hsync) and a vertical synchronization signal (Vsync) corresponding to the image data (Video), as well as audio data (Audio) and auxiliary data (Auxiliary) associated with the image data (Video).
- the HDMI transmitter 101 synthesizes these data into TMDS transmission data, and transmits it to the television receiver 200 via the HDMI cable 300.
- auxiliary data is supplied from the control unit 102 to the HDMI transmitter 101.
- this auxiliary data includes an active audio stream, an active video stream, or an InfoFrame (InfoFrame) for describing the source, and other data.
- AVI Infoframe An InfoFrame included in the auxiliary data (Auxiliary) is an AVI InfoFrame (AVI-IF: Auxiliary Video Information InfoFrame), which is capable of transmitting supplementary information related to an image from a source device to a sink device.
- AVI-IF Auxiliary Video Information InfoFrame
- Figures 6(a) and (b) show an example of the data structure of an AVI infoframe packet.
- This AVI infoframe packet is defined in CTA-861-H, with some specification changes made on the HDMI side.
- Figure 6(a) shows the packet header (AVI IF Packet Header), and
- Figure 6(b) shows the packet contents (AVI IF Packet Contents).
- Byte PB4 of the packet content contains the video format identification code (VIC: Video Format Identification Code).
- VOC Video Format Identification Code
- the picture frame and frame rate of the transmitted image data (Video) can be determined from the VIC value, as shown in the example below.
- VIC 16: 2K60P (1920 ⁇ 1080/60P)
- VIC 32: 2K24P (1920 ⁇ 1080/24P)
- VIC 111: 2K48P (1920 ⁇ 1080/48P)
- VIC 97: 4K60P (3840 ⁇ 2160/60P)
- VIC 93: 4K24P (3840 ⁇ 2160/24P)
- VIC 114: 4K48P (3840 ⁇ 2160/48P)
- the packet content also contains video-related information such as color space in addition to the video format identification code mentioned above.
- control unit 102 includes a newly defined pull-down infoframe (Pull-down IF) having pull-down information in the auxiliary data (Auxiliary) supplied to the HDMI transmitter 101.
- This pull-down infoframe contains the pull-down ratio and an identifier within the repeat sequence as pull-down information.
- the control unit 102 constitutes an information matching unit.
- Figures 7(a) and (b) show examples of the data structure of a pull-down infoframe packet.
- Figure 7(a) shows the packet header (Pull-down IF Packet Header), and
- Figure 7(b) shows the packet contents (Pull-down IF Packet Contents).
- Packet Type indicates the type of packet. In this case, it indicates a pull-down infoframe packet.
- Packet HB1 describes the version of the packet data definition.
- Byte HB2 describes information indicating the packet length. In this case, it is set to "0x04".
- Bytes PB1 and PB2 contain an identifier within the repeating sequence.
- the identifier is composed of a combination of the source frame count corresponding to the frames before pulldown and the base frame count corresponding to the frames after pulldown.
- FIG. 8 shows an example of the pulldown ratio N:M contained in the pulldown infoframe associated with each frame in pulldown from 24 Hz to 60 Hz, and the counts s and b that constitute the identifier in the repeat sequence. Note that this example shows the case of 2-3 pulldown.
- the repeat sequence is a five-frame cycle from the first frame to the fifth frame, and the counts s and b are "1,1" for the first frame, "1,2" for the second frame, "2,3” for the third frame, "2,4" for the fourth frame, and "2,5" for the fifth frame.
- the count s of the source frame corresponding to the frame before pulldown repeats from 1 to 2 (N), and frames with the same value of this count s are duplicate (retransmitted) frames.
- the media player 100 may include the pulldown infoframe in the auxiliary data (Auxiliary) only when the sink device supports the pulldown infoframe.
- the media player 100 may determine whether the sink device supports pull-down infoframes based on flag information that is newly defined on the EDID (Extended Display Identification Data) of the sink device and indicates whether the sink device supports pull-down infoframes.
- EDID Extended Display Identification Data
- Figure 9(a) shows an example of the structure of the HF-VSDB (HDMI Forum Vendor Specific Data Block) newly defined in EDID (Extended Display Identification Data) in HDMI 2.0.
- Figure 9(b) shows an example of the structure of the SCDS (Sink Capability Data Structure) placed from the 4th byte onwards in the HF-VSDB.
- SCDS Silicon Capability Data Structure
- a new PD-IF flag indicating whether or not pull-down infoframe is supported is defined in the 0th bit of byte PB11, which is currently reserved. In this case, "0" indicates “not supported” and "1" indicates “supported.”
- the television receiver 200 supports pull-down infoframes.
- FIG 10(a) shows the header (EMP Header) of an EMP (Extended Metadata Packet), which is a packet with a pull-down EM
- Figure 10(b) shows the contents (EMP Contents) of the EMP.
- the pulldown EM is small in size and is transmitted in a single packet. Therefore, the fields of the header (EMP Header) are set to the following values.
- the pulldown EM is video frame synchronous in relation to the video format, the fields of the contents (EMP Contents) are set to the following values.
- Figure 10(c) shows the MD (MetaData) content, i.e., the pulldown EM, placed in bytes PB7-PB27 of the content (EMP Contents).
- MD0-MD3 contain the pulldown ratio (N:M) and the repeat sequence identifier (s, b), similar to bytes PB1-PB4 in the pulldown infoframe packet content shown in Figure 7(b) above.
- the pull-down information is associated with image data (image information) with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material), for each frame.
- image data image information
- a frame rate of 60 Hz which is image information of video material that has not been pulled down
- auxiliary data auxiliary data
- Figures 11(a) and (b) show an example of pull-down information associated with image data with a frame rate of 60 Hz, which is image information of video material that has not been pulled down, for each frame.
- Figure 11(a) shows the state of switching from image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material), to image data with a frame rate of 60 Hz, which is image information of video material that has not been pulled down
- Figure 11(b) shows the state of switching in the opposite direction.
- the pull-down information that is associated with each frame of image data with a frame rate of 60 Hz, which is image information of video material that has not been pulled down is explained below.
- the counts s and b that constitute the identifier in the repeat sequence are both fixed to 1.
- Figures 12(a) and (b) show another example of pull-down information that is associated frame by frame with image data of a frame rate of 60 Hz, which is image information of video material that has not been pulled down.
- Figure 12(a) shows the state of switching from image data of a frame rate of 60 Hz obtained by pulling down image data of a frame rate of 24 Hz, which is image information of film material (movie material), to image data of a frame rate of 60 Hz, which is image information of video material that has not been pulled down
- Figure 12(b) shows the state of switching in the opposite direction.
- the following describes the pull-down information that is associated with each frame of image data with a frame rate of 60 Hz, which is image information of video material that has not been pulled down.
- the pulldown ratio N:M indicates a pulldown ratio of 2:5 in image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is the image information of film material (movie material), it becomes possible to make preparations in advance for the pulled-down image data, such as preparations for creating a vertical synchronization signal required for image conversion processing and display control processing.
- Fig. 13 shows an example of the configuration of a television receiver 200.
- the television receiver 200 has a control unit 202, an N/M frequency dividing unit 203, a changeover switch 204, a frame extraction unit 205, a changeover switch 206, an image conversion unit 207, a display control unit 208, and a display panel 209.
- the control unit 202 controls the operation of each unit of the television receiver 200.
- the HDMI receiver 201 obtains, from the TMDS transmission data received from the media player 100, in addition to image data (Video), a vertical synchronization signal (Vsync) corresponding to this image data (Video), and audio data (Audio) and auxiliary data (Auxiliary) associated with this image data (Video). Although not shown in the figure, audio output processing is performed based on the audio data (Audio) obtained by the HDMI receiver 201.
- the auxiliary data (Auxiliary) obtained by the HDMI receiver 201 is supplied to the control unit 202.
- the auxiliary data (Auxiliary) includes an AVI infoframe, and at least when the image data (Video) is image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material), it includes a pull-down infoframe (Pull-down IF) having pull-down information associated with the image data for each frame.
- the control unit 202 therefore obtains a video format identification code from the AVI infoframe and recognizes the picture frame and frame rate of the image data (Video).
- the control unit 202 also recognizes video-related information, such as the color space related to the image data (Video), from the AVI infoframe.
- the control unit 202 also recognizes from the pulldown infoframe that the image data (Video) is image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material), and further recognizes the pulldown ratio N:M and the counts s and b that constitute the identifier within the repeat sequence.
- the vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 is supplied to the N/M frequency dividing unit 203.
- the control unit 202 sets N and M in the N/M frequency dividing unit 203 based on the pull-down ratio N:M recognized from the pull-down infoframe.
- the N/M frequency dividing unit 203 then divides the vertical synchronization signal (Vsync) obtained by the HDMI receiver 201, that is, the vertical synchronization signal (Vsync) of the frame rate of the image data after pull-down, to obtain a vertical synchronization signal (Vsync') of the frame rate of the image data before pull-down.
- the vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 is 60 Hz, but the vertical synchronization signal (Vsync') obtained by the N/M frequency division unit 203 is 24 Hz.
- the changeover switch 204 switches between the vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 and the vertical synchronization signal (Vsync') obtained by the N/M frequency division unit 203.
- the vertical synchronization signal (Vsync) is input to the fixed terminal on the a side
- the vertical synchronization signal (Vsync') is input to the fixed terminal on the b side
- the vertical synchronization signal (Vsync) is output from the movable terminal when the image data (Video) is not pulled down
- the vertical synchronization signal (Vsync') is output when the image data (Video) is pulled down.
- the image data (Video) obtained by the HDMI receiver 201 is also supplied to a frame extraction unit 205.
- the frame extraction unit 205 extracts from the image data (Video) image data of a frame corresponding to a change in the count s constituting the identifier in the repeat sequence.
- the image data of each frame extracted in this manner corresponds to the image data of each frame before pull-down. For example, if the image data (Video) is image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material), the frame extraction unit 205 obtains image data with a frame rate of 24 Hz corresponding to the image data of each frame before pull-down.
- the changeover switch 206 switches between the image data (Video) obtained by the HDMI receiver 201 and the image data extracted by the frame extraction unit 205.
- the image data (Video) obtained by the HDMI receiver 201 is input to the fixed terminal on the a side
- the image data extracted by the frame extraction unit 205 is input to the fixed terminal on the b side
- from the movable terminal when the image data (Video) is not pulled down, the image data (Video) obtained by the HDMI receiver 201 is output, and when the image data (Video) is pulled down, the image data extracted by the frame extraction unit 205 is output.
- the image conversion unit 207 performs processing on the image data output from the changeover switch 206 in synchronization with the vertical synchronization signal output from the changeover switch 204, independent of the display panel 209, etc.
- the display control unit 208 performs processing on the image data after processing by the image conversion unit 207 in synchronization with the vertical synchronization signal output from the changeover switch 204, dependent on the display panel 209, etc.
- the display panel 209 is composed of, for example, a liquid crystal display panel or an organic EL panel, etc., and displays an image based on the image data (image data for display) after processing by the display control unit 208.
- the frame extraction unit 205, image conversion unit 207, display control unit 208, etc. constitute a processing unit that obtains image information for display by obtaining image information of the frame before pull-down based on the pull-down information from the received image information.
- Example of configuration of image conversion unit and display control unit” 14 shows an example of the configuration of the image conversion unit 207 and the display control unit 208.
- the image conversion unit 207 has an RGB conversion unit 207a and an EOTF (Electro-Optical Transfer Function) processing unit 207b.
- the RGB conversion unit 207a and the EOTF processing unit 207b perform RGB conversion processing and electro-optical conversion processing based on information indicating whether the input image data is RGB data or YCbCr data, color space information, quantization range information, etc., which are included in the AVI info frame.
- the display control unit 208 has a display frame conversion unit 208a, a display frequency conversion unit 208b, an image quality improvement processing unit 208c, and a display RGB conversion unit 208d.
- the display frame conversion unit 208a performs display frame conversion processing based on input image data and image frame information of the display panel 209.
- the display frequency conversion unit 208b processes the frame rate of the input image data to match the display frequency of the display panel 209.
- the image quality improvement processing unit 208c performs image quality improvement processing such as noise reduction on the input image data.
- the display RGB conversion unit 208d performs color gamut conversion processing on the input image data.
- the processing in the display frequency conversion unit 208b, image quality improvement processing unit 208c, and display RGB conversion unit 208d differs depending on whether the input image data is image data with a frame rate of 60 Hz related to video material, or image data with a frame rate of 24 Hz related to film material (movie material).
- the input image data is image data with a frame rate of 60 Hz related to video material, video processing is performed, whereas if the input image data is image data with a frame rate of 24 Hz related to film material (movie material), film (movie) processing is performed.
- Figure 15(a) shows the main differences between video processing and film processing.
- video processing image data with a frame rate of 60 Hz is targeted, frame interpolation processing is enabled, the color temperature (white point) in color gamut conversion is set to 9,300 K, and noise cancellation is turned on (ON).
- film processing image data with a frame rate of 24 Hz is targeted, frame interpolation processing is not enabled, the color temperature (white point) in color gamut conversion is set to, for example, 6,500 K, and noise cancellation is turned off (OFF).
- Figure 15(b) shows an example of video processing in the display frequency conversion unit 208b, image quality improvement processing unit 208c, and display RGB conversion unit 208d.
- frame interpolation processing is performed on image data of a frame rate of 60 Hz related to the input video material, to obtain image data of a frame rate matching the display frequency (e.g., 120 Hz) of the display panel 209.
- the image quality improvement processing unit 208c performs image quality improvement processing such as noise reduction on the image data output from the display frequency conversion unit 208b.
- the display RGB conversion unit 208d performs color gamut conversion processing to set the color temperature (white point) to 9300K on the image data output from the image quality improvement processing unit 208c, and obtains image data for display.
- Figure 15(c) shows an example of film processing in the display frequency conversion unit 208b, image quality improvement processing unit 208c, and display RGB conversion unit 208d.
- the display frequency conversion unit 208b frame multiplexing processing is performed on image data with a frame rate of 24 Hz related to the input film material (movie material), and image data with a frame rate matching the display frequency (e.g. 120 Hz) of the display panel 209 is obtained.
- the image quality improvement processing unit 208c outputs the image data output from the display frequency conversion unit 208b as is. In other words, the image quality improvement processing unit 208c does not perform any processing on the image data output from the display frequency conversion unit 208b.
- the display RGB conversion unit 208d performs color gamut conversion processing on the image data output from the image quality improvement processing unit 208c to set the color temperature (white point) to 6500K, and obtains image data for display.
- the control unit 202 switches the changeover switches 204 and 206 to the a side based on the determination that the image data (Video) obtained by the HDMI receiver 201 described above is not pulled down.
- the 60 Hz vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 is supplied to the image conversion unit 207 and the display control unit 208, and the image conversion unit 207 and the display control unit 208 process the image data (Video) with a frame rate of 60 Hz, which is image information of the video material obtained by the HDMI receiver 201, to generate image data for display, and an image is displayed on the display panel 209 based on the image data for display.
- control unit 202 controls the operation of the image conversion unit 207 and the display control unit 208 based on the AVI infoframe.
- the display frequency conversion unit 208b, the image quality improvement processing unit 208c, and the display RGB conversion unit 208, which constitute the display control unit 208, perform video processing (see FIG. 15) to generate image data for display.
- the image data (Video) obtained by the HDMI receiver 201 is image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information from film material (movie material).
- N/M frequency divider unit 203 divides the 60 Hz vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 by 2/5 to obtain a 24 Hz vertical synchronization signal (Vsync').
- the control unit 202 also controls the frame extraction process in the frame extraction unit 205 so as to extract image data of a frame corresponding to a change in the count s constituting an identifier in a repeating sequence included in the pull-down infoframe (Pull-down IF).
- the frame extraction unit 205 obtains image data with a frame rate of 24 Hz, which is image information of the film material (movie material) before pull-down, from the image data (Video) obtained by the HDMI receiver 201.
- control unit 202 switches the changeover switches 204 and 206 to the b side based on the judgment that the image data (Video) obtained by the above-mentioned HDMI receiver 201 has been pulled down.
- the 24 Hz vertical synchronization signal (Vsync') obtained by the N/M frequency division unit 203 is supplied to the image conversion unit 207 and the display control unit 208, and the image conversion unit 207 and the display control unit 208 process the image data with a frame rate of 24 Hz, which is the image information of the film material (movie material) obtained by the frame extraction unit 205, to generate image data for display, and an image is displayed on the display panel 209 based on the image data for display.
- control unit 202 controls the operation of the image conversion unit 207 and the display control unit 208 based on the AVI infoframe.
- the display frequency conversion unit 208b, the image quality improvement processing unit 208c, and the display RGB conversion unit 208, which constitute the display control unit 208, perform film (movie) processing (see FIG. 15) to generate display image data.
- the operation will be described when the image data (Video) obtained by the HDMI receiver 201 is image data with a frame rate of 24 Hz, which is image information of film material (movie material).
- control unit 202 determines that the image data (Video) obtained by the HDMI receiver 201 has not been pulled down, for example, based on the absence of a pull-down infoframe (Pull-down IF).
- the control unit 202 switches the changeover switches 204 and 206 to the a side based on the determination that the image data (Video) obtained by the HDMI receiver 201 described above is not pulled down.
- the 24 Hz vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 is supplied to the image conversion unit 207 and the display control unit 208, and the image conversion unit 207 and the display control unit 208 process the image data (Video) with a frame rate of 24 Hz, which is image information of the film material (movie material) obtained by the HDMI receiver 201, to generate image data for display, and an image is displayed on the display panel 209 based on the image data for display.
- control unit 202 controls the operation of the image conversion unit 207 and the display control unit 208 based on the AVI infoframe.
- the display frequency conversion unit 208b, the image quality improvement processing unit 208c, and the display RGB conversion unit 208, which constitute the display control unit 208, perform film (movie) processing (see FIG. 15) to generate display image data.
- Control process for N/M frequency division unit and frame extraction unit The flowchart in FIG. 16 shows an example of control processing by the control unit 202 for the N/M frequency dividing unit 203 and the frame extraction unit 205 for each frame.
- This example also corresponds to the case where a pull-down infoframe (Pull-down IF) is added to image data that has not been pulled down.
- control unit 202 starts processing in step ST1.
- control unit 202 determines whether or not a pull-down infoframe (Pull-down IF) is present in step ST2. If a pull-down infoframe (Pull-down IF) is not present, the control unit 202 determines that the image data is not pulled down, and in step ST3, turns off the operation of the N/M frequency division unit 203 and the frame extraction unit 205, and then ends the processing in step ST4.
- a pull-down infoframe Pull-down IF
- step ST6 the control unit 202 sets N and M in the N/M frequency divider unit 203 and causes it to perform frequency division.
- Vsync' vertical synchronization signal acquired by the N/M frequency division unit 203
- control unit 202 After processing step ST11, the control unit 202 ends the processing in step ST4. If the count s has not changed in step ST10, the control unit 202 immediately ends the processing in step ST4.
- step ST6 the control unit 202 sets N and M in the pull-down ratio N:M of the image data that is being pulled down in the N/M dividing unit 203 and causes the dividing operation.
- This makes it possible to make preparations in advance for the pulled-down image data that is to be switched later, such as preparations such as the creation of a vertical synchronization signal (Vsync) required for image conversion processing and display control processing.
- Vsync vertical synchronization signal
- the flowchart in FIG. 17 shows another example of the control process for each frame by the control unit 202 with respect to the N/M frequency division unit 203 and the frame extraction unit 205.
- steps corresponding to those in FIG. 16 are indicated with the same reference numerals.
- the flowchart in FIG. 18 shows another example of the control process for each frame by the control unit 202 with respect to the N/M frequency division unit 203 and the frame extraction unit 205.
- steps corresponding to those in FIG. 16 are indicated with the same reference numerals.
- This example also deals with the case where a pull-down infoframe (Pull-down IF) is added to image data that has not been pulled down.
- the flowchart in FIG. 19 shows yet another example of the control process for each frame by the control unit 202 with respect to the N/M frequency division unit 203 and the frame extraction unit 205.
- steps corresponding to those in FIG. 18 are given the same reference numerals.
- Figure 20 shows an outline of the processing in the sink device, the television receiver 200 (see Figure 13), when image data with a frame rate of 60 Hz is sent from the source device, the media player 100 (see Figure 4), which is image information of film material (movie material) by pulling down image data with a frame rate of 24 Hz.
- the values of x and y attached to the pulled-down image data are counts s and b that constitute the identifier within the repeat sequence.
- frame extraction is performed from the pulled-down image data obtained by pulling down, based on the count s, that is, at the timing when the count s changes, and each frame of the image data before pull-down is extracted.
- each frame of the extracted image data before pull-down is aligned to the timing of the 24 Hz vertical synchronization signal (Vsync') obtained by the N/M frequency division unit 203.
- frame multiplexing processing is performed on the aligned image data with a frame rate of 24 Hz, and image data (image data for display) with a frame rate of 120 Hz that matches the display frequency (120 Hz) of the display panel 209 is generated.
- Fig. 21 shows another example of the configuration of the television receiver 200.
- the television receiver 200 has a control unit 202, an N/M frequency dividing unit 203, a changeover switch 204, a frame extraction unit 205, a changeover switch 206, an image conversion unit 207, a display control unit 208, a display panel 209, and adders 210 and 211.
- the control unit 202 controls the operation of each unit of the television receiver 200.
- the HDMI receiver 201 obtains, from the TMDS transmission data received from the media player 100, in addition to image data (Video), a vertical synchronization signal (Vsync) corresponding to this image data (Video), and audio data (Audio) and auxiliary data (Auxiliary) associated with this image data (Video). Although not shown in the figure, audio output processing is performed based on the audio data (Audio) obtained by the HDMI receiver 201.
- the auxiliary data (Auxiliary) obtained by the HDMI receiver 201 is supplied to the control unit 202.
- the auxiliary data (Auxiliary) includes an AVI infoframe, and at least when the image data (Video) is image data (image information) with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material), it includes a pull-down infoframe (Pull-down IF) having pull-down information associated with the image data (image information) for each frame.
- the control unit 202 therefore obtains a video format identification code from the AVI infoframe and recognizes the picture frame and frame rate of the image data (Video).
- the control unit 202 also recognizes video-related information, such as the color space related to the image data (Video), from the AVI infoframe.
- the control unit 202 also recognizes from the pulldown infoframe that the image data (Video) is image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material), and further recognizes the pulldown ratio N:M and the counts s and b that constitute the identifier within the repeat sequence.
- the changeover switch 204 switches between supplying the vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 to the adder 210 and supplying it to the N/M frequency division unit 203.
- the vertical synchronization signal (Vsync) is input to a movable terminal of the changeover switch 204, and when the image data (Video) is not pulled down, the vertical synchronization signal (Vsync) is supplied to the adder 210 from the fixed terminal on the a side, and when the image data (Video) is pulled down, the vertical synchronization signal (Vsync) is supplied to the N/M frequency division unit 203 from the fixed terminal on the b side.
- the control unit 202 sets N and M in the N/M frequency dividing unit 203 based on the pull-down ratio N:M recognized from the pull-down infoframe.
- the N/M frequency dividing unit 203 divides the vertical synchronization signal (Vsync) supplied from the fixed terminal on the b side of the changeover switch 204, that is, the vertical synchronization signal (Vsync) of the frame rate of the image data after pull-down, to obtain a vertical synchronization signal (Vsync') of the frame rate of the image data before pull-down.
- the vertical synchronization signal (Vsync') obtained by the N/M frequency dividing unit 203 is supplied to the adder 210.
- the vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 is 60 Hz, but the vertical synchronization signal (Vsync') obtained by the N/M frequency division unit 203 in this way is 24 Hz.
- a vertical synchronization signal (Vsync) is supplied to the adder 210 from the fixed terminal on the a side of the changeover switch 204. Therefore, when the image data (Video) is not pulled down, the vertical synchronization signal (Vsync) obtained by the HDMI receiver 201 is output from the adder 210. Also, as described above, when the image data (Video) is pulled down, a vertical synchronization signal (Vsync') is supplied to the adder 210 from the N/M frequency division unit 203. Therefore, when the image data (Video) is pulled down, the vertical synchronization signal (Vsync') obtained by the N/M frequency division unit 203 is output from the adder 210.
- the changeover switch 206 switches between supplying the image data (Video) obtained by the HDMI receiver 201 to the adder 211 and supplying it to the frame extraction unit 205.
- the image data (Video) is input to a movable terminal of the changeover switch 206, and when the image data (Video) is not pulled down, the image data (Video) is supplied to the adder 211 from the fixed terminal on the a side, and when the image data (Video) is not pulled down, the image data (Video) is supplied to the frame extraction unit 205 from the fixed terminal on the b side.
- the frame extraction unit 205 extracts, from the image data (Video), image data of a frame corresponding to a change in the count s that constitutes the identifier in the repeat sequence.
- the image data of each frame extracted in this manner corresponds to the image data of each frame before pull-down.
- the image data (Video) is image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information of film material (movie material)
- the frame extraction unit 205 obtains image data with a frame rate of 24 Hz that corresponds to the image data of each frame before pull-down.
- the image data obtained by the frame extraction unit 205 is supplied to the adder 211.
- the image data (Video) when the image data (Video) is not pulled down, the image data (Video) is supplied to the adder 211 from the fixed terminal on the a side of the changeover switch 204. Therefore, when the image data (Video) is not pulled down, the image data (Video) obtained by the HDMI receiver 201 is output from the adder 211. Also, as described above, when the image data (Video) is pulled down, the image data obtained by the frame extraction unit 205 is supplied to the adder 211. Therefore, when the image data (Video) is pulled down, the image data obtained by the frame extraction unit 205 is output from the adder 211.
- the image conversion unit 207 performs processing on the image data output from the adder 211 in synchronization with the vertical synchronization signal output from the adder 210, independent of the display panel 209, etc.
- the display control unit 208 performs processing on the image data after processing by the image conversion unit 207 in synchronization with the vertical synchronization signal output from the adder 210, dependent on the display panel 209, etc.
- the display panel 209 is composed of, for example, a liquid crystal display panel or an organic EL panel, etc., and displays an image based on the image data (display image data) after processing by the display control unit 208.
- pull-down information is associated with each frame of image data (image information) transmitted from the media player 100 to the television receiver 200, and the television receiver 200 can easily obtain the pull-down information and effectively use it to process the image data (image information), thereby significantly reducing the processing load.
- FIG. 22 is a block diagram showing an example of the hardware configuration of a computer 600.
- the computer 600 has a CPU 601, a ROM 602, a RAM 603, a bus 604, an input/output interface 605, an input unit 606, an output unit 607, a storage unit 608, a drive 609, a connection port 610, and a communication unit 611.
- the hardware configuration shown here is an example, and some of the components may be omitted.
- the computer 600 may include further components other than those shown here.
- the CPU 601 functions, for example, as an arithmetic processing device or control device, and controls the overall operation or part of the operation of each component based on various programs recorded in the ROM 602, the RAM 603, the storage unit 608, or the removable recording medium 701.
- ROM 602 is a means for storing programs loaded into CPU 601 and data used in calculations.
- RAM 603 temporarily or permanently stores, for example, programs loaded into CPU 601 and various parameters that change as appropriate when the programs are executed.
- the CPU 601, ROM 602, and RAM 603 are connected to one another via a bus 604. Meanwhile, various components are connected to the bus 604 via an input/output interface 605.
- the input unit 606 may be, for example, a mouse, a keyboard, a touch panel, a button, a switch, or a lever. Furthermore, the input unit 606 may also be a remote controller (hereinafter, a remote control) capable of transmitting control signals using infrared rays or other radio waves.
- a remote controller capable of transmitting control signals using infrared rays or other radio waves.
- the output unit 607 is a device capable of visually or audibly notifying the user of acquired information, such as a display device such as a CRT (Cathode Ray Tube), LCD, or organic EL, an audio output device such as a speaker or headphones, a printer, a mobile phone, or a facsimile.
- a display device such as a CRT (Cathode Ray Tube), LCD, or organic EL
- an audio output device such as a speaker or headphones
- a printer such as a printer, a mobile phone, or a facsimile.
- the storage unit 608 is a device for storing various types of data.
- a magnetic storage device such as a hard disk drive (HDD), a semiconductor storage device, an optical storage device, or a magneto-optical storage device may be used as the storage unit 608.
- the drive 609 is a device that reads information recorded on a removable recording medium 701, such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory, or writes information to the removable recording medium 701.
- a removable recording medium 701 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory
- the removable recording medium 701 is, for example, a DVD, a Blu-ray (registered trademark) disc, an HD DVD, or various semiconductor storage media.
- the removable recording medium 701 may also be, for example, an IC card equipped with a non-contact IC chip, or an electronic device, etc.
- the connection port 610 is a port for connecting an external device 502, such as a Universal Serial Bus (USB) port, a High-Definition Multimedia Interface (HDMI) port, an IEEE 1394 port, a Small Computer System Interface (SCSI), an RS-232C port, or an optical audio terminal.
- the external device 702 is, for example, a printer, a portable music player, a digital camera, a digital video camera, or an IC recorder.
- the communication unit 611 is a communication device for connecting to the network 703, and may be, for example, a communication card for wired or wireless LAN, Bluetooth (registered trademark), or WUSB (Wireless USB), a router for optical communications, a router for ADSL (Asymmetric Digital Subscriber Line), or a modem for various types of communications.
- the program executed by the computer may be a program in which processing is performed chronologically in the order described in this specification, or a program in which processing is performed in parallel or at the required timing, such as when called.
- FIG. 23(a) shows so-called 2-3 pulldown from 24 Hz to 60 Hz, similar to FIG. 5(a) above, with a pulldown ratio of 2:5.
- FIG. 23(b) shows pulldown from 48 Hz to 60 Hz, with a pulldown ratio of 4:5.
- FIG. 23(c) shows pulldown from 50 Hz to 60 Hz, with a pulldown ratio of 5:6. Note that in these figures, frames marked with an "*" after pulldown are identical to the previous frame (duplicate frames). The same is true for the figures shown subsequently.
- FIGS. 24(a)-(c) show examples of types of pulldown from 48 Hz to 60 Hz.
- this pulldown from 48 Hz to 60 Hz every four frames before pulldown are converted into five frames after pulldown.
- the position of the overlapping frame in the five frames after pulldown is the last (fifth).
- the position of the overlapping frame in the five frames after pulldown is not the last, but somewhere in the middle (fourth in this case).
- the position of the overlapping frame in the five frames after pulldown is variable.
- pulldown from 50 Hz to 60 Hz just like pulldown from 24 Hz to 60 Hz and pulldown from 48 Hz to 60 Hz.
- Figures 25(a) to (c) show an example of the pulldown ratio N:M included in the pulldown infoframe, for example, which is associated with each frame in pulldown with multiple pulldown ratios, and the counts s and b that constitute the identifier in the repeat sequence.
- Figure 25(a) is the same as Figure 8 above, and shows an example of pulldown from 24 Hz to 60 Hz.
- the repeat sequence has a five-frame cycle from the first frame to the fifth frame, and the counts s and b are "1, 1" for the first frame, "1, 2" for the second frame, “2, 3” for the third frame, “2, 4" for the fourth frame, and "2, 5" for the fifth frame.
- the count s of the source frame corresponding to the frame before pulldown repeats from 1 to 2 (N), and frames with the same count s value are duplicate (retransmitted) frames.
- Figure 25(b) shows an example of pulldown from 48 Hz to 60 Hz.
- the repeat sequence has a five-frame cycle from the first frame to the fifth frame, and the counts s and b are "1, 1" for the first frame, "2, 2" for the second frame, "3, 3" for the third frame, "4, 4" for the fourth frame, and "4, 5" for the fifth frame.
- the count s of the source frame corresponding to the frame before pulldown repeats from 1 to 4 (N), and frames with the same count s value are duplicate (retransmitted) frames.
- Figure 25(c) shows an example of pulldown from 50 Hz to 60 Hz.
- the repeat sequence has a 6-frame cycle from the first frame to the sixth frame, and the counts s and b are "1, 1" for the first frame, "2, 2" for the second frame, "3, 3" for the third frame, "4, 4" for the fourth frame, "5, 5" for the fifth frame, and "5, 6" for the sixth frame.
- the count s of the source frame corresponding to the frame before pulldown repeats from 1 to 5 (N), and frames with the same count s value are duplicate (retransmitted) frames.
- a film material may be a mixture of image data (image information) with a frame rate of 24 Hz and image data (image information) with a frame rate of 48 Hz.
- 24 Hz is used in lyrical scenes to give a cinematic feel
- 48 Hz is used in scenes where movement is to be emphasized, such as action scenes.
- Figures 26(a) and (b) show an example of pull-down information associated with each frame when image data (image information) with a frame rate of 24 Hz is pulled down from 24 Hz to 60 Hz (first pull-down), and image data (image information) with a frame rate of 48 Hz is pulled down from 48 Hz to 60 Hz (second pull-down).
- Figure 26(a) shows the state of switching from the first pull-down image data to the second pull-down image data
- Figure 26(b) shows the state of switching in the reverse direction.
- the repeat sequence is a five-frame cycle from the first frame to the fifth frame, and the counts s and b are "1,1" for the first frame, "1,2" for the second frame, "2,3” for the third frame, "2,4" for the fourth frame, and "2,5" for the fifth frame.
- the count s of the source frame corresponding to the frame before pulldown repeats from 1 to 2 (N), and frames with the same value of this count s are duplicate (retransmitted) frames.
- the repeat sequence is a 5-frame cycle from the first frame to the fifth frame, and the counts s and b are "1, 1" for the first frame, "2, 2" for the second frame, "3, 3" for the third frame, "4, 4" for the fourth frame, and "4, 5" for the fifth frame.
- the count s of the source frame corresponding to the frame before pulldown repeats from 1 to 4 (N), and frames with the same value of this count s are duplicate (retransmitted) frames.
- Figures 27(a) and (b) show an example of pull-down information associated with each frame when image data (image information) with a frame rate of 24 Hz is pulled down from 24 Hz to 48 Hz, and image data (image information) with a frame rate of 48 Hz is not pulled down.
- Figure 27(a) shows the state of switching from pull-down image data to non-pull-down image data
- Figure 27(b) shows the state of switching in the opposite direction.
- the repeat sequence has a two-frame cycle from the first frame to the second frame, and the counts s and b are "1, 1" for the first frame and "1, 2" for the second frame.
- the pulldown information associated with the image data (image information) for each frame is the pulldown ratio (N:M) and the identifier (s, b) in the repeat sequence.
- the pulldown information associated with the image data (image information) for each frame are also possible.
- Figures 28(a) and (b) show examples where the pull-down information associated with image data (image information) for each frame is a duplicate flag that constitutes flag information indicating whether or not the image data overlaps with the immediately preceding frame.
- Figure 28(a) shows the state of switching from 60 Hz frame rate image data obtained by pulling down 24 Hz frame rate image data, which is image information of film material (movie material), to 60 Hz frame rate image data, which is image information of video material that has not been pulled down
- Figure 28(b) shows the state of switching in the opposite direction.
- the duplicate flag is set to "1" for frames that overlap with the immediately preceding frame, and "0" for frames that do not overlap with the immediately preceding frame. Therefore, on the receiving side, based on this duplicate flag, it is possible to determine which frames overlap with the immediately preceding frame without performing correlation detection, etc., making it possible to reduce the processing load on the pulled-down image data.
- Figures 29(a) and (b) show examples where the pull-down information associated with image data (image information) for each frame is a pull-down flag constituting flag information indicating whether or not pull-down has been performed.
- Figure 29(a) shows a state of switching from 60 Hz frame rate image data obtained by pulling down 24 Hz frame rate image data, which is image information of film material (movie material), to 60 Hz frame rate image data, which is image information of video material that has not been pulled down
- Figure 29(b) shows a state of switching in the opposite direction.
- the pull-down flag is set to "1" for each frame of image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information from film material (movie material), and is set to "0" for each frame of image data with a frame rate of 60 Hz, which is image information from video material that has not been pulled down. Therefore, on the receiving side, based on this pull-down flag, the starting point of pull-down, etc. can be detected without correlation detection, etc., making it possible to reduce the processing load on the pulled-down image data.
- Figures 30(a) and (b) show examples in which the pull-down information associated with image data (image information) for each frame is both the duplicate flag and the pull-down flag described above.
- Figure 30(a) shows the state of switching from 60 Hz frame rate image data obtained by pulling down 24 Hz frame rate image data, which is image information of film material (movie material), to 60 Hz frame rate image data, which is image information of video material that has not been pulled down, and
- Figure 30(b) shows the state of switching in the opposite direction.
- the duplicate flag is set to "1" for frames that overlap with the immediately preceding frame, and "0" for frames that do not overlap with the immediately preceding frame.
- the pull-down flag is set to "1" for each frame of image data with a frame rate of 60 Hz obtained by pulling down image data with a frame rate of 24 Hz, which is image information from film material (movie material), and is set to "0" for each frame of image data with a frame rate of 60 Hz, which is image information from video material that has not been pulled down.
- Figures 31(a) and (b) show an example of the data structure of a packet of a newly defined video frame structure infoframe (Video frame structure IF) that includes both a duplicate flag and a pull-down flag.
- Figure 31(a) shows the packet header (Pull-down IF Packet Header), and
- Figure 31(b) shows the packet contents (Pull-down IF Packet Contents).
- Packet Type which indicates the type of packet.
- Byte HB1 describes the version of the packet data definition.
- Byte HB2 describes information indicating the packet length. Here, it is set to "0x01".
- Figure 31 (c) shows an example of the data structure of a packet header (Video frame structure IF Packet Header) that contains only a duplicate flag.
- the duplicate flag (DPL: duplicate flag) is written in the 0th bit of byte PB1.
- Figure 31(d) shows an example of the data structure of the packet header (Video frame structure IF Packet Header) when it contains only a pull-down flag.
- the pull-down flag (PDN: Pull-down IF) is written in the first bit of byte PB1.
- FIG 32(a) shows the EMP Header of an Extended Metadata Packet (EMP), which is a packet having a video frame structure Extended Metadata (EM) that includes a duplicate flag and a pull-down flag
- Figure 32(b) shows the EMP Contents.
- EMP Extended Metadata Packet
- EM Extended Metadata Packet
- Figure 32(b) shows the EMP Contents.
- Figure 32(c) shows the MD (MetaData) content, i.e. the video frame structure EM, placed in bytes PB7-PB27 of the contents (EMP Contents).
- MD0 describes the duplicate flag (DPL) and pull-down flag (PDN) in the same way as byte PB1 in the contents of the video frame structure infoframe packet shown in Figure 31(b) above.
- the pull-down information is associated with the image data (image information) for each frame by inserting an info frame or EMP having pull-down information in the blanking period of the image data (image information), but the method of association is not limited to this.
- a method using a table that associates the frame number of each frame of the image data (image information) with the pull-down information can be considered.
- image data (image information) in which pull-down information is associated with each frame is transmitted to the receiving side (display side) via an HDMI transmission path
- the transmission path is not limited to an HDMI transmission path and may be other wired or wireless transmission paths.
- the transmission path may be a broadcast path or a communication path.
- image data (image information) in which pull-down information is associated with each frame is transmitted to the receiving side (display side) via an HDMI transmission path.
- the present technology can also be applied to a system in which image data (image information) in which pull-down information is associated with each frame is written to a recording medium, and the recording medium is used to supply image data (image information) in which pull-down information is associated with each frame to the display side.
- the present technology can also be applied to a system in which image data (image information) in which pull-down information is associated with each frame is stored in a server on a network, and the display side obtains image data (image information) in which pull-down information is associated with each frame from the server.
- the source device was a media player
- the source device is not limited to a media player and may be other devices with similar functions, such as a BD player, an Internet-compatible streaming device (network media player), a set-top box, etc.
- the sink device is not limited to a television receiver and may be any device with similar display functions.
- the technology can also be configured as follows: (1) An image processing device comprising an information associating unit that associates pull-down information with image information for each frame. (2) The image processing device according to (1), wherein the pulldown information includes a pulldown ratio and an identifier within a repeat sequence. (3) The image processing device according to (2), wherein the pulldown ratio is set to 1:1 if the image information is not pulldown information. (4) The image processing device according to (2), wherein the identifier is composed of a combination of a source frame count corresponding to a frame before pulldown and a base frame count corresponding to a frame after pulldown. (5) The image processing device according to (4), wherein the source frame count is fixed to 0 if the image information is not pulled down.
- the image processing device includes flag information indicating whether or not the pull-down information overlaps with a previous frame.
- the pull-down information includes flag information indicating whether or not the image is pulled down.
- the image processing device inserts the pulldown information into a blanking period of image information for each frame.
- the information associating unit inserts the pull-down information into the blanking period as IF (InfoFrame) information.
- the image processing device (10) The image processing device according to (8), wherein the information associating unit inserts the pulldown information into the blanking period as EMP (Extended Metadata Packet) information.
- the image processing device according to any one of (1) to (10), further comprising a transmission unit that transmits the image information, in which pull-down information is associated with each of the frames, to an external device via a transmission path.
- An image processing device comprising: a processing unit that extracts second image information of a frame before pulldown from first image information based on pulldown information associated with the first image information for each frame, to obtain image information for display.
- the pulldown information includes a pulldown ratio and an identifier within a repeat sequence.
- the identifier is composed of a combination of a source frame count corresponding to a frame before pulldown and a base frame count corresponding to a frame after pulldown, The image processing device according to (14), wherein the processing unit obtains second image information of the frame before the pulldown by extracting image information of a frame corresponding to a change in the count of the source frame from the first image information.
- the identifier is composed of a combination of a source frame count corresponding to a frame before pulldown and a base frame count corresponding to a frame after pulldown, The image processing device according to (14) or (15), wherein the processing unit synchronizes the frequency division unit at a frame timing when both the source frame count and the base frame count become 1.
- the image processing device determines whether or not the first image information has been pulled down based on the pull-down information, and if the first image information has been pulled down, obtains second image information of a frame before the pull-down based on the pull-down information from the first image information to obtain image information for display.
- the pulldown information includes a pulldown ratio
- the pull-down information includes an identifier within a repeat sequence; the identifier is composed of a combination of a source frame count corresponding to a frame before pulldown and a base frame count corresponding to a frame after pulldown;
- the image processing device according to (18), wherein the processing unit determines that the first image information is not pulled down when the source frame count is 0.
- a method for detecting a color image of a subject comprising: the first image processing device includes an information associating unit that associates pull-down information with the first image information for each frame;
- the second image processing device includes a processing unit that obtains second image information of a frame before pulldown from the first image information based on pulldown information associated with the first image information for each frame, to obtain image information for display.
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Television Systems (AREA)
Abstract
画像情報に係るプルダウン情報を容易に取得して利用可能とする。 情報対応付け部により、画像情報に対してフレーム毎にプルダウン情報が対応付けされる。例えば、プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む、この識別子は、例えば、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成される。プルダウン情報は、例えば、フレーム毎の画像情報のブランキング期間に挿入される。
Description
本技術は、画像処理装置および画像処理システムに関し、詳しくは、プルダウン処理された画像情報を取り扱う画像処理装置等に関する。
従来、例えばメディアプレーヤ等のソース機器からテレビ(TV)等のシンク機器にHDMI(High-Definition Multimedia Interface)伝送路を介して画像情報を送信することが知られている。この場合の画像情報には、プルダウンされていない画像情報が含まれるほか、プルダウンされた画像情報も含まれる。なお、「HDMI」は登録商標である。
例えば、24Hzのフィルム素材(映画素材)の画像情報をプルダウンして60Hzの画像情報として送信することが行われている。これにより、フィルム素材とビデオ素材を混在して送信する場合に、双方の画像情報のフレームレートを合わせることができ、伝送モード変更をせずに送信することが可能となり、受信側において伝送モード変更に伴う表示乱れの発生を抑制することが可能となる。
従来、上述したように24Hzのフィルム素材の画像情報をプルダウンして得られた60Hzの画像情報に関しては、受信側において、プルダウンを検出し、プルダウンされていない60Hzのビデオ素材の画像情報とは異なる処理を行って、ビデオ素材として適切な表示用画像情報を得ることが知られている。
例えば、ビデオ素材の60Hzの画像情報に関しては、全てのフレームの画像情報を用いてフレーム補間を行って表示用画像情報を得る等の処理が行なわれるが、フィルム素材の24Hzの画像情報をプルダウンして得られた60Hzの画像情報に関しては、プルダウン前の24Hzのフレームの画像情報を取得し、この24Hzのフレームの画像情報に対してフレーム多重化を行って表示用画像情報を得る等の処理が行われる。
従来、24Hzのフィルム素材の画像情報をプルダウンして得られた60Hzの画像情報に関しては、受信側でフレーム相関を用いてプルダウンされているか等を検出することが行われているが、検出に時間がかかると共に、プルダウンにはバリエーションがあるので検出が複雑になるという問題があった。ここで、例えば24Hzから60Hzへのプルダウンにおけるバリエーションには、(a)2-3プルダウン、(b)3-2プルダウン、(c)a,bの混合、などがある。
例えば、特許文献1には、動画内の動き検出からプルダウン周期と動きフレーム数とを導出してプルダウン種類を判別し、プルダウン前の元のフレーム周波数を算出する技術が開示されている。
本技術の目的は、画像情報に係るプルダウン情報を容易に取得して利用可能とすることにある。
本技術の概念は、
画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備える
画像処理装置にある。
画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備える
画像処理装置にある。
本技術において、情報対応付け部により、画像情報に対してフレーム毎にプルダウン情報が対応付けされる。例えば、プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む、ようにされてもよい。このようにプルダウン情報にプルダウン比が含まれることで、画像情報がプルダウンされたものである場合、そのプルダウン比を容易に認識でき、プルダウン前の画像情報のフレームレートに対応した同期信号を容易に生成することが可能となる。また、このようにプルダウン情報に繰り返しシーケンス内の識別子が含まれることで、画像情報がプルダウンされたものである場合、プルダウン周期を認識することが容易に可能となり、またプルダウン前のフレームの画像情報を抽出することが容易に可能となる。
この場合、例えば、画像情報がプルダウンされたものでない場合、プルダウン比は1:1とされてもよい。これにより、プルダウン比が1:1であることから、画像情報がプルダウンされたものでないことを認識することが可能となる。
また、この場合、例えば、識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成されてもよい。これにより、画像情報がプルダウンされたものである場合、ソースフレームのカウントおよびベースフレームのカウントのいずれもが1であるフレームがプルダウン周期の先頭のフレームであることを容易に認識可能となり、またソースフレームのカウントが変化するフレームの画像情報を抽出することで、プルダウン前のフレームの画像情報を抽出することが容易に可能となる。
ここで、例えば、画像情報がプルダウンされたものでない場合、ソースフレームのカウントは0に固定されてもよい。これにより、ソースフレームのカウントが0であることから、画像情報がプルダウンされたものでないことを認識することが可能となる。また、これにより、プルダウン比を、この画像情報から切り替えられるプルダウンされた画像情報に対応したものに設定しておき、プルダウンされた画像情報に対する準備を事前に行うことが可能となる。
また、例えば、プルダウン情報は、直前フレームと重複するか否かを示すフラグ情報を含む、ようにされてもよい。これにより、画像情報がプルダウンされたものである場合、フレーム相関を用いることなく、プルダウンされているか等を容易に検出することが可能となる。また、例えば、プルダウン情報は、プルダウンされているか否かを示すフラグ情報を含む、ようにされてもよい。これにより、画像情報がプルダウンされたものである場合、プルダウンされたものであることを容易に検出することが可能となる。
また、例えば、情報対応付け部は、プルダウン情報をフレーム毎の画像情報のブランキング期間に挿入する、ようにされてもよい。この場合、例えば、情報対応付け部は、プルダウン情報をIF(InfoFrame)情報としてブランキング期間に挿入してもよい。また、この場合、例えば、情報対応付け部は、プルダウン情報をEMP(Extended Metadata Packet)情報としてブランキング期間に挿入してもよい。これにより、画像情報に対してフレーム毎にプルダウン情報を対応付けることが容易に行い得る。
また、例えば、フレーム毎にプルダウン情報が対応付けされた画像情報を、伝送路を介して外部機器に送信する送信部をさらに備える、ようにされてもよい。この場合、伝送路は、例えばHDMI伝送路であってもよい。これにより、フレーム毎にプルダウン情報が対応付けされた画像情報を外部機器に送信でき、外部機器において、その画像情報をプルダウン情報に基づいて簡単かつ適切に処理して表示用画像情報を得ることが可能なる。
このように本技術においては、画像情報に対してフレーム毎にプルダウン情報を対応付けるものであり、画像情報に係るプルダウン情報を容易に取得して利用することが可能となる。
また、本技術の他の概念は、
第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る処理部を備える
画像処理装置にある。
第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る処理部を備える
画像処理装置にある。
本技術において、処理部により、第1の画像情報から、この第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報が取得されて表示用画像情報が得られる。
例えば、プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む、ようにされてもよい。この場合、例えば、処理部は、繰り返しシーケンス内の識別子に基づいてプルダウン前のフレームの第2の画像情報を取得し、プルダウン比に基づいて分周部の分周比を設定してプルダウン前のフレームのフレームレートに対応した同期信号を取得し、取得されたプルダウン前のフレームの第2の画像情報を、取得された同期信号に基づいて処理をして表示用画像情報を得る、ようにされてもよい。これにより、プルダウン情報に含まれるプルダウン比と繰り返しシーケンス内の識別子に基づいて、表示用画像情報を良好に得ることが可能となる。
ここで、例えば、識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、処理部は、第1の画像情報からソースフレームのカウントの変化に対応したフレームの画像情報を抽出することで、プルダウン前のフレームの第2の画像情報を取得する、ようにされてもよい。これにより、プルダウン前のフレームの第2の画像情報を適切に取得可能となる。
また、ここで、例えば、識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、処理部は、ソースフレームのカウントおよびベースフレームのカウントの双方が1となるフレームのタイミングで分周部の同期合わせをする、ようにされてもよい。これにより、分周部で取得される同期信号の位相をプルプルダウン前のフレームの第2の画像情報のフレームの位相に合わせることが可能となり、例えばオーディオとの同期合わせを良好に行い得るものとなる。
このように本技術においては、第1の画像情報から、この第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得るものであり、第1の画像情報に対してフレーム相関を用いてプルダウンされているか等を検出することが必要なく、表示用画像情報を容易かつ適切に得ることが可能となる。
なお、本技術において、例えば、処理部は、プルダウン情報に基づいて第1の画像情報がプルダウンされたものであるか否かを判断し、第1の画像情報がプルダウンされたものである場合、第1の画像情報からプルダウン情報に基づいてプルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る、ようにされてもよい。これにより、第1の画像情報がプルダウンされたものである場合のみ、プルダウン情報に基づいてプルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得ることが可能となる。
この場合、例えば、プルダウン情報は、プルダウン比を含み、処理部は、プルダウン比が1:1である場合、第1の画像情報はプルダウンされたものではないと判断する、ようにされてもよい。また、この場合、例えば、プルダウン情報は、繰り返しシーケンス内の識別子を含み、この識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、処理部は、ソースフレームのカウントが0である場合、第1の画像情報はプルダウンされたものではないと判断する、ようにされてもよい。
また、本技術の他の概念は、
第1の画像処理装置および第2の画像処理装置を有し、
前記第1の画像処理装置は、第1の画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備え、
前記第2の画像処理装置は、前記第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る処理部を備える
画像処理システムにある。
第1の画像処理装置および第2の画像処理装置を有し、
前記第1の画像処理装置は、第1の画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備え、
前記第2の画像処理装置は、前記第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る処理部を備える
画像処理システムにある。
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明を以下の順序で行う。
1.実施の形態
1-1.送受信システムの構成例
1-2.HDMI送信部/受信部の構成例
1-3.TMDS伝送データの構造例
1-4.メディアプレーヤの構成例
1-4-1.AVIインフォフレーム
1-4-2.画像データに対してのプルダウン情報の対応付け
1-4-3.シンク機器のプルダウン・インフォフレーム対応/非対応
1-4-4.プルダウンEMを持つパケットであるEMP
1-5.テレビ受信機の構成例
1-5-1.画像変換部および表示制御部の構成例
1-5-2.テレビ受信機における受信画像データに対する表示動作
1-5-3.N/M分周部およびフレーム抽出部に対する制御処理手順
1-6.テレビ受信機の他の構成例
1-7.ソフトウェアによる処理
2.変形例
2-1.プルダウンの他の例
2-2.24Hz/48Hz混在コンテンツの場合
2-3.プルダウン情報の他の例
2-4.その他
1.実施の形態
1-1.送受信システムの構成例
1-2.HDMI送信部/受信部の構成例
1-3.TMDS伝送データの構造例
1-4.メディアプレーヤの構成例
1-4-1.AVIインフォフレーム
1-4-2.画像データに対してのプルダウン情報の対応付け
1-4-3.シンク機器のプルダウン・インフォフレーム対応/非対応
1-4-4.プルダウンEMを持つパケットであるEMP
1-5.テレビ受信機の構成例
1-5-1.画像変換部および表示制御部の構成例
1-5-2.テレビ受信機における受信画像データに対する表示動作
1-5-3.N/M分周部およびフレーム抽出部に対する制御処理手順
1-6.テレビ受信機の他の構成例
1-7.ソフトウェアによる処理
2.変形例
2-1.プルダウンの他の例
2-2.24Hz/48Hz混在コンテンツの場合
2-3.プルダウン情報の他の例
2-4.その他
<1.実施の形態>
[1-1.送受信システムの構成例]
図1は、実施の形態としての画像処理システム10の構成例を示している。この画像処理システム10は、ソース機器であるメディアプレーヤ100とシンク機器であるテレビ受信機200が、HDMIケーブル300で接続された構成とされている。ここで、HDMIケーブル300は、伝送路を構成している。
[1-1.送受信システムの構成例]
図1は、実施の形態としての画像処理システム10の構成例を示している。この画像処理システム10は、ソース機器であるメディアプレーヤ100とシンク機器であるテレビ受信機200が、HDMIケーブル300で接続された構成とされている。ここで、HDMIケーブル300は、伝送路を構成している。
メディアプレーヤ100は、画像情報に対してフレーム毎にプルダウン情報を対応付けする。そして、メディアプレーヤ100は、フレーム毎にプルダウン情報を対応付けされた画像情報を、テレビ受信機200にHDMIケーブル300を介して送信する。
この実施の形態において、プルダウン情報は、プルダウン比と繰り返しシーケンスの識別子を含むものとされる。そして、この実施の形態において、繰り返しシーケンスの識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成される。なお、繰り返しシーケンスの識別子は、この2つのカウントの組み合わせに限定されるものではなく、繰り返しシーケンスの各フレームの識別が可能な構成であればよい。
画像情報が、プルダウンされたものでない場合も、画像情報に対してフレーム毎にプルダウン情報を対応付けすることも考えられ、その場合、プルダウン情報は、例えば、画像情報がプルダウンされたものでないことを識別可能な状態に設定される。例えば、プルダウン情報に含まれるプルダウン比は、1:1とされる。
また、例えば、プルダウン情報に含まれる繰り返しシーケンスの識別子を構成するソースフレームのカウントは、0に固定される。このようにソースフレームのカウントを0に固定して画像情報がプルダウンされたものでないことを識別可能とすることで、プルダウン比は1:1ではなく、この画像情報から切り替えられるプルダウンされた画像情報に対応したものに設定することが可能となり、プルダウンされた画像情報に対する準備を事前に行い得るようにすることが可能となる。
この実施の形態において、画像情報のブランキング期間にプルダウン情報を挿入することで、画像情報に対してフレーム毎にプルダウン情報を対応付けることが行われる。例えば、プルダウン情報は、IF(InfoFrame)情報として、ブランキング期間に挿入される。また、例えば、HDMI2.1の場合には、プルダウン情報は、EMP(Extended Metadata Packet)情報として,ブランキング期間に挿入することも可能である。なお、画像情報に対してフレーム毎にプルダウン情報を対応付けるための手法は、画像情報のブランキング期間にプルダウン情報を挿入する手法に限定されるものではなく、その他の手法が採用されてもよい。
テレビ受信機200は、メディアプレーヤ100からHDMIケーブル300を介して受信された画像情報(第1の画像情報)がプルダウンされたものである場合、この画像情報(第1の画像情報)から、この画像情報(第1の画像情報)に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの画像情報(第2の画像情報)を取得して表示用画像情報を得る処理を行って、画像表示をする。
この実施の形態において、プルダウン情報は、上述したように、プルダウン比と繰り返しシーケンスの識別子を含むものとされる。テレビ受信機200は、繰り返しシーケンス内の識別子に基づいてプルダウン前のフレームの画像情報(第2の画像情報)を取得し、プルダウン比に基づいて分周部の分周比を設定してプルダウン前のフレームのフレームレートに対応した同期信号を取得し、取得されたプルダウン前のフレームの画像情報(第2の画像情報)を取得された同期信号に基づいて処理をして表示用画像情報を得る。このようにプルダウン情報に含まれるプルダウン比と繰り返しシーケンスの識別子を用いることで、表示用画像情報を良好に得ることが可能となる。
また、この実施の形態において、繰り返しシーケンスの識別子は、上述したように、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成される。テレビ受信機200は、画像情報(第1の画像情報)からソースフレームのカウントの変化に対応したフレームの画像情報を抽出することで、プルダウン前のフレームの画像情報(第2の画像情報)を、適切に取得する。また、テレビ受信機200は、ソースフレームのカウントおよびベースフレームのカウントの双方が1となるフレームのタイミングで分周部の同期合わせをすることで、分周部で取得される同期信号の位相をプルプルダウン前の画像情報(第2の画像情報)のフレーム位相に合わせることができ、例えばオーディオとの同期合わせを良好に行い得るものとする。
また、テレビ受信機200は、メディアプレーヤ100からHDMIケーブル300を介して受信された画像情報がプルダウンされたものであるかを判断し、プルダウンされたものでない場合、この画像情報を用いて表示用画像情報を得る処理を行って、画像表示をする。
ここで、テレビ受信機200は、受信された画像情報に対してフレーム毎に対応付けされているプルダウン情報が存在しない場合、受信された画像情報はプルダウンされたものではないと判断する。また、テレビ受信機200は、受信された画像情報に対してフレーム毎に対応付けされているプルダウン情報が存在するが、プルダウン比が1:1である場合、受信された画像情報はプルダウンされたものではないと判断する。また、テレビ受信機200は、受信された画像情報に対してフレーム毎に対応付けされているプルダウン情報が存在するが、ソースフレームのカウントが0である場合、受信された画像情報はプルダウンされたものではないと判断する。
「1-2.HDMI送信部/受信部の構成例」
図2は、画像処理システム10における、メディアプレーヤ100のデータ送信部(HDMI送信部)と、テレビ受信機200のデータ受信部(HDMI受信部)の構成例を示している。
図2は、画像処理システム10における、メディアプレーヤ100のデータ送信部(HDMI送信部)と、テレビ受信機200のデータ受信部(HDMI受信部)の構成例を示している。
メディアプレーヤ100は、ある垂直同期信号から次の垂直同期信号までの区間から、水平帰線区間及び垂直帰線区間を除いた区間である有効画像区間(以下、適宜、「アクティブビデオ区間」ともいう)において、1画面分の画像データ(Vido)に対応する差動信号を、複数のチャネルで、テレビ受信機200に送信するとともに、水平ブランキング期間または垂直ブランキング期間において、画像データに付随する音声データ(Audio)や補助データ(Auxiliary)に対応する差動信号を、複数のチャネルで、テレビ受信機200に送信する。なお、補助データには、アクティブオーディオストリームやアクティブビデオストリーム、またはソースを説明するためのインフォフレーム(InfoFrame)およびその他のデータが含まれる。
すなわち、メディアプレーヤ100は、HDMIトランスミッタ(HDMI Transmitter)101を有する。HDMIトランスミッタ101は、例えば、画像データを対応する差動信号に変換し、複数のチャネルである3つのTMDSチャネル#0,#1,#2で、HDMIケーブル300を介して接続されているテレビ受信機200に、シリアル伝送する。
また、HDMIトランスミッタ101は、画像データに付随する音声データや補助データを対応する差動信号に変換し、3つのTMDSチャネル#0,#1,#2で、HDMIケーブル300を介して接続されているテレビ受信機200に、シリアル伝送する。
さらに、HDMIトランスミッタ101は、3つのTMDSチャネル#0,#1,#2で送信する画像データに同期したピクセルクロックを、TMDSクロックチャネルで、HDMIケーブル300を介して接続されているテレビ受信機200に送信する。1つのTMDSチャネル#i(i=0,1,2)では、ピクセルクロックの1クロックの間に、10ビットの画像データが送信される。
ここで、TMDSコーディングは、8ビットのデータを10ビットのデータに変換する8ビット/10ビット変換コーディングであり、前データとの比較から遷移点を少なくすることによって不要輻射等の悪影響を抑えた上でDCバランスを維持するコーディングとなっている。そのため、理論上コーディングのランレングスの保証ができないため、DC結合およびクロックの別送が必須となる。
テレビ受信機200は、アクティブビデオ区間において、複数のチャネルで、メディアプレーヤ100から送信されてくる、画像データに対応する差動信号を受信するとともに、水平ブランキング期間または垂直ブランキング期間において、複数のチャネルで、テレビ受信機200から送信されてくる、音声データや補助データに対応する差動信号を受信する。
すなわち、テレビ受信機200は、HDMIレシーバ(HDMI Receiver)201を有する。HDMIレシーバ201は、TMDSチャネル#0,#1,#2で、HDMIケーブル300を介して接続されているメディアプレーヤ100から送信されてくる、画像データに対応する差動信号と、音声データや補助データに対応する差動信号を、同じくメディアプレーヤ100からTMDSクロックチャネルで送信されてくるピクセルクロックに同期して受信する。
上述では、TMDSチャネル#0,#1,#2で画像データ、音声データ、補助データを伝送し、TMDSクロックチャネルでピクセルクロックを伝送する例を示したが、これは、HDMI1.4以前およびHDMI2.0に対応している。HDMI2.1の場合には、FRLレーン(FRL Lane)#0,#1,#2,#3を使用した伝送が行われる。この場合、TMDSクロックチャネルがFRLレーン#3となる。
この場合、#0~#2の3レーンまたは#0~#3の4レーンを使用した固定レートリンク(FRL)パケットによるデータ伝送が行われる。ここで、FRL キャラクタ(FRL Character)コーディングは、16ビットのデータを18ビットのデータに変換する16ビット/18ビット変換コーディングであり、DCバランスを維持するコーディングであって、クロック抽出が可能なコーディングである。
なお、HDMIシステムの伝送チャネルには、上述したTMDSやFRLの伝送チャネルの他に、DDC(Display Data Channel)、さらには、CECライン(CEC Line)、ユーティリティライン(Utility Line)およびHPDライン(HPD Line)と呼ばれる伝送チャネルがある。
DDCは、HDMIケーブル300に含まれる図示しない2本のライン(信号線)からなる。DDCは、メディアプレーヤ100が、HDMIケーブル300を介して、テレビ受信機200が持つEDID ROM(Extended Display Identification ROM)に格納されるEDIDの読み取り行うために使用される。また、DDCは、メディアプレーヤ100が、HDMIケーブル300を介して、テレビ受信機200が持つSCDC(Status and Control Data Channel)レジスタに格納されるSCDCSのデータの読み取りや書き込みを行うために使用される。
また、CECラインは、メディアプレーヤ100とテレビ受信機200との間で、制御用のデータの双方向通信を行うために用いられる。HPDラインは、メディアプレーヤ100がテレビ受信機200の接続を検出するために用いられる。また、ユーティリティラインおよびHPDラインを利用して、HEAC(HDMI Ethernet and Audio Return Channel)やeARC(Enhanced Audio Return Channel)が構成される。
「1-3.TMDS伝送データの構造例」
図3は、TMDS伝送データの構造例を示している。この構造例においては、TMDSチャネル#0~#2において、横×縦がBピクセル×Aラインの画像データが伝送される場合の、各種の伝送データの区間を示している。HDMIのTMDSチャネルで伝送データが伝送されるビデオフィールド(Video Field)には、伝送データの種類に応じて、3種類の区間が存在する。この3種類の区間は、ビデオデータ区間(Video Data period)、データアイランド区間(Data Island period)およびコントロール区間(Control period)である。
図3は、TMDS伝送データの構造例を示している。この構造例においては、TMDSチャネル#0~#2において、横×縦がBピクセル×Aラインの画像データが伝送される場合の、各種の伝送データの区間を示している。HDMIのTMDSチャネルで伝送データが伝送されるビデオフィールド(Video Field)には、伝送データの種類に応じて、3種類の区間が存在する。この3種類の区間は、ビデオデータ区間(Video Data period)、データアイランド区間(Data Island period)およびコントロール区間(Control period)である。
ここで、ビデオフィールド区間は、ある垂直同期信号の立ち上がりエッジ(active edge)から次の垂直同期信号の立ち上がりエッジまでの区間である。このビデオフィールド区間は、水平ブランキング期間(horizontal blanking)、垂直ブランキング期間(vertical blanking)、並びに、アクティブビデオ区間(Active Video)に分けられる。このアクティブビデオ区間は、ビデオフィールド区間から、水平ブランキング期間および垂直ブランキング期間を除いた区間であり、上述のビデオデータ区間に対応する。このビデオデータ区間では、1画面分の画像データを構成するBピクセル(画素)×Aライン分の有効画素(Active pixel)のデータが伝送される。
データアイランド区間は、水平ブランキング期間と垂直ブランキング期間の一部分に割り当てられている。このデータアイランド区間では、音声データや補助データがパケット化されて伝送される。コントロール区間は、水平ブランキング期間と垂直ブランキング期間の他の部分に割り当てられている。このコントロール区間では、垂直同期信号、水平同期信号等が伝送される。
「1-4.メディアプレーヤの構成例」
図4は、メディアプレーヤ100の構成例を示している。この図4において、図2と対応する部分には同一符号を付して示している。メディアプレーヤ100は、HDMIトランスミッタ101の他に、制御部102と、プルダウン変換部103と、切り替えスイッチ104,105を有している。
図4は、メディアプレーヤ100の構成例を示している。この図4において、図2と対応する部分には同一符号を付して示している。メディアプレーヤ100は、HDMIトランスミッタ101の他に、制御部102と、プルダウン変換部103と、切り替えスイッチ104,105を有している。
制御部102は、メディアプレーヤ100の各部の動作を制御する。プルダウン変換部103は、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データVaをプルダウンし、60Hzのフレームレートの画像データVbを得る。ここで、24Hzから60Hzへのプルダウンにはいくつかの種類が存在するが、プルダウン変換部103では、ずれかの種類のプルダウンが行われる。
図5(a)~(c)は、24Hzから60Hzへのプルダウンの種類の一例を示している。図5(a)は、プルダウン前の2フレーム毎にプルダウン後の5フレームに変換されるものであって、1番目のフレームが2フレームに変換され、2番目のフレームが3フレームに変換される、いわゆる2-3プルダウンである。この図において、プルダウン後のフレームのうち「*」印が付されたフレームは、前のフレームと同一のフレーム(重複フレーム)であることを示している。このことは、他の図においても、同様である。
図5(b)は、プルダウン前の2フレーム毎にプルダウン後の5フレームに変換するものであって、1番目のフレームが3フレームに変換され、2番目のフレームが2フレームに変換される、いわゆる3-2プルダウンである。図5(c)は、図5(a)に示す2-3プルダウンと図5(b)に示す3-2プルダウンが混合されたものである。
図4に戻って、切り替えスイッチ104は、プルダウン変換されていない24Hzのフレームレートの画像データVaとプルダウン変換された60Hzのフレームレートの画像データVbとの切り替えを行う。この場合、画像データVaはa側の固定端子に入力され、画像データVbはb側の固定端子に入力され、可動端子から画像データVaまたは画像データVbが画像データVcとして出力される。
切り替えスイッチ105は、ビデオ素材の画像情報である60Hzのフレームレートの画像データVdと切り替えスイッチ104から出力される画像データVcとの切り替えを行う。この場合、画像データVdはa側の固定端子に入力され、画像データVcはb側の固定端子に入力され、可動端子から画像データVdまたは画像データVcが画像データVeとして出力され、画像データ(Video)として、HDMIトランスミッタ101に供給される。
ここで、画像データVeは、切り替えスイッチ104,105の切り替え状態に応じて、ビデオ素材の画像情報である60Hzのフレームレートの画像データ、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データ、またはフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データとなる。
HDMIトランスミッタ101には、画像データ(Video)の他に、この画像データ(Video)に対応した水平同期信号(Hsync)および垂直同期信号(Vsync)と、この画像データ(Video)に付随した音声データ(Audio)および補助データ(Auxiliary)が供給される。HDMIトランスミッタ101では、これらのデータがTMDS伝送データに合成され、HDMIケーブル300を介して、テレビ受信機200に送信される。
なお、補助データ(Auxiliary)は、制御部102からHDMIトランスミッタ101に供給される。この補助データ(Auxiliary)には、上述したように、アクティブオーディオストリームやアクティブビデオストリーム、またはソースを説明するためのインフォフレーム(InfoFrame)およびその他のデータが含まれる。
「1-4-1.AVIインフォフレーム」
補助データ(Auxiliary)に含まれるインフォフレーム(InfoFrame)として、AVIインフォフレーム(AVI-IF:Auxiliary Video Information InfoFrame)がある。このAVIインフォフレームは、画像に関する付帯情報をソース機器からシンク機器に伝送可能となっている。
補助データ(Auxiliary)に含まれるインフォフレーム(InfoFrame)として、AVIインフォフレーム(AVI-IF:Auxiliary Video Information InfoFrame)がある。このAVIインフォフレームは、画像に関する付帯情報をソース機器からシンク機器に伝送可能となっている。
図6(a),(b)は、AVIインフォフレームパケットのデータ構造例を示している。このAVIインフォフレームパケットは、CTA-861-Hで定義され、HDMI側で若干の仕様変更がされたものである。図6(a)は、パケットヘッダ(AVI IF Packet Header)を示し、図6(b)は、パケットコンテンツ(AVI IF Packet Contents)を示している。
パケットコンテンツのバイトPB4には、ビデオフォーマット識別コード(VIC:Video Format Identification Code)が配置されている。例えば、以下に一例を示すように、VICの値から、送信され画像データ(Video)における画枠やフレームレートが分かる。
VIC=16 : 2K60P(1920×1080/60P)
VIC=32 : 2K24P(1920×1080/24P)
VIC=111: 2K48P(1920×1080/48P)
VIC=97 : 4K60P(3840×2160/60P)
VIC=93 : 4K24P(3840×2160/24P)
VIC=114: 4K48P(3840×2160/48P)
VIC=32 : 2K24P(1920×1080/24P)
VIC=111: 2K48P(1920×1080/48P)
VIC=97 : 4K60P(3840×2160/60P)
VIC=93 : 4K24P(3840×2160/24P)
VIC=114: 4K48P(3840×2160/48P)
また、詳細説明は省略するが、パケットコンテンツには、上述のビデオフォーマット識別コードの他に、色空間等のビデオ関連情報が含まれている。
「1-4-2.画像データに対してのプルダウン情報の対応付け」
この実施の形態において、少なくとも、HDMIトランスミッタ101に供給される画像データ(Video)が、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データである場合、この画像データ(画像情報)に対してフレーム毎にプルダウン情報が対応付けられる。
この実施の形態において、少なくとも、HDMIトランスミッタ101に供給される画像データ(Video)が、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データである場合、この画像データ(画像情報)に対してフレーム毎にプルダウン情報が対応付けられる。
そのため、制御部102は、HDMIトランスミッタ101に供給される補助データ(Auxiliary)に、プルダウン情報を持つ、新規定義するプルダウン・インフォフレーム(Pull-down IF)を含める。このプルダウン・インフォフレームは、プルダウン情報としてプルダウン比と繰り返しシーケンス内の識別子を含んでいる。ここで、制御部102は、情報対応付け部を構成している。
図7(a),(b)は、プルダウン・インフォフレームパケットのデータ構造例を示している。図7(a)は、パケットヘッダ(Pull-down IF Packet Header)を示し、図7(b)は、パケットコンテンツ(Pull-down IF Packet Contents)を示している。
最初に、図7(a)に示すパケットヘッダ(Pull-down IF Packet Header)について説明する。バイトHB0に、パケットの種類を示す「Packet Type」が定義される。ここでは、プルダウン・インフォフレームパケットを示すものとされる。バイトHB1に、パケットデータ定義のバージョンが記述される。バイトHB2に、パケット長を表す情報が記述される。ここでは、「0x04」とされる。
次に、図7(b)に示すパケットコンテンツ(Pull-down IF Packet Contents)について説明する。バイトPB1およびバイトPB2に、プルダウン比が記述される。バイトPB1の「Source Frame Rate Ratio = N」はプルダウン前のフレームであるソースフレームのフレームレートの比率Nを示し、バイトPB2の「Base Frame Rate Ratio = M」はプルダウン後のフレームであるベースフレームのフレームレートの比率Mを示す。例えば、24Hzから60Hzへのプルダウンの場合、プルダウン比は2:5であり、N=2、M=5となる。
バイトPB1およびバイトPB2に繰り返しシーケンス内の識別子が記述される。ここでは、識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成されている。バイトPB3の「Source Frame Count = s」はプルダウン前のフレームに対応したソースフレームのカウントを示し、バイトPB4の「Base Frame Count = b」はプルダウン後のフレームに対応したベースフレームのカウントを示す。
図8は、24Hzから60Hzへのプルダウンにおいて、フレーム毎に対応付けられるプルダウン・インフォフレームに含まれるプルダウン比N:Mと、繰り返しシーケンス内の識別子を構成するカウントs,bの一例を示している。なお、ここでは、2-3プルダウンの場合の例を示している。
この場合、ソースフレームのフレームレート(24Hz)とベースフレームのフレームレート(60Hz)との比は2:5、つまりプルダウン比は2:5であるので、N=2,M=5とされる。また、繰り返しシーケンスは、第1フレームから第5フレームの5フレーム周期であり、カウントs,bは、第1フレームでは「1,1」、第2フレームでは「1,2」、第3フレームでは「2,3」、第4フレームでは「2,4」、第5フレームでは「2,5」となる。プルダウン前のフレームに対応したソースフレームのカウントsは、1~2(N)で繰り返し、このカウントsの値が同一のフレームは重複(再送)フレームである。プルダウン後のフレームに対応したベースフレームのカウントbは1~5(M)で繰り返す。s=b=1のとき、プルダウン前後のフレーム位相が一致する。
「1-4-3.シンク機器のプルダウン・インフォフレーム対応/非対応」
なお、この新規定義するプルダウン・インフォフレームに関しては、非対応のシンク機器は無視して従来通りの処理をするので互換性問題は生じない。メディアプレーヤ100は、シンク機器が、プルダウン・インフォフレームに対応している場合にだけ、補助データ(Auxiliary)に、プルダウン・インフォフレームを含めることも考えられる。
なお、この新規定義するプルダウン・インフォフレームに関しては、非対応のシンク機器は無視して従来通りの処理をするので互換性問題は生じない。メディアプレーヤ100は、シンク機器が、プルダウン・インフォフレームに対応している場合にだけ、補助データ(Auxiliary)に、プルダウン・インフォフレームを含めることも考えられる。
例えば、メディアプレーヤ100は、シンク機器のEDID(Extended Display Identification Data)上に新たに定義される、プルダウン・インフォフレームに対応しているか否かを示すフラグ情報に基づいて、シンク機器がプルダウン・インフォフレームに対応しているか否かを判断することが考えられる。
図9(a)は、HDMI2.0で新規にEDID(Extended Display Identification Data)に定義されたHF-VSDB(HDMI Forum Vendor Specific Data Block)の構造例を示している。図9(b)は、HF-VSDBの第4バイト以降に配置されるSCDS(Sink Capability Data Structure)の構造例を示している。例えば、現状ではリザーブ扱いであるバイトPB11の第0ビットに、プルダウン・インフォフレームに対応しているか否かを示すPD-IFフラグを新たに定義する。この場合、“0”は「非対応」を示し、“1”は「対応」を示す。
なお、この実施の形態において、テレビ受信機200は、プルダウン・インフォフレームに対応しているものとして、以下説明をする。
「1-4-4.プルダウンEMを持つパケットであるEMP」
上述では、補助データ(Auxiliary)に、プルダウン情報を持つ、新規定義するプルダウン・インフォフレームを含める旨を説明した。しかし、補助データ(Auxiliary)にプルダウン・インフォフレームを含める代わりに、補助データ(Auxiliary)に、プルダウン情報を持つ、プルダウンEM(Pull-down Extended Metadata)を含めることも考えられる。
上述では、補助データ(Auxiliary)に、プルダウン情報を持つ、新規定義するプルダウン・インフォフレームを含める旨を説明した。しかし、補助データ(Auxiliary)にプルダウン・インフォフレームを含める代わりに、補助データ(Auxiliary)に、プルダウン情報を持つ、プルダウンEM(Pull-down Extended Metadata)を含めることも考えられる。
図10(a)は、プルダウンEMを持つパケットであるEMP(Extended Metadata Packet)のヘッダ(EMP Header)を示し、図10(b)は、EMPのコンテンツ(EMP Contents)を示している。
プルダウンEMは、サイズが小さいので、単一のパケットで伝送される。そのため、ヘッダ(EMP Header)の各フィールドは、以下の値に設定される。
Last=1
First=1
Sequence_Index=0
Last=1
First=1
Sequence_Index=0
また、プルダウンEMは、ビデオフォーマット関連でビデオフレーム同期なので、コンテンツ(EMP Contents)の各フィールドは、以下の値に設定される。
Sync=1
VFR=1
AFR=0
DS_Type=2: Unique EM Data Set
End=1, New=1:単一packetで伝送
Organization_ID=1:Pull-down EMはHDMIで規定するEM
Data_Set_Tag =xxxx:HDMIで割り付けたPull-down EM用の識別番号
Data_Set_Length =4:Pull-down EMはMD0...MD3の4 byteを使用
Sync=1
VFR=1
AFR=0
DS_Type=2: Unique EM Data Set
End=1, New=1:単一packetで伝送
Organization_ID=1:Pull-down EMはHDMIで規定するEM
Data_Set_Tag =xxxx:HDMIで割り付けたPull-down EM用の識別番号
Data_Set_Length =4:Pull-down EMはMD0...MD3の4 byteを使用
図10(c)は、コンテンツ(EMP Contents)のバイトPB7-PB27に配置されるMD(MetaData)コンテンツ、つまりプルダウンEMを示している。詳細説明は省略するが、バイトMD0~MD3には、上述の図7(b)に示すプルダウン・インフォフレームパケットのコンテンツにおけるバイトPB1-PB4と同様に、プルダウン比(N:M)と繰り返しシーケンスの識別子(s,b)が記述される。
なお、上述では、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データ(画像情報)に対してフレーム毎に対応付けられるプルダウン情報について説明した。しかし、プルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データに対しても、例えば、プルダウンして得られた60Hzのフレームレートの画像データ(画像情報)との切り替え送信が行われる状態にあって、フレーム毎にプルダウン情報を対応付けること、つまり補助データ(Auxiliary)にプルダウン・インフォフレームを含め、プルダウンされていない60Hzのフレームレートの画像データ(画像情報)であることを、シンク機器側で容易に認識し得るようにすることも考えられる。
図11(a),(b)は、プルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データに対してフレーム毎に対応付けられるプルダウン情報の一例を示している。図11(a)は、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データからプルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データへの切り替えの状態を示し、図11(b)はその逆への切り替えの状態を示している。
プルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データに対してフレーム毎に対応付けられるプルダウン情報について説明する。この場合、ソースフレームのフレームレートとベースフレームのフレームレートとの比は1:1、つまりプルダウン比は1:1であるので、N=1,M=1とされる。これにより、シンク機器であるテレビ受信機200は、N=M=1とされていることに基づいて、受信画像データ(画像情報)はプルダウンされたものでない判断することが可能となる。また、この場合、繰り返しシーケンス内の識別子を構成するカウントs,bは双方とも1に固定される。
図12(a),(b)は、プルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データに対してフレーム毎に対応付けられるプルダウン情報の他の一例を示している。図12(a)は、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データからプルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データへの切り替えの状態を示し、図12(b)はその逆への切り替えの状態を示している。
プルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データに対してフレーム毎に対応付けられるプルダウン情報について説明する。この場合、カウントsは0に固定される。これにより、シンク機器であるテレビ受信機200は、カウントs=0とされていることに基づいて、受信画像データ(画像情報)はプルダウンされたものでないと判断することが可能となる。
また、この場合、ソースフレームのフレームレートとベースフレームのフレームレートとの比は1:1、つまりプルダウン比は1:1であるが、プルダウン比N:Mは、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データにおけるプルダウン比2:5を示すものとされ、N=2,M=5とされる。
このようにプルダウン比N:Mがフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データにおけるプルダウン比2:5を示すものとされることから、プルダウンされた画像データに対する準備、例えば画像変換処理や表示制御処理のために必要となる垂直同期信号の作成等の準備を、事前に行うことが可能となる。
「1-5.テレビ受信機の構成例」
図13は、テレビ受信機200の構成例を示している。この図13において、図2と対応する部分には同一符号を付して示している。テレビ受信機200は、HDMIレシーバ201の他に、制御部202と、N/M分周部203と、切り替えスイッチ204と、フレーム抽出部205と、切り替えスイッチ206と、画像変換部207と、表示制御部208と、表示パネル209を有している。
図13は、テレビ受信機200の構成例を示している。この図13において、図2と対応する部分には同一符号を付して示している。テレビ受信機200は、HDMIレシーバ201の他に、制御部202と、N/M分周部203と、切り替えスイッチ204と、フレーム抽出部205と、切り替えスイッチ206と、画像変換部207と、表示制御部208と、表示パネル209を有している。
制御部202は、テレビ受信機200の各部の動作を制御する。HDMIレシーバ201は、メディアプレーヤ100から受信されるTMDS伝送データから、画像データ(Video)の他に、この画像データ(Video)に対応した垂直同期信号(Vsync)と、この画像データ(Video)に付随した音声データ(Audio)および補助データ(Auxiliary)を得る。HDMIレシーバ201で得られた音声データ(Audio)に関しては、図示を省略しているが、この音声データ(Audio)に基づいた音声出力処理が行われる。
HDMIレシーバ201で得られた補助データ(Auxiliary)は、制御部202に供給される。上述したように補助データ(Auxiliary)は、AVIインフォフレームを含むと共に、少なくとも、画像データ(Video)がフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データである場合、その画像データに対してフレーム毎に対応付けされたプルダウン情報を持つ、プルダウン・インフォフレーム(Pull-down IF)を含んでいる。
そのため、制御部202は、AVIインフォフレームから、ビデオフォーマット識別コードを取得し、画像データ(Video)の画枠やフレームレートを認識する。また、制御部202は、AVIインフォフレームから、画像データ(Video)に係る色空間等のビデオ関連情報を認識する。また、制御部202は、プルダウン・インフォフレームから、画像データ(Video)がフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データであること、さらにそのプルダウン比N:Mと、繰り返しシーケンス内の識別子を構成するカウントs,bを認識する。
また、HDMIレシーバ201で得られた垂直同期信号(Vsync)は、N/M分周部203に供給される。また、N/M分周部203には、制御部202から、プルダウン・インフォフレームから認識されるプルダウン比N:Mに基づいて、N,Mが設定される。そして、N/M分周部203は、HDMIレシーバ201で得られた垂直同期信号(Vsync)、つまりプルダウン後の画像データのフレームレートの垂直同期信号(Vsync)を分周して、プルダウン前の画像データのフレームレートの垂直同期信号(Vsync´)を得る。
この場合、画像データ(Video)がフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データ(画像情報)である場合、HDMIレシーバ201で得られた垂直同期信号(Vsync)は60Hzであるが、N/M分周部203で得られる垂直同期信号(Vsync´)は24Hzとなる。
切り替えスイッチ204は、HDMIレシーバ201で得られた垂直同期信号(Vsync)とN/M分周部203で得られる垂直同期信号(Vsync´)との切り替えを行う。この場合、垂直同期信号(Vsync)はa側の固定端子に入力され、垂直同期信号(Vsync´)はb側の固定端子に入力され、可動端子から、画像データ(Video)がプルダウンされていないものであるときは垂直同期信号(Vsync)が出力され、画像データ(Video)がプルダウンされているものであるときは垂直同期信号(Vsync´)が出力される。
また、HDMIレシーバ201で得られた画像データ(Video)は、フレーム抽出部205に供給される。フレーム抽出部205は、画像データ(Video)から、繰り返しシーケンス内の識別子を構成するカウントsの変化に対応したフレームの画像データを抽出する。このように抽出される各フレームの画像データは、プルダウン前の各フレームの画像データに対応したものである。例えば、画像データ(Video)がフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データである場合、フレーム抽出部205からはプルダウン前の各フレームの画像データに対応した24Hzのフレームレートの画像データが得られる。
切り替えスイッチ206は、HDMIレシーバ201で得られた画像データ(Video)とフレーム抽出部205で抽出された画像データとのとの切り替えを行う。この場合、HDMIレシーバ201で得られた画像データ(Video)はa側の固定端子に入力され、フレーム抽出部205で抽出された画像データはb側の固定端子に入力され、可動端子から、画像データ(Video)がプルダウンされていないものであるときはHDMIレシーバ201で得られた画像データ(Video)が出力され、画像データ(Video)がプルダウンされているものであるときはフレーム抽出部205で抽出された画像データが出力される。
画像変換部207は、切り替えスイッチ206から出力される画像データに対して、切り替えスイッチ204から出力される垂直同期信号に同期して、表示パネル209等に依存しない処理をする。表示制御部208は、画像変換部207で処理された後の画像データに対して、切り替えスイッチ204から出力される垂直同期信号に同期して、表示パネル209等に依存する処理をする。表示パネル209は、例えば液晶表示パネルあるいは有機ELパネル等で構成され、表示制御部208で処理された後の画像データ(表示用画像データ)による画像表示をする。
ここで、フレーム抽出部205、画像変換部207、表示制御部208等は、受信された画像情報から、プルダウン情報に基づいて、プルダウン前のフレームの画像情報を取得して表示用画像情報を得る処理部を構成している。
「1-5-1.画像変換部および表示制御部の構成例」
図14は、画像変換部207および表示制御部208の構成例を示している。画像変換部207は、RGB変換部207aおよびEOTF(Electro-Optical Transfer Function)処理部207bを有している。RGB変換部207aおよびEOTF処理部207bは、AVIインフォフレームに含まれる、入力画像データに係る、RGBデータであるかYCbCrデータであるかを示す情報、色空間情報、量子化範囲情報、等に基づいて、RGB変換処理および電光変換処理をする。
図14は、画像変換部207および表示制御部208の構成例を示している。画像変換部207は、RGB変換部207aおよびEOTF(Electro-Optical Transfer Function)処理部207bを有している。RGB変換部207aおよびEOTF処理部207bは、AVIインフォフレームに含まれる、入力画像データに係る、RGBデータであるかYCbCrデータであるかを示す情報、色空間情報、量子化範囲情報、等に基づいて、RGB変換処理および電光変換処理をする。
表示制御部208は、表示画枠変換部208aと、表示周波数変換部208bと、画質改善処理部208cと、表示用RGB変換部208dを有している。表示画枠変換部208aは、入力画像データや表示パネル209の画枠情報に基づいて表示画枠変換処理をする。
表示周波数変換部208bは、入力画像データのフレームレートを、表示パネル209の表示周波数に合わせる処理をする。画質改善処理部208cは、入力画像データに対してノイズリダクション等の画質改善処理をする。表示用RGB変換部208dは、入力画像データに対して色域変換処理をする。
ここで、表示周波数変換部208b、画質改善処理部208cおよび表示用RGB変換部208dにおける処理は、入力画像データが、ビデオ素材に係る60Hzのフレームレートの画像データであるかフィルム素材(映画素材)に係る24Hzのフレームレートの画像データであるかによって、異なったものとされる。すなわち、入力画像データがビデオ素材に係る60Hzのフレームレートの画像データである場合にはビデオ用処理が行われ、一方、入力画像データがフィルム素材(映画素材)に係る24Hzのフレームレートの画像データである場合にはフィルム(映画)用処理が行われる。
図15(a)は、ビデオ用処理とフィルム(映画)用処理の主な相違点を示している。ビデオ用処理では、60Hzのフレームレートの画像データが対象とされ、フレーム補間処理は有りとされ、色域変換では色温度(white point)が9300Kとされ、ノイズキャンセルはオン(ON)とされる。一方、フィルム(映画)用処理では、24Hzのフレームレートの画像データが対象とされ、フレーム補間処理は無しとされ、色域変換では色温度(white point)が例えば6500Kとされ、ノイズキャンセルはオフ(OFF)とされる。
図15(b)は、表示周波数変換部208b、画質改善処理部208cおよび表示用RGB変換部208dにおけるビデオ用処理の一例を示している。表示周波数変換部208bでは、入力されるビデオ素材に係る60Hzのフレームレートの画像データに対して、フレーム補間処理が施されて、表示パネル209の表示周波数(例えば120Hz)に合わせたフレームレートの画像データが得られる。
また、画質改善処理部208cでは、表示周波数変換部208bから出力された画像データに対してノイズリダクション等の画質改善処理が行われる。また、表示用RGB変換部208dでは、画質改善処理部208cから出力された画像データに対して色温度(white point)を9300Kとする色域変換処理が行われて、表示用画像データが得られる。
図15(c)は、表示周波数変換部208b、画質改善処理部208cおよび表示用RGB変換部208dにおけるフィルム(映画)用処理の一例を示している。表示周波数変換部208bでは、入力されるフィル部素材(映画素材)に係る24Hzのフレームレートの画像データに対して、フレーム多重化処理が施されて、表示パネル209の表示周波数(例えば120Hz)に合わせたフレームレートの画像データが得られる。
また、画質改善処理部208cでは、表示周波数変換部208bから出力された画像データをそのまま出力する。つまり、画質改善処理部208cでは、表示周波数変換部208bから出力された画像データに対して何も処理されない。また、表示用RGB変換部208dでは、画質改善処理部208cから出力された画像データに対して色温度(white point)を6500Kとする色域変換処理が行われて、表示用画像データが得られる。
「1-5-2.テレビ受信機における受信画像データに対する表示動作」
図13に示すテレビ受信機200における表示動作について説明する。まず、HDMIレシーバ201で得られた画像データ(Video)が、ビデオ素材の画像情報である60Hzのフレームレートの画像データである場合の動作を説明する。
図13に示すテレビ受信機200における表示動作について説明する。まず、HDMIレシーバ201で得られた画像データ(Video)が、ビデオ素材の画像情報である60Hzのフレームレートの画像データである場合の動作を説明する。
この場合、制御部202は、プルダウン・インフォフレーム(Pull-down IF)が存在しないこと、プルダウン・インフォフレーム(Pull-down IF)は存在するがN=M=1であること(図11参照)、またはプルダウン・インフォフレーム(Pull-down IF)は存在するがカウントs=0であること(図12参照)に基づいて、HDMIレシーバ201で得られた画像データ(Video)はプルダウンされたものはないと判断する。
制御部202は、上述のHDMIレシーバ201で得られた画像データ(Video)はプルダウンされたものでないとの判断に基づいて、切り替えスイッチ204,206をそれぞれa側に切り替える。これにより、画像変換部207および表示制御部208には、HDMIレシーバ201で得られた60Hzの垂直同期信号(Vsync)が供給され、画像変換部207および表示制御部208では、HDMIレシーバ201で得られた、ビデオ素材の画像情報である60Hzのフレームレートの画像データ(Video)に対して処理が行われて表示用画像データが生成され、表示パネル209にはその表示用画像データによる画像表示が行われる。
この場合、制御部202は、AVIインフォフレームに基づいて、画像変換部207および表示制御部208の動作を制御する。表示制御部208を構成する表示周波数変換部208b、画質改善処理部208cおよび表示用RGB変換部208では、ビデオ用処理(図15参照)が行われて、表示用画像データが生成される。
次に、HDMIレシーバ201で得られた画像データ(Video)が、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データである場合の動作を説明する。
この場合、制御部202は、プルダウン・インフォフレーム(Pull-down IF)が存在し、N=M=1でないこと、あるいはカウントs=0でないことに基づいて、HDMIレシーバ201で得られた画像データ(Video)はプルダウンされたものであると判断する。
また、制御部202は、プルダウン・インフォフレーム(Pull-down IF)に含まれるプルダウン比N:M(N=2,M=5)をN/M分周部203に設定する。これにより、N/M分周部203では、HDMIレシーバ201で得られた60Hzの垂直同期信号(Vsync)が2/5分周され、24Hzの垂直同期信号(Vsync´)が得られる。
また、制御部202は、プルダウン・インフォフレーム(Pull-down IF)に含まれる繰り返しシーケンス内の識別子を構成するカウントsの変化に対応したフレームの画像データを抽出するように、フレーム抽出部205におけるフレーム抽出処理を制御する。これにより、フレーム抽出部205では、HDMIレシーバ201で得られた画像データ(Video)から、プルダウン前の、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データが得られる。
また、制御部202は、上述のHDMIレシーバ201で得られた画像データ(Video)はプルダウンされたものであるとの判断に基づいて、切り替えスイッチ204,206をそれぞれb側に切り替える。これにより、画像変換部207および表示制御部208には、N/M分周部203で得られた24Hz垂直同期信号(Vsync´)が供給され、画像変換部207および表示制御部208では、フレーム抽出部205で得られた、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データに対して処理が行われて表示用画像データが生成され、表示パネル209にはその表示用画像データによる画像表示が行われる。
この場合、制御部202は、AVIインフォフレームに基づいて、画像変換部207および表示制御部208の動作を制御する。表示制御部208を構成する表示周波数変換部208b、画質改善処理部208cおよび表示用RGB変換部208では、フィルム(映画)用処理(図15参照)が行われて、表示用画像データが生成される。
また、HDMIレシーバ201で得られた画像データ(Video)が、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データである場合の動作を説明する。
この場合、制御部202は、例えば、プルダウン・インフォフレーム(Pull-down IF)が存在しないことに基づいて、HDMIレシーバ201で得られた画像データ(Video)はプルダウンされたものはないと判断する。
制御部202は、上述のHDMIレシーバ201で得られた画像データ(Video)はプルダウンされたものでないとの判断に基づいて、切り替えスイッチ204,206をそれぞれa側に切り替える。これにより、画像変換部207および表示制御部208には、HDMIレシーバ201で得られた24Hzの垂直同期信号(Vsync)が供給され、画像変換部207および表示制御部208では、HDMIレシーバ201で得られた、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データ(Video)に対して処理が行われて表示用画像データが生成され、表示パネル209にはその表示用画像データによる画像表示が行われる。
この場合、制御部202は、AVIインフォフレームに基づいて、画像変換部207および表示制御部208の動作を制御する。表示制御部208を構成する表示周波数変換部208b、画質改善処理部208cおよび表示用RGB変換部208では、フィルム(映画)用処理(図15参照)が行われて、表示用画像データが生成される。
「1-5-3.N/M分周部およびフレーム抽出部に対する制御処理」
図16のフローチャートは、制御部202の、N/M分周部203およびフレーム抽出部205に対するフレーム毎の制御処理の一例を示している。
図16のフローチャートは、制御部202の、N/M分周部203およびフレーム抽出部205に対するフレーム毎の制御処理の一例を示している。
この例は、プルダウンされていない画像データに対してプルダウン・インフォフレーム(Pull-down IF)が付加される場合にも対応したものである。なお、この場合のプルダウン・インフォフレーム(Pull-down IF)には、カウントs=0とすることで、プルダウンされていない画像データであることの判断を可能としたもの(図13参照)も含まれる。
まず、制御部202は、ステップST1において、処理を開始する。次に、制御部202は、ステップST2において、プルダウン・インフォフレーム(Pull-down IF)が存在するか否かを判断する。プルダウン・インフォフレーム(Pull-down IF)が存在しない場合、制御部202は、プルダウンされていない画像データであると判断し、ステップST3において、N/M分周部203およびフレーム抽出部205の動作をオフとし、その後、ステップST4において、処理を終了する。
ステップST2でプルダウン・インフォフレーム(Pull-down IF)が存在する場合、制御部202は、ステップST5において、N=M=1であるか否かを判断する。N=M=1である場合、制御部202は、プルダウンされていない画像データであると判断し、ステップST3において、N/M分周部203およびフレーム抽出部205の動作をオフとし、その後、ステップST4において、処理を終了する。
ステップST5でN=M=1でない場合、制御部202は、ステップST6において、N/M分周部203にN,Mを設定して分周動作をさせる。次に、制御部202は、ステップST7において、カウントs=0であるか否かを判断する。s=0である場合、制御部202は、プルダウンされていない画像データであると判断し、ステップST3において、N/M分周部203およびフレーム抽出部205の動作をオフとし、その後、ステップST4において、処理を終了する。
ステップST7でs=0でない場合、制御部202は、ステップST8において、カウントsおよびカウントbの双方が1であるか否かを判断する。s=b=1である場合、制御部202は、ステップST9において、N/M分周部203の同期合わせをする。これにより、N/M分周部203で取得される垂直同期信号(Vsync´)の位相をプルプルダウン前の画像データ(画像情報)のフレーム位相に合わせることができ、例えばオーディオとの同期合わせを良好に行い得るものとする。
制御部202は、ステップST9の処理の後、ステップST10の処理に進む。制御部202は、ステップST8でs=b=1でない場合には、直ちに、ステップST10の処理に進む。このステップST10において、制御部202は、カウントsが前のフレーム対して変化したか否かを判断する。カウントsが変化した場合、制御部202は、ステップST11において、フレーム205において、フレーム抽出部205でフレーム抽出をさせる。これにより、フレーム抽出部205でプルプルダウン前の画像データ(画像情報)のフレームを抽出させることができる。
制御部202は、ステップST11の処理の後、ステップST4において、処理を終了する。制御部202は、ステップST10でカウントsが変化していない場合、直ちに、ステップST4において、処理を終了する。
この図16に示すフローチャートの制御処理の場合、プルダウンされていない画像データにカウントs=0とすることでプルダウンされていない画像データであることを判別可能にしたプルダウン・インフォフレーム(Pull-down IF)が付加されている場合(図12参照)、ステップST6において、制御部202はN/M分周部203にプルダウンされている画像データのプルダウン比N:MにおけるN,Mを設定して分周動作をさせる。そのため、この後に切り替え予定のプルダウンされた画像データに対する準備、例えば画像変換処理や表示制御処理のために必要となる垂直同期信号(Vsync)の作成等の準備を、事前に行うことが可能となる。
図17のフローチャートは、制御部202の、N/M分周部203およびフレーム抽出部205に対するフレーム毎の制御処理の他の一例を示している。この図17において、図16と対応するステップは同一符号を付して示している。この図17のフローチャートの制御処理では、図16に示すフローチャートの制御処理におけるステップST8とステップST9の処理が除かれており、s=b=1である場合にN/M分周部203の同期合わせは行われない。
図18のフローチャートは、制御部202の、N/M分周部203およびフレーム抽出部205に対するフレーム毎の制御処理の他の一例を示している。この図18において、図16と対応するステップは同一符号を付して示している。この例も、プルダウンされていない画像データに対してプルダウン・インフォフレーム(Pull-down IF)が付加される場合にも対応したものである。しかし、この例では、この場合のプルダウン・インフォフレーム(Pull-down IF)には、カウントs=0とすることで、プルダウンされていない画像データであることの判断を可能としたもの(図12参照)は含まれない。この図18のフローチャートの制御処理では、図16に示すフローチャートの制御処理におけるステップST7の処理が除かれており、カウントs=0であることによるプルダウンされていない画像データであることの判断はされない。
図19のフローチャートは、制御部202の、N/M分周部203およびフレーム抽出部205に対するフレーム毎の制御処理のさらに他の一例を示している。この図19において、図18と対応するステップは同一符号を付して示している。この図19のフローチャートの制御処理では、図18に示すフローチャートの制御処理におけるステップST8とステップST9の処理が除かれており、s=b=1である場合にN/M分周部203の同期合わせは行われない。
図20は、ソース機器であるメディアプレーヤ100(図4参照)からフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データが送られてくる場合における、シンク機器であるテレビ受信機200(図13参照)における処理を概略的に示している。図において、プルダウンされた画像データに付されているx,yの値は、繰り返しシーケンス内の識別子を構成するカウントs,bである。
テレビ受信機200では、プルダウンして得られたプルダウンされた画像データから、カウントs基準で、つまりカウントsの変化タイミングでフレーム抽出が行われて、プルダウン前の画像データの各フレームを抽出される。次に、抽出されたプルダウン前の画像データの各フレームが、N/M分周部203で得られた24Hzの垂直同期信号(Vsync´)のタイミングに合わせて整列される。次に、整列された24Hzのフレームレートの画像データに対して、フレーム多重化処理が施されて、表示パネル209の表示周波数(120Hz)にあった120Hzのフレームレートの画像データ(表示用画像データ)が生成される。
「1-6.テレビ受信機の他の構成例」
図21は、テレビ受信機200の他の構成例を示している。この図21において、図13と対応する部分には同一符号を付して示している。テレビ受信機200は、HDMIレシーバ201の他に、制御部202と、N/M分周部203と、切り替えスイッチ204と、フレーム抽出部205と、切り替えスイッチ206と、画像変換部207と、表示制御部208と、表示パネル209と、加算器210,211とを有している。
図21は、テレビ受信機200の他の構成例を示している。この図21において、図13と対応する部分には同一符号を付して示している。テレビ受信機200は、HDMIレシーバ201の他に、制御部202と、N/M分周部203と、切り替えスイッチ204と、フレーム抽出部205と、切り替えスイッチ206と、画像変換部207と、表示制御部208と、表示パネル209と、加算器210,211とを有している。
制御部202は、テレビ受信機200の各部の動作を制御する。HDMIレシーバ201は、メディアプレーヤ100から受信されるTMDS伝送データから、画像データ(Video)の他に、この画像データ(Video)に対応した垂直同期信号(Vsync)と、この画像データ(Video)に付随した音声データ(Audio)および補助データ(Auxiliary)を得る。HDMIレシーバ201で得られた音声データ(Audio)に関しては、図示を省略しているが、この音声データ(Audio)に基づいた音声出力処理が行われる。
HDMIレシーバ201で得られた補助データ(Auxiliary)は、制御部202に供給される。上述したように補助データ(Auxiliary)は、AVIインフォフレームを含むと共に、少なくとも、画像データ(Video)がフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データ(画像情報)である場合、その画像データ(画像情報)に対してフレーム毎に対応付けされたプルダウン情報を持つ、プルダウン・インフォフレーム(Pull-down IF)を含んでいる。
そのため、制御部202は、AVIインフォフレームから、ビデオフォーマット識別コードを取得し、画像データ(Video)の画枠やフレームレートを認識する。また、制御部202は、AVIインフォフレームから、画像データ(Video)に係る色空間等のビデオ関連情報を認識する。また、制御部202は、プルダウン・インフォフレームから、画像データ(Video)がフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データであること、さらにそのプルダウン比N:Mと、繰り返しシーケンス内の識別子を構成するカウントs,bを認識する。
切り替えスイッチ204は、HDMIレシーバ201で得られた垂直同期信号(Vsync)を、加算器210に供給することとN/M分周部203に供給することとを切り替える。この場合、垂直同期信号(Vsync)は切り替えスイッチ204の可動端子に入力され、画像データ(Video)がプルダウンされていないものであるときはa側の固定端子から加算器210に垂直同期信号(Vsync)が供給され、画像データ(Video)がプルダウンされているものであるときはb側の固定端子からN/M分周部203に垂直同期信号(Vsync)が供給される。
N/M分周部203には、制御部202から、プルダウン・インフォフレームから認識されるプルダウン比N:Mに基づいて、N,Mが設定される。N/M分周部203は、切り替えスイッチ204のb側の固定端子から供給された垂直同期信号(Vsync)、つまりプルダウン後の画像データのフレームレートの垂直同期信号(Vsync)を分周して、プルダウン前の画像データのフレームレートの垂直同期信号(Vsync´)を得る。N/M分周部203で得られた垂直同期信号(Vsync´)は加算器210に供給される。
この場合、画像データ(Video)がフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データ(画像情報)である場合、HDMIレシーバ201で得られた垂直同期信号(Vsync)は60Hzであるが、このようにN/M分周部203で得られる垂直同期信号(Vsync´)は24Hzとなる。
上述したよう画像データ(Video)がプルダウンされていないものであるときは切り替えスイッチ204のa側の固定端子から加算器210に垂直同期信号(Vsync)が供給される。そのため、画像データ(Video)がプルダウンされていないものであるときは加算器210からHDMIレシーバ201で得られた垂直同期信号(Vsync)が出力される。また、上述したように画像データ(Video)がプルダウンされているものであるときはN/M分周部203から加算器210に垂直同期信号(Vsync´)が供給される。そのため、画像データ(Video)がプルダウンされているものであるときは加算器210からN/M分周部203で得られた垂直同期信号(Vsync´)が出力される。
切り替えスイッチ206は、HDMIレシーバ201で得られた画像データ(Video)を、加算器211に供給することとフレーム抽出部205に供給することとを切り替える。この場合、画像データ(Video)は切り替えスイッチ206の可動端子に入力され、画像データ(Video)がプルダウンされていないものであるときはa側の固定端子から加算器211に画像データ(Video)が供給され、画像データ(Video)がプルダウンされていないものであるときはb側の固定端子からフレーム抽出部205に画像データ(Video)が供給される。
フレーム抽出部205は、画像データ(Video)から、繰り返しシーケンス内の識別子を構成するカウントsの変化に対応したフレームの画像データを抽出する。このように抽出される各フレームの画像データは、プルダウン前の各フレームの画像データに対応したものである。例えば、画像データ(Video)がフィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データである場合、フレーム抽出部205からはプルダウン前の各フレームの画像データに対応した24Hzのフレームレートの画像データが得られる。フレーム抽出部205で得られた画像データは、加算器211に供給される。
上述したよう画像データ(Video)がプルダウンされていないものであるときは切り替えスイッチ204のa側の固定端子から加算器211に当該画像データ(Video)が供給される。そのため、画像データ(Video)がプルダウンされていないものであるときは加算器211からHDMIレシーバ201で得られた画像データ(Video)が出力される。また、上述したように画像データ(Video)がプルダウンされているものであるときはフレーム抽出部205で得られた画像データが加算器211に供給される。そのため、画像データ(Video)がプルダウンされているものであるときは加算器211からフレーム抽出部205で得られた画像データが出力される。
画像変換部207は、加算器211から出力される画像データに対して、加算器210から出力される垂直同期信号に同期して、表示パネル209等に依存しない処理をする。表示制御部208は、画像変換部207で処理された後の画像データに対して、加算器210から出力される垂直同期信号に同期して、表示パネル209等に依存する処理をする。表示パネル209は、例えば液晶表示パネルあるいは有機ELパネル等で構成され、表示制御部208で処理された後の画像データ(表示用画像データ)による画像表示をする。
上述したように、図1に示す画像処理システム10においては、メディアプレーヤ100からテレビ受信機200に送信する画像データ(画像情報)に対してフレーム毎にプルダウン情報が対応付けされており、テレビ受信機200ではそのプルダウン情報を容易に取得して、画像データ(画像情報)の処理に効果的に利用でき、処理負荷を大幅に軽減できる。
「1-7.ソフトウェアによる処理」
上述の図16~図19のフローチャートに示す処理等は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、記録媒体からインストールされる。
上述の図16~図19のフローチャートに示す処理等は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、記録媒体からインストールされる。
図22は、コンピュータ600のハードウェア構成例を示すブロック図である。コンピュータ600は、CPU601と、ROM602と、RAM603と、バス604と、入出力インタフェース605と、入力部606と、出力部607と、記憶部608と、ドライブ609と、接続ポート610と、通信部611を有している。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ここで示される構成要素以外の構成要素をさらに含んでもよい。
CPU601は、例えば、演算処理装置または制御装置として機能し、ROM602、RAM603、記憶部608、またはリムーバブル記録媒体701に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。
ROM602は、CPU601に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM603には、例えば、CPU601に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的または永続的に格納される。
CPU601、ROM602、RAM603は、バス604を介して相互に接続される。一方、バス604には、入出力インタフェース605を介して種々の構成要素が接続される。
入力部606には、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、およびレバー等が用いられる。さらに、入力部606としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。
出力部607には、例えば、CRT(Cathode Ray Tube)、LCD、又は有機EL等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。
記憶部608は、各種のデータを格納するための装置である。記憶部608としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイス等が用いられる。
ドライブ609は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体701に記録された情報を読み出し、またはリムーバブル記録媒体701に情報を書き込む装置である。
リムーバブル記録媒体701は、例えば、DVD、Blu-ray(登録商標)ディスク、HD DVD、各種の半導体記憶媒体等である。もちろん、リムーバブル記録媒体701は、例えば、非接触型ICチップを搭載したICカード、または電子機器等であってもよい。
接続ポート610は、例えば、USB(Universal Serial Bus)ポート、HDMI(High-Definition Multimedia Interface)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS-232Cポート、または光オーディオ端子等のような外部接続機器502を接続するためのポートである。外部接続機器702は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、またはICレコーダ等である。
通信部611は、ネットワーク703に接続するための通信デバイスであり、例えば、有線または無線LAN、Bluetooth(登録商標)、またはWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または各種通信用のモデム等である。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであってもよい。
<2.変形例>
「2-1.プルダウンの他の例」
なお、上述実施の形態においては、24Hzから60Hzへのプルダウンを取り上げて説明したが、本技術を適用し得るプルダウンはこれに限定されない。図23(a)~(c)は、プルダウンの一例を示している。
「2-1.プルダウンの他の例」
なお、上述実施の形態においては、24Hzから60Hzへのプルダウンを取り上げて説明したが、本技術を適用し得るプルダウンはこれに限定されない。図23(a)~(c)は、プルダウンの一例を示している。
図23(a)は、上述の図5(a)と同様の、24Hzから60Hzへの、いわゆる2-3プルダウンを示しており、プルダウン比は2:5である。図23(b)は、48Hzから60Hzへのプルダウンを示しており、プルダウン比は4:5である。図23(c)は、50Hzから60Hzへのプルダウンを示しており、プルダウン比は5:6である。なお、これらの図において、プルダウン後のフレームのうち「*」印が付されたフレームは、前のフレームと同一のフレーム(重複フレーム)であることを示している。このことは、以降に示される図においても、同様ある。
図24(a)~(c)は、48Hzから60Hzへのプルダウンの種類の一例を示している。この48Hzから60Hzへのプルダウンにおいては、プルダウン前の4フレーム毎にプルダウン後の5フレームに変換される。図24(a)に示すプルダウンでは、プルダウン後の5フレームにおける重複フレームの位置が最後(5番目)とされている。図24(b)に示すプルダウンでは、プルダウン後の5フレームにおける重複フレームの位置が最後でなく、途中(ここでは4番目)とされている。図24(c)に示すプルダウンでは、プルダウン後の5フレームにおける重複フレームの位置が可変とされている。
なお、詳細説明は省略するが、50Hzから60Hzへのプルダウンに関しても、24Hzから60Hzへプルダウンや48Hzから60Hzへのプルダウンと同様に、複数の種類が存在する。
図25(a)~(c)は、複数のプルダウン比のプルダウンにおいて、フレーム毎に対応付けられる、例えばプルダウン・インフォフレームに含まれるプルダウン比N:Mと、繰り返しシーケンス内の識別子を構成するカウントs,bの一例を示している。
図25(a)は、上述の図8と同じであり、24Hzから60Hzへのプルダウンにおける例を示している。この場合、ソースフレームのフレームレート(24Hz)とベースフレームのフレームレート(60Hz)との比は2:5、つまりプルダウン比は2:5であるので、N=2,M=5とされる。
また、繰り返しシーケンスは、第1フレームから第5フレームの5フレーム周期であり、カウントs,bは、第1フレームでは「1,1」、第2フレームでは「1,2」、第3フレームでは「2,3」、第4フレームでは「2,4」、第5フレームでは「2,5」となる。プルダウン前のフレームに対応したソースフレームのカウントsは、1~2(N)で繰り返し、このカウントsの値が同一のフレームは重複(再送)フレームである。プルダウン後のフレームに対応したベースフレームのカウントbは1~5(M)で繰り返す。s=b=1のとき、プルダウン前後のフレーム位相が一致する。
図25(b)は、48Hzから60Hzへのプルダウンにおける例を示している。この場合、ソースフレームのフレームレート(48Hz)とベースフレームのフレームレート(60Hz)との比は4:5、つまりプルダウン比は4:5であるので、N=4,M=5とされる。
また、繰り返しシーケンスは、第1フレームから第5フレームの5フレーム周期であり、カウントs,bは、第1フレームでは「1,1」、第2フレームでは「2,2」、第3フレームでは「3,3」、第4フレームでは「4,4」、第5フレームでは「4,5」となる。プルダウン前のフレームに対応したソースフレームのカウントsは、1~4(N)で繰り返し、このカウントsの値が同一のフレームは重複(再送)フレームである。プルダウン後のフレームに対応したベースフレームのカウントbは1~5(M)で繰り返す。s=b=1のとき、プルダウン前後のフレーム位相が一致する。
図25(c)は、50Hzから60Hzへのプルダウンにおける例を示している。この場合、ソースフレームのフレームレート(50Hz)とベースフレームのフレームレート(60Hz)との比は5:6、つまりプルダウン比は5:6であるので、N=5,M=6とされる。
また、繰り返しシーケンスは、第1フレームから第6フレームの6フレーム周期であり、カウントs,bは、第1フレームでは「1,1」、第2フレームでは「2,2」、第3フレームでは「3,3」、第4フレームでは「4,4」、第5フレームでは「5,5」、第6フレームでは「5,6」となる。プルダウン前のフレームに対応したソースフレームのカウントsは、1~5(N)で繰り返し、このカウントsの値が同一のフレームは重複(再送)フレームである。プルダウン後のフレームに対応したベースフレームのカウントbは1~6(M)で繰り返す。s=b=1のとき、プルダウン前後のフレーム位相が一致する。
「2-2.24Hz/48Hz混在コンテンツの場合」
24Hz/48Hz混在コンテンツの場合について説明する。例えば、フィルム素材(映画素材)として、24Hzのフレームレートの画像データ(画像情報)と48Hzのフレームレートの画像データ(画像情報)とが混在したものが考えられる。例えば、抒情的なシーンでは映画らしさを出すために24Hzが使用され、アクションシーンなど動きを強調したいシーンでは48Hzが使用される。
24Hz/48Hz混在コンテンツの場合について説明する。例えば、フィルム素材(映画素材)として、24Hzのフレームレートの画像データ(画像情報)と48Hzのフレームレートの画像データ(画像情報)とが混在したものが考えられる。例えば、抒情的なシーンでは映画らしさを出すために24Hzが使用され、アクションシーンなど動きを強調したいシーンでは48Hzが使用される。
図26(a),(b)は、24Hzのフレームレートの画像データ(画像情報)については24Hzから60Hzへのプルダウン(第1のプルダウン)を行い、48Hzのフレームレートの画像データ(画像情報)については48Hzから60Hzへのプルダウン(第2のプルダウン)を行う場合において、フレーム毎に対応付けられるプルダウン情報の一例を示している。図26(a)は、第1のプルダウンの画像データから第2のプルダウンの画像データへの切り替えの状態を示し、図26(b)はその逆への切り替えの状態を示している。
第1のプルダウン部分について説明する。この場合、ソースフレームのフレームレート(24Hz)とベースフレームのフレームレート(60Hz)との比は2:5、つまりプルダウン比は2:5であるので、N=2,M=5とされる。また、繰り返しシーケンスは、第1フレームから第5フレームの5フレーム周期であり、カウントs,bは、第1フレームでは「1,1」、第2フレームでは「1,2」、第3フレームでは「2,3」、第4フレームでは「2,4」、第5フレームでは「2,5」となる。プルダウン前のフレームに対応したソースフレームのカウントsは、1~2(N)で繰り返し、このカウントsの値が同一のフレームは重複(再送)フレームである。プルダウン後のフレームに対応したベースフレームのカウントbは1~5(M)で繰り返す。s=b=1のとき、プルダウン前後のフレーム位相が一致する。
次に、第2のプルダウン部分について説明する。この場合、ソースフレームのフレームレート(48Hz)とベースフレームのフレームレート(60Hz)との比は4:5、つまりプルダウン比は4:5であるので、N=4,M=5とされる。また、繰り返しシーケンスは、第1フレームから第5フレームの5フレーム周期であり、カウントs,bは、第1フレームでは「1,1」、第2フレームでは「2,2」、第3フレームでは「3,3」、第4フレームでは「4,4」、第5フレームでは「4,5」となる。プルダウン前のフレームに対応したソースフレームのカウントsは、1~4(N)で繰り返し、このカウントsの値が同一のフレームは重複(再送)フレームである。プルダウン後のフレームに対応したベースフレームのカウントbは1~5(M)で繰り返す。s=b=1のとき、プルダウン前後のフレーム位相が一致する。
図27(a),(b)は、24Hzのフレームレートの画像データ(画像情報)については24Hzから48Hzへのプルダウンを行い、48Hzのフレームレートの画像データ(画像情報)についてはプルダウンをしない場合おいて、フレーム毎に対応付けられるプルダウン情報の一例を示している。図27(a)は、プルダウンの画像データから非プルダウンの画像データへの切り替えの状態を示し、図27(b)はその逆への切り替えの状態を示している。
プルダウン部分について説明する。この場合、ソースフレームのフレームレート(24Hz)とベースフレームのフレームレート(48Hz)との比は1:2、つまりプルダウン比は1:2であるので、N=1,M=2とされる。また、繰り返しシーケンスは、第1フレームから第2フレームの2フレーム周期であり、カウントs,bは、第1フレームでは「1,1」、第2フレームでは「1,2」となる。受信側ではs=b=1のフレームを抽出することで、プルダウン前の24Hzのフレームレートの画像データ(画像情報)を得ることができる。また、s=b=1のとき、プルダウン前後のフレーム位相が一致する。
次に、非プルダウン部分について説明する。この場合、カウントsは0に固定される。これにより、受信側では、カウントs=0とされていることに基づいて、受信画像データ(画像情報)はプルダウンされたものでないと判断することが可能となる。
また、この場合、ソースフレームのフレームレートとベースフレームのフレームレートとの比は1:1、つまりプルダウン比は1:1であるが、プルダウン比N:Mは、プルダウン部分におけるプルダウン比1:2を示すものとされ、N=1,M=2とされる。これにより、プルダウン部分の画像データに対する準備、例えば画像変換処理や表示制御処理のために必要となる垂直同期信号の作成等の準備を、事前に行うことが可能となる。
なお、図27(a),(b)に示す例においては、非プルダウン部分については、カウントsは0に固定する例を示した、上述の図11(a),(b)に示す例と同様に、s=b=N=M=1とすることも考えられる。
「2-3.プルダウン情報の他の例」
また、上述実施の形態において、画像データ(画像情報)にフレーム毎に対応付けされるプルダウン情報がプルダウン比(N:M)と繰り返しシーケンス内の識別子(s,b)である例を示した。しかし、画像データ(画像情報)にフレーム毎に対応付けされるプルダウン情報として、その他の例も考えられる。
また、上述実施の形態において、画像データ(画像情報)にフレーム毎に対応付けされるプルダウン情報がプルダウン比(N:M)と繰り返しシーケンス内の識別子(s,b)である例を示した。しかし、画像データ(画像情報)にフレーム毎に対応付けされるプルダウン情報として、その他の例も考えられる。
図28(a),(b)は、画像データ(画像情報)にフレーム毎に対応付けされるプルダウン情報が、直前フレームと重複するか否かを示すフラグ情報を構成するディプリケートフラグ(duplicate flag)である場合の例を示している。図28(a)は、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データからプルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データへの切り替えの状態を示し、図28(b)はその逆への切り替えの状態を示している。
この場合、ディプリケートフラグは、直前フレームと重複するフレームでは“1”とされ、直前フレームと重複しないフレームでは“0”とされる。そのため、受信側では、このディプリケートフラグに基づくことで、相関検出等をすることなく、直前フレームと重複するフレームを判断でき、プルダウンされた画像データに対する処理負荷を軽減することが可能となる。
図29(a),(b)は、画像データ(画像情報)にフレーム毎に対応付けされるプルダウン情報が、プルダウンされているか否かを示すフラグ情報を構成するプルダウンフラグ(pull-down flag)である場合の例を示している。図29(a)は、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データからプルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データへの切り替えの状態を示し、図29(b)はその逆への切り替えの状態を示している。
この場合、プルダウンフラグは、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データがプルダウンされて得られた60Hzのフレームレートの画像データの各フレームでは“1”とされ、プルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データの各フレームでは“0”とされる。そのため、受信側では、このプルダウンフラグに基づくことで、相関検出等をすることなく、プルダウンの起点等を検出でき、プルダウンされた画像データに対する処理負荷を軽減することが可能となる。
図30(a),(b)は、画像データ(画像情報)にフレーム毎に対応付けされるプルダウン情報が、上述のディプリケートフラグ(duplicate flag)およびプルダウンフラグ(pull-down flag)の両方の場合の例を示している。図30(a)は、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データをプルダウンして得られた60Hzのフレームレートの画像データからプルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データへの切り替えの状態を示し、図30(b)はその逆への切り替えの状態を示している。
この場合、ディプリケートフラグは、直前フレームと重複するフレームでは“1”とされ、直前フレームと重複しないフレームでは“0”とされる。また、プルダウンフラグは、フィルム素材(映画素材)の画像情報である24Hzのフレームレートの画像データがプルダウンされて得られた60Hzのフレームレートの画像データの各フレームでは“1”とされ、プルダウンされていないビデオ素材の画像情報である60Hzのフレームレートの画像データの各フレームでは“0”とされる。そのため、受信側では、ディプリケートフラグに基づくことで、相関検出等をすることなく、直前フレームと重複するフレームを判断でき、またプルダウンフラグに基づくことで、相関検出等をすることなく、プルダウンの起点等を検出でき、プルダウンされた画像データに対する処理負荷を軽減することが可能となる。
図31(a),(b)は、ディプリケートフラグ(duplicate flag)およびプルダウンフラグ(pull-down flag)の両方を含む、新規定義するビデオフレームストラクチャ インフォフレーム(Video frame structure IF)のパケットのデータ構造の一例を示している。図31(a)は、パケットヘッダ(Pull-down IF Packet Header)を示し、図31(b)は、パケットコンテンツ(Pull-down IF Packet Contents)を示している。
最初に、図31(a)に示すパケットヘッダ(Video frame structure IF Packet Header)について説明する。バイトHB0に、パケットの種類を示す「Packet Type」が定義される。ここでは、ビデオフレームストラクチャ インフォフレームパケットを示すものとされる。バイトHB1に、パケットデータ定義のバージョンが記述される。バイトHB2に、パケット長を表す情報が記述される。ここでは、「0x01」とされる。
次に、図31(b)に示すパケットコンテンツ(Pull-down IF Packet Contents)について説明する。バイトPB1の第1ビットにプルダウンフラグ(PDN:Pull-down IF)が記述され、バイトPB1の第0ビットにディプリケートフラグ(DPL: duplicate flag)が記述される。
なお、図31(c)は、ディプリケートフラグ(duplicate flag)のみを含む場合におけるパケットヘッダ(Video frame structure IF Packet Header)のデータ構造の一例を示している。この場合、バイトPB1の第0ビットにディプリケートフラグ(DPL: duplicate flag)が記述される。
また、図31(d)は、プルダウンフラグ(pull-down flag)のみを含む場合におけるパケットヘッダ(Video frame structure IF Packet Header)のデータ構造の一例を示している。この場合、バイトPB1の第1ビットにプルダウンフラグ(PDN:Pull-down IF)が記述される。
図32(a)は、ディプリケートフラグ(duplicate flag)およびプルダウンフラグ(pull-down flag)を含むビデオフレームストラクチャEM(Video frame structure Extended Metadata)を持つパケットであるEMP(Extended Metadata Packet)のヘッダ(EMP Header)を示し、図32(b)は、EMPのコンテンツ(EMP Contents)を示している。
ビデオフレームストラクチャEMは、サイズが小さいので、単一のパケットで伝送される。そのため、ヘッダ(EMP Header)の各フィールドは、以下の値に設定される。
Last=1
First=1
Sequence_Index=0
Last=1
First=1
Sequence_Index=0
また、ビデオフレームストラクチャEMは、ビデオフォーマット関連でビデオフレーム同期なので、コンテンツ(EMP Contents)の各フィールドは、以下の値に設定される。
Sync=1
VFR=1
AFR=0
DS_Type=2: Unique EM Data Set
End=1, New=1:単一packetで伝送
Organization_ID=1:Video frame structure EMはHDMIで規定するEM
Data_Set_Tag =xxxx:HDMIで割り付けたVideo frame structure EM用の識別番号
Data_Set_Length =1:Pull-down EMはMD0の1 byteを使用
Sync=1
VFR=1
AFR=0
DS_Type=2: Unique EM Data Set
End=1, New=1:単一packetで伝送
Organization_ID=1:Video frame structure EMはHDMIで規定するEM
Data_Set_Tag =xxxx:HDMIで割り付けたVideo frame structure EM用の識別番号
Data_Set_Length =1:Pull-down EMはMD0の1 byteを使用
図32(c)は、コンテンツ(EMP Contents)のバイトPB7-PB27に配置されるMD(MetaData)コンテンツ、つまりビデオフレームストラクチャEMを示している。詳細説明は省略するが、バイトMD0には、上述の図31(b)に示すビデオフレームストラクチャ・インフォフレームパケットのコンテンツにおけるバイトPB1と同様に、ディプリケートフラグ(DPL: duplicate flag)およびプルダウンフラグ(PDN: pull-down flag)が記述される。
「2-4.その他」
また、上述実施の形態においては、画像データ(画像情報)のブランキング期間にプルダン情報を持つインフォフレームやEMPを挿入することで、画像データ(画像情報)に対してフレーム毎にプルダウン情報を対応付けているが、対応付けの方法は、これに限定されるものではない。例えば、画像データ(画像情報)の各フレームのフレーム番号とプルダウン情報とを関連付けるテーブルを用いる方法等も考えられる。
また、上述実施の形態においては、画像データ(画像情報)のブランキング期間にプルダン情報を持つインフォフレームやEMPを挿入することで、画像データ(画像情報)に対してフレーム毎にプルダウン情報を対応付けているが、対応付けの方法は、これに限定されるものではない。例えば、画像データ(画像情報)の各フレームのフレーム番号とプルダウン情報とを関連付けるテーブルを用いる方法等も考えられる。
また、上述実施の形態においては、フレーム毎にプルダウン情報が対応付けられた画像データ(画像情報)を、HDMI伝送路を介して受信側(表示側)に送信する例を示したが、伝送路はHDMI伝送路に限定されるものではなく、その他の有線および無線の伝送路であってもよい。また、伝送路は、放送経路や通信経路であってもよい。
また、上述実施の形態においては、フレーム毎にプルダウン情報が対応付けられた画像データ(画像情報)を、HDMI伝送路を介して受信側(表示側)に送信する例を示した。しかし、本技術は、フレーム毎にプルダウン情報が対応付けられた画像データ(画像情報)を記録メディアに書き込み、表示側には、その記録メディアを利用して、フレーム毎にプルダウン情報が対応付けられた画像データ(画像情報)を供給するシステムにも、同様に適用できる。また、本技術は、フレーム毎にプルダウン情報が対応付けられた画像データ(画像情報)をネットワーク上のサーバに保持し、表示側は、サーバから、フレーム毎にプルダウン情報が対応付けられた画像データ(画像情報)を取得するシステムにも、同様に適用できる。
また、上述実施の形態においては、ソース機器がメディアプレーヤである例を示したが、メディアプレーヤに限定されるものではなく、その他の同様の機能を持つ機器、例えば、BDプレーヤ、インターネット対応ストリーミングデバイス(ネットワークメディアプレーヤ)、セットトップボックス等であってもよい。同様に、シンク機器もテレビ受信機に限定されるものではなく、同様の表示機能を持つ機器であればよい。
また、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
また、技術は、以下のような構成もとることができる。
(1)画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備える
画像処理装置。
(2)前記プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む
前記(1)に記載の画像処理装置。
(3)前記画像情報がプルダウンされたものでない場合、前記プルダウン比は1:1とされる
前記(2)に記載の画像処理装置。
(4)前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成される
前記(2)に記載の画像処理装置。
(5)前記画像情報がプルダウンされたものでない場合、前記ソースフレームのカウントは0に固定される
前記(4)に記載の画像処理装置。
(6)前記プルダウン情報は、直前フレームと重複するか否かを示すフラグ情報を含む
前記(1)に記載の画像処理装置。
(7)前記プルダウン情報は、プルダウンされているか否かを示すフラグ情報を含む
前記(1)に記載の画像処理装置。
(8)前記情報対応付け部は、前記プルダウン情報をフレーム毎の画像情報のブランキング期間に挿入する
前記(1)から(7)のいずれかに記載の画像処理装置。
(9)前記情報対応付け部は、前記プルダウン情報をIF(InfoFrame)情報として前記ブランキング期間に挿入する
前記(8)に記載の画像処理装置。
(10)前記情報対応付け部は、前記プルダウン情報をEMP(Extended Metadata Packet)情報として前記ブランキング期間に挿入する
前記(8)に記載の画像処理装置。
(11)前記フレーム毎にプルダウン情報が対応付けされた画像情報を、伝送路を介して外部機器に送信する送信部をさらに備える
前記(1)から(10)のいずれかに記載の画像処理装置。
(12)第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を抽出して表示用画像情報を得る処理部を備える
画像処理装置。
(13)前記プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む
前記(12)に記載の画像処理装置。
(14)前記処理部は、前記繰り返しシーケンス内の識別子に基づいて前記プルダウン前のフレームの第2の画像情報を取得し、前記プルダウン比に基づいて分周部の分周比を設定して前記プルダウン前のフレームのフレームレートに対応した同期信号を取得し、前記取得された前記プルダウン前のフレームの第2の画像情報を前記取得された同期信号に基づいて処理をして前記表示用画像情報を得る
前記(13)に記載の画像処理装置。
(15)前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記第1の画像情報から前記ソースフレームのカウントの変化に対応したフレームの画像情報を抽出することで、前記プルダウン前のフレームの第2の画像情報を取得する
前記(14)に記載の画像処理装置。
(16)前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記ソースフレームのカウントおよび前記ベースフレームのカウントの双方が1となるフレームのタイミングで前記分周部の同期合わせをする
前記(14)または(15)に記載の画像処理装置。
(17)前記処理部は、前記プルダウン情報に基づいて前記第1の画像情報がプルダウンされたものであるか否かを判断し、前記第1の画像情報がプルダウンされたものである場合、前記第1の画像情報から前記プルダウン情報に基づいて前記プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る
前記(12)から(16)のいずれかに記載の画像処理装置。
(18)前記プルダウン情報は、プルダウン比を含み、
前記処理部は、前記プルダウン比が1:1である場合、前記第1の画像情報はプルダウンされたものではないと判断する
前記(17)に記載の画像処理装置。
(19)前記プルダウン情報は、繰り返しシーケンス内の識別子を含み、
前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記ソースフレームのカウントが0である場合、前記第1の画像情報はプルダウンされたものではないと判断する
前記(18)に記載の画像処理装置。
(20)第1の画像処理装置および第2の画像処理装置を有し、
前記第1の画像処理装置は、第1の画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備え、
前記第2の画像処理装置は、前記第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る処理部を備える
画像処理システム。
(1)画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備える
画像処理装置。
(2)前記プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む
前記(1)に記載の画像処理装置。
(3)前記画像情報がプルダウンされたものでない場合、前記プルダウン比は1:1とされる
前記(2)に記載の画像処理装置。
(4)前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成される
前記(2)に記載の画像処理装置。
(5)前記画像情報がプルダウンされたものでない場合、前記ソースフレームのカウントは0に固定される
前記(4)に記載の画像処理装置。
(6)前記プルダウン情報は、直前フレームと重複するか否かを示すフラグ情報を含む
前記(1)に記載の画像処理装置。
(7)前記プルダウン情報は、プルダウンされているか否かを示すフラグ情報を含む
前記(1)に記載の画像処理装置。
(8)前記情報対応付け部は、前記プルダウン情報をフレーム毎の画像情報のブランキング期間に挿入する
前記(1)から(7)のいずれかに記載の画像処理装置。
(9)前記情報対応付け部は、前記プルダウン情報をIF(InfoFrame)情報として前記ブランキング期間に挿入する
前記(8)に記載の画像処理装置。
(10)前記情報対応付け部は、前記プルダウン情報をEMP(Extended Metadata Packet)情報として前記ブランキング期間に挿入する
前記(8)に記載の画像処理装置。
(11)前記フレーム毎にプルダウン情報が対応付けされた画像情報を、伝送路を介して外部機器に送信する送信部をさらに備える
前記(1)から(10)のいずれかに記載の画像処理装置。
(12)第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を抽出して表示用画像情報を得る処理部を備える
画像処理装置。
(13)前記プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む
前記(12)に記載の画像処理装置。
(14)前記処理部は、前記繰り返しシーケンス内の識別子に基づいて前記プルダウン前のフレームの第2の画像情報を取得し、前記プルダウン比に基づいて分周部の分周比を設定して前記プルダウン前のフレームのフレームレートに対応した同期信号を取得し、前記取得された前記プルダウン前のフレームの第2の画像情報を前記取得された同期信号に基づいて処理をして前記表示用画像情報を得る
前記(13)に記載の画像処理装置。
(15)前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記第1の画像情報から前記ソースフレームのカウントの変化に対応したフレームの画像情報を抽出することで、前記プルダウン前のフレームの第2の画像情報を取得する
前記(14)に記載の画像処理装置。
(16)前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記ソースフレームのカウントおよび前記ベースフレームのカウントの双方が1となるフレームのタイミングで前記分周部の同期合わせをする
前記(14)または(15)に記載の画像処理装置。
(17)前記処理部は、前記プルダウン情報に基づいて前記第1の画像情報がプルダウンされたものであるか否かを判断し、前記第1の画像情報がプルダウンされたものである場合、前記第1の画像情報から前記プルダウン情報に基づいて前記プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る
前記(12)から(16)のいずれかに記載の画像処理装置。
(18)前記プルダウン情報は、プルダウン比を含み、
前記処理部は、前記プルダウン比が1:1である場合、前記第1の画像情報はプルダウンされたものではないと判断する
前記(17)に記載の画像処理装置。
(19)前記プルダウン情報は、繰り返しシーケンス内の識別子を含み、
前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記ソースフレームのカウントが0である場合、前記第1の画像情報はプルダウンされたものではないと判断する
前記(18)に記載の画像処理装置。
(20)第1の画像処理装置および第2の画像処理装置を有し、
前記第1の画像処理装置は、第1の画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備え、
前記第2の画像処理装置は、前記第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る処理部を備える
画像処理システム。
10・・・・画像処理システム
100・・・メディアプレーヤ
101・・・HDMIトランスミッタ
102・・・制御部
103・・・プルダウン変換部
104,105・・・切り替えスイッチ
200・・・テレビ受信機
201・・・HDMIレシーバ
202・・・制御部
203・・・N/M分周部
204,206・・・切り替えスイッチ
205・・・フレーム抽出部
207・・・画像変換部
207a・・・RGB変換部
207b・・・EOTF処理部
208・・・表示制御部
208a・・・表示画枠変換部
208b・・・表示周波数変換部
208c・・・画質改善部
208d・・・表示用RGB変換部
209・・・表示パネル
210,211・・・加算器
300・・・HDMIケーブル
600・・・コンピュータ
100・・・メディアプレーヤ
101・・・HDMIトランスミッタ
102・・・制御部
103・・・プルダウン変換部
104,105・・・切り替えスイッチ
200・・・テレビ受信機
201・・・HDMIレシーバ
202・・・制御部
203・・・N/M分周部
204,206・・・切り替えスイッチ
205・・・フレーム抽出部
207・・・画像変換部
207a・・・RGB変換部
207b・・・EOTF処理部
208・・・表示制御部
208a・・・表示画枠変換部
208b・・・表示周波数変換部
208c・・・画質改善部
208d・・・表示用RGB変換部
209・・・表示パネル
210,211・・・加算器
300・・・HDMIケーブル
600・・・コンピュータ
Claims (20)
- 画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備える
画像処理装置。 - 前記プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む
請求項1に記載の画像処理装置。 - 前記画像情報がプルダウンされたものでない場合、前記プルダウン比は1:1とされる
請求項2に記載の画像処理装置。 - 前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成される
請求項2に記載の画像処理装置。 - 前記画像情報がプルダウンされたものでない場合、前記ソースフレームのカウントは0に固定される
請求項4に記載の画像処理装置。 - 前記プルダウン情報は、直前フレームと重複するか否かを示すフラグ情報を含む
請求項1に記載の画像処理装置。 - 前記プルダウン情報は、プルダウンされているか否かを示すフラグ情報を含む
請求項1に記載の画像処理装置。 - 前記情報対応付け部は、前記プルダウン情報をフレーム毎の画像情報のブランキング期間に挿入する
請求項1に記載の画像処理装置。 - 前記情報対応付け部は、前記プルダウン情報をIF(InfoFrame)情報として前記ブランキング期間に挿入する
請求項8に記載の画像処理装置。 - 前記情報対応付け部は、前記プルダウン情報をEMP(Extended Metadata Packet)情報として前記ブランキング期間に挿入する
請求項8に記載の画像処理装置。 - 前記フレーム毎にプルダウン情報が対応付けされた画像情報を、伝送路を介して外部機器に送信する送信部をさらに備える
請求項1に記載の画像処理装置。 - 第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を抽出して表示用画像情報を得る処理部を備える
画像処理装置。 - 前記プルダウン情報は、プルダウン比と繰り返しシーケンス内の識別子を含む
請求項12に記載の画像処理装置。 - 前記処理部は、前記繰り返しシーケンス内の識別子に基づいて前記プルダウン前のフレームの第2の画像情報を取得し、前記プルダウン比に基づいて分周部の分周比を設定して前記プルダウン前のフレームのフレームレートに対応した同期信号を取得し、前記取得された前記プルダウン前のフレームの第2の画像情報を前記取得された同期信号に基づいて処理をして前記表示用画像情報を得る
請求項13に記載の画像処理装置。 - 前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記第1の画像情報から前記ソースフレームのカウントの変化に対応したフレームの画像情報を抽出することで、前記プルダウン前のフレームの第2の画像情報を取得する
請求項14に記載の画像処理装置。 - 前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記ソースフレームのカウントおよび前記ベースフレームのカウントの双方が1となるフレームのタイミングで前記分周部の同期合わせをする
請求項14に記載の画像処理装置。 - 前記処理部は、前記プルダウン情報に基づいて前記第1の画像情報がプルダウンされたものであるか否かを判断し、前記第1の画像情報がプルダウンされたものである場合、前記第1の画像情報から前記プルダウン情報に基づいて前記プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る
請求項12に記載の画像処理装置。 - 前記プルダウン情報は、プルダウン比を含み、
前記処理部は、前記プルダウン比が1:1である場合、前記第1の画像情報はプルダウンされたものではないと判断する
請求項17に記載の画像処理装置。 - 前記プルダウン情報は、繰り返しシーケンス内の識別子を含み、
前記識別子は、プルダウン前のフレームに対応したソースフレームのカウントおよびプルダウン後のフレームに対応したベースフレームのカウントの組み合わせで構成され、
前記処理部は、前記ソースフレームのカウントが0である場合、前記第1の画像情報はプルダウンされたものではないと判断する
請求項17に記載の画像処理装置。 - 第1の画像処理装置および第2の画像処理装置を有し、
前記第1の画像処理装置は、第1の画像情報に対してフレーム毎にプルダウン情報を対応付ける情報対応付け部を備え、
前記第2の画像処理装置は、前記第1の画像情報から、該第1の画像情報に対してフレーム毎に対応付けされたプルダウン情報に基づいて、プルダウン前のフレームの第2の画像情報を取得して表示用画像情報を得る処理部を備える
画像処理システム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023-077501 | 2023-05-09 | ||
| JP2023077501 | 2023-05-09 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2024232320A1 true WO2024232320A1 (ja) | 2024-11-14 |
Family
ID=93429966
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2024/016771 Pending WO2024232320A1 (ja) | 2023-05-09 | 2024-05-01 | 画像処理装置および画像処理システム |
Country Status (1)
| Country | Link |
|---|---|
| WO (1) | WO2024232320A1 (ja) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000069479A (ja) * | 1998-08-24 | 2000-03-03 | Sony Corp | 画像符号化装置および画像符号化方法 |
| WO2006054590A1 (ja) * | 2004-11-16 | 2006-05-26 | Matsushita Electric Industrial Co., Ltd. | データ処理装置 |
| JP2008124741A (ja) * | 2006-11-10 | 2008-05-29 | Sony Corp | 画像処理装置、画像処理方法、およびプログラム |
-
2024
- 2024-05-01 WO PCT/JP2024/016771 patent/WO2024232320A1/ja active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000069479A (ja) * | 1998-08-24 | 2000-03-03 | Sony Corp | 画像符号化装置および画像符号化方法 |
| WO2006054590A1 (ja) * | 2004-11-16 | 2006-05-26 | Matsushita Electric Industrial Co., Ltd. | データ処理装置 |
| JP2008124741A (ja) * | 2006-11-10 | 2008-05-29 | Sony Corp | 画像処理装置、画像処理方法、およびプログラム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10015468B2 (en) | Transmitting apparatus, stereo image data transmitting method, receiving apparatus, and stereo image data receiving method | |
| JP5242111B2 (ja) | 送信装置、画像データ送信方法、受信装置および受信装置における画像表示方法 | |
| CN101395904B (zh) | 发送装置、接收装置和发送接收装置 | |
| US9143637B2 (en) | Transmission device, video signal transmission method for transmission device, reception device, and video signal reception method for reception device | |
| US8713598B2 (en) | Electronic device and control method therein | |
| US20100275234A1 (en) | Display apparatus, data transmitting method in display apparatus, transmission apparatus, and data receiving method in transmission apparatus | |
| CN101690216B (zh) | 传送装置、信息传送方法、接收装置及信息处理方法 | |
| US20100253856A1 (en) | Display apparatus, video signal transmission method for display apparatus, transmitting apparatus, and transmission method of video signal | |
| JP4008688B2 (ja) | 信号送信装置及び信号受信装置 | |
| JPWO2008056709A1 (ja) | 受信装置、受信装置における遅延情報送信方法、音声出力装置および音声出力装置における遅延制御方法 | |
| JP2011523287A (ja) | マルチメディア・データ伝送用のデジタル伝送手段を通じてマルチメディア再生拡張情報、vbiデータ、又は補助データを送信/受信する装置及び方法 | |
| KR20170007261A (ko) | 통신 장치 및 통신 방법과 컴퓨터 프로그램 | |
| RU2671945C2 (ru) | Устройство или способ передачи данных и компьютерная программа | |
| JP6307856B2 (ja) | 送信装置、広色域画像データ送信方法、受信装置、広色域画像データ受信方法およびプログラム | |
| WO2024232320A1 (ja) | 画像処理装置および画像処理システム | |
| JP2017127000A (ja) | 受信方法および受信装置 | |
| JP2015233320A (ja) | 送信方法および送信装置 | |
| JP2015133732A (ja) | 受信装置および信号受信方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 24803432 Country of ref document: EP Kind code of ref document: A1 |
|
| ENP | Entry into the national phase |
Ref document number: 2025519417 Country of ref document: JP Kind code of ref document: A |
|
| WWE | Wipo information: entry into national phase |
Ref document number: 2025519417 Country of ref document: JP |