[go: up one dir, main page]

TWI552110B - 可變解析度之深度表示 - Google Patents

可變解析度之深度表示 Download PDF

Info

Publication number
TWI552110B
TWI552110B TW103107446A TW103107446A TWI552110B TW I552110 B TWI552110 B TW I552110B TW 103107446 A TW103107446 A TW 103107446A TW 103107446 A TW103107446 A TW 103107446A TW I552110 B TWI552110 B TW I552110B
Authority
TW
Taiwan
Prior art keywords
depth
resolution
variable
information
representation
Prior art date
Application number
TW103107446A
Other languages
English (en)
Other versions
TW201503047A (zh
Inventor
史考特 克雷格
Original Assignee
英特爾股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 英特爾股份有限公司 filed Critical 英特爾股份有限公司
Publication of TW201503047A publication Critical patent/TW201503047A/zh
Application granted granted Critical
Publication of TWI552110B publication Critical patent/TWI552110B/zh

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Computer Graphics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)

Description

可變解析度之深度表示
本發明大體上關於深度表示。更特別地,本發明關於具可變解析度之標準化深度表示。
在圖像捕捉期間,存在各式技術用以捕捉與圖像資訊相關聯之深度資訊。深度資訊典型地用以產生圖像內所包含之深度表示。例如,霧點、深度圖、或三維(3D)多邊形網格可用以指出圖像內3D物件之形狀深度。深度資訊亦可源自使用立體雙聲或多視角立體重建法之二維(2D)圖像,且亦源自廣泛指示深度感測法,包括結構光、飛行時間感測器、及許多其他方法。
100‧‧‧計算裝置
102‧‧‧中央處理單元
104‧‧‧記憶體裝置
106‧‧‧匯流排
108‧‧‧圖形處理單元
110‧‧‧驅動器
112‧‧‧圖像捕捉裝置
114‧‧‧深度感測器
116‧‧‧輸入/輸出裝置介面
118、706‧‧‧輸入/輸出裝置
120‧‧‧顯示器介面
122‧‧‧顯示裝置
124‧‧‧儲存裝置
126‧‧‧應用程式
128‧‧‧網路介面控制器
130‧‧‧網路
202、204、302‧‧‧可變解析度深度圖
206、208、210、306、308‧‧‧層
304‧‧‧結果圖像
310‧‧‧中心層
400‧‧‧圖像
502、504、506‧‧‧方塊
600‧‧‧系統
602‧‧‧平台
604、704‧‧‧顯示器
606‧‧‧內容服務裝置
608‧‧‧內容傳送裝置
610‧‧‧導航控制器
612‧‧‧晶片組
614‧‧‧圖形子系統
616‧‧‧無線電設備
618‧‧‧使用者介面
700‧‧‧小尺寸裝置
702‧‧‧外殼
708‧‧‧天線
710‧‧‧導航部件
800‧‧‧實體非暫態電腦可讀取媒體
802‧‧‧處理器
804‧‧‧電腦匯流排
806‧‧‧指標模組
808‧‧‧深度模組
810‧‧‧表示模組
圖1為可用以產生可變解析度深度表示之計算裝置的方塊圖;圖2描繪可變解析度深度圖,及依據可變位元深度之 另一可變解析度深度圖;圖3描繪可變解析度深度圖,及依據可變空間解析度之結果圖像;圖4為從可變解析度深度圖發展之一組圖像;圖5為產生可變解析度深度圖之方法的程序流程圖;圖6為產生可變解析度深度圖之示例系統的方塊圖;圖7為可體現圖6之系統600之小尺寸裝置的示意圖;以及圖8為方塊圖,顯示實體非暫態電腦可讀取媒體,其儲存用於可變解析度深度表示之碼。
揭露及圖式通篇使用之相同編號係指類似組件及部件。100系列之編號係指最初於圖1中發現之部件;200系列之編號係指最初於圖2中發現之部件等。
【發明內容及實施方式】
每一深度表示為深度之勻質表示。深度為針對每一像素密集產生,或於由已知部件環繞之特定像素稀疏產生。因而,目前深度圖並非塑造人類視覺系統或優化深度映射程序,僅提供勻質或不變解析度。
文中所提供之實施例致能可變解析度深度表示。在若干實施例中,可依據使用之深度圖或深度圖內有興趣之區域而調諧深度表示。在若干實施例中,產生替代優化深度圖表示。為易於說明,使用像素來說明技術。然而,可使用任何圖像資料單位,諸如立體像素、霧點、或 如電腦圖形中使用之3D網格。可變解析度深度表示可包括以遍及整個深度表示之異質解析度捕捉的一組深度資訊,以及從一起作業之一或多深度感測器捕捉的深度資訊。結果深度資訊可採取密集均勻分佈之點或稀疏不均勻分佈之點的形式、圖像線、或整個2D圖像陣列,取決於所挑選方法。
在下列說明及申請項中,可使用「耦接」及「連接」用詞連同其衍生。應理解的是不希望該些用詞相互同義。而是,在特定實施例中,「連接」可用以指出二或更多元件係相互直接實體或電接觸。「耦接」可表示二或更多元件係相互直接實體或電接觸。然而,「耦接」亦可表示二或更多元件並非相互直接接觸,但仍共同作業或相互互動。
若干實施例可以硬體、韌體、及軟體之一者或組合實施。若干實施例亦可實施為儲存在機器可讀取媒體上之指令,其可由計算平台讀取及執行以實施文中所說明之作業。機器可讀取媒體可包括任何機構用於以例如電腦之機器可讀取的形式儲存或傳輸資訊。例如,機器可讀取媒體可包括唯讀記憶體(ROM);隨機存取記憶體(RAM);磁碟儲存媒體;光學儲存媒體;快閃記憶體裝置;或電、光學、聲學或其他傳播信號形式,例如載波、紅外線信號、數位信號、或於其間傳輸及/或接收信號之介面。
實施例為實施或範例。說明書中提及「實施 例」、「一實施例」、「若干實施例」、「各式實施例」、或「其他實施例」表示結合實施例說明之特定部件、結構、或特性係包括於本發明之至少若干實施例中,但不一定為所有實施例。「實施例」、「一實施例」、或「若干實施例」之各式出現不一定均指相同實施例。實施例之元件或觀點可與另一實施例之元件或觀點組合。
並非文中所說明及描繪之所有組件、部件、結構、特性等需包括於特定實施例或實施例中。若說明書表示「可」、「可能」、「能」、「可以」包括組件、部件、結構、或特性,則不一定包括特定組件、部件、結構、或特性。若說明書或申請項提及「一」元件,則並非表示僅一元件。若說明書或申請項提及「其餘」元件,並未排除存在一個以上其餘元件。
應注意的是,儘管已參照特定實施說明若干實施例,依據若干實施例之其他實施亦可。此外,圖式中所描繪及/或文中所說明之電路元件或其他部件的配置及/或順序不需以所描繪及說明之特定方式配置。依據若干實施例之許多其他配置亦可。
在圖中所示之每一系統中,在若干狀況下元件可各具有相同編號或不同編號以顯示所代表之元件可為不同及/或類似。然而,元件可為充分彈性而具有不同實施並與文中所說明或顯示之若干或全部系統作業。圖中所示之各式元件可為相同或不同。何者稱為第一元件及何者稱為第二元件是任意的。
圖1為計算裝置100之方塊圖,其可用以產生可變解析度深度表示。計算裝置100可為例如膝上型電腦、桌上型電腦、平板電腦、行動裝置、或其間伺服器。計算裝置100可包括中央處理單元(CPU)102,其經組配以執行儲存之指令,以及記憶體裝置104其儲存可供CPU 102執行之指令。CPU可由匯流排106耦接至記憶體裝置104。此外,CPU 102可為單核心處理器、多核心處理器、計算叢集、或任何數量其他組態。此外,計算裝置100可包括一個以上CPU 102。由CPU 102執行之指令可用以實施共用虛擬記憶體。
計算裝置100亦可包括圖形處理單元(GPU)108。如同所示,CPU 102可經由匯流排106而耦接至GPU 108。GPU 108可經組配以實施計算裝置100內任何數量之圖形作業。例如,GPU 108可經組配以呈現或操縱圖形圖像、圖形框、視訊等,而顯示予計算裝置100之使用者。在若干實施例中,GPU 108包括若干圖形引擎(未顯示),其中,每一圖形引擎經組配以實施特定圖形任務,或執行特定類型工作量。例如,GPU 108可包括引擎,其產生可變解析度深度圖。深度圖之特定解析度可依據應用程式。
記憶體裝置104可包括隨機存取記憶體(RAM)、唯讀記憶體(ROM)、快閃記憶體、或任何其他適當記憶體系統。例如,記憶體裝置104可包括動態隨機存取記憶體(DRAM)。記憶體裝置104包括驅動器 110。驅動器110經組配以執行計算裝置100內各式組件之作業的指令。裝置驅動器110可為軟體、應用程式、應用程式碼等。
計算裝置100包括圖像捕捉裝置112。在若干實施例中,圖像捕捉裝置112為相機、立體攝影機、紅外線感測器等。圖像捕捉裝置112用以捕捉圖像資訊。圖像捕捉機構可包括感測器114,諸如深度感測器、圖像感測器、紅外線感測器、X射線光子計數感測器或其任何組合。圖像感測器可包括電荷耦合裝置(CCD)圖像感測器、互補金屬氧化物半導體(CMOS)圖像感測器、系統晶片(SOC)圖像感測器、具光敏薄膜電晶體之圖像感測器、或其任何組合。在若干實施例中,感測器114為深度感測器114。深度感測器114可用以捕捉與圖像資訊相關聯之深度資訊。在若干實施例中,驅動器110可用以操作圖像捕捉裝置112之感測器,諸如深度感測器。藉由分析像素間之變化及依據所欲解析度捕捉像素,深度感測器可產生可變解析度深度圖。
CPU 102可經由匯流排106而連接至輸入/輸出(I/O)裝置介面116,其經組配而將計算裝置100連接至一或多I/O裝置118。I/O裝置118可包括例如鍵盤及指向裝置,其中,指向裝置可包括觸控墊或觸控螢幕。I/O裝置118可為計算裝置100之內建組件,或可為外部連接至計算裝置100之裝置。
CPU 102亦可經由匯流排106而鏈接至顯示器 介面120,其經組配而將計算裝置100連接至顯示裝置122。顯示裝置122可包括顯示螢幕,其為計算裝置100之內建組件。顯示裝置122亦可包括電腦監視器、電視、或投影器,其係外部連接至計算裝置100。
計算裝置亦包括儲存裝置124。儲存裝置124為實體記憶體,諸如硬碟機、光碟機、隨身碟、碟機陣列、或其任何組合。儲存裝置124亦可包括遠端儲存驅動器。儲存裝置124包括任何數量應用程式126,其經組配而在計算裝置100上運行。應用程式126可用以組合媒體及圖形,包括3D立體攝影機圖像及立體顯示器之3D圖形。在範例中,應用程式126可用以產生可變解析度深度圖。
計算裝置100亦可包括網路介面控制器(NIC)128,其可經組配以經由匯流排106將計算裝置100連接至網路130。網路130可為廣域網路(WAN)、局域網路(LAN)、或網際網路。
圖1之方塊圖不希望指出計算裝置100包括圖1中所示之所有組件。此外,計算裝置100可包括圖1中未顯示之任何數量其餘組件,取決於特定實施之內容。
可變解析度深度表示可為各式格式,諸如3D霧點、多邊形網格、或二維(2D)深度Z陣列。為予說明,深度圖用以說明可變解析度深度表示之特徵。然而,任何類型深度表示可如文中所說明使用。此外,為予說明,像素用以說明若干表示單元。然而,可使用任何類型 單元,諸如體積像素(立體像素)。
深度表示之解析度可以類似於人眼的方式改變。藉由增加接近視網膜中心之光受體及神經節細胞的改變徑向濃度內之有效解析度及以指數方式減少進一步遠離中心之該些細胞,人類視覺系統經高度優化以捕捉需要處之增加細節,其藉由增加需要處之細節及減少其他地方細節而優化解析度及深度知覺。
視網膜包括稱為小凹之小區域,此可在目標位置提供最高深度解析度。眼睛接著進一步實施快速掃視運動以環繞目標位置抖動並增加其餘解析度至目標位置。因而,抖動致能當計算焦點之解析度時考量來自環繞焦點之像素的資料。中央窩區為環繞小凹之區域,亦對人類視覺增加細節,但相較於小凹區則處於較低解析度。近窩區提供較小凹區少之細節,及黃斑旁區提供較近窩區少之解析度。因而,黃斑旁區提供人類視覺系統內最少細節。
可變深度表示可以類似於人類視覺系統之方式配置。在若干實施例中,感測器可用以減少接近感測器中心之像素尺寸。像素減少之區域的位置亦可依據由感測器接收之命令而改變。深度圖亦可包括若干深度層。深度層為具特定深度解析度的深度圖區。深度層類似於人類視覺系統之區。例如,中央窩層可為深度圖之焦點及具最高解析度之區域。小凹層可環繞中央窩層並具較中央窩層低之解析度。近窩層可環繞小凹層並具較小凹層低之解析度。此外,黃斑旁層可環繞近窩層並具較近窩層低之解析 度。在若干實施例中,近窩層可稱為深度表示之背景層。此外,背景層可為包含經過特定距離之所有深度資訊之深度圖的同質區域。背景層可設定為深度表示內之最低解析度。儘管此處說明四層,可變解析度深度表示可包含任何數量之層。
使用若干技術可改變由可變解析度深度表示指出之深度資訊。改變可變解析度深度表示之一技術為使用可變位元深度。每一像素之位元深度係指每一像素之位元精確程度。藉由改變每一像素之位元深度,亦可改變每一像素儲存之資訊量。具較小位元深度之像素儲存有關像素之較少資訊,導致呈現時像素之較少解析度。改變可變解析度深度表示之另一技術為使用可變空間解析度。藉由改變空間解析度,改變每一像素或立體像素之尺寸。改變尺寸導致當較大像素區一同處理為區時儲存較少深度資訊,當獨立處理較小像素實則保留更多深度資訊。在若干實施例中,可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合可用以改變深度表示內區之解析度。
圖2描繪可變解析度深度圖202及依據可變位元深度之另一可變解析度深度圖204。可變位元深度亦可稱為可變位元精確。可變解析度深度圖202及可變解析度深度圖204具有特定位元深度,如深度圖202及深度圖204之每一方塊內部數字所指出。為予說明,深度圖202及深度圖204劃分為若干方塊,且每一方塊代表深度圖之像素。然而,深度圖可包含任何數量像素。
深度圖202具有正方形區,同時深度圖204具有實質上圓形區。深度圖204之區為實質上圓形,所示方塊未完全符合圓形形狀。任何形狀可用以定義可變解析度深度表示中之各式區,諸如圓形、矩形、八邊形、多邊形、或彎曲突條形。深度圖202及深度圖204之每一者中代號206之層具有16位元之位元深度,其中16位元資訊係儲存用於每一像素。藉由儲存每一像素之16位元資訊,依據二進制數表示,最大65,536不同顏色等級可儲存用於每一像素。深度圖202及深度圖204之代號208之層具有8位元之位元深度,其中8位元係儲存用於每一像素,此導致最大256不同顏色等級用於每一像素。最後代號210之層具有4位元之位元深度,其中4位元係儲存用於每一像素,此導致最大16不同顏色等級用於每一像素。
圖3描繪依據可變空間解析度之可變解析度深度圖302及結果圖像304。在若干實施例中,深度圖302可使用深度之立體像素角錐表示。角錐表示可用以檢測圖像特徵,諸如臉或眼睛。角錐八度解析度可於深度圖之層間改變。代號306之層具有約四分之一角錐八度解析度,其導致四立體像素被處理為一單元。代號308之層具有更細之二分之一角錐八度解析度,其導致二立體像素被處理為一單元。代號310之中心層具有具一對一角錐八度解析度之最高角錐八度解析度,其中一立體像素被處理為一單元。結果圖像304於圖像中心具有最高解析度,接近 圖像之眼睛。在若干實施例中,深度資訊可以結構檔案格式儲存為可變解析度層。再者,在若干實施例中,分層可變空間解析度可用以製造可變解析度深度表示。在分層可變空間解析度中,產生圖像角錐,接著用作將疊置之更高解析度區之複製的背景。圖像角錐之最小區可複製為背景以填充圖像之區域而覆蓋整個視野。
藉由將高解析度僅用於一部分深度表示,因為較少資訊儲存用於較低解析度區域,可減少深度圖尺寸。此外,當處理使用可變深度表示之較小檔案時,電力消耗減少。在若干實施例中,在深度圖之焦點可減少像素尺寸。可以增加包括焦點之表示之層之有效解析度的方式減少像素尺寸。減少像素尺寸類似於人類視覺系統之視網膜形樣。為減少像素尺寸,可增加感測器單元受體之深度,使得其餘光子可聚集在圖像中之焦點。在若干實施例中,藉由類似人類視覺系統建立之設計,深度感測模組可增加有效解析度,其中增加光受體實施如於類似於以上討論之視網膜形樣的形樣中實施的光二極體。在若干實施例中,分層深度精確及可變深度區形狀可用以減少深度圖之尺寸。
圖4為從可變解析度深度圖發展之一組圖像400。圖像400包括具改變之解析度程度的若干區。在若干實施例中,可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合可依據深度指標而自動調諧。如文中所使用,深度指標為圖像之特徵,其可用以在改變深度解 析度之區域間區別。因此,深度指標可為發光、紋理、邊緣、輪廓、顏色、運動、或時間。然而,深度指標可為圖像之任何特徵,其可用以在改變深度解析度之區域間區別。
自動調諧之解析度區為深度圖之區域,其使用深度指標而調諧為空間解析度、位元深度、像素尺寸、或其任何組合。深度圖之任何層可與調諧之解析度區疊置。調諧之解析度區可依據對圖像感測器之命令以減少深度,其中深度指標為特定值。例如,當紋理低時,深度解析度可為低,且當紋理高時,深度解析度亦可為高。圖像感測器可自動調諧深度圖像及儲存於深度圖中之結果可變解析度。
圖像400使用紋理作為深度指標以改變深度解析度。在若干實施例中,深度感測器用以自動檢測使用基於紋理之深度調諧的低紋理區。低紋理區可由深度感測器檢測。在若干實施例中,使用紋理分析來檢測低紋理區。在若干實施例中,藉由符合指出紋理之若干閾值的像素來檢測低紋理區。此外,可變位元深度及可變空間解析度可用以減少如深度感測器所發現之低紋理區中之深度解析度。類似地,可變位元精確及可變空間解析度可用以增加高紋理區域中之深度解析度。用以改變深度表示中之解析度的特定指標可依據深度圖之特定應用程式。再者,使用深度指標致能儲存依據指標之深度資訊,同時減少深度表示之尺寸以及用以處理深度表示之電力。
當運動用作深度指標時,動態框率用以致能深度感測器以依據場景運動決定框率。例如,若無場景移動,則不需計算新深度圖。結果,對低於預定閾值之場景移動而言,可使用較低框率。類似地,對高於預定閾值之場景移動而言,可使用較高框率。在若干實施例中,感測器可使用像素附近比較並施加閾值至從框至框之像素運動而檢測框運動。框率調整允許以所挑選或動態計算間隔來製造深度圖,包括規律間隔及上/下斜坡。再者,框率可依據深度層而改變。例如,對於高解析度深度層可以60框/秒(FPS)速率更新深度圖,同時對於較低解析度深度層則以30FPS更新深度圖。
除了使用深度指標之深度解析度的自動調諧以外,深度解析度可依據對感測器之命令而予調諧,其中圖像內之特定焦點應為最高或最低解析度之點。此外,深度解析度可依據對感測器之命令而予調諧,其中圖像內之特定物件應為最高或最低解析度之點。在範例中,焦點可為圖像中心。感測器接著可指定圖像中心為中央窩層,接著依據對感測器之進一步命令而指定小凹層、黃斑旁層、及近窩層。經由感測器之適當設定亦可指定其他層。再者,並非每一層總是出現在可變深度圖表示中。例如,當追蹤焦點時,可變深度圖表示可包括中央窩層及黃斑旁層。
深度表示之不同區之間改變解析度的結果為包含可變解析度深度資訊層之深度表示。在若干實施例 中,可變解析度係由感測器自動製造。驅動器可以改變深度表示之解析度的方式操作感測器。可修改感測器驅動器使得當感測器處理與特定深度指標相關聯之像素時,感測器自動修改像素之位元深度或空間解析度。例如,CMOS感測器典型地以一行一行的方式處理圖像資料。當感測器處理具需低解析度之某發光值範圍的像素時,感測器可自動減少發光值範圍內像素之位元深度或空間解析度。以此方式,感測器可用以產生可變解析度深度圖。
在若干實施例中,命令協定可用以獲得使用感測器之可變解析度深度圖。在若干實施例中,圖像捕捉裝置可與使用協定內命令之計算裝置通訊,以指出圖像捕捉機構之能力。例如,圖像捕捉機構可使用命令以指出由圖像捕捉機構所提供之解析度程度、由圖像捕捉機構所支援之深度指標、及使用可變深度表示之作業的其他資訊。命令協定亦可用以指定每一深度層之尺寸。
在若干實施例中,可使用標準檔案格式儲存可變解析度深度表示。在包含可變解析度深度表示之檔案內,可儲存標頭資訊,其指出每一深度層之尺寸、使用之深度指標、每一層之解析度、位元深度、空間解析度、及像素尺寸。以此方式,可變解析度深度表示為可攜跨越多計算系統。再者,標準化可變解析度深度表示檔案可致能由層存取圖像資訊。例如,應用程式可存取圖像之最低解析度部分,進行存取標準化可變解析度深度表示檔案中標頭資訊之處理。在若干實施例中,可變解析度深度圖可標 準化為檔案格式,以及深度感測模組中之部件。
圖5為產生可變解析度深度圖之方法的程序流程圖。在方塊502,決定深度指標。如以上所討論,深度指標可為發光、紋理、邊緣、輪廓、顏色、運動、或時間。此外,深度指標可由感測器決定,或深度指標可發送至使用命令協定之感測器。
在方塊504,依據深度指標而改變深度資訊。在若干實施例中,可使用可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合而改變深度資訊。深度資訊中之變化導致可變解析度深度圖內之一或多深度層。在若干實施例中,藉由複製一部分深度層以填充特定深度層之剩餘空間,分層可變空間解析度可用以改變深度資訊。此外,可使用自動調諧解析度區來改變深度資訊。在方塊506,依據改變之深度資訊而產生可變解析度深度表示。可以具標準化標頭資訊之標準化檔案格式儲存可變解析度深度表示。
使用目前說明之技術,可增加深度表示準確性。可變解析度深度圖提供深度表示內所需準確性,其致能需準確性處使用密集演算法,及不需準確性處使用較不密集演算法。例如,可於某些區中優化立體深度匹配演算法,以於若干區中提供子像素準確性,於其他區中提供像素準確性,及於低解析度區中提供像素群組準確性。
可以匹配人類視覺系統之方式提供深度解析度。藉由計算於人眼之後塑造之深度圖解析度,僅於必需 處適當定義準確性,性能增加,且電力減少,因為整個深度圖並非高解析度。此外,藉由增加深度圖之可變解析度,深度圖像之需要較高解析度之部分可具有可變解析度,需要較低解析度之部分亦可具有可變解析度,導致消耗較少記憶體之較小深度圖。當運動被監視為深度指標時,在高運動之區域中可選擇地增加解析度,及低運動之區域中減少解析度。亦藉由將紋理監視為深度指標,深度圖之準確性可在高紋理區域中增加及在低紋理區域中減少。深度圖之視野亦可侷限於已改變之區域,減少記憶體頻寬。
圖6為產生可變解析度深度圖之示例系統600之方塊圖。相似編號項目如參照圖1所說明。在若干實施例中,系統600為媒體系統。此外,系統600可併入個人電腦(PC)、膝上型電腦、纖薄膝上型電腦、平板電腦、觸控墊、可攜式電腦、手持式電腦、掌上型電腦、個人數位助理(PDA)、行動電話、組合行動電話/PDA、電視、智慧型裝置(例如智慧型電話、智慧型平板電腦或智慧型電視)、行動網際網路裝置(MID)、傳訊裝置、資料通訊裝置等。
在各式實施例中,系統600包含耦接至顯示器604之平台602。平台602可接收來自內容裝置之內容,諸如內容服務裝置606或內容傳送裝置608,或其他類似內容源。包括一或多導航部件之導航控制器610可用以與例如平台602及/或顯示器604互動。以下更詳細說 明每一組件。
平台602可包括晶片組612、中央處理單元(CPU)102、記憶體裝置104、儲存裝置124、圖形子系統614、應用程式126、及無線電設備616之任何組合。晶片組612可提供CPU 102、記憶體裝置104、儲存裝置124、圖形子系統614、應用程式126、及無線電設備616間之互通。例如,晶片組612可包括儲存適配器(未顯示),可提供與儲存裝置124之互通。
CPU 102可實施為複雜指令集電腦(CISC)或精簡指令集電腦(RISC)處理器、x86指令集相容處理器、多核心、或任何其他微處理器或中央處理單元(CPU)。在若干實施例中,CPU 102包括雙核心處理器、雙核心行動處理器等。
記憶體裝置104可實施為揮發性記憶體裝置,諸如但不侷限於隨機存取記憶體(RAM)、動態隨機存取記憶體(DRAM)、或靜態RAM(SRAM)。儲存裝置124可實施為非揮發性儲存裝置,諸如但不侷限於磁碟機、光碟機、磁帶機、內部儲存裝置、附加儲存裝置、快閃記憶體、電池支承SDRAM(同步DRAM)、及/或網路可存取儲存裝置。在若干實施例中,當例如包括多硬碟機時,儲存裝置124包括增加儲存性能及提昇有價值數位媒體保護之技術。
圖形子系統614可實施諸如靜止或視訊之圖像處理進行顯示。圖形子系統614可包括圖形處理單元( GPU),諸如GPU 108,或例如視覺處理單元(VPU)。類比或數位介面可用以通訊地耦接圖形子系統614及顯示器604。例如,介面可為高解析度多媒體介面、顯示埠、無線HDMI、及/或無線HD相容技術之任一者。圖形子系統614可整合於CPU 102或晶片組612中。另一方面,圖形子系統614可為獨立卡,通訊地耦接至晶片組612。
文中所說明之圖形及/或視訊處理技術可以各式硬體架構實施。例如,圖形及/或視訊功能性可整合於晶片組612中。另一方面,可使用分立圖形及/或視訊處理器。如仍另一實施例,可由包括多核心處理器之通用處理器實施圖形及/或視訊功能。在進一步實施例中,可以消費性電子裝置實施功能。
無線電設備616可包括可使用各式適當無線通訊技術傳輸及接收信號的一或多無線電設備。該等技術可包含跨越一或多無線網路之通訊。示例無線網路包括無線局域網路(WLAN)、無線個人區域網路(WPAN)、無線都會區域網路(WMAN)、蜂巢式網路、衛星網路等。在跨越該等網路之通訊中,無線電設備616可依據任何版本之一或多可用標準操作。
顯示器604可包括任何電視類型監視器或顯示器。例如,顯示器604可包括電腦顯示螢幕、觸控螢幕顯示器、視訊監視器、電視等。顯示器604可為數位及/或類比。在若干實施例中,顯示器604為全像顯示器。而且,顯示器604可為可接收視覺投影之透明表面。該等投 影可傳達各式資訊、圖像、物件等。例如,該等投影可為行動擴充實境(MAR)應用之視覺疊置。在一或多應用程式126之控制下,平台602可於顯示器604上顯示使用者介面618。
內容服務裝置606可由任何國家、國際、或 獨立服務主導,因而,可經由例如網際網路而存取平台602。內容服務裝置606可耦接至平台602及/或顯示器604。平台602及/或內容服務裝置606可耦接至網路130以傳達(例如發送及/或接收)媒體資訊至及自網路130。內容傳送裝置608亦可耦接至平台602及/或顯示器604。
內容服務裝置606可包括有線電視盒、個人電腦、網路、電話、或可傳送數位資訊之網際網路致能裝置。此外,內容服務裝置606可包括任何其他類似裝置,經由網路130或直接於內容提供者及平台602或顯示器604間單向或雙向傳達內容。將理解的是內容可經由網路130而單向及/或雙向傳達至及自系統600中之任一組件及內容提供者。內容之範例可包括任何媒體資訊,例如視訊、音樂、醫療及遊戲資訊等。
內容服務裝置606可接收諸如有線電視節目之內容,包括媒體資訊、數位資訊、或其他內容。內容提供者之範例可包括任何有線或衛星電視或無線電或網際網路內容提供者。
在若干實施例中,平台602接收來自導航控 制器610之控制信號,導航控制器610包括一或多導航部件。導航控制器610之導航部件可用以與例如使用者介面618互動。導航控制器610可為指向裝置,其可為電腦硬體組件(特定人類介面裝置),允許使用者將空間(例如連續及多維)資料輸入電腦。諸如繪圖使用者介面(GUI)之許多系統、電視及監視器允許使用者使用實體手勢而控制及提供資料至電腦或電視。實體手勢包括但不侷限於臉部表情、臉部移動、四肢移動、身體移動、身體語言或其任何組合。該等實體手勢可識別及轉化為命令或指令。
藉由指示器、游標、聚焦環、或顯示於顯示器604上之其他視覺指標,可於顯示器604上回應導航控制器610之導航部件的移動。例如,在應用程式126之控制下,設於導航控制器610上之導航部件可映射至顯示於使用者介面618上之虛擬導航部件。在若干實施例中,導航控制器610可非分離組件,而是可整合於平台602及/或顯示器604中。
系統600可包括驅動器(未顯示),其包括技術以於例如被致能時致能使用者在最初開機後碰觸按鈕而即時開啟或關閉平台602。程式邏輯可允許平台602於平台「關閉」時將內容串流至媒體適配器或其他內容服務裝置606或內容傳送裝置608。此外,晶片組612可包括之援例如5.1環繞音效及/或高清晰度7.1環繞音效之硬體及/或軟體。驅動器可包括用於整合圖形平台之圖形驅 動器。在若干實施例中,圖形驅動器包括週邊組件高速互連(PCIe)圖形卡。
在各式實施例中,可整合系統600中所示之 任何一或多組件。例如,可整合平台602及內容服務裝置606;可整合平台602及內容傳送裝置608;或可整合平台602、內容服務裝置606、及內容傳送裝置608。在若干實施例中,平台602及顯示器604為整合單元。例如,可整合顯示器604及內容服務裝置606,或可整合顯示器604及內容傳送裝置608。
系統600可實施為無線系統或有線系統。當實施為無線系統時,系統600可包括適於透過無線共用媒體通訊之組件及介面,諸如一或多天線、傳輸器、接收器、收發器、放大器、濾波器、控制邏輯等。無線共用媒體之範例可包括部分無線頻譜,諸如RF頻譜。當實施為有線系統時,系統600可包括適於透過有線通訊媒體通訊之組件及介面,諸如輸入/輸出(I/O)適配器、連接I/O適配器與相應有線通訊媒體之實體連接器、網路介面卡(NIC)、碟片控制器、視訊控制器、音頻控制器等。有線通訊媒體之範例可包括電線、電纜、金屬導線、印刷電路板(PCB)、背板、交換架構、半導體材料、雙絞線、同軸電纜、光纖等。
平台602可建立一或多邏輯或實體通道以傳達資訊。資訊可包括媒體資訊及控制資訊。媒體資訊可指代表供使用者使用之內容的任何資料。內容之範例可包括 例如來自語音對話、視訊會議、串流視訊、電子郵件(email)信息、語音郵件信息、字母數字符號、圖形、圖像、視訊、文字等之資料。來自語音對話之資料可為例如語音資訊、靜默期間、背景噪音、舒適噪音、音調等。控制資訊可指代表供自動系統使用之命令、指令、或控制字的任何資料。例如,控制資訊可用以經由系統傳送媒體資訊,或指示節點以預定方式處理媒體資訊。然而,實施例不侷限於圖6中所顯示或說明之元件或背景。
圖7為可體現圖6之系統600之小尺寸裝置700的示意圖。相似編號項目如參照圖6所說明。在若干實施例中,例如裝置700實施為具有無線能力之行動計算裝置。行動計算裝置可指例如具有處理系統及諸如一或多電池之行動電源的任何裝置。
如以上所說明,行動計算裝置之範例可包括個人電腦(PC)、膝上型電腦、纖薄膝上型電腦、平板電腦、觸控墊、可攜式電腦、手持式電腦、掌上型電腦、個人數位助理(PDA)、行動電話、組合行動電話/PDA、電視、智慧型裝置(例如智慧型電話、智慧型平板電腦或智慧型電視)、行動網際網路裝置(MID)、傳訊裝置、資料通訊裝置等。
行動計算裝置之範例亦可包括經配置而由人穿戴之電腦,諸如手腕電腦、手指電腦、戒指電腦、眼鏡電腦、皮帶夾電腦、臂帶電腦、鞋電腦、服裝電腦、或任何其他適當類型可穿戴電腦。例如,行動計算裝置可實施 為可執行電腦應用程式、以及語音通訊及/或資料通訊之智慧型電話。儘管藉由範例可以實施為智慧型電話之行動計算裝置說明若干實施例,應理解的是亦可使用其他無線行動計算裝置實施其他實施例。
如圖7中所示,裝置700可包括外殼702、顯示器704、輸入/輸出(I/O)裝置706、及天線708。裝置700亦可包括導航部件710。顯示器704可包括用於顯示適於行動計算裝置之資訊的任何適當顯示單元。I/O裝置706可包括用於將資訊輸入行動計算裝置之任何適當I/O裝置。例如,I/O裝置706可包括字母數字鍵盤、數字小鍵盤、觸控墊、輸入鍵、按鈕、開關、翹板開關、麥克風、揚聲器、語音識別裝置及軟體等。資訊亦可藉由麥克風輸入裝置700。該等資訊可由語音識別裝置數位化。
在若干實施例中,小尺寸裝置700為平板電腦裝置。在若干實施例中,平板電腦裝置包括圖像捕捉機構,其中圖像捕捉機構為相機、立體攝影機、紅外線感測器等。圖像捕捉裝置可用以捕捉圖像資訊、深度資訊、或其任何組合。平板電腦裝置亦可包括一或多感測器。例如,感測器可為深度感測器、圖像感測器、紅外線感測器、X射線光子計數感測器或其任何組合。圖像感測器可包括電荷耦合裝置(CCD)圖像感測器、互補金屬氧化物半導體(CMOS)圖像感測器、系統晶片(SOC)圖像感測器、具光敏薄膜電晶體之圖像感測器、或其任何組合。在若干實施例中,小尺寸裝置700為相機。
此外,在若干實施例中,本技術可用於顯示器,諸如電視面板及電腦監視器。可使用任何尺寸顯示器。在若干實施例中,顯示器用以呈現包括可變解析度深度表示之圖像及視訊。再者,在若干實施例中,顯示器為三維顯示器。在若干實施例中,顯示器包括圖像捕捉裝置以使用可變解析度深度表示捕捉圖像。在若干實施例中,圖像裝置可使用可變解析度深度表示捕捉圖像或視訊,接著即時呈現圖像或視訊予使用者。
此外,在實施例中,計算裝置100或系統600可包括列印引擎。列印引擎可發送圖像至列印裝置。如文中所說明,圖像可包括深度表示。列印裝置可包括印表機、傳真機、及可使用列印物件模組列印結果圖像之其他列印裝置。在若干實施例中,列印引擎可跨越網路130(圖1、圖6)發送可變解析度深度表示至列印裝置。在若干實施例中,列印裝置包括一或多感測器以依據深度指標改變深度資訊。列印裝置亦可產生、呈現、及列印可變解析度深度表示。
圖8為方塊圖,顯示實體非暫態電腦可讀取媒體800,其儲存用於可變解析度深度表示之碼。實體非暫態電腦可讀取媒體800可透過電腦匯流排804由處理器802存取。此外,實體非暫態電腦可讀取媒體800可包括碼,經組配以指示處理器802實施文中所說明之方法。
如圖8中指出,文中所討論之各式軟體組件可儲存於一或多實體非暫態電腦可讀取媒體800上。例 如,指標模組806可經組配以決定深度指標。深度模組808可經組配以依據深度指標改變圖像之深度資訊。表示模組810可產生可變解析度深度表示。
圖8之方塊圖並非希望指出實體非暫態電腦可讀取媒體800包括圖8中所示之所有組件。此外,實體非暫態電腦可讀取媒體800可包括任何數量圖8中未顯示之其餘組件,取決於特定實施之細節。
範例1
文中說明用於產生可變解析度深度表示之設備。該設備包括決定深度指標之邏輯,依據深度指標而改變圖像之深度資訊之邏輯,以及產生可變解析度深度表示之邏輯。
深度指標可為發光、紋理、邊緣、輪廓、顏色、運動、時間、或其任何組合。此外,深度指標可由使用可變解析度深度表示指定。依據深度指標而改變圖像之深度資訊的邏輯可包括使用可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合而改變深度資訊。從改變之深度資訊可獲得一或多深度層,其中,每一深度層包括特定深度解析度。依據深度指標而改變圖像之深度資訊的邏輯包括使用分層可變空間解析度。可變解析度深度表示可以具標準化標頭資訊之標準化檔案格式儲存。命令協定可用以產生可變解析度深度表示。設備可為平板電腦裝置或列印裝置。此外,可變解析度深度表示可用以於顯示 器上呈現圖像或視訊。
範例2
文中說明圖像捕捉裝置。圖像捕捉裝置包括感測器,其中,感測器決定深度指標,依據深度指標捕捉深度資訊,以及依據深度資訊產生可變解析度深度表示。深度指標可為發光、紋理、邊緣、輪廓、顏色、運動、時間、或其任何組合。深度指標可依據由使用命令協定之感測器所接收之命令決定。感測器可使用可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合而改變深度資訊。此外,感測器可從深度資訊產生深度層,其中,每一深度層包括特定深度解析度。感測器可產生具標準化標頭資訊之標準化檔案格式的可變解析度深度表示。此外,感測器可包括用以產生可變解析度深度表示之命令協定的介面。圖像捕捉裝置可為相機、立體攝影機、飛行時間感測器、深度感測器、結構光攝影機、或其任何組合。
範例3
文中說明計算裝置。計算裝置包括中央處理單元(CPU),其經組配以執行儲存之指令;以及儲存裝置,其儲存指令,儲存裝置包含處理器可執行碼。當處理器可執行碼由CPU執行時經組配以決定深度指標;依據深度指標而改變圖像之深度資訊;以及產生可變解析度深度表示。深度指標可為發光、紋理、邊緣、輪廓、顏色、 運動、時間、或其任何組合。依據深度指標而改變圖像之深度資訊可包括使用可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合而改變深度資訊。從改變之深度資訊可獲得一或多深度層,其中,每一深度層包括特定深度解析度。
範例4
文中說明實體非暫態電腦可讀取媒體。電腦可讀取媒體包括碼以指示處理器決定深度指標;依據深度指標而改變圖像之深度資訊;以及產生可變解析度深度表示。深度指標可為發光、紋理、邊緣、輪廓、顏色、運動、時間、或其任何組合。此外,由應用程式使用可變解析度深度表示可指定深度指標。依據深度指標改變圖像之深度資訊可包括使用可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合而改變深度資訊。
應理解的是上述範例中之詳情可用於一或多實施例中。例如,以上所說明之計算裝置的所有可選部件亦可相對於文中所說明之方法或電腦可讀取媒體實施。此外,儘管文中可使用流程圖及/或狀態圖說明實施例,本發明不侷限於該些圖或文中相應說明。例如,流程不需經過每一描繪之框或狀態,或確實依文中所描繪及說明之相同順序。
本發明不限於文中所列特定細節。事實上,從本揭露獲益之熟悉本技藝之人士將理解可在本發明之範 圍內實施上述說明及圖式之許多其他變化。因此,下列包括任何修訂之申請項定義本發明之範圍。
302‧‧‧可變解析度深度圖
304‧‧‧結果圖像
306、308‧‧‧層
310‧‧‧中心層

Claims (25)

  1. 一種設備,用於產生可變解析度深度表示,該設備包含:邏輯,用以決定深度指標;邏輯,用以依據該深度指標而改變圖像之深度資訊;以及邏輯,用以產生該可變解析度深度表示。
  2. 如申請專利範圍第1項之設備,其中,該深度指標為發光、紋理、邊緣、輪廓、顏色、運動、時間、或其任何組合。
  3. 如申請專利範圍第1項之設備,其中,該深度指標係由使用該可變解析度深度表示指定。
  4. 如申請專利範圍第1項之設備,其中,用以依據該深度指標而改變圖像之深度資訊的邏輯包括使用可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合而改變該深度資訊。
  5. 如申請專利範圍第1項之設備,包含從該改變之深度資訊獲得一或多深度層,其中,每一深度層包括特定深度解析度。
  6. 如申請專利範圍第1項之設備,其中,用以依據該深度指標而改變圖像之深度資訊的邏輯包括使用分層可變空間解析度。
  7. 如申請專利範圍第1項之設備,其中,該可變解析度深度表示係以具標準化標頭資訊之標準化檔案格式儲 存。
  8. 如申請專利範圍第1項之設備,其中,命令協定係用以產生該可變解析度深度表示。
  9. 如申請專利範圍第1項之設備,其中,該設備為平板電腦裝置。
  10. 如申請專利範圍第1項之設備,其中,該設備為列印裝置。
  11. 如申請專利範圍第1項之設備,進一步包含呈現該可變解析度深度表示係用以於顯示器上呈現圖像或視訊。
  12. 一種圖像捕捉裝置,包括感測器,其中,該感測器決定深度指標,依據該深度指標捕捉深度資訊,以及依據該深度資訊產生可變解析度深度表示。
  13. 如申請專利範圍第12項之圖像捕捉裝置,其中,該深度指標為發光、紋理、邊緣、輪廓、顏色、運動、時間、或其任何組合。
  14. 如申請專利範圍第12項之圖像捕捉裝置,其中,該深度指標係依據由使用命令協定之該感測器所接收之命令決定。
  15. 如申請專利範圍第12項之圖像捕捉裝置,其中,該感測器使用可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合而改變該深度資訊。
  16. 如申請專利範圍第12項之圖像捕捉裝置,其中,該感測器從該深度資訊產生深度層,其中,每一深度 層包括特定深度解析度。
  17. 如申請專利範圍第12項之圖像捕捉裝置,其中,該感測器產生具標準化標頭資訊之標準化檔案格式的該可變解析度深度表示。
  18. 如申請專利範圍第12項之圖像捕捉裝置,其中,該感測器包括用以產生該可變解析度深度表示之命令協定的介面。
  19. 如申請專利範圍第12項之圖像捕捉裝置,其中,該圖像捕捉裝置為相機、立體攝影機、飛行時間感測器、深度感測器、結構光攝影機、或其任何組合。
  20. 一種計算裝置,包含:中央處理單元(CPU),其經組配以執行儲存之指令;儲存裝置,其儲存指令,該儲存裝置包含處理器可執行碼,當該碼由該CPU執行時經組配以:決定深度指標;依據該深度指標而改變圖像之深度資訊;以及產生該可變解析度深度表示。
  21. 如申請專利範圍第20項之計算裝置,其中,該深度指標為發光、紋理、邊緣、輪廓、顏色、運動、時間、或其任何組合。
  22. 如申請專利範圍第20項之計算裝置,其中,依據該深度指標而改變圖像之深度資訊包括使用可變位元深度、可變空間解析度、減少像素尺寸、或其任何組合而改 變該深度資訊。
  23. 如申請專利範圍第20項之計算裝置,包含從該改變之深度資訊獲得一或多深度層,其中,每一深度層包括特定深度解析度。
  24. 一種實體非暫態電腦可讀取媒體,包含碼以指示處理器:決定深度指標;依據該深度指標而改變圖像之深度資訊;以及產生該可變解析度深度表示。
  25. 如申請專利範圍第24項之電腦可讀取媒體,其中,該深度指標為發光、紋理、邊緣、輪廓、顏色、運動、時間、或其任何組合。
TW103107446A 2013-03-15 2014-03-05 可變解析度之深度表示 TWI552110B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US13/844,295 US20140267616A1 (en) 2013-03-15 2013-03-15 Variable resolution depth representation

Publications (2)

Publication Number Publication Date
TW201503047A TW201503047A (zh) 2015-01-16
TWI552110B true TWI552110B (zh) 2016-10-01

Family

ID=51525599

Family Applications (1)

Application Number Title Priority Date Filing Date
TW103107446A TWI552110B (zh) 2013-03-15 2014-03-05 可變解析度之深度表示

Country Status (7)

Country Link
US (1) US20140267616A1 (zh)
EP (1) EP2973418A4 (zh)
JP (1) JP2016515246A (zh)
KR (1) KR101685866B1 (zh)
CN (1) CN105074781A (zh)
TW (1) TWI552110B (zh)
WO (1) WO2014150159A1 (zh)

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015019204A (ja) * 2013-07-10 2015-01-29 ソニー株式会社 画像処理装置および画像処理方法
US10497140B2 (en) 2013-08-15 2019-12-03 Intel Corporation Hybrid depth sensing pipeline
WO2015172227A1 (en) * 2014-05-13 2015-11-19 Pcp Vr Inc. Method, system and apparatus for generation and playback of virtual reality multimedia
US9940541B2 (en) 2015-07-15 2018-04-10 Fyusion, Inc. Artificially rendering images using interpolation of tracked control points
US10176592B2 (en) 2014-10-31 2019-01-08 Fyusion, Inc. Multi-directional structured image array capture on a 2D graph
US10262426B2 (en) 2014-10-31 2019-04-16 Fyusion, Inc. System and method for infinite smoothing of image sequences
US10275935B2 (en) 2014-10-31 2019-04-30 Fyusion, Inc. System and method for infinite synthetic image generation from multi-directional structured image array
GB2532003A (en) 2014-10-31 2016-05-11 Nokia Technologies Oy Method for alignment of low-quality noisy depth map to the high-resolution colour image
US10726593B2 (en) 2015-09-22 2020-07-28 Fyusion, Inc. Artificially rendering images using viewpoint interpolation and extrapolation
EP3251151A4 (en) * 2015-01-26 2018-07-25 Dartmouth College Image sensor with controllable non-linearity
US11006095B2 (en) 2015-07-15 2021-05-11 Fyusion, Inc. Drone based capture of a multi-view interactive digital media
US12495134B2 (en) 2015-07-15 2025-12-09 Fyusion, Inc. Drone based capture of multi-view interactive digital media
US10222932B2 (en) 2015-07-15 2019-03-05 Fyusion, Inc. Virtual reality environment based manipulation of multilayered multi-view interactive digital media representations
US10147211B2 (en) 2015-07-15 2018-12-04 Fyusion, Inc. Artificially rendering images using viewpoint interpolation and extrapolation
US12261990B2 (en) 2015-07-15 2025-03-25 Fyusion, Inc. System and method for generating combined embedded multi-view interactive digital media representations
US11095869B2 (en) 2015-09-22 2021-08-17 Fyusion, Inc. System and method for generating combined embedded multi-view interactive digital media representations
US10852902B2 (en) 2015-07-15 2020-12-01 Fyusion, Inc. Automatic tagging of objects on a multi-view interactive digital media representation of a dynamic entity
US10242474B2 (en) 2015-07-15 2019-03-26 Fyusion, Inc. Artificially rendering images using viewpoint interpolation and extrapolation
US11783864B2 (en) 2015-09-22 2023-10-10 Fyusion, Inc. Integration of audio into a multi-view interactive digital media representation
US10475370B2 (en) * 2016-02-17 2019-11-12 Google Llc Foveally-rendered display
CN106131693A (zh) * 2016-08-23 2016-11-16 张程 一种模块化的视频传输播放系统及方法
US11202017B2 (en) 2016-10-06 2021-12-14 Fyusion, Inc. Live style transfer on a mobile device
US11222397B2 (en) 2016-12-23 2022-01-11 Qualcomm Incorporated Foveated rendering in tiled architectures
US10437879B2 (en) 2017-01-18 2019-10-08 Fyusion, Inc. Visual search using multi-view interactive digital media representations
US20180227482A1 (en) 2017-02-07 2018-08-09 Fyusion, Inc. Scene-aware selection of filters and effects for visual digital media content
US10313651B2 (en) 2017-05-22 2019-06-04 Fyusion, Inc. Snapshots at predefined intervals or angles
US10885607B2 (en) 2017-06-01 2021-01-05 Qualcomm Incorporated Storage for foveated rendering
US10748244B2 (en) 2017-06-09 2020-08-18 Samsung Electronics Co., Ltd. Systems and methods for stereo content detection
US11069147B2 (en) 2017-06-26 2021-07-20 Fyusion, Inc. Modification of multi-view interactive digital media representation
US10609355B2 (en) * 2017-10-27 2020-03-31 Motorola Mobility Llc Dynamically adjusting sampling of a real-time depth map
US20190295503A1 (en) * 2018-03-22 2019-09-26 Oculus Vr, Llc Apparatuses, systems, and methods for displaying mixed bit-depth images
US10592747B2 (en) 2018-04-26 2020-03-17 Fyusion, Inc. Method and apparatus for 3-D auto tagging
EP3844528A1 (en) 2018-10-31 2021-07-07 Sony Semiconductor Solutions Corporation Electronic device, method and computer program
CN114175630B (zh) 2019-07-28 2024-11-01 谷歌有限责任公司 利用注视点网格渲染沉浸式视频内容的方法、系统和介质
CN114641802A (zh) * 2019-10-02 2022-06-17 交互数字Vc控股法国有限公司 用于对体积视频进行编码、传输和解码的方法和装置
KR102550678B1 (ko) 2020-01-22 2023-07-04 노다르 인크. 비-강성 스테레오 비전 카메라 시스템
TWI715448B (zh) * 2020-02-24 2021-01-01 瑞昱半導體股份有限公司 偵測解析度的方法及電子裝置
CN113316017B (zh) * 2020-02-27 2023-08-22 瑞昱半导体股份有限公司 检测分辨率的方法和电子装置
WO2023059365A1 (en) * 2021-10-08 2023-04-13 Nodar Inc. Real-time perception system for small objects at long range for autonomous vehicles
CN117043639B (zh) * 2021-12-30 2025-07-15 深圳引望智能技术有限公司 一种控制方法、激光雷达及终端设备
WO2023244252A1 (en) 2022-06-14 2023-12-21 Nodar Inc. 3d vision system with automatically calibrated stereo vision sensors and lidar sensor
JP2025168882A (ja) * 2024-04-30 2025-11-12 キヤノン株式会社 表示装置、光電変換装置、および電子機器

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6028608A (en) * 1997-05-09 2000-02-22 Jenkins; Barry System and method of perception-based image generation and encoding
US20090179998A1 (en) * 2003-06-26 2009-07-16 Fotonation Vision Limited Modification of Post-Viewing Parameters for Digital Images Using Image Region or Feature Information
US20110199379A1 (en) * 2008-10-21 2011-08-18 Koninklijke Philips Electronics N.V. Method and device for providing a layered depth model of a scene
US20120039525A1 (en) * 2010-08-12 2012-02-16 At&T Intellectual Property I, L.P. Apparatus and method for providing three dimensional media content

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5103306A (en) * 1990-03-28 1992-04-07 Transitions Research Corporation Digital image compression employing a resolution gradient
GB2301514B (en) * 1994-12-01 1999-06-09 Namco Ltd Apparatus and method for image synthesization
US6384859B1 (en) * 1995-03-29 2002-05-07 Sanyo Electric Co., Ltd. Methods for creating an image for a three-dimensional display, for calculating depth information and for image processing using the depth information
US5798762A (en) * 1995-05-10 1998-08-25 Cagent Technologies, Inc. Controlling a real-time rendering engine using a list-based control mechanism
JP3481631B2 (ja) * 1995-06-07 2003-12-22 ザ トラスティース オブ コロンビア ユニヴァーシティー イン ザ シティー オブ ニューヨーク 能動型照明及びデフォーカスに起因する画像中の相対的なぼけを用いる物体の3次元形状を決定する装置及び方法
US6055330A (en) * 1996-10-09 2000-04-25 The Trustees Of Columbia University In The City Of New York Methods and apparatus for performing digital image and video segmentation and compression using 3-D depth information
JP3998863B2 (ja) * 1999-06-30 2007-10-31 富士フイルム株式会社 奥行検出装置及び撮像装置
AU2002257442A1 (en) * 2001-05-14 2002-11-25 Fadi Dornaika Attentive panoramic visual sensor
US6704025B1 (en) * 2001-08-31 2004-03-09 Nvidia Corporation System and method for dual-depth shadow-mapping
EP1520426A1 (en) * 2002-06-28 2005-04-06 Koninklijke Philips Electronics N.V. Spatial scalable compression
JP4188968B2 (ja) * 2003-01-20 2008-12-03 三洋電機株式会社 立体視用映像提供方法及び立体映像表示装置
JP4644669B2 (ja) * 2003-08-05 2011-03-02 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ マルチビュー画像の生成
US7420750B2 (en) * 2004-05-21 2008-09-02 The Trustees Of Columbia University In The City Of New York Catadioptric single camera systems having radial epipolar geometry and methods and means thereof
US7990429B2 (en) * 2005-10-28 2011-08-02 Nikon Corporation Imaging device with blur enhancement
US7612795B2 (en) * 2006-05-12 2009-11-03 Anthony Italo Provitola Enhancement of visual perception III
US7969438B2 (en) * 2007-01-23 2011-06-28 Pacific Data Images Llc Soft shadows for cinematic lighting for computer graphics
US7817823B1 (en) * 2007-04-27 2010-10-19 Adobe Systems Incorporated Calculating shadow from area light sources using a spatially varying blur radius
KR101367282B1 (ko) * 2007-12-21 2014-03-12 삼성전자주식회사 깊이 정보에 대한 적응적 정보 표현 방법 및 그 장치
US20120262445A1 (en) * 2008-01-22 2012-10-18 Jaison Bouie Methods and Apparatus for Displaying an Image with Enhanced Depth Effect
US8280194B2 (en) * 2008-04-29 2012-10-02 Sony Corporation Reduced hardware implementation for a two-picture depth map algorithm
JP2010081460A (ja) * 2008-09-29 2010-04-08 Hitachi Ltd 撮像装置及び画像生成方法
US20100278232A1 (en) * 2009-05-04 2010-11-04 Sehoon Yea Method Coding Multi-Layered Depth Images
JP5506272B2 (ja) * 2009-07-31 2014-05-28 富士フイルム株式会社 画像処理装置及び方法、データ処理装置及び方法、並びにプログラム
JP2011060216A (ja) * 2009-09-14 2011-03-24 Fujifilm Corp 画像処理装置および画像処理方法
US20120050483A1 (en) * 2010-08-27 2012-03-01 Chris Boross Method and system for utilizing an image sensor pipeline (isp) for 3d imaging processing utilizing z-depth information
JP6011862B2 (ja) * 2011-01-27 2016-10-19 パナソニックIpマネジメント株式会社 3次元画像撮影装置及び3次元画像撮影方法
KR20120119173A (ko) * 2011-04-20 2012-10-30 삼성전자주식회사 3d 영상처리장치 및 그 입체감 조정방법
EP2721823B1 (en) * 2011-06-15 2018-06-06 MediaTek Inc. Method and apparatus of texture image compression in 3d video coding
KR20140068013A (ko) * 2011-08-25 2014-06-05 텔레포나크티에볼라게트 엘엠 에릭슨(피유비엘) 심도맵의 인코딩 및 디코딩

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6028608A (en) * 1997-05-09 2000-02-22 Jenkins; Barry System and method of perception-based image generation and encoding
US20090179998A1 (en) * 2003-06-26 2009-07-16 Fotonation Vision Limited Modification of Post-Viewing Parameters for Digital Images Using Image Region or Feature Information
US20110199379A1 (en) * 2008-10-21 2011-08-18 Koninklijke Philips Electronics N.V. Method and device for providing a layered depth model of a scene
US20120039525A1 (en) * 2010-08-12 2012-02-16 At&T Intellectual Property I, L.P. Apparatus and method for providing three dimensional media content

Also Published As

Publication number Publication date
KR101685866B1 (ko) 2016-12-12
EP2973418A4 (en) 2016-10-12
TW201503047A (zh) 2015-01-16
JP2016515246A (ja) 2016-05-26
KR20150106441A (ko) 2015-09-21
WO2014150159A1 (en) 2014-09-25
CN105074781A (zh) 2015-11-18
EP2973418A1 (en) 2016-01-20
US20140267616A1 (en) 2014-09-18

Similar Documents

Publication Publication Date Title
TWI552110B (zh) 可變解析度之深度表示
JP6009099B2 (ja) 3d画像を向上させるための装置、プログラムおよびシステム
CN104541308B (zh) 使用多边形的3d网格和对应纹理对图像进行编码的方法和装置
US10497140B2 (en) Hybrid depth sensing pipeline
CN114078083B (zh) 头发变换模型生成方法和装置、头发变换方法和装置
US20250193416A1 (en) Adaptive Quantization Matrix for Extended Reality Video Encoding
US20190043154A1 (en) Concentration based adaptive graphics quality
JP2016517505A (ja) 適応デプス検出
CN108665510B (zh) 连拍图像的渲染方法、装置、存储介质及终端
US20150077575A1 (en) Virtual camera module for hybrid depth vision controls
CN112558847B (zh) 控制界面显示的方法及头戴式显示器
EP4621721A1 (en) Face image generation method and apparatus, device, and storage medium
US20170323416A1 (en) Processing image fragments from one frame in separate image processing pipes based on image analysis
CN110728744B (zh) 一种体绘制方法、装置及智能设备
CN112335219B (zh) 移动设备及其控制方法
KR20250165168A (ko) 미디어 콘텐트를 재생하기 위한 장치, 방법, 및 저장 매체
KR20250168024A (ko) 사용자 인터페이스를 표시하기 위한 웨어러블 장치, 방법, 및 비일시적 컴퓨터 판독 가능 저장 매체
CN113409235A (zh) 一种灭点估计的方法及装置

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees