[go: up one dir, main page]

JP2018191260A - 固体撮像装置、駆動方法、及び電子機器 - Google Patents

固体撮像装置、駆動方法、及び電子機器 Download PDF

Info

Publication number
JP2018191260A
JP2018191260A JP2017095080A JP2017095080A JP2018191260A JP 2018191260 A JP2018191260 A JP 2018191260A JP 2017095080 A JP2017095080 A JP 2017095080A JP 2017095080 A JP2017095080 A JP 2017095080A JP 2018191260 A JP2018191260 A JP 2018191260A
Authority
JP
Japan
Prior art keywords
signal
unit
solid
imaging device
state imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017095080A
Other languages
English (en)
Inventor
典弘 市丸
Norihiro Ichimaru
典弘 市丸
真生 全
Masao ZEN
真生 全
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2017095080A priority Critical patent/JP2018191260A/ja
Priority to PCT/JP2018/017155 priority patent/WO2018207665A1/ja
Priority to US16/612,490 priority patent/US11201997B2/en
Priority to KR1020197034208A priority patent/KR20200006066A/ko
Publication of JP2018191260A publication Critical patent/JP2018191260A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/65Noise processing, e.g. detecting, correcting, reducing or removing noise applied to reset noise, e.g. KTC noise related to CMOS structures by techniques other than CDS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/616Noise processing, e.g. detecting, correcting, reducing or removing noise involving a correlated sampling function, e.g. correlated double sampling [CDS] or triple sampling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/618Noise processing, e.g. detecting, correcting, reducing or removing noise for random or high-frequency noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • H04N25/773Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters comprising photon counting circuits, e.g. single photon detection [SPD] or single photon avalanche diodes [SPAD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/79Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】固体撮像装置の信号の読み出し速度の低下を抑止する。【解決手段】本技術の第1の側面である固体撮像装置は、複数の画素が配列された画素アレイ部と、前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、前記信号処理により得られる信号を保持するメモリ部とを備え、前記信号処理部は、所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録し、前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う。本技術は、例えば、イメージセンサに適用できる。【選択図】図8

Description

本技術は、固体撮像装置、駆動方法、及び電子機器に関し、特に、例えば、1画素分の領域に複数の光電変換部が形成された固体撮像装置、駆動方法、及び電子機器に関する。
デジタルカメラ等のAF(オートフォーカス)方式として(像面)位相差AFが知られている(例えば、特許文献1参照)。
位相差AFを実現するイメージセンサの画素アレイ部には、画像の画素信号を得るための通常画素に加えて、入射光を瞳分割するための位相差検出画素が所定の位置に配置されている。
位相差検出画素は、例えば、位相差AFの用途に用いられており、位相差検出画素が配置されている位置の画素信号は補間処理によって得られていた。
そこで、位相差検出画素の出力を位相差AFの用途だけでなく、画像を構成する画素信号としても利用できるように、画素アレイ部の1画素分の領域に2つの光電変換部(フォトダイオード等)が形成された固体撮像装置が出現している。該固体撮像装置は、画素アレイの1画素分の領域に2つの光電変換部を有するので、以下、ダブル式センサと称する。
ダブル式センサでは、1画素分の領域に形成された2つの光電変換部の出力をそれぞれ個別に、位相差AFの用途に用いることができる。また、ダブル式センサでは、1画素分の領域に形成された2つの光電変換部の出力を加算して、画像を構成する画素の画素信号として用いることができる。
特開2007−304188号公報
ただし、ダブル式センサの場合、1画素分の画素信号を得るためには、1画素分の領域に形成されている2つの光電変換部からそれぞれ読み出した信号にA/D(Analog Digital)変換を行う必要がある。したがって、1画素分の領域に1つの光電変換部が形成されたイメージセンサ(以下、シングル式センサと称する)に比較して、1画素当たりのA/D変換結果を得るまでに要する時間が長くなってしまい、ダブル式センサからの読み出し速度(fps)が低下してしまうことになる。
本技術はこのような状況に鑑みてなされたものであり、1画素分の領域に複数の光電変換部が形成された固体撮像装置の読み出し速度の低下を抑止できるようにするものである。
本開示の第1の側面である固体撮像装置は、複数の画素が配列された画素アレイ部と、前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、前記信号処理により得られる信号を保持するメモリ部とを備え、前記信号処理部は、所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録し、前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う。
本開示の第1の側面である駆動方法は、複数の画素が配列された画素アレイ部と、前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、前記信号処理により得られる信号を保持するメモリ部とを備える固体撮像装置の駆動方法において、前記信号処理部による、所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録する記録ステップと、前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う信号処理ステップとを含む。
本開示の第1の側面である電子機器は、固体撮像装置が搭載された電子機器において、前記固体撮像装置が、複数の画素が配列された画素アレイ部と、前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、前記信号処理により得られる信号を保持するメモリ部とを備え、前記信号処理部は、所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録し、前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う。
本開示の第1の側面においては、所定のフレームから得られたノイズ信号がメモリ部に記録され、前記所定のフレームより後のフレームから得られたデータ信号の信号処理が、前記メモリ部に記録された前記ノイズ信号を利用して行われる。
本技術の第2の側面である固体撮像装置は、第1の画素を含む複数の画素が配列された第1の半導体基板と、前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、メモリ部を有する第3の半導体基板とを備え、前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含み、前記メモリ部は、前記第1のノイズ信号を記録し、前記A/D変換部は、前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行い、前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う。
本技術の第2の側面である駆動方法は、第1の画素を含む複数の画素が配列された第1の半導体基板と、前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、メモリ部を有する第3の半導体基板とを備え、前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含む固体撮像装置の駆動方法において、前記メモリ部による、前記第1のノイズ信号を記録する記録ステップと、前記A/D変換部による、前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行う第1のA/D変換ステップと、前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う第2のA/D変換ステップとを含む。
本技術の第2の側面である電子機器は、固体撮像装置が搭載された電子機器において、前記固体撮像装置が、第1の画素を含む複数の画素が配列された第1の半導体基板と、前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、メモリ部を有する第3の半導体基板とを備え、前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含み、前記メモリ部は、前記第1のノイズ信号を記録し、前記A/D変換部は、前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行い、前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う。
本技術の第2の側面においては、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号のうち、前記第1のノイズ信号がメモリ部に記録され、前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換が行われ、前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換が行われる。
本技術の第1の側面によれば、固体撮像装置の読み出し速度の低下を抑止することができる。
本技術の第2の側面によれば、固体撮像装置の読み出し速度の低下を抑止することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
1画素の領域に1つの光電変換部が形成されたシングル式イメージセンサにおける画素アレイ部の構成例を示す図である。 シングル式センサの画素によるND駆動を説明するための図である。 1画素の領域に2つの光電変換部が形成されたダブル式センサにおける画素アレイ部の構成例を示す図である。 ダブル式センサの画素によるNDND駆動を説明するための図である。 ダブル式センサの画素に想定できるNDD駆動を説明するための図である。 ダブル式センサの画素に適用するDD駆動を説明するための図である。 本技術を適用した固体撮像装置の構成例を示すブロック図である。 NDND駆動とDD駆動をフレーム単位で切り替える例を示す図である。 NDND駆動時の処理を説明するフローチャートである。 DD駆動時の処理を説明するフローチャートである。 前段処理と後段処理を並行して実行することの効果を示す図である。 NDND駆動とDD駆動をライン単位で切り替える例を示す図である。 シングル式センサにおけるND駆動とD駆動を説明するための図である。 ND駆動とD駆動をフレーム単位で切り替える例示す図である。 ND駆動とD駆動をライン単位で切り替える例示す図である。 図7の固体撮像装置を2層の積層チップとした場合の構成例を示す平面図である。 図7の固体撮像装置を3層の積層チップとした場合の構成例を示す平面図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本技術を実施するための最良の形態(以下、実施の形態と称する)について、図面を参照しながら詳細に説明する。なお、説明は、以下の順序で行なう。
1.本技術の概要
2.本技術の実施の形態である固体撮像装置の構成例
3.本技術の実施の形態である固体撮像装置によるフレーム単位のNDND駆動とDD駆動の切り替え
4−1.NDND駆動時の処理
4−2.DD駆動時の処理
5.出力レートの安定化
6.本技術の実施の形態である固体撮像装置によるライン単位のNDND駆動とDD駆動の切り替え
7.変形例
8.本技術の実施の形態である固体撮像装置を積層チップとした場合の構成例
9.移動体への応用例
なお、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
<1.本技術の概要>
始めに、本技術の概要について説明する。
図1は、シングル式センサにおける画素アレイ部の構成例を示している。シングル式センサの画素アレイ部10の1画素分の領域には、1つの光電変換部(フォトダイオード等)11が形成されている。
図2は、図1に示されたシングル式センサの画素から読み出された信号をA/D変換する一連の駆動を説明するための図である。なお、期間Tは、1画素分の領域に形成された1つの光電変換部11からアナログの電圧信号を読み出し、A/D変換を行う期間を示す。点線L1は、画素から読み出されたアナログの電圧信号(後述するノイズ信号とデータ信号)を示し、実線L2は、前記電圧信号をA/D変換する際に前記電圧信号と比較される参照信号を示している。
ここで、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサにおいて、画素の駆動(画素からの信号の読み出し及びA/D変換)としては、ノイズ信号の読出し及びA/D変換と、データ信号の読出し及びA/D変換とが行われる。
ノイズ信号の読出し及びA/D変換では、画素のFD(フローティングディフュージョン)(図示せず)をリセットした直後の、そのFDの電圧がノイズ信号として読み出されてA/D変換される。
データ信号の読出し及びA/D変換では、光電変換部11で生成された電荷がFDに転送された後の、そのFDの電圧がデータ信号として読み出されてA/D変換される。
ここで、ノイズ信号のA/D変換を行うための期間を期間Nとも称し、データ信号のA/D変換を行うための期間を期間Dとも称することにする。
図2は、シングル式センサの画素の駆動における期間N及び期間Dを示している。
図2において、期間Nでは、参照信号L2が一定の割合で減少する。そして、参照信号L2が減少し始める期間Nの先頭から、参照信号L2と、ノイズ信号としての電圧信号L1とが一致するまでの時間に対応する値が、ノイズ信号のA/D変換結果として出力される。
期間Dでは、参照信号L2が一定の割合で減少する。そして、参照信号L2が減少し始める期間Dの先頭から、参照信号L2と、データ信号としての電圧信号L2とが一致するまでの時間に対応する値が、データ信号のA/D変換結果として出力される。
シングル式センサでは、データ信号のA/D変換結果からノイズ信号のA/D変換結果を減算した減算値を求める(デジタル)CDS(Correlated Double Sampling)処理が行われ、その減算値が、画像を構成する画素信号として出力される。
図2に示されるように、シングル式センサの画素の一連の駆動は、ノイズ信号をA/D変換する期間Nと、データ信号をA/D変換する期間Dから成る。
以下、図2に示された一連の駆動をND駆動と称する。ND駆動では、CDS処理は、期間Dにおいてデータ信号のA/D変換とともに行うことができる。
次に、図3は、ダブル式センサにおける画素アレイ部の構成例を示している。すなわちダブル式センサにおける画素アレイ部21の1画素分の領域には、その左半分に光電変換部11Lが、その右半分に光電変換部11Rが形成されている。
図4は、図3に示されたダブル式センサの画素から読み出された電圧信号をA/D変換を行う一連の駆動を説明するための図である。なお、期間TLは、1画素分の領域に形成された光電変換部11L及び11Rのうち、光電変換部11Lから電圧信号を読み出し、A/D変換を行う期間を示す。期間TRは、1画素分の領域に形成された光電変換部11L及び11Rのうち、光電変換部11Rから電圧信号を読み出し、A/D変換を行う期間を示す。点線L1は、画素から読み出されたアナログの電圧信号を示し、実線L2は、前記電圧信号をA/D変換する際に前記電圧信号と比較される参照信号を示している。後述する図5及び図6についても同様である。
図4に示されるように、ダブル式センサの画素の駆動は、光電変換部11Lについてのノイズ信号をA/D変換する期間Nと、光電変換部11Lについてデータ信号をA/D変換する期間Dと、光電変換部11Rについてのノイズ信号をA/D変換する期間Nと、光電変換部11Rについてのデータ信号をA/D変換する期間Dから成る。
以下、図4に示された一連の駆動をNDND駆動と称する。NDND駆動(第1の駆動)では、光電変換部11LについてのCDS処理は、光電変換部11Lについての期間Dにおいて、光電変換部11Lについてのデータ信号のA/D変換とともに行うことができる。光電変換部11RについてのCDS処理は、光電変換部11Rについての期間Dにおいて、光電変換部11Rについてのデータ信号のA/D変換とともに行うことができる。
すなわち、光電変換部11Lについての期間Nでは、参照信号L2と、光電変換部11Lについてのノイズ信号としての電圧信号L1とが一致するまでの時間をカウントすることにより、光電変換部11Lについてのノイズ信号のA/D変換を行うこと、すなわち、参照信号L2と、光電変換部11Lについてのノイズ信号としての電圧信号L1とが一致するまでの時間のカウント値を、光電変換部11Lについてのノイズ信号のA/D変換結果として得ることができる。
さらに、光電変換部11Lについての期間Dでは、参照信号L2と、光電変換部11Lについてのデータ信号としての電圧信号L1とが一致するまでの時間をカウントすることにより、光電変換部11Lについてのデータ信号のA/D変換を行うこと、すなわち、参照信号L2と、光電変換部11Lについてのデータ信号としての電圧信号L1とが一致するまでの時間のカウント値を、光電変換部11Lについてのデータ信号のA/D変換結果として得ることができる。
光電変換部11Lについての期間Dにおいて、時間のカウントをノイズ信号のA/D変換結果としてのカウント値を初期値として、ノイズ信号のA/D変換とは逆方向(ノイズ信号のA/D変換における時間のカウントがカウント値のデクリメントにより行われる場合、逆方向とはインクリメント)に行うことにより、光電変換部11LについてのCDS処理は、光電変換部11Lについてのデータ信号のA/D変換として(とともに)行うことができる。
これら光電変換部11L及び11Rの2つの画素信号は、個別に、位相差AFに用いることができる。また、これら2つの画素信号は、加算することにより、画像の1画素分の画素信号として用いることができる。
ただし、図2と図4を比較して明らかなように、ND駆動ではA/D変換が期間N及び期間Dで2回行われることに対し、NDND駆動では、A/D変換が光電変換部11Lについての期間N及び期間D、並びに、光電変換部11Rについての期間N及び期間Dで4回行われるので、A/D変換の結果を得るまでに要する時間が倍になる。
この対策としては、例えば、図5に示される駆動方法が考えられる。すなわち、図5は、図2に示されたダブル式センサの画素から読み出された信号をA/D変換を行う場合に要する時間を短縮できる一連の駆動を説明するための図である。
図5に示される駆動は、光電変換部11Lについてのノイズ信号をA/D変換する期間Nと、光電変換部11Lについてデータ信号をA/D変換する期間Dと、光電変換部11Rについてのデータ信号をA/D変換する期間Dから成る。
すなわち、図5に示される駆動は、図4に示されたNDND駆動から、光電変換部11Rについてのノイズ信号をA/D変換する期間Nが省略されたものである。以下、図5に示された一連の駆動をNDD駆動と称する。NDD駆動の結果得られる画素の左半分の画素信号は、CDS処理が行われたものとなる。
図4と図5を比較して明らかなように、NDD駆動は、NDND駆動よりも、A/D変換の結果を得るまでに要する時間を3/4に短縮できることがわかる。しかしながら、ND駆動と比較した場合、依然として3/2倍の時間を要している。
そこで、本開示では、ダブル式センサからA/D変換の結果を得るまでに要する時間を、ND駆動と同等にできる駆動方法を提案する。
図6は、本開示によって提案するDD駆動を説明するための図である。
DD駆動(第2の駆動)は、光電変換部11Lについてのデータ信号をA/D変換する期間Dと、光電変換部11Rについてのデータ信号をA/D変換する期間Dから成る。ただし、DD駆動だけを実行している場合、光電変換部11L及び11Rについてのノイズ信号を読み出すことができず、CDS処理を行うことができない。そこで、DD駆動の前にNDND駆動も行うようにし、そのNDND駆動の際に読み出したノイズ信号をA/D変換してメモリ部に記録し、それ以降に実行されるDD駆動時に読み出されたデータ信号からノイズを除去するためのCDS処理に用いるようにする。
なお、NDND駆動を短い周期で定期的に実行するようにすれば、メモリ部に記録するノイズ信号を頻繁に更新することができ、CDS処理を行うデータ信号とノイズ信号の時間的な間隔を狭めることができるのでノイズ削減の効果を高めることができる。
<2.本技術の実施の形態である固体撮像装置の構成例>
次に、図7は、本技術の実施の形態である固体撮像装置の構成例を示すブロック図である。
該固体撮像装置は、ダブル式センサであり、画素アレイ部21、制御部22、前段処理部23、メモリ部24、及び後段処理部25を有する。
画素アレイ部21には、複数の画素が縦横に配置されている。画素アレイ部21の各画素の領域には、図3に示されたように、その左半分に光電変換部11Lが形成されており、その右半分に光電変換部11Rが形成されている。なお、各画素領域の光電変換部11Lと光電変換部11Rは、後段の前段処理部23に含まれるA/D変換部を共有するものとする。
制御部22は、画素アレイ部21に配置されている各画素の駆動を制御する。具体的には、各画素の領域に形成されている光電変換部11Lと光電変換部11Rについてのノイズ信号及びデータ信号の読み出しを個別に制御できる。
前段処理部23(信号処理部)は、画素アレイ部21からNDND駆動及びDD駆動によって読み出されたノイズ信号及びデータ信号に、ゲイン処理、A/D変換処理、CDS処理等の前段処理を行い、前段処理の結果得られる画素信号をメモリ部24に記録する。
また、前段処理部23は、画素アレイ部21からNDND駆動により、読み出された光電変換部11L及び11Rそれぞれについてのノイズ信号をA/D変換してメモリ部24に記録する。さらに、前段処理部23は、メモリ部24に記録したA/D変換済みのノイズ信号を読み出し、NDND駆動の後に行われたDD駆動によって読み出されたデータ信号から、読み出したノイズ信号を除算することによりCDS処理を実行する。
メモリ部24は、例えば、DRAM(Dynamic Random Access Memory)等から成り、フレーム単位の画素信号を記録できる容量を有する。
後段処理部25(他の信号処理部)は、メモリ部24に記録されている前段処理済の画素信号を読み出し、欠陥補正処理、ノイズリダクション処理、またはHDR(High Dynamic Range)処理のうちの少なくとも一つを含む後段処理を行い、後段処理済の画素信号を出力する。なお、後段処理部25は、NDND駆動時とDD駆動時において等しいレートで後段処理を行うことができる。
<3.NDND駆動とDD駆動のフレーム単位での切り替え>
図8は、本技術の実施の形態である固体撮像装置による、フレーム単位でNDND駆動とDD駆動を切り替える例を示している。
NDND駆動とDD駆動をフレーム単位で切り替える場合、垂直同期信号(V同期信号)に同期して周期的にNDND駆動とDD駆動が切り替えられる。
同図の場合、DD駆動が4回実行される毎にNDND駆動が行われる。例えば、番号F1のフレームに対してはNDND駆動が行われる。番号F2乃至F5のフレームに対してはDD駆動が行われ、番号F6のフレームに対してはNDND駆動が行われる。
<4−1.NDND駆動時の処理>
図9は、本技術の実施の形態である固体撮像装置によるNDND駆動時の処理を説明するフローチャートである。
ステップS1において、画素アレイ部21は、制御部22からの制御に従い、各画素の光電変換部11Lについてのノイズ信号(第1のノイズ信号)を読み出して前段処理部23に出力する。
ステップS2において、前段処理部23は、読み出された光電変換部11Lについてのノイズ信号の前段処理としてA/D変換を行い、ステップS3において、そのノイズ信号(のA/D変換結果)をメモリ部24に記録する。メモリ部24に記録されたノイズ信号は、後述するDD駆動時の処理で利用される。
ステップS4において、画素アレイ部21は、制御部22からの制御に従い、各画素の光電変換部11Lについてのデータ信号(第1のデータ信号)を読み出して前段処理部23に出力する。
ステップS5において、前段処理部23は、光電変換部11Lについてのデータ信号の前段処理としてのA/D変換を行う。ステップS5の光電変換部11Lについてのデータ信号のA/D変換(第1のA/D変換)は、光電変換部11Lについてのデータ信号、及び、直前に行われたステップS2で得られる光電変換部11Lについてのノイズ信号のA/D変換結果に応じて行われる。すなわち、例えば、図4で説明したように、ステップS5の光電変換部11Lについてのデータ信号のA/D変換は、光電変換部11Lについてのノイズ信号のA/D変換結果としてのカウント値を初期値として行われ、これにより、CDS処理も行われる。
前段処理部23は、光電変換部11Lについてのデータ信号のA/D変換により得られるデジタル信号を、光電変換部11Lに対応する前段処理済の画素信号として、ライン毎にメモリ部24に順次記録する。
ステップS6において、後段処理部25は、メモリ部24に順次記録されている、光電変換部11Lに対応する、前段処理済の画素信号をライン単位に読み出して後段処理を行い、後段処理済の画素信号を出力する。
なお、ステップS6の処理の開始は、ステップS5の処理によって1フレーム分の前段処理済の画素信号がメモリ部24に記録されるまで待つ必要はなく、メモリ部24に前段処理済の画素信号がライン単位で記録される毎に実行することができる。
ステップS7において、画素アレイ部21は、制御部22からの制御に従い、各画素の光電変換部11Rについてのノイズ信号(第1のノイズ信号)を読み出して前段処理部23に出力する。
ステップS8において、前段処理部23は、読み出された光電変換部11Rについてのノイズ信号の前段処理としてA/D変換を行い、ステップS9において、そのノイズ信号(のA/D変換結果)をメモリ部24に記録する。メモリ部24に記録されたノイズ信号は、後述するDD駆動時の処理で利用される。
ステップS10において、画素アレイ部21は、制御部22からの制御に従い、各画素の光電変換部11Rについてのデータ信号(第1のデータ信号)を読み出して前段処理部23に出力する。
ステップS11において、前段処理部23は、光電変換部11Rについてのデータ信号の前段処理としてのA/D変換を行う。ステップS11の光電変換部11Rについてのデータ信号のA/D変換(第1のA/D変換)は、光電変換部11Rについてのデータ信号、及び、直前に行われたステップS8で得られる光電変換部11Lについてのノイズ信号のA/D変換結果に応じて行われる。すなわち、例えば、図4で説明したように、ステップS11の光電変換部11Rについてのデータ信号のA/D変換は、光電変換部11Rについてのノイズ信号のA/D変換結果としてのカウント値を初期値として行われ、これにより、CDS処理も行われる。
前段処理部23は、光電変換部11Rについてのデータ信号のA/D変換により得られるデジタル信号を、光電変換部11Rに対応する前段処理済の画素信号として、ライン毎にメモリ部24に順次記録する。
ステップS12において、後段処理部25は、メモリ部24に順次記録されている、光電変換部11Rに対応する、前段処理済の画素信号をライン単位に読み出して後段処理を行い、後段処理済の画素信号を出力する。
なお、ステップS12の処理の開始は、ステップS11の処理によって1フレーム分の前段処理済の画素信号がメモリ部24に記録されるまで待つ必要はなく、メモリ部24に前段処理済の画素信号がライン単位で記録される毎に実行することができる。
以上で、NDND駆動時の処理の説明を終了する。
<4−2.DD駆動時の処理>
図10は、本技術の実施の形態である固体撮像装置によるDD駆動時の処理を説明するフローチャートである。
ステップS21おいて、前段処理部23は、メモリ部24に記録されている、前回のNDND駆動で光電変換部11Lについてのノイズ信号(第1のノイズ信号)を読み出す。
ステップS22において、画素アレイ部21は、制御部22からの制御に従い、各画素の光電変換部11Lについてのデータ信号(第2のデータ信号)を読み出して前段処理部23に出力する。
ステップS23において、前段処理部23は、光電変換部11Lについてのデータ信号の前段処理としてのA/D変換を行う。ステップS23の光電変換部11Lについてのデータ信号のA/D変換(第2のA/D変換)は、光電変換部11Lについてのデータ信号、及び、ステップS21でメモリ部24から読み出されたノイズ信号、すなわち、(直)前に行われたNDND駆動で得られた光電変換部11Lについてのノイズ信号のA/D変換結果に応じて行われる。すなわち、例えば、図4で説明したように、ステップS23の光電変換部11Lについてのデータ信号のA/D変換は、メモリ部24から読み出されたノイズ信号のA/D変換結果としてのカウント値を初期値として行われ、これにより、CDS処理も行われる。
前段処理部23は、光電変換部11Lについてのデータ信号のA/D変換により得られるデジタル信号を、光電変換部11Lに対応する前段処理済の画素信号としてライン毎にメモリ部24に順次記録する。
ステップS24において、後段処理部25は、メモリ部24に記録されている、光電変換部11Lに対応する前段処理済の画素信号をライン単位で読み出して後段処理を行い、後段処理済の画素信号を出力する。
なお、ステップS24の処理の開始は、ステップS23の処理によって1フレーム分の前段処理済の画素信号がメモリ部24に記録されるまで待つ必要はなく、メモリ部24に前段処理済の画素信号がライン単位で記録される毎に実行することができる。
ステップS25おいて、前段処理部23は、メモリ部24に記録されている、前回のNDND駆動で光電変換部11Rについてのノイズ信号(第1のノイズ信号)を読み出す。
ステップS26において、画素アレイ部21は、制御部22からの制御に従い、各画素の光電変換部11Rについてのデータ信号(第2のデータ信号)を読み出して前段処理部23に出力する。
ステップS27において、前段処理部23は、光電変換部11Rについてのデータ信号の前段処理としてのA/D変換を行う。ステップS27の光電変換部11Rについてのデータ信号のA/D変換(第2のA/D変換)は、光電変換部11Rについてのデータ信号、及び、ステップS25でメモリ部24から読み出されたノイズ信号、すなわち、(直)前に行われたNDND駆動で得られた光電変換部11Rについてのノイズ信号のA/D変換結果に応じて行われる。すなわち、例えば、図4で説明したように、ステップS27の光電変換部11Rについてのデータ信号のA/D変換は、メモリ部24から読み出されたノイズ信号のA/D変換結果としてのカウント値を初期値として行われ、これにより、CDS処理も行われる。
前段処理部23は、光電変換部11Rについてのデータ信号のA/D変換により得られるデジタル信号を、光電変換部11Rに対応する前段処理済の画素信号としてライン毎にメモリ部24に順次記録する。
ステップS28において、後段処理部25は、メモリ部24に記録されている、光電変換部11Rに対応する前段処理済の画素信号をライン単位で読み出して後段処理を行い、後段処理済の画素信号を出力する。
なお、ステップS28の処理の開始は、ステップS27の処理によって1フレーム分の前段処理済の画素信号がメモリ部24に記録されるまで待つ必要はなく、メモリ部24に前段処理済の画素信号がライン単位で記録される毎に実行することができる。
なお、ステップS23及びステップS27で行われる前段処理に含まれるデータ信号のA/D変換とともに行われるCDS処理は、周期的に実行される前回(図8の場合、最大4フレーム前)のNDND駆動時のノイズ信号が利用されるので、データ信号と同じフレームのノイズ信号が用いられる場合よりは劣るものの、データ信号と同じフレームのノイズ信号が用いられる場合に近い効果が認められる。
以上で、DD駆動時の処理の説明を終了する。
<5.出力レートの安定化>
通常、1フレーム分の前段処理に要する時間は、1フレーム分の後段処理に要する時間よりも短い。また、1フレーム分の前段処理に要する時間は、NDND駆動時の方がDD駆動時よりも長い。これに対して、1フレーム分の後段処理に要する時間は、NDND駆動時とDD駆動時で変わらない。
また、前段処理部23と後段処理部25の間にメモリ部24が設けられていない構成を想定した場合、1フレーム分の前段処理と後段処理に要する時間には、NDND駆動時とDD駆動時の前段処理に要する時間差がそのまま影響する。したがって、NDND駆動とDD駆動を切り替えた場合、後段処理済の画素データの出力レートが変化してしまうことになる。
これに対して、本技術の実施の形態である固体撮像装置では、前段処理部23と後段処理部25の間にメモリ部24を設けているので、前段処理部23による前段処理と後段処理部25による後段処理を個別に並行して実行することができる。
図11は、前段処理部23による前段処理と後段処理部25による後段処理を個別に並行して実行できることの効果を示している。
図11において、横軸は、前段処理及び後段処理の処理時間を表し、縦軸は、前段処理及び後段処理の処理対象となるライン(処理ライン)を表す。
前段処理と後段処理を個別に並行して実行した場合、後段処理に要する時間TBが一定で、前段処理に要する時間TFが変化するが、後段処理に要する時間TBが前段処理に要する時間TFよりも長いときには、NDND駆動とDD駆動とで、前段処理に要する時間TFの変化により、前段処理の処理レートRFが変化しても、後段処理の処理レートRBは一定とすること、すなわち、後段処理済の画素信号の出力レートを一定とすることができる。
<6.NDND駆動とDD駆動のライン単位での切り替え>
次に、図12は、本技術の実施の形態である固体撮像装による、ライン単位でNDND駆動とDD駆動を切り替える例を示している。
ライン単位でNDND駆動とDD駆動を切り替える場合、NDND駆動とDD駆動を水平同期信号(H同期信号)に同期してライン単位で周期的に切り替えるようにする。
ただし、連続するフレームにおける同一位置のラインの一方のラインにNDND駆動を適用し、他方のラインにDD駆動を適用することとする。さらに、DD駆動が適用されるラインにおける前段処理では、その1フレーム前のNDND駆動を適用した一方のラインについてのノイズ信号を利用するようにする。
具体的には、番号F1のフレームの奇数ラインにNDND駆動を適用し、偶数ラインにDD駆動を適用した場合、番号F2のフレームの奇数ラインにDD駆動を適用し、偶数ラインにNDND駆動を適用する。そして、番号F2のフレームのDD駆動が適用された奇数ラインの前段処理には、番号F1のフレームのNDND駆動が適用された同一位置の偶数ラインのノイズ信号が利用される。
図12に示されたライン単位での切り替えの場合、図8に示されたフレーム単位での切り替えに比較して、NDND駆動とDD駆動の切り替え頻度が高いので、1フレーム分の前段処理に要する時間が長くなる。しかしながら、前段処理におけるCDS処理に用いられるデータ信号とノイズ信号のフレーム間隔については、ライン単位での切り替えでは、図8の場合、最大4フレームであったが、ライン単位での切り替えの場合は1フレームとなる。よって、ライン単位での切り替えは、フレーム単位での切り替えによりもCDS処理によるノイズ除去の効果を高めることができる。
<7.変形例>
本技術の実施の形態である固体撮像装置においては、1画素分の領域の左半分と右半分にそれぞれ光電変換部11を形成するようにしたが、1画素分の領域の上半分と下半分にそれぞれ光電変換部11を形成するようにしてもよい。
また、1画素分の領域に3つ以上の光電変換部を形成するようにした場合でも、本技術を適用することが可能である。
さらに、1画素分の領域に1つの光電変換部が形成されているシングル式センサにおいて、ノイズ信号を読み出してからデータ信号を読み出すND駆動と、ノイズ信号の読み出しを省略してデータ信号だけを読み出すD駆動とを切り替えるようにしてもよい。
図13は、シングル式センサにおけるND駆動とD駆動を示している。同図のAは、シングル式センサにおけるND駆動を示している。ND駆動は、図2と同様であるため、その説明は省略する。同図のBは、シングル式センサにおけるD駆動を示している。D駆動では、ND駆動と比較すると期間Nが無く、期間Dを有する。D駆動は、ND駆動に比較して、要する時間が1/2となる。したがって、D駆動を行うことにより、シングル式センサからの信号の読み出し速度を高速化することができる。
図14は、シングル式センサにおいて、D駆動とND駆動を垂直同期信号(V同期信号)に同期してフレーム単位で周期的に切り替える駆動を説明する図である。
同図の場合、D駆動が4回実行される毎にND駆動が行われる。例えば、番号F1のフレームにはND駆動が適用され、番号F2乃至F5のフレームにはD駆動が適用され、番号F6のフレームにはND駆動が適用される。
図15は、シングル式センサにおいて、D駆動とND駆動を水平同期信号(H同期信号)に同期してライン単位で周期的に切り替える駆動を説明する図である。
ただし、連続するフレームにおける同一位置のラインの一方のラインにND駆動を適用し、他方のラインにD駆動を適用することとする。さらに、D駆動が適用されるラインにおける前段処理では、その1フレーム前のND駆動を適用した一方のラインについてのノイズ信号を利用するようにする。
具体的には、番号F1のフレームの奇数ラインにND駆動を適用し、偶数ラインにD駆動を適用した場合、番号F2のフレームの奇数ラインにD駆動を適用し、偶数ラインにND駆動を適用する。そして、番号F2のフレームのD駆動が適用された奇数ラインの前段処理には、番号F1のフレームのND駆動が適用された同一位置の偶数ラインのノイズ信号が利用される。
図15に示されたライン単位での切り替えの場合、図14に示されたフレーム単位での切り替えに比較して、ND駆動とD駆動の切り替え頻度が高いので、1フレーム分の前段処理に要する時間が長くなる。しかしながら、前段処理におけるCDS処理に用いられるデータ信号とノイズ信号のフレーム間隔については、ライン単位での切り替えでは、図14の場合、最大4フレームであったが、ライン単位での切り替えの場合は1フレームとなる。よって、ライン単位での切り替えは、フレーム単位での切り替えによりもCDS処理によるノイズ除去の効果を高めることができる。
<8.本技術の実施の形態である固体撮像装置を積層チップ構造とした場合の構成例>
本技術の実施の形態である固体撮像装置は、複数のチップを積層して成る積層チップ構造を採ることができる。
図16は、本技術の実施の形態である固体撮像装置を第1及び第2のチップを積層して構成した場合の構成例を示す平面図である。同図のAは第1のチップ31を示し、同図のBは第2のチップ32を示している。
すなわち、同図において、本技術の実施の形態である固体撮像装置は、画素アレイ部21が形成された第1のチップ31と、前段処理部23、メモリ部24、及び後段処理部25が形成された第2のチップ32とを積層して成る積層チップ構造を採っている。
第1のチップ31に形成された画素アレイ部21と、第2のチップ32に形成された後段処理部25とは、ビア(VIA)41を介して接続される。
次に、図17は、本技術の実施の形態である固体撮像装置を第1乃至第3のチップを積層して構成した場合の構成例を示すブロック図である。同図のAは第1のチップ61(第1の半導体基板)を示し、同図のBは第2のチップ62(第2の半導体基板)を示し、同図のCは第3のチップ63(第3の半導体基板)を示している。
すなわち、同図において、本技術の実施の形態である固体撮像装置は、画素アレイ部21が形成された第1のチップ61と、前段処理部23及び後段処理部25に相当する信号処理部71が形成された第2のチップ62と、メモリ部24が積層された第3のチップ63を積層して成る積層チップ構造を採っている。
第1のチップ61に形成された画素アレイ部21と、第2のチップ62に形成された信号処理部71とは、ビア81を介して接続される。第2のチップ62に形成された信号処理部71と、第3のチップ63に形成されたメモリ部24とは、ビア82を介して接続される。
<9.移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図18は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図18に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図18の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図19は、撮像部12031の設置位置の例を示す図である。
図19では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図19には、撮像部12101乃至12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101乃至12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101乃至12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101乃至12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101乃至12104から得られた距離情報を基に、撮像範囲12111乃至12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101乃至12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101乃至12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101乃至12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101乃至12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101乃至12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031に適用され得る。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
本技術は以下のような構成も取ることができる。
(1)
複数の画素が配列された画素アレイ部と、
前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、
前記信号処理により得られる信号を保持するメモリ部と
を備え、
前記信号処理部は、所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録し、前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う
固体撮像装置。
(2)
前記画素アレイ部の各画素の領域には、複数の光電変換部が形成されている
前記(1)に記載の固体撮像装置。
(3)
前記ノイズ信号及び前記データ信号それぞれのA/D変換を行う第1の駆動と、前記データ信号のA/D変換を行う第2の駆動とを周期的に切り替える
前記(1)または(2)に記載の固体撮像装置。
(4)
前記第1の駆動と前記第2の駆動とをフレーム単位で周期的に切り替える
前記(3)に記載の固体撮像装置。
(5)
前記第2の駆動を複数フレーム実行する毎に、前記第1の駆動を実行する
前記(3)または(4)に記載の固体撮像装置。
(6)
前記第1の駆動と前記第2の駆動とをライン単位で周期的に切り替える
前記(3)に記載の固体撮像装置。
(7)
連続するフレームの同一位置のラインの一方のラインに前記第1の駆動を適用し、他方のラインに前記第2の駆動を適用する
前記(6)に記載の固体撮像装置。
(8)
前記メモリ部に保持された前記信号処理により得られた信号に対して他の信号処理を行う他の信号処理部をさらに備える
前記(1)から(7)のいずれかに記載の固体撮像装置。
(9)
前記他の信号処理部は、前記メモリ部に保持された前記信号処理により得られた信号に対して、欠陥補正処理、ノイズリダクション処理、またはHDR(High Dynamic Range)処理のうちの少なくとも一つを含む前記他の信号処理を行う
前記(8)に記載の固体撮像装置。
(10)
前記他の信号処理部は、前記第1の駆動時と前記第2の駆動時において等しい処理レートで前記他の信号処理を行う
前記(8)または(9)に記載の固体撮像装置。
(11)
前記メモリ部は、前記信号処理の結果得られた信号をフレーム単位で保持できる容量を有する
前記(1)から(10)のいずれかに記載の固体撮像装置。
(12)
積層チップ構造を有する
前記(1)から(10)のいずれかに記載の固体撮像装置。
(13)
複数の画素が配列された画素アレイ部と、
前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、
前記信号処理により得られる信号を保持するメモリ部と
を備える固体撮像装置の駆動方法において、
前記信号処理部による、
所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録する記録ステップと、
前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う信号処理ステップと
を含む駆動方法。
(14)
固体撮像装置が搭載された電子機器において、
前記固体撮像装置は、
複数の画素が配列された画素アレイ部と、
前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、
前記信号処理により得られる信号を保持するメモリ部と
を備え、
前記信号処理部は、所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録し、前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う
電子機器。
(15)
第1の画素を含む複数の画素が配列された第1の半導体基板と、
前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、
メモリ部を有する第3の半導体基板とを備え、
前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、
前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含み、
前記メモリ部は、前記第1のノイズ信号を記録し、
前記A/D変換部は、前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行い、前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う
固体撮像装置。
(16)
第1の画素を含む複数の画素が配列された第1の半導体基板と、
前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、
メモリ部を有する第3の半導体基板とを備え、
前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、
前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含む固体撮像装置の駆動方法において、
前記メモリ部による、
前記第1のノイズ信号を記録する記録ステップと、
前記A/D変換部による、
前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行う第1のA/D変換ステップと、
前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う第2のA/D変換ステップとを含む
駆動方法。
(17)
固体撮像装置が搭載された電子機器において、
前記固体撮像装置は、
第1の画素を含む複数の画素が配列された第1の半導体基板と、
前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、
メモリ部を有する第3の半導体基板とを備え、
前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、
前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含み、
前記メモリ部は、前記第1のノイズ信号を記録し、
前記A/D変換部は、前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行い、前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う
電子機器。
10 画素アレイ部, 11 光電変換部, 21 画素アレイ部, 22 制御部, 23 前段処理部, 24 メモリ部, 25 後段処理部, 31 第1のチップ, 32 第2のチップ, 41 ビア, 61 第1のチップ, 62 第2のチップ, 63 第3のチップ, 81 ビア, 82 VIA

Claims (17)

  1. 複数の画素が配列された画素アレイ部と、
    前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、
    前記信号処理により得られる信号を保持するメモリ部と
    を備え、
    前記信号処理部は、所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録し、前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う
    固体撮像装置。
  2. 前記画素アレイ部の各画素の領域には、複数の光電変換部が形成されている
    請求項1に記載の固体撮像装置。
  3. 前記ノイズ信号及び前記データ信号それぞれのA/D変換を行う第1の駆動と、前記データ信号のA/D変換を行う第2の駆動とを周期的に切り替える
    請求項1に記載の固体撮像装置。
  4. 前記第1の駆動と前記第2の駆動とをフレーム単位で周期的に切り替える
    請求項3に記載の固体撮像装置。
  5. 前記第2の駆動を複数フレーム実行する毎に、前記第1の駆動を実行する
    請求項4に記載の固体撮像装置。
  6. 前記第1の駆動と前記第2の駆動とをライン単位で周期的に切り替える
    請求項3に記載の固体撮像装置。
  7. 連続するフレームの同一位置のラインの一方のラインに前記第1の駆動を適用し、他方のラインに前記第2の駆動を適用する
    請求項6に記載の固体撮像装置。
  8. 前記メモリ部に保持された前記信号処理により得られた信号に対して他の信号処理を行う他の信号処理部をさらに備える
    請求項3に記載の固体撮像装置。
  9. 前記他の信号処理部は、前記メモリ部に保持された前記信号処理により得られた信号に対して、欠陥補正処理、ノイズリダクション処理、またはHDR(High Dynamic Range)処理のうちの少なくとも一つを含む前記他の信号処理を行う
    請求項8に記載の固体撮像装置。
  10. 前記他の信号処理部は、前記第1の駆動時と前記第2の駆動時において等しい処理レートで前記他の信号処理を行う
    請求項9に記載の固体撮像装置。
  11. 前記メモリ部は、前記信号処理の結果得られた信号をフレーム単位で保持できる容量を有する
    請求項2に記載の固体撮像装置。
  12. 積層チップ構造を有する
    請求項1に記載の固体撮像装置。
  13. 複数の画素が配列された画素アレイ部と、
    前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、
    前記信号処理により得られる信号を保持するメモリ部と
    を備える固体撮像装置の駆動方法において、
    前記信号処理部による、
    所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録する記録ステップと、
    前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う信号処理ステップと
    を含む駆動方法。
  14. 固体撮像装置が搭載された電子機器において、
    前記固体撮像装置は、
    複数の画素が配列された画素アレイ部と、
    前記画素から読み出されたノイズ信号及びデータ信号に対して、少なくともA/D変換を含む信号処理を行う信号処理部と、
    前記信号処理により得られる信号を保持するメモリ部と
    を備え、
    前記信号処理部は、所定のフレームから得られた前記ノイズ信号を前記メモリ部に記録し、前記所定のフレームより後のフレームから得られた前記データ信号の前記信号処理を、前記メモリ部に記録した前記ノイズ信号を利用して行う
    電子機器。
  15. 第1の画素を含む複数の画素が配列された第1の半導体基板と、
    前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、
    メモリ部を有する第3の半導体基板とを備え、
    前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、
    前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含み、
    前記メモリ部は、前記第1のノイズ信号を記録し、
    前記A/D変換部は、前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行い、前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う
    固体撮像装置。
  16. 第1の画素を含む複数の画素が配列された第1の半導体基板と、
    前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、
    メモリ部を有する第3の半導体基板とを備え、
    前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、
    前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含む固体撮像装置の駆動方法において、
    前記メモリ部による、
    前記第1のノイズ信号を記録する記録ステップと、
    前記A/D変換部による、
    前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行う第1のA/D変換ステップと、
    前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う第2のA/D変換ステップとを含む
    駆動方法。
  17. 固体撮像装置が搭載された電子機器において、
    前記固体撮像装置は、
    第1の画素を含む複数の画素が配列された第1の半導体基板と、
    前記第1の画素から読み出された読み出し信号に対してA/D変換を行うA/D変換部を有する第2の半導体基板と、
    メモリ部を有する第3の半導体基板とを備え、
    前記第1の半導体基板を最上層とし、前記第1の半導体基板、前記第2の半導体基板、及び前記第3の半導体基板が3層に積層され、
    前記読み出し信号は、第1のフレームで得られる第1のノイズ信号及び第1のデータ信号と、第2のフレームで得られる第2のデータ信号とを含み、
    前記メモリ部は、前記第1のノイズ信号を記録し、
    前記A/D変換部は、前記第1のデータ信号と前記第1のノイズ信号に応じて第1のA/D変換を行い、前記第2のデータ信号と前記第1のノイズ信号に応じて第2のA/D変換を行う
    電子機器。
JP2017095080A 2017-05-11 2017-05-11 固体撮像装置、駆動方法、及び電子機器 Pending JP2018191260A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017095080A JP2018191260A (ja) 2017-05-11 2017-05-11 固体撮像装置、駆動方法、及び電子機器
PCT/JP2018/017155 WO2018207665A1 (ja) 2017-05-11 2018-04-27 固体撮像装置、駆動方法、及び電子機器
US16/612,490 US11201997B2 (en) 2017-05-11 2018-04-27 Solid-state imaging device, driving method, and electronic apparatus
KR1020197034208A KR20200006066A (ko) 2017-05-11 2018-04-27 고체 촬상 장치, 구동 방법, 및 전자 기기

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017095080A JP2018191260A (ja) 2017-05-11 2017-05-11 固体撮像装置、駆動方法、及び電子機器

Publications (1)

Publication Number Publication Date
JP2018191260A true JP2018191260A (ja) 2018-11-29

Family

ID=64104724

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017095080A Pending JP2018191260A (ja) 2017-05-11 2017-05-11 固体撮像装置、駆動方法、及び電子機器

Country Status (4)

Country Link
US (1) US11201997B2 (ja)
JP (1) JP2018191260A (ja)
KR (1) KR20200006066A (ja)
WO (1) WO2018207665A1 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007304188A (ja) 2006-05-09 2007-11-22 Sony Corp 撮像装置およびafモジュール
JP2011114786A (ja) * 2009-11-30 2011-06-09 Olympus Corp 固体撮像装置およびカメラシステム
TWI583195B (zh) * 2012-07-06 2017-05-11 新力股份有限公司 A solid-state imaging device and a solid-state imaging device, and an electronic device
JP6223000B2 (ja) * 2012-08-23 2017-11-01 キヤノン株式会社 撮像装置
JP2015185927A (ja) 2014-03-20 2015-10-22 ソニー株式会社 撮像素子、制御方法、並びに、撮像装置
JP2016127413A (ja) * 2014-12-26 2016-07-11 キヤノン株式会社 撮像装置及びその制御方法

Also Published As

Publication number Publication date
US20200099852A1 (en) 2020-03-26
US11201997B2 (en) 2021-12-14
KR20200006066A (ko) 2020-01-17
WO2018207665A1 (ja) 2018-11-15

Similar Documents

Publication Publication Date Title
US11659304B2 (en) Solid-state imaging element, imaging device, and control method of solid-state imaging element
US11582406B2 (en) Solid-state image sensor and imaging device
JP7611147B2 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2019150786A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2019150785A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2020105314A1 (ja) 固体撮像素子、および、撮像装置
WO2019150752A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2021093610A (ja) 固体撮像素子、および、撮像装置
WO2022270034A1 (ja) 撮像装置、電子機器、および光検出方法
WO2017175492A1 (ja) 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器
US20210297589A1 (en) Imaging device and method of controlling imaging device
WO2017169274A1 (ja) 撮像制御装置、撮像制御方法、コンピュータプログラム及び電子機器
WO2017169233A1 (ja) 撮像処理装置、撮像処理方法、コンピュータプログラム及び電子機器
WO2021131831A1 (ja) 固体撮像素子、および、撮像装置
WO2018139187A1 (ja) 固体撮像装置およびその駆動方法、並びに電子機器
WO2017203752A1 (ja) 撮像装置、および制御方法
WO2017149964A1 (ja) 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器
CN113661700B (zh) 成像装置与成像方法
US11201997B2 (en) Solid-state imaging device, driving method, and electronic apparatus
WO2020021826A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2020088457A (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2025173536A1 (ja) 測距システム、イメージセンサ、および、測距システムの制御方法
WO2022137993A1 (ja) コンパレータ及び固体撮像素子