JP2018007035A - 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 - Google Patents
固体撮像素子、撮像装置、および、固体撮像素子の制御方法 Download PDFInfo
- Publication number
- JP2018007035A JP2018007035A JP2016131851A JP2016131851A JP2018007035A JP 2018007035 A JP2018007035 A JP 2018007035A JP 2016131851 A JP2016131851 A JP 2016131851A JP 2016131851 A JP2016131851 A JP 2016131851A JP 2018007035 A JP2018007035 A JP 2018007035A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- signal
- solid
- image
- charge storage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 282
- 238000000034 method Methods 0.000 title claims description 54
- 238000006243 chemical reaction Methods 0.000 claims abstract description 67
- 238000012545 processing Methods 0.000 claims description 165
- 238000009792 diffusion process Methods 0.000 claims description 53
- 238000007667 floating Methods 0.000 claims description 53
- 239000004065 semiconductor Substances 0.000 claims description 40
- 239000000758 substrate Substances 0.000 claims description 38
- 238000009825 accumulation Methods 0.000 claims description 5
- 238000004891 communication Methods 0.000 description 126
- 210000003128 head Anatomy 0.000 description 78
- 238000001514 detection method Methods 0.000 description 76
- 230000000875 corresponding effect Effects 0.000 description 60
- 230000006870 function Effects 0.000 description 54
- 230000003287 optical effect Effects 0.000 description 54
- 238000005516 engineering process Methods 0.000 description 53
- 238000010586 diagram Methods 0.000 description 51
- 238000001356 surgical procedure Methods 0.000 description 46
- 230000005540 biological transmission Effects 0.000 description 40
- 230000033001 locomotion Effects 0.000 description 31
- 238000012546 transfer Methods 0.000 description 29
- 238000002674 endoscopic surgery Methods 0.000 description 28
- 230000001276 controlling effect Effects 0.000 description 22
- 210000001519 tissue Anatomy 0.000 description 21
- 239000002775 capsule Substances 0.000 description 18
- 239000000203 mixture Substances 0.000 description 17
- 238000012986 modification Methods 0.000 description 17
- 230000004048 modification Effects 0.000 description 17
- 230000000694 effects Effects 0.000 description 15
- 238000010336 energy treatment Methods 0.000 description 15
- 230000008859 change Effects 0.000 description 14
- 238000001727 in vivo Methods 0.000 description 14
- 230000003321 amplification Effects 0.000 description 12
- 238000003199 nucleic acid amplification method Methods 0.000 description 12
- 101100191136 Arabidopsis thaliana PCMP-A2 gene Proteins 0.000 description 11
- 101100048260 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) UBX2 gene Proteins 0.000 description 11
- 101100041125 Arabidopsis thaliana RST1 gene Proteins 0.000 description 10
- 101100443250 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) DIG1 gene Proteins 0.000 description 10
- 230000007246 mechanism Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 101100421142 Mus musculus Selenon gene Proteins 0.000 description 8
- 230000005284 excitation Effects 0.000 description 8
- 238000011282 treatment Methods 0.000 description 8
- 210000004204 blood vessel Anatomy 0.000 description 7
- 230000001678 irradiating effect Effects 0.000 description 7
- 238000011161 development Methods 0.000 description 6
- 230000018109 developmental process Effects 0.000 description 6
- 238000005286 illumination Methods 0.000 description 6
- 208000005646 Pneumoperitoneum Diseases 0.000 description 5
- 238000012937 correction Methods 0.000 description 5
- 229910044991 metal oxide Inorganic materials 0.000 description 5
- 150000004706 metal oxides Chemical class 0.000 description 5
- 238000007789 sealing Methods 0.000 description 5
- 210000003815 abdominal wall Anatomy 0.000 description 4
- 230000009471 action Effects 0.000 description 4
- 239000003153 chemical reaction reagent Substances 0.000 description 4
- 230000000295 complement effect Effects 0.000 description 4
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 4
- 229960004657 indocyanine green Drugs 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 3
- 101100443251 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) DIG2 gene Proteins 0.000 description 3
- 101100243108 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) PDI1 gene Proteins 0.000 description 3
- 101100422768 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) SUL2 gene Proteins 0.000 description 3
- 101100041128 Schizosaccharomyces pombe (strain 972 / ATCC 24843) rst2 gene Proteins 0.000 description 3
- BUGBHKTXTAQXES-UHFFFAOYSA-N Selenium Chemical compound [Se] BUGBHKTXTAQXES-UHFFFAOYSA-N 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 3
- 239000002131 composite material Substances 0.000 description 3
- 239000006059 cover glass Substances 0.000 description 3
- 239000013307 optical fiber Substances 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000000740 bleeding effect Effects 0.000 description 2
- 230000010267 cellular communication Effects 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000002073 fluorescence micrograph Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000031700 light absorption Effects 0.000 description 2
- 239000003595 mist Substances 0.000 description 2
- 210000004400 mucous membrane Anatomy 0.000 description 2
- 230000008929 regeneration Effects 0.000 description 2
- 238000011069 regeneration method Methods 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000001954 sterilising effect Effects 0.000 description 2
- 238000004659 sterilization and disinfection Methods 0.000 description 2
- 241000110058 Candidatus Phytoplasma pini Species 0.000 description 1
- 101100476641 Homo sapiens SAMM50 gene Proteins 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 102100035853 Sorting and assembly machinery component 50 homolog Human genes 0.000 description 1
- 238000002679 ablation Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 210000000936 intestine Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000002406 microsurgery Methods 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002572 peristaltic effect Effects 0.000 description 1
- 201000003144 pneumothorax Diseases 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 210000002784 stomach Anatomy 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/46—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
- H04N25/771—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/779—Circuitry for scanning or addressing the pixel array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Abstract
【課題】画素加算を行う固体撮像素子において、画素加算時の解像度を変更する。【解決手段】アレイ部には、光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列される。接続線は、所定方向に配列された電荷蓄積部の集合ごとに配線される。接続経路開閉部は、電荷蓄積部のそれぞれと電荷蓄積部に対応する接続線との間の経路を開閉する。線間経路開閉部は、接続線のそれぞれの間の経路を開閉する。走査回路は、接続トランジスタおよび線間経路開閉部を制御して電荷蓄積部のそれぞれの前記電荷の量を加算させる。【選択図】図4
Description
本技術は、固体撮像素子、撮像装置、および、固体撮像素子の制御方法に関する。詳しくは、画素加算を行う固体撮像素子、撮像装置、および、固体撮像素子の制御方法に関する。
従来より、様々な撮像条件で撮像を行うために、被写体の動きを検出する動き検出機能や照度の検出機能を備える撮像装置が用いられている。これらの動き検出や照度検出の際は、一般に、それら以外の用途で撮像する場合と比較して高SN(Signal to Noise)比、低消費電力、および、広ダイナミックレンジが要求される一方で、高解像度や高フレームレートは要求されない。
そこで、動き検出や照度検出の際には、複数の画素信号を加算して解像度を低下させる処理が行われることが多い。例えば、2行×2列の4画素で1つの浮遊拡散層を共有し、その4画素のそれぞれの画素信号をアナログ加算する固体撮像素子が提案されている(例えば、特許文献1参照。)。この画素加算において、画像データの解像度を低くするほど、消費電力を削減してフレームレートを高くすることができるが、動き検出等の精度が低下する。このため、画素加算時の画像データの解像度は、消費電力や動き検出等の精度などを考慮して様々な値に変更可能であることが、利便性向上の観点から望ましい。
上述の従来技術では、2行×2列の画素ブロック単位の画素加算により、画素加算しない場合の1/4の解像度の画像データを撮像することができる。しかしながら、画素加算の際の解像度を変更することは困難である。すなわち、上述の固体撮像素子では、互いに異なる画素ブロック内の浮遊拡散層同士は接続されておらず、複数の画素ブロックのそれぞれで加算した画素信号同士をさらに加算して解像度を低下させることができないためである。画素信号をアナログ加算した信号をAD変換し、さらにデジタル加算して解像度を低下させることも考えられるが、デジタル加算はアナログ加算に比べ消費電力が増加するおそれがあり、好ましくない。このように、上述の固体撮像素子では、解像度を変更することが困難であるという問題がある。
本技術はこのような状況に鑑みて生み出されたものであり、画素加算を行う固体撮像素子において、画素加算時の解像度を変更することを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部と、所定方向に配列された上記電荷蓄積部の集合ごとに配線された接続線と、上記電荷蓄積部のそれぞれと上記電荷蓄積部に対応する上記接続線との間の経路を開閉する接続経路開閉部と、上記接続線のそれぞれの間の経路を開閉する線間経路開閉部と、上記接続経路開閉部および上記線間経路開閉部を制御して加算対象の上記電荷蓄積部のそれぞれの上記電荷の量を加算させる走査回路とを具備する固体撮像素子、および、その制御方法である。これにより、加算対象の電荷蓄積部のそれぞれの上記電荷の量が加算されるという作用をもたらす。
また、この第1の側面において、上記電荷蓄積部は、浮遊拡散層であってもよい。これにより、加算対象の浮遊拡散層のそれぞれの上記電荷の量が加算されるという作用をもたらす。
また、この第1の側面において、前記接続経路開閉部は、前記電荷蓄積部と当該電荷蓄積部に対応する前記接続線とを開閉するリセットトランジスタを前記電荷蓄積部ごとに備えてもよい。これにより、電荷蓄積部と接続線との間の経路が個別に開閉されるという作用をもたらす。
また、この第1の側面において、上記電荷蓄積部のそれぞれについて上記電荷蓄積部を初期化するリセットトランジスタをさらに具備してもよい。これにより、電荷蓄積部が初期化されるという作用をもたらす。
また、この第1の側面において、電源と上記接続線との間の経路を開閉する電源経路開閉部をさらに具備してもよい。これにより、電荷蓄積部の電荷が電源に引き抜かれるという作用をもたらす。
また、この第1の側面において、上記アレイ部には、二次元格子状に複数の画素が配列され、隣接する上記複数の画素は、上記浮遊拡散層を共有してもよい。これにより、複数の画素に共有される浮遊拡散層の電荷の量が加算されるという作用をもたらす。
また、この第1の側面において、上記電荷蓄積部は、光電変換素子であってもよい。これにより、加算対象の光電変換素子のそれぞれの上記電荷の量が加算されるという作用をもたらす。
また、この第1の側面において、上記集合ごとに配線された信号線と、上記電荷蓄積部のそれぞれと上記電荷蓄積部に対応する上記信号線との間の経路を開閉する選択部とをさらに具備してもよい。これにより、加算された信号が信号線から出力されるという作用をもたらす。
また、この第1の側面において、互いに隣接する上記信号線と上記接続線との間の経路を開閉する信号経路開閉部をさらに具備してもよい。これにより、加算された信号が増幅されずに読み出されるという作用をもたらす。
また、この第1の側面において、上記信号線のそれぞれから出力されたアナログ信号に対して所定の信号処理を行う信号処理部をさらに具備してもよい。これにより、アナログ信号に対して信号処理が行われるという作用をもたらす。
また、この第1の側面において、上記集合ごとに所定数の上記接続線が配線され、上記アレイ部は、複数の加算単位に分割され、上記所定方向において隣接する上記所定数の加算単位のそれぞれは、上記所定方向に配線された上記所定数の信号線と互いに異なる上記接続線とに接続され、上記走査回路は、上記所定方向において隣接する上記所定数の加算単位のそれぞれに互いに異なる上記信号線から画素信号を出力させてもよい。これにより、所定数の加算単位から同時に信号が読み出されるという作用をもたらす。
また、この第1の側面において、上記アレイ部および上記接続トランジスタは、所定の半導体基板に配置され、上記線間経路開閉部は、上記所定の半導体基板に積層された半導体基板に配置されてもよい。これにより、積層された半導体基板において互いに隣接する電荷蓄積部のそれぞれの上記電荷の量が加算されるという作用をもたらす。
また、本技術の第2の側面は、光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部と、所定方向に配列された上記電荷蓄積部の集合ごとに配線された接続線と、上記電荷蓄積部のそれぞれと上記電荷蓄積部に対応する上記接続線との間の経路を開閉する接続経路開閉部と、上記接続線のそれぞれの間の経路を開閉する線間経路開閉部と、上記接続経路開閉部および上記線間経路開閉部を制御して加算対象の上記電荷蓄積部のそれぞれの上記電荷の量を加算させる走査回路と、上記電荷の量に応じた画素信号からなる画像データを記録する記録部とを具備する撮像装置である。これにより、加算対象の電荷蓄積部のそれぞれの上記電荷の量が加算され、画像データが記録されるという作用をもたらす。
本技術によれば、画素加算を行う固体撮像素子において、画素加算時の解像度を変更することができるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(スイッチの制御により加算単位を変更する例)
2.第2の実施の形態(スイッチの制御により加算単位を変更し、増幅トランジスタをバイパスする例)
3.第3の実施の形態(スイッチの制御により加算単位を変更し、複数のブロック行を同時に読み出す例)
4.第4の実施の形態(積層型の固体撮像素子においてスイッチの制御により加算単位を変更する例)
5.第5の実施の形態(複数の画素で浮遊拡散層を共有し、スイッチの制御により加算単位を変更する例)
1.第1の実施の形態(スイッチの制御により加算単位を変更する例)
2.第2の実施の形態(スイッチの制御により加算単位を変更し、増幅トランジスタをバイパスする例)
3.第3の実施の形態(スイッチの制御により加算単位を変更し、複数のブロック行を同時に読み出す例)
4.第4の実施の形態(積層型の固体撮像素子においてスイッチの制御により加算単位を変更する例)
5.第5の実施の形態(複数の画素で浮遊拡散層を共有し、スイッチの制御により加算単位を変更する例)
<1.第1の実施の形態>
[撮像装置の構成例]
図1は、第1の実施の形態における撮像装置100の一構成例を示すブロック図である。この撮像装置100は、画像データを撮像する装置であり、撮像レンズ110、固体撮像素子200、記録部120および撮像制御部130を備える。撮像装置100としては、アクションカムや車載カメラなどが想定される。
[撮像装置の構成例]
図1は、第1の実施の形態における撮像装置100の一構成例を示すブロック図である。この撮像装置100は、画像データを撮像する装置であり、撮像レンズ110、固体撮像素子200、記録部120および撮像制御部130を備える。撮像装置100としては、アクションカムや車載カメラなどが想定される。
撮像レンズ110は、光を集光して固体撮像素子200に導くものである。固体撮像素子200は、撮像制御部130の制御に従って画像データを生成するものである。この固体撮像素子200は、生成した画像データを記録部120に信号線209を介して供給する。記録部120は、画像データを記録するものである。
撮像制御部130は、撮像装置100全体を制御するものである。この撮像制御部130は、撮像タイミングを示す垂直同期信号などを信号線139を介して固体撮像素子200に供給する。
なお、撮像レンズ110、固体撮像素子200、記録部120および撮像制御部130を同一の装置に配置しているが、これらを複数の装置に分散して配置することもできる。例えば、撮像レンズ110をレンズユニットに配置し、固体撮像素子200などを撮像装置100に配置してもよい。
[固体撮像素子の構成例]
図2は、第1の実施の形態における固体撮像素子200の一構成例を示すブロック図である。この固体撮像素子200は、行走査回路210、画素アレイ部220、画素加算制御部240、タイミング制御部260、AD変換部270、列走査回路280および画像処理部290を備える。また、固体撮像素子200内の回路のそれぞれは、単一の半導体基板に設けられている。
図2は、第1の実施の形態における固体撮像素子200の一構成例を示すブロック図である。この固体撮像素子200は、行走査回路210、画素アレイ部220、画素加算制御部240、タイミング制御部260、AD変換部270、列走査回路280および画像処理部290を備える。また、固体撮像素子200内の回路のそれぞれは、単一の半導体基板に設けられている。
また、画素アレイ部220には、二次元格子状に複数の画素回路が設けられる。以下、所定の方向(水平方向など)に配列された画素回路の集合を「行」と称し、行に垂直な方向に配列された画素回路の集合を「列」と称する。なお、画素アレイ部220は、特許請求の範囲に記載のアレイ部の一例である。
行走査回路210は、画素回路を駆動して画素信号を出力させるものである。また、行走査回路210は、画素加算制御部240および画素アレイ部220を制御して、隣接する複数の画素のそれぞれの画素信号を必要に応じて加算させる。そして、画素加算制御部240は画素信号をAD変換部270に出力する。なお、行走査回路210は、特許請求の範囲に記載の走査回路の一例である。
タイミング制御部260は、行走査回路210、AD変換部270および列走査回路280のそれぞれが動作するタイミングを制御するものである。AD変換部270は、画素信号に対してAD変換を行って画素データを生成するものである。列走査回路280は、AD変換部270を制御して画素データを画像処理部290に転送させるものである。
画像処理部290は、画素データからなる画像データに対して様々な画像処理を実行するものである。この画像処理において例えば、デモザイク処理やホワイトバランス処理などが実行される。画像処理後の画像データは、記録部120に送信される。また、画素加算が行われた場合には、動きの検出処理や照度検出処理が実行される。動きの検出処理においては、フレーム間差分法や背景差分法などにより、画像内の被写体の動きの有無や動きベクトルなどが検出される。
動きや照度の検出結果は、撮像制御部130に送信される。動きの検出結果は、動きのあった場合にフレームレートを変更するアプリケーションなどの各種のアプリケーションに用いられる。また、照度の検出結果は、露光量の制御などに用いられる。
なお、画像処理部290を固体撮像素子200内に配置しているが、この画像処理部290を固体撮像素子200の外部に配置してもよい。
[画素アレイ部の構成例]
図3は、第1の実施の形態における画素アレイ部220の一構成例を示すブロック図である。この画素アレイ部220には、二次元格子状に複数の画素回路230が配列される。画素アレイ部220内の行数をN(Nは2以上の整数)とし、列数をM(Mは2以上の整数)とする。
図3は、第1の実施の形態における画素アレイ部220の一構成例を示すブロック図である。この画素アレイ部220には、二次元格子状に複数の画素回路230が配列される。画素アレイ部220内の行数をN(Nは2以上の整数)とし、列数をM(Mは2以上の整数)とする。
また、水平方向に沿って行ごとに3本の水平信号線が配線され、垂直方向に沿って列ごとに接続線229−mfおよび垂直信号線229−mv(mは0乃至M−1の整数)が1本ずつ配線される。行に対応する3本の水平信号線のうち1本は、リセット信号RSTn(nは0乃至N−1の整数)を伝送するリセット線であり、1本は転送信号TRGnを伝送する転送線であり、残りの1本は選択信号SELnを伝送する選択線である。これらのリセット信号RSTn、転送信号TRGnおよび選択信号SELnは、行走査回路210により生成され、n行目に出力される。
図4は、第1の実施の形態における画素回路230および画素加算制御部240の一構成例を示す回路図である。画素回路230は、光電変換素子231、転送トランジスタ232、リセットトランジスタ233、浮遊拡散層234、増幅トランジスタ235および選択トランジスタ236を備える。転送トランジスタ232、リセットトランジスタ233、増幅トランジスタ235および選択トランジスタ236として、例えば、N型のMOS(Metal Oxide Semiconductor)トランジスタが用いられる。
光電変換素子231は、入射光を光電変換して電荷を生成するものである。転送トランジスタ232は、電荷の転送を指示する転送信号TRGnに従って光電変換素子231から浮遊拡散層234へ電荷を転送するものである。
リセットトランジスタ233は、浮遊拡散層234の初期化を指示するリセット信号RSTnに従って、対応する接続線229−mfと浮遊拡散層234との間の経路を開閉するものである。なお、リセットトランジスタ233は、特許請求の範囲に記載の接続経路開閉部の一例である。
浮遊拡散層234は、電荷を蓄積し、蓄積した電荷量に応じた電圧を生成するものである。なお、浮遊拡散層234は、特許請求の範囲に記載の電荷蓄積部の一例である。
増幅トランジスタ235は、浮遊拡散層234の電圧を増幅するものである。選択トランジスタ236は、n行を選択する選択信号SELnに従って、対応する垂直信号線229−mvと増幅トランジスタ235との間の経路を開閉するものである。なお、選択トランジスタ236は、特許請求の範囲に記載の選択部の一例である。
また、画素加算制御部240は、スイッチ241および242を列ごとに備える。m列のスイッチ242は、接続線229−mfと接続線229−(m+1)fとの間に配置される。
スイッチ241は、電源スイッチ信号VSWに従って、対応する列の接続線229−mvと電源との間の経路を開閉するものである。この電源スイッチ信号VSWは、浮遊拡散層234の電荷量を初期化するか否かを指示する信号であり、行走査回路210により生成される。スイッチ241は、初期化する場合に閉状態に制御され、初期化しない場合に開状態に制御される。なお、スイッチ241は、特許請求の範囲に記載の線間経路接続部の一例である。
スイッチ242は、列スイッチ信号CSWmに従って、対応する列の接続線229−mvと、その接続線に隣接する接続線229−(m+1)vとの間の経路を開閉するものである。この列スイッチ信号CSWmは、m列の画素信号と(m+1)列の画素信号とを加算するか否かを指示する信号であり、行走査回路210により生成される。m列と(m+1)列とを加算する場合に、それらの列の間のスイッチ242が閉状態に制御され、加算しない場合に開状態に制御される。なお、スイッチ242は、特許請求の範囲に記載の電源経路接続部の一例である。
上述の構成により、行走査回路210は、隣接する複数の画素からなる任意の画素ブロック内の画素信号を加算させることができる。行走査回路210は、加算対象の行に対応するリセット信号RSTnをハイレベルに制御して、それらの行内の浮遊拡散層234を接続線229−mfに接続させる。また、行走査回路210は、加算対象の列に対応する列スイッチ信号CSWmをハイレベルに制御して、それらの列の接続線229−mv同士を接続させる。
これらの制御により、画素ブロック内の画素の全ての浮遊拡散層234が接続線229−mfを介して接続され、それらの浮遊拡散層234の電荷量が加算および平均化される。また、行走査回路210は、画素ブロック内の画素が属する行の選択信号SELnをハイレベルに制御して、加算された画素信号を出力させる。
また、行走査回路210は、電源スイッチ信号VSWをハイレベルに制御し、画素ブロックに対応するリセット信号RSTnを露光開始時にハイレベルに制御する。この制御により、画素ブロック内の浮遊拡散層234の電荷量が初期化される。
なお、画素ごとに浮遊拡散層234を配置しているが、後述するように複数の画素で浮遊拡散層234を共有する構成であってもよい。また、固体撮像素子200は、位相差検出をおこなうための画素、面積の異なる画素、透過率の異なる膜を設けた画素などの画素信号を加算してもよい。
[画素加算制御部の構成例]
図5は、第1の実施の形態における画素加算制御部240の一構成例を示す回路図である。例えば、N型のMOSトランジスタ243および244がスイッチ241および242として用いられる。
図5は、第1の実施の形態における画素加算制御部240の一構成例を示す回路図である。例えば、N型のMOSトランジスタ243および244がスイッチ241および242として用いられる。
なお、N型の代わりにP型のMOSトランジスタを用いてもよい。P型を用いる場合は、電源スイッチ信号VSWおよび列スイッチ信号CSWmにおいてハイレベルとローレベルとを逆にすればよい。また、N型のトランジスタとP型のトランジスタとを組み合わせてもよい。例えば、複数のスイッチ241の一部をN型とし、残りをP型とすることもできる。スイッチ242についても同様である。N型とP型とを組み合わせる場合、電源スイッチ信号VSWなどについて、N型用とP型用とで、極性の異なる信号を2種類用意すればよい。あるいは、スイッチ241の全てをN型とし、スイッチ242の全てをP型としてもよい。
図6は、第1の実施の形態におけるAD変換部270の一構成例を示すブロック図である。AD変換部270には、列ごとにAD変換器271が設けられる。m列のAD変換器271は、垂直信号線229−mvに接続される。AD変換器271は、垂直信号229−mvからのアナログの画素信号を、タイミング制御部260からのクロック信号CLKに同期してデジタルの画素データに変換する。AD変換においては、例えば、シングルスロープ方式、逐次比較AD変換方式、および、デルタシグマ方式のいずれかが用いられる。AD変換方式は、これらの方式に限定されず、別の方式を用いてもよい。そして、AD変換器271は、列走査回路280の制御に従って画素データを画像処理部290に転送する。
なお、AD変換器271は、AD変換のみを行っているが、信号処理であれば、AD変換に限定されず、他の処理を行ってもよい。例えば、AD変換器271は、CDS(Correlated Double Sampling)処理をさらに行ってもよい。なお、AD変換部270は、特許請求の範囲に記載の信号処理部の一例である。
また、垂直信号線229−mvごとにAD変換器271を設けているが、接続線229−mfごとにAD変換器271をさらに設けてもよい。この構成において、行走査回路210は、画素加算しない場合に選択信号SELnをハイレベルにして垂直信号線229−mvに接続されたAD変換器271に画素信号をAD変換させる。また、画素加算する場合に行走査回路210は、選択信号SELnをローレベルにして、接続線229−mfに接続されたAD変換器271に、加算された信号をAD変換させる。
図7は、第1の実施の形態における固体撮像素子の通常読出し期間内の動作の一例を示すタイミングチャートである。この通常読出し期間は、画素加算を行わずに画素信号を読み出すための期間である。
タイミングT0において、行走査回路210は、所定のパルス期間に亘ってリセット信号RST0をハイレベルに制御する。この制御により、浮遊拡散層234がリセットされる。また、行走査回路210は、選択信号SEL0をハイレベルに制御する。なお、タイミングT0の前から継続して、電源スイッチ信号VSWはハイレベルに設定される。
タイミングT0の後のタイミングT1において、行走査回路210は、所定のパルス期間に亘って転送信号TRG0をハイレベルに制御する。この制御により、0行目の光電変換素子231の電荷が浮遊拡散層234に転送される。また、行走査回路210は、タイミングT1の後のタイミングT2において選択信号SEL0をローレベルに制御する。この制御により0行目の読出しが終了する。
また、各列のAD変換器271は、タイミングT0からタイミングT1までの間において画素信号のレベルをリセットレベルとしてサンプリングする。そして、タイミングT1からタイミングT2までの間において、AD変換器271は、画素信号のレベルを信号レベルとしてサンプリングする。AD変換部270の後段の画像処理部290は、リセットレベルおよび信号レベルの差分を算出するCDS処理を行う。
タイミングT2以降は、1行目以降の読出しが順に行われる。それぞれの行のリセットおよび転送は、前の行のリセットおよび転送のタイミングから一定時間が経過したときに開始される。なお、固体撮像素子200は、全画素を読み出しているが、行や列の一部を間引いて読み出してもよい。
図8は、第1の実施の形態における画素加算制御を説明するための図である。点線で囲まれた部分は、加算対象の画素からなる画素ブロックを示す。例えば、0行0列、0行1列、1行0列および1行1列のそれぞれの画素の画素信号が加算されるものとする。
行走査回路210は、ハイレベルのリセット信号RST0およびRST1により、0行および1行のリセットトランジスタ233をオン状態に制御する。その他の行のリセットトランジスタ233はオフ状態に制御される。
また、行走査回路210は、ハイレベルの列スイッチ信号CSW0により0列目と1列目との間のスイッチ242をオン状態に制御する。1列目と2列目とは加算対象でないため、1列目と2列目との間のスイッチ242はオフ状態に制御される。
これらの制御により、0列目の浮遊拡散層234は接続線229−0fに接続され、1列目の浮遊拡散層234は接続線229−1fに接続される。そして、これらの接続線229−0fおよび229−1fも接続される。したがって、画素ブロック内の全ての浮遊拡散層234が接続線229−0fおよび229−1fを介して接続される。これにより、画素ブロック内の画素の画素信号が加算される。
また、行走査回路210は、ハイレベルの選択信号SEL0およびSEL1により、0行および1行の選択トランジスタ236をオン状態に制御する。この制御により、加算された信号が垂直信号線229−0vまたは229−1vから出力される。行走査回路210は、0列目および1列目の一方のAD変換器271をイネーブルにして、加算された信号をAD変換させる。
図9は、第1の実施の形態における2行×2列の複数の画素ブロックを加算単位とした場合の固体撮像素子を示す図である。同図において点線で囲まれた部分は、加算対象の画素からなる画素ブロックを示す。例えば、0行0列、0行1列、1行0列、1行1列のそれぞれの画素の画素信号が加算されるものとする。また、0行2列、0行3列、1行2列、1行3列のそれぞれの画素の画素信号が加算されるものとする。
行走査回路210は、ハイレベルのリセット信号RST0およびRST1により、0行および1行のリセットトランジスタ233をオン状態に制御する。また、行走査回路210は、ハイレベルの列スイッチ信号CSW0およびCSW2により、0列目および1列目の間のスイッチ242と、2列目および3列目の間のスイッチ242とをオン状態に制御する。そして、行走査回路210は、ハイレベルの選択信号SEL0およびSEL1により、0行および1行の選択トランジスタ236をオン状態に制御する。なお、選択信号SEL0およびSEL1の片側だけをオン状態に制御してもよい。
なお、m列のスイッチ242を接続線229−mfと接続線229−(m+1)fとの間に配置していたが、この構成に限定されない。例えば、図10に例示するように、m列のスイッチ241の一端を接続線229−mfに接続し、隣接する複数列(2列など)のスイッチ241の他端を、水平方向に配線された共通線に共通に接続してもよい。この場合、横方向のオン抵抗を減らすことができるが、横方向の接続数は物理構造で決定されるため、縦方向の加算数のみ変更が可能となる。
図11は、第1の実施の形態における2行×2列の複数の画素ブロックを加算単位とした場合の固体撮像素子の動作の一例を示すタイミングチャートである。画素加算時においては、所定方向(水平方向など)に配列された画素ブロックの集合を「ブロック行」と称し、行に垂直な方向に配列された画素ブロックの集合を「ブロック列」と称する。
タイミングT10において、行走査回路210は、リセット信号RST0およびRST1をハイレベルに制御し、電源スイッチ信号VSWを所定のパルス期間に亘ってハイレベルに制御する。この制御により、浮遊拡散層234がリセットされる。また、行走査回路210は、選択信号SEL0およびSEL1をハイレベルに制御する。
また、タイミングT10において行走査回路210は、奇数列の列スイッチ信号CSWm(CSW0やCSW2など)をハイレベルに制御する。これにより、隣接する2列のそれぞれが加算される。
また、行走査回路210は、タイミングT10の後のタイミングT12においてリセット信号RST0およびRST1と、選択信号SEL0およびSEL1と、奇数列の列スイッチ信号CSWmとをローレベルに制御する。この制御により0番目のブロック行の読出しが終了する。
そして、タイミングT10の後のタイミングT11において行走査回路210は、転送信号TRG0およびTRG1をパルス期間に亘ってハイレベルに制御する。これにより、光電変換素子231の電荷が浮遊拡散層234に転送される。
また、奇数列のAD変換器271は、タイミングT10からタイミングT11までの間にリセットレベルをサンプリングし、タイミングT11からタイミングT12までの間に信号レベルをサンプリングする。タイミングT12以降は、1番目以降のブロック行の読出しが同様の手順により順に行われる。なお、固体撮像素子200は、全画素ブロックを読み出しているが、ブロック行やブロック列の一部を間引いて読み出してもよい。また、奇数列のAD変換器271がAD変換を行っているが、奇数列の代わりに偶数列のAD変換器271がAD変換を行ってもよい。
図12は、第1の実施の形態における2行×4列の画素ブロックを加算単位とした場合の固体撮像素子を示す図である。同図において点線で囲まれた部分は、加算対象の画素からなる画素ブロックを示す。例えば、0行0列、0行1列、1行0列、1行1列、0行2列、0行3列、1行2列および1行3列の8画素の画素信号が加算されるものとする。
行走査回路210は、ハイレベルのリセット信号RST0およびRST1により、0行および1行のリセットトランジスタ233をオン状態に制御する。また、行走査回路210は、ハイレベルの列スイッチ信号CSW0、CSW1およびCSW2により、0列から2列目までのスイッチ242をオン状態に制御する。そして、行走査回路210は、ハイレベルの選択信号SEL0およびSEL1により、0行および1行の選択トランジスタ236をオン状態に制御する。
図13は、第1の実施の形態における2行×4列の画素ブロックを加算単位とした場合の固体撮像素子の動作の一例を示すタイミングチャートである。
タイミングT10において、行走査回路210は、リセット信号RST0およびRST1をハイレベルに制御し、電源スイッチ信号VSWを所定のパルス期間に亘ってハイレベルに制御する。この制御により浮遊拡散層234がリセットされる。また、行走査回路210は、選択信号SEL0およびSEL1をハイレベルに制御する。
また、タイミングT10において行走査回路210は、列スイッチ信号CSW(4k)、CSW(4k+1)、および、CSW(4k+2)をハイレベルに制御する。ここで、kは、0以上の整数である。これにより、隣接する4列のそれぞれが加算される。
また、行走査回路210は、タイミングT10の後のタイミングT12においてリセット信号RST0およびRST1と選択信号SEL0およびSEL1をローレベルに制御する。タイミングT12において列スイッチ信号CSW(4k)、CSW(4k+1)、および、CSW(4k+2)もローレベルに制御される。この制御により0番目のブロック行の読出しが終了する。
そして、タイミングT10の後のタイミングT11において行走査回路210は、転送信号TRG0およびTRG1をパルス期間に亘ってハイレベルに制御する。これにより、光電変換素子231の電荷が浮遊拡散層234に転送される。
また、隣接する4列のいずれか(4k列目など)AD変換器271は、タイミングT10からタイミングT11までの間にリセットレベルをサンプリングし、タイミングT11からタイミングT12までの間に信号レベルをサンプリングする。タイミングT12は、1番目以降のブロック行の読出しが同様の手順により順に行われる。
図14は、第1の実施の形態における2行×2列の画素ブロックを加算単位とした場合の固体撮像素子を示す図である。同図において点線で囲まれた部分は、加算対象の画素からなる画素ブロックを示す。例えば、1行1列、1行2列、2行1列および2行2列のそれぞれの画素の画素信号が加算されるものとする。
行走査回路210は、ハイレベルのリセット信号RST1およびRST2により、1行および2行のリセットトランジスタ233をオン状態に制御する。また、行走査回路210は、ハイレベルの列スイッチ信号CSW1により、1列目および2列目の間のスイッチ242をオン状態に制御する。そして、行走査回路210は、ハイレベルの選択信号SEL1およびSEL2により、1行目および2行目の選択トランジスタ236をオン状態に制御する。これらの制御により、中央部の2行×2列の画素ブロック内の画素信号が加算される。
図15は、第1の実施の形態における2行×2列の画素ブロックを加算単位とした場合の固体撮像素子の動作の一例を示すタイミングチャートである。
タイミングT10において、行走査回路210は、リセット信号RST1およびRST2をハイレベルに制御し、電源スイッチ信号VSWを所定のパルス期間に亘ってハイレベルに制御する。この制御により浮遊拡散層234がリセットされる。また、行走査回路210は、選択信号SEL1およびSEL2をハイレベルに制御する。
また、タイミングT10において行走査回路210は、列スイッチ信号CSW1をハイレベルに制御する。これにより、1列目および2列目が加算される。
また、行走査回路210は、タイミングT10の後のタイミングT12においてリセット信号RST1およびRST2と、選択信号SEL1およびSEL2と、列スイッチ信号CSW1とをローレベルに制御する。この制御により画素ブロックの読出しが終了する。
そして、タイミングT10の後のタイミングT11において行走査回路210は、転送信号TRG1およびTRG2をパルス期間に亘ってハイレベルに制御する。これにより、光電変換素子231の電荷が浮遊拡散層234に転送される。
また、1列目(または2列目)のAD変換器271は、タイミングT10からタイミングT11までの間にリセットレベルをサンプリングし、タイミングT11からタイミングT12までの間に信号レベルをサンプリングする。
図10乃至図15に例示したように、固体撮像素子200は、リセットトランジスタ233およびスイッチ242の制御により、加算単位を動作中において任意に変更することができる。加算する行は、リセットトランジスタ233の制御により変更することができる。また、加算する列は、スイッチ242の制御により変更することができる。
[固体撮像素子の動作例]
図16は、第1の実施の形態における固体撮像素子200の動作の一例を示すフローチャートである。この動作は、例えば、画像データの撮像や動き検出を開始させるための操作が行われたときに開始する。
図16は、第1の実施の形態における固体撮像素子200の動作の一例を示すフローチャートである。この動作は、例えば、画像データの撮像や動き検出を開始させるための操作が行われたときに開始する。
まず、固体撮像素子200は、通常読出し期間内であるか否かを判断する(ステップS901)。通常読出し期間内である場合に(ステップS901:Yes)、固体撮像素子200は、読み出す行を選択し、読出しを行う(ステップS902)。そして、固体撮像素子200は、読出し対象の全行の読出しが完了したか否かを判断する(ステップS903)。全行の読出しが完了していない場合に(ステップS903:No)、固体撮像素子200は、ステップS902以降を繰り返し実行する。
全行の読出しが完了した場合に(ステップS903:Yes)、固体撮像素子200は、画像データに対して画像処理を実行して記録する(ステップS904)。
また、通常読出し期間内でない場合に固体撮像素子200は、画素加算読出し期間内であるか否かを判断する(ステップS905)。画素加算読出し期間内である場合に(ステップS905:Yes)、固体撮像素子200は、読出し対象のブロック行を選択し、読出しを行う(ステップS906)。そして、固体撮像素子200は、読出し対象の全ブロック行の読出しが完了したか否かを判断する(ステップS907)。全ブロック行の読出しが完了していない場合に(ステップS907:No)、固体撮像素子200は、ステップS906以降を繰り返し実行する。
全ブロック行の読出しが完了した場合に(ステップS907:Yes)、固体撮像素子200は、画素加算により生成された画像データに基づいて動き検出を行う(ステップS908)。
画素加算読出し期間内でない場合(ステップS905:No)、または、ステップS904、もしくは、ステップS908の後に固体撮像素子200は、ステップS901以降を繰り返し実行する。
このように、本技術の第1の実施の形態によれば、リセットトランジスタ233およびスイッチ242を制御して複数の浮遊拡散層234の電荷量を加算させるため、画素加算における加算単位を任意に変更することができる。この加算単位の変更により、画素加算における画像データの解像度を変更することができる。
[第1の変形例]
上述の第1の実施の形態では、画素加算制御部240において列ごとにスイッチ241および242を設けて画素加算を制御していたが、列数の増大に伴ってスイッチの個数が増加し、画素加算制御部240の回路規模が増大してしまう。この第1の実施の形態の第1の変形例の固体撮像素子200は、画素加算制御部240の回路規模を削減した点において第1の実施の形態と異なる。
上述の第1の実施の形態では、画素加算制御部240において列ごとにスイッチ241および242を設けて画素加算を制御していたが、列数の増大に伴ってスイッチの個数が増加し、画素加算制御部240の回路規模が増大してしまう。この第1の実施の形態の第1の変形例の固体撮像素子200は、画素加算制御部240の回路規模を削減した点において第1の実施の形態と異なる。
図17は、第1の実施の形態の第1の変形例における画素回路230および画素加算制御部240の一構成例を示す回路図である。この第1の実施の形態の第1の変形例の画素回路230は、接続トランジスタ237をさらに備える点において第1の実施の形態と異なる。
接続トランジスタ237は、FD接続信号FDCnに従って、浮遊拡散層234と接続線229−mfとの間の経路を開閉するものである。このFD接続信号FDCnは、浮遊拡散層234の接続線229−mfへの接続を指示する信号であり、行走査回路210により生成される。なお、接続トランジスタ237は、特許請求の範囲に記載の接続経路開閉部の一例である。
また、第1の実施の形態の第1の変形例のリセットトランジスタ233は、リセット信号RSTnに従って浮遊拡散層234と電源との間の経路を開閉する。また、第1の実施の形態の第1の変形例の画素加算制御部240には、スイッチ241が設けられない。
行走査回路210は、リセット信号RSTnおよび電源スイッチ信号VSWの代わりに、リセット信号RSTnのみを送信して浮遊拡散層234を初期化することができる。このため、初期化のためのスイッチ241を画素加算制御部240に設ける必要は無い。
なお、画素加算の際に、通常読出しのときと異なる電圧で初期化する場合には、スイッチ241をさらに追加することもできる。
このように、本技術の第1の実施の形態の第1の変形例によれば、リセットトランジスタ233に加えて接続トランジスタ237を設けたため、初期化のためのスイッチ241が画素加算制御部240内に設けなくても浮遊拡散層234を初期化することができる。これにより、画素加算制御部240の回路規模を削減することができる。
[第2の変形例]
上述の第1の実施の形態の第1の変形例では、光電変換素子231を浮遊拡散層234のみに接続していた。そのため、2つ以上のトランジスタを介さないと接続できなくなる。1つのみにする場合、トランジスタを介して光電変換素子231を浮遊拡散層234と接続線229−mfとのいずれかに接続する回路構成とすればよい。この第1の実施の形態の第2の変形例の固体撮像素子200は、接続線229−mfと光電変換素子231との間のトランジスタ数を1つとした点とした点において第1の実施の形態の第1の変形例と異なる。
上述の第1の実施の形態の第1の変形例では、光電変換素子231を浮遊拡散層234のみに接続していた。そのため、2つ以上のトランジスタを介さないと接続できなくなる。1つのみにする場合、トランジスタを介して光電変換素子231を浮遊拡散層234と接続線229−mfとのいずれかに接続する回路構成とすればよい。この第1の実施の形態の第2の変形例の固体撮像素子200は、接続線229−mfと光電変換素子231との間のトランジスタ数を1つとした点とした点において第1の実施の形態の第1の変形例と異なる。
図18は、第1の実施の形態の第2の変形例における画素回路230の一構成例を示す回路図である。この第1の実施の形態の第2の変形例の接続トランジスタ237は、PD接続信号PDCnに従って光電変換素子231と接続線229−mfとの間の経路を開閉する。PD接続信号PDCnは、光電変換素子231の接続線229−mfへの接続を指示する信号であり、行走査回路210により生成される。なお、光電変換素子231は、特許請求の範囲に記載の電荷蓄積部の一例である。
このように、本技術の第1の実施の形態の第2の変形例によれば、光電変換素子231を接続線229−mfまたは浮遊拡散層234に接続するため、接続線と光電変換素子の間のトランジスタ数を1つにすることができ、オン抵抗を低減することができる。
<2.第2の実施の形態>
上述の第1の実施の形態では、画素加算を行って解像度を低下させることにより消費電力を削減していたが、それ以上解像度を下げずに、さらに消費電力を低減することが困難である。この第2の実施の形態の固体撮像素子200は、消費電力をさらに低減した点において第1の実施の形態と異なる。
上述の第1の実施の形態では、画素加算を行って解像度を低下させることにより消費電力を削減していたが、それ以上解像度を下げずに、さらに消費電力を低減することが困難である。この第2の実施の形態の固体撮像素子200は、消費電力をさらに低減した点において第1の実施の形態と異なる。
図19は、第2の実施の形態における画素アレイ部220および画素加算制御部240の一構成例を示すブロック図である。この第2の実施の形態の画素加算制御部240は、列ごとにスイッチ245をさらに備える点において第1の実施の形態と異なる。
スイッチ245は、信号線接続信号FD2VSmに従って、接続線229−mfと垂直信号線229−mvとの間の経路を開閉するものである。信号線接続信号FD2VSmは、接続線229−mfと垂直信号線229−mvとの接続を指示する信号であり、行走査回路210により生成される。なお、スイッチ245は、特許請求の範囲に記載の信号経路開閉部の一例である。
行走査回路210は、画素ブロックに対応する選択信号SELnをローレベルにし、画素ブロックに対応する信号線接続信号FD2VSmをハイレベルに制御して接続線229−mfを垂直信号線229−mvに接続させる。この制御により、加算された画素信号は、増幅トランジスタ235および選択トランジスタ236を介さずに、AD変換器271へ出力される。このため、増幅トランジスタ235により増幅を行う第1の実施の形態と比較して消費電力を低減することができる。
このように、本技術の第2の実施の形態によれば、スイッチ245が接続線229−mfと垂直信号線229−mvとの間の経路を開閉するため、増幅トランジスタ235をバイパスして画素信号を増幅せずに読み出すことができる。これにより、画素信号を増幅する場合と比較して消費電力をさらに低減することができる。
<3.第3の実施の形態>
上述の第1の実施の形態では、ブロック行を1行ずつ読み出してAD変換していたが、ブロック行の行数が増大するほど、読出しに要する時間が長くなり、消費電力が増大する。複数のブロック行を同時に読み出せば、読出しに要する時間を短くし、消費電力を低減することができる。この第3の実施の形態の固体撮像素子200は、複数のブロック行を同時に読み出してAD変換する点において第1の実施の形態と異なる。
上述の第1の実施の形態では、ブロック行を1行ずつ読み出してAD変換していたが、ブロック行の行数が増大するほど、読出しに要する時間が長くなり、消費電力が増大する。複数のブロック行を同時に読み出せば、読出しに要する時間を短くし、消費電力を低減することができる。この第3の実施の形態の固体撮像素子200は、複数のブロック行を同時に読み出してAD変換する点において第1の実施の形態と異なる。
図20は、第3の実施の形態における画素アレイ部220の一構成例を示すブロック図である。第3の実施の形態の画素アレイ部220において、列ごとに接続線229−mfaおよび接続線229−mfbの2本が配線される。接続線229−mfaは、奇数番目のブロック行のリセットトランジスタ233に接続される。一方、接続線229−mfbは、偶数番目のブロック行のリセットトランジスタ233に接続される。また、画素ブロックは2行×2列であるものとする。なお、ブロックサイズをより大きく、例えば8行×8列にしてもよい。8行×8列とすれば、2行×2列加算、4行×4列加算、8行×8列加算などを行うことができる。
図21は、第3の実施の形態における画素回路230の一構成例を示す回路図である。画素回路230の行ごとに、4本の水平信号線が配線される。行に対応する4本の水平信号線のうち1本は、リセット信号RSTnを伝送するリセット線であり、1本は転送信号TRGnを伝送する転送線であり、残りの2本は選択信号SELOnおよびSELEnを伝送する選択線である。
ここで、選択信号SELOnは、n行目の奇数列を選択するための信号であり、選択信号SELEnは、n行目の偶数列を選択するための信号である。選択信号SELOnは、n行目の奇数列の選択トランジスタ236のゲートに入力され、選択信号SELEnは、n行目の偶数列の選択トランジスタ236のゲートに入力される。
図22は、第3の実施の形態における画素加算制御部240の一構成例を示す回路図である。この第3の実施の形態の画素加算制御部240は、列ごとに、スイッチ246および247をさらに備える。
m列目のスイッチ242は、列スイッチ信号CSWmaに従って接続線229−mfaと接続線229−(m+1)faとの間の経路を開閉する。m列目のスイッチ247は、列スイッチ信号CSWmbに従って接続線229−mfbと接続線229−(m+1)fbとの間の経路を開閉する。
また、m列目のスイッチ241は、電源スイッチ信号VSWに従って、接続線229−mfaと電源との間の経路を開閉する。m列目のスイッチ246は、電源スイッチ信号VSWに従って、接続線229−mfbと電源との間の経路を開閉する。
図23は、第3の実施の形態における2行×2列の複数の画素ブロックを加算単位とした場合の固体撮像素子を示す図である。同図において点線で囲まれた部分は、加算対象の画素からなる画素ブロックを示す。例えば、0行1列、0行2列、1行1列および1行2列の4画素の画素信号が加算されるものとする。また、2行1列、2行2列、3行1列および3行2列の4画素の画素信号が加算されるものとする。
行走査回路210は、ハイレベルのリセット信号RST0乃至RST3により、0行乃至3行のリセットトランジスタ233をオン状態に制御する。また、行走査回路210は、ハイレベルの列スイッチ信号CSW1aおよびCSW1bにより、1列目のスイッチ242および247をオン状態に制御する。そして、行走査回路210は、ハイレベルの選択信号SELE0およびSELO2により、0行偶数列と、2行奇数列の選択トランジスタ236をオン状態に制御する。この制御により、0行および1行に対応する画素ブロックの信号は、1列目から出力され、2行および3行に対応する画素ブロックの信号は2列目から出力される。したがって、1列目および2列目のAD変換器271により、2つの画素ブロックの画素信号を同時にAD変換することができる。
なお、列ごとに2本の接続線を配線しているが、列ごとに3本以上の接続線を配線してもよい。列ごとに接続線をc(cは3以上の整数)本配線する場合には、垂直方向において隣接するc個の加算単位(画素ブロック)は、互いに異なる接続線に接続される。また、加算単位のそれぞれの列数はc列である。そして、垂直方向において隣接するc個の加算単位のそれぞれは、行走査回路210の制御に従って、互いに異なる垂直信号線から画素信号を同時に出力する。
また、隣接する複数の画素からなる画素ブロックを加算単位としているが、隣接していない複数の画素の集合を加算単位とすることもできる。例えば、列ごとの2本の接続線の一方を4p(pは0以上の整数)行および4p+2行に接続し、他方を4p+1行および4p+3行に接続してもよい。これにより、離れた行同士を加算することができる。また、固体撮像素子200は、色に関係なく画素信号を加算しているが、色別に画素信号を加算してもよい。
図24は、第3の実施の形態における2行×2列の複数の画素ブロックを加算単位とした場合の固体撮像素子200の動作の一例を示すタイミングチャートである。
タイミングT10において、行走査回路210は、リセット信号RST0乃至RST3と、選択信号SELE0およびSELO2とをハイレベルに制御する。また、行走査回路210は、電源スイッチ信号VSWを所定のパルス期間に亘ってハイレベルに制御する。
また、タイミングT10において行走査回路210は、列スイッチ信号CSW1aおよびCSW1bをハイレベルに制御する。
また、行走査回路210は、タイミングT10の後のタイミングT12においてリセット信号RST0乃至RST3と、選択信号SELE0およびSELO2と列スイッチ信号CSW1aおよびCSW1bとをローレベルに制御する。
そして、タイミングT10の後のタイミングT11において行走査回路210は、転送信号TRG0乃至TRG3をパルス期間に亘ってハイレベルに制御する。
また、1列目および2列目のAD変換器271は、タイミングT10からタイミングT11までの間にリセットレベルをサンプリングし、タイミングT11からタイミングT12までの間に信号レベルをサンプリングする。
このように、本技術の第3の実施の形態によれば、垂直方向において隣接する2つの画素ブロックが互いに異なる列から画素信号を出力するため、それらの画素ブロックの画素信号を同時にAD変換することができる。
<4.第4の実施の形態>
上述の第1の実施の形態では、1つの半導体基板に固体撮像素子200内の回路(画素アレイ部220や画素加算制御部240など)の全てを配置していた。しかし、一定の光学サイズ(画素アレイ部220)の下で、解像度を向上させるには画素を微細化する必要が生じる。この微細化により、AD変換器271の数が増え、AD変換器271の面積など、画素以外の回路面積が増加する。つまり半導体基板の面積が増大する。そこで、固体撮像素子200を複数の半導体基板に積層化し、いずれかの基板に画素アレイ部220を配置して、それ以外を別の基板に配置すれば、積層しない場合よりも半導体基板の面積を小さくすることができる。この第4の実施の形態の固体撮像素子200は、半導体基板の面積を小さくするために、固体撮像素子200を積層構造にした点において第1の実施の形態と異なる。
上述の第1の実施の形態では、1つの半導体基板に固体撮像素子200内の回路(画素アレイ部220や画素加算制御部240など)の全てを配置していた。しかし、一定の光学サイズ(画素アレイ部220)の下で、解像度を向上させるには画素を微細化する必要が生じる。この微細化により、AD変換器271の数が増え、AD変換器271の面積など、画素以外の回路面積が増加する。つまり半導体基板の面積が増大する。そこで、固体撮像素子200を複数の半導体基板に積層化し、いずれかの基板に画素アレイ部220を配置して、それ以外を別の基板に配置すれば、積層しない場合よりも半導体基板の面積を小さくすることができる。この第4の実施の形態の固体撮像素子200は、半導体基板の面積を小さくするために、固体撮像素子200を積層構造にした点において第1の実施の形態と異なる。
図25は、第4の実施の形態における固体撮像素子200の一構成例を示す全体図である。この第4の固体撮像素子200は、下側半導体基板202と、その基板に積層された上側半導体基板201とを備える。
上側半導体基板201には、二次元格子状に複数の画素ユニット203が配列される。画素ユニット203のそれぞれには、二次元格子状に複数の画素回路230が配列される。
下側半導体基板202には、二次元格子状に、画素ユニット203と同数の回路ブロック204が配置される。画素ユニット203と、回路ブロック204とは、貫通シリコンビア(TSV:Through Silicon Via)やバンプ、あるいはCu−Cu接続などにより、1対1で接続される。
回路ブロック204のそれぞれには、画素加算制御部240およびAD変換部270が設けられる。また、下側半導体基板202には、行走査回路210、タイミング制御部260、列走査回路280および画像処理部290が配置される。なお、図25において行走査回路210、タイミング制御部260、列走査回路280および画像処理部290は省略されている。
図26は、第4の実施の形態における上側半導体基板201および下側半導体基板202の一構成例を示す図である。上側半導体基板201には、画素回路230が二次元格子状に配置される。下側半導体基板202には、画素加算制御部240およびAD変換部270が設けられる。
なお、下側半導体基板202内の回路ブロック204に画素加算制御部240を配置しているが、この画素加算制御部240を上側半導体基板201に配置してもよい。また、2つの半導体基板を積層しているが、3つ以上の基板を積層し、固体撮像素子200内の回路をそれらに分散して配置してもよい。
このように、本技術の第4の実施の形態によれば、積層された2つの半導体基板に固体撮像素子200内の回路を分散して配置したため、積層しない場合よりも半導体基板の面積を小さくすることができる。
<5.第5の実施の形態>
上述の固体撮像素子200では、画素ごとに浮遊拡散層234を設けていたが、この構成では、複数の画素で浮遊拡散層234を共有する場合と比較して回路規模が増大する。この第5の実施の形態の固体撮像素子200は、画素アレイ部220の回路規模を削減した点において第1の実施の形態と異なる。
上述の固体撮像素子200では、画素ごとに浮遊拡散層234を設けていたが、この構成では、複数の画素で浮遊拡散層234を共有する場合と比較して回路規模が増大する。この第5の実施の形態の固体撮像素子200は、画素アレイ部220の回路規模を削減した点において第1の実施の形態と異なる。
図27は、第5の実施の形態における固体撮像素子200の一構成例を示すブロック図である。この第5の実施の形態の画素アレイ部220には、画素ブロック300が二次元格子状に配置される。画素ブロック300のそれぞれには、4行×2列の画素が配列される。これらの画素ブロック300は、画素加算制御部350に接続される。
また、ブロック行ごとに、10本の水平信号線が配線される。行ごとの10本の水平信号線のうち1本は、リセット信号RSTnを伝送するリセット線であり、8本は転送信号TRGn0乃至TRGn7を伝送する転送線であり、残りの1本は選択信号SELnを伝送する選択線である。また、ブロック列ごとに接続線229−ma乃至229−meと垂直信号線229−mvとが配線される。
固体撮像素子200は、それぞれが複数の画素ブロック300からなる加算ブロックの単位で画素加算することができる。垂直方向において隣接する4個の加算ブロックは、互いに異なる接続線に接続される。また、加算ブロックのそれぞれの列数は4列である。そして、垂直方向において隣接する4個の加算ブロックのそれぞれは、行走査回路210の制御に従って、互いに異なる垂直信号線から画素信号を同時に出力する。
なお、画素ブロックのサイズは、4行×2列に限定されない。また、列ごとの接続線の本数も4本に限定されず、1本であってもよい。
図28は、第5の実施の形態における画素ブロック300の一構成例を示す回路図である。この画素ブロック300は、光電変換素子303、304、307、308、315、316、319および320と、転送トランジスタ301、302、305、306、312、313、317および318とを備える。また、画素ブロック300は、リセットトランジスタ309、浮遊拡散層310、増幅トランジスタ311および選択トランジスタ314を備える。
転送トランジスタ301、302、305、306、312、313、317および318は、互いに異なる光電変換素子に接続され、対応する光電変換素子からの電荷を浮遊拡散層310に転送する。また、これらの転送トランジスタは、転送信号TRGn0乃至TRGn7により駆動する。リセットトランジスタ309、浮遊拡散層310、増幅トランジスタ311および選択トランジスタ314は、8画素で共有される。
図29は、第5の実施の形態における画素加算制御部350の一構成例を示す回路図である。画素加算制御部350は、ブロック列ごとに、スイッチ351乃至358を備える。
スイッチ351は、電源スイッチ信号VSWに従って、接続線229−maと電源との間の経路を開閉する。スイッチ353は、電源スイッチ信号VSWに従って、接続線229−mbと電源との間の経路を開閉する。スイッチ355は、電源スイッチ信号VSWに従って、接続線229−mcと電源との間の経路を開閉する。スイッチ357は、電源スイッチ信号VSWに従って、接続線229−mdと電源との間の経路を開閉する。
また、スイッチ352は、列スイッチ信号CSWmaに従って、接続線229−maと接続線229−(m+1)aとの間の経路を開閉する。スイッチ354は、列スイッチ信号CSWmbに従って、接続線229−mbと接続線229−(m+1)bとの間の経路を開閉する。スイッチ356は、列スイッチ信号CSWmcに従って、接続線229−mcと接続線229−(m+1)cとの間の経路を開閉する。スイッチ358は、列スイッチ信号CSWmdに従って、接続線229−mdと接続線229−(m+1)dとの間の経路を開閉する。
このように、本技術の第5の実施の形態によれば、画素ブロック300内の複数の画素が浮遊拡散層310と転送トランジスタ以外のトランジスタとを共有するため、これらを共有しない場合と比較して画素アレイ部220の回路規模を削減することができる。
<<第1の応用例>>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図30は、本開示に係る技術が適用され得る内視鏡手術システム5000の概略的な構成の一例を示す図である。図30では、術者(医師)5067が、内視鏡手術システム5000を用いて、患者ベッド5069上の患者5071に手術を行っている様子が図示されている。図示するように、内視鏡手術システム5000は、内視鏡5001と、その他の術具5017と、内視鏡5001を支持する支持アーム装置5027と、内視鏡下手術のための各種の装置が搭載されたカート5037と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5025a〜5025dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5025a〜5025dから、内視鏡5001の鏡筒5003や、その他の術具5017が患者5071の体腔内に挿入される。図示する例では、その他の術具5017として、気腹チューブ5019、エネルギー処置具5021及び鉗子5023が、患者5071の体腔内に挿入されている。また、エネルギー処置具5021は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5017はあくまで一例であり、術具5017としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5001によって撮影された患者5071の体腔内の術部の画像が、表示装置5041に表示される。術者5067は、表示装置5041に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5021や鉗子5023を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5019、エネルギー処置具5021及び鉗子5023は、手術中に、術者5067又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5027は、ベース部5029から延伸するアーム部5031を備える。図示する例では、アーム部5031は、関節部5033a、5033b、5033c、及びリンク5035a、5035bから構成されており、アーム制御装置5045からの制御により駆動される。アーム部5031によって内視鏡5001が支持され、その位置及び姿勢が制御される。これにより、内視鏡5001の安定的な位置の固定が実現され得る。
支持アーム装置5027は、ベース部5029から延伸するアーム部5031を備える。図示する例では、アーム部5031は、関節部5033a、5033b、5033c、及びリンク5035a、5035bから構成されており、アーム制御装置5045からの制御により駆動される。アーム部5031によって内視鏡5001が支持され、その位置及び姿勢が制御される。これにより、内視鏡5001の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5001は、先端から所定の長さの領域が患者5071の体腔内に挿入される鏡筒5003と、鏡筒5003の基端に接続されるカメラヘッド5005と、から構成される。図示する例では、硬性の鏡筒5003を有するいわゆる硬性鏡として構成される内視鏡5001を図示しているが、内視鏡5001は、軟性の鏡筒5003を有するいわゆる軟性鏡として構成されてもよい。
内視鏡5001は、先端から所定の長さの領域が患者5071の体腔内に挿入される鏡筒5003と、鏡筒5003の基端に接続されるカメラヘッド5005と、から構成される。図示する例では、硬性の鏡筒5003を有するいわゆる硬性鏡として構成される内視鏡5001を図示しているが、内視鏡5001は、軟性の鏡筒5003を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5003の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5001には光源装置5043が接続されており、当該光源装置5043によって生成された光が、鏡筒5003の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5071の体腔内の観察対象に向かって照射される。なお、内視鏡5001は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5005の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5039に送信される。なお、カメラヘッド5005には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5005には撮像素子が複数設けられてもよい。この場合、鏡筒5003の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5039は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5001及び表示装置5041の動作を統括的に制御する。具体的には、CCU5039は、カメラヘッド5005から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5039は、当該画像処理を施した画像信号を表示装置5041に提供する。また、CCU5039は、カメラヘッド5005に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
CCU5039は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5001及び表示装置5041の動作を統括的に制御する。具体的には、CCU5039は、カメラヘッド5005から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5039は、当該画像処理を施した画像信号を表示装置5041に提供する。また、CCU5039は、カメラヘッド5005に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
表示装置5041は、CCU5039からの制御により、当該CCU5039によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5001が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5041としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5041として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5041が設けられてもよい。
光源装置5043は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5001に供給する。
アーム制御装置5045は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5027のアーム部5031の駆動を制御する。
入力装置5047は、内視鏡手術システム5000に対する入力インタフェースである。ユーザは、入力装置5047を介して、内視鏡手術システム5000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5047を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5047を介して、アーム部5031を駆動させる旨の指示や、内視鏡5001による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5021を駆動させる旨の指示等を入力する。
入力装置5047の種類は限定されず、入力装置5047は各種の公知の入力装置であってよい。入力装置5047としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5057及び/又はレバー等が適用され得る。入力装置5047としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5041の表示面上に設けられてもよい。
あるいは、入力装置5047は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5047は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5047は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5047が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5067)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5049は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5021の駆動を制御する。気腹装置5051は、内視鏡5001による視野の確保及び術者の作業空間の確保の目的で、患者5071の体腔を膨らめるために、気腹チューブ5019を介して当該体腔内にガスを送り込む。レコーダ5053は、手術に関する各種の情報を記録可能な装置である。プリンタ5055は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5000において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5027は、基台であるベース部5029と、ベース部5029から延伸するアーム部5031と、を備える。図示する例では、アーム部5031は、複数の関節部5033a、5033b、5033cと、関節部5033bによって連結される複数のリンク5035a、5035bと、から構成されているが、図30では、簡単のため、アーム部5031の構成を簡略化して図示している。実際には、アーム部5031が所望の自由度を有するように、関節部5033a〜5033c及びリンク5035a、5035bの形状、数及び配置、並びに関節部5033a〜5033cの回転軸の方向等が適宜設定され得る。例えば、アーム部5031は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5031の可動範囲内において内視鏡5001を自由に移動させることが可能になるため、所望の方向から内視鏡5001の鏡筒5003を患者5071の体腔内に挿入することが可能になる。
支持アーム装置5027は、基台であるベース部5029と、ベース部5029から延伸するアーム部5031と、を備える。図示する例では、アーム部5031は、複数の関節部5033a、5033b、5033cと、関節部5033bによって連結される複数のリンク5035a、5035bと、から構成されているが、図30では、簡単のため、アーム部5031の構成を簡略化して図示している。実際には、アーム部5031が所望の自由度を有するように、関節部5033a〜5033c及びリンク5035a、5035bの形状、数及び配置、並びに関節部5033a〜5033cの回転軸の方向等が適宜設定され得る。例えば、アーム部5031は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5031の可動範囲内において内視鏡5001を自由に移動させることが可能になるため、所望の方向から内視鏡5001の鏡筒5003を患者5071の体腔内に挿入することが可能になる。
関節部5033a〜5033cにはアクチュエータが設けられており、関節部5033a〜5033cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5045によって制御されることにより、各関節部5033a〜5033cの回転角度が制御され、アーム部5031の駆動が制御される。これにより、内視鏡5001の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5045は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5031の駆動を制御することができる。
例えば、術者5067が、入力装置5047(フットスイッチ5057を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5045によってアーム部5031の駆動が適宜制御され、内視鏡5001の位置及び姿勢が制御されてよい。当該制御により、アーム部5031の先端の内視鏡5001を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5031は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5031は、手術室から離れた場所に設置される入力装置5047を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5045は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5031が移動するように、各関節部5033a〜5033cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5031に触れながらアーム部5031を移動させる際に、比較的軽い力で当該アーム部5031を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5001を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5001が支持されていた。これに対して、支持アーム装置5027を用いることにより、人手によらずに内視鏡5001の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5045は必ずしもカート5037に設けられなくてもよい。また、アーム制御装置5045は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5045は、支持アーム装置5027のアーム部5031の各関節部5033a〜5033cにそれぞれ設けられてもよく、複数のアーム制御装置5045が互いに協働することにより、アーム部5031の駆動制御が実現されてもよい。
(光源装置)
光源装置5043は、内視鏡5001に術部を撮影する際の照射光を供給する。光源装置5043は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5043において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5005の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
光源装置5043は、内視鏡5001に術部を撮影する際の照射光を供給する。光源装置5043は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5043において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5005の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5043は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5005の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5043は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5043は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図31を参照して、内視鏡5001のカメラヘッド5005及びCCU5039の機能についてより詳細に説明する。図31は、図30に示すカメラヘッド5005及びCCU5039の機能構成の一例を示すブロック図である。
図31を参照して、内視鏡5001のカメラヘッド5005及びCCU5039の機能についてより詳細に説明する。図31は、図30に示すカメラヘッド5005及びCCU5039の機能構成の一例を示すブロック図である。
図31を参照すると、カメラヘッド5005は、その機能として、レンズユニット5007と、撮像部5009と、駆動部5011と、通信部5013と、カメラヘッド制御部5015と、を有する。また、CCU5039は、その機能として、通信部5059と、画像処理部5061と、制御部5063と、を有する。カメラヘッド5005とCCU5039とは、伝送ケーブル5065によって双方向に通信可能に接続されている。
まず、カメラヘッド5005の機能構成について説明する。レンズユニット5007は、鏡筒5003との接続部に設けられる光学系である。鏡筒5003の先端から取り込まれた観察光は、カメラヘッド5005まで導光され、当該レンズユニット5007に入射する。レンズユニット5007は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5007は、撮像部5009の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5009は撮像素子によって構成され、レンズユニット5007の後段に配置される。レンズユニット5007を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5009によって生成された画像信号は、通信部5013に提供される。
撮像部5009を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5067は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5009を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5067は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5009が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5007も複数系統設けられる。
また、撮像部5009は、必ずしもカメラヘッド5005に設けられなくてもよい。例えば、撮像部5009は、鏡筒5003の内部に、対物レンズの直後に設けられてもよい。
駆動部5011は、アクチュエータによって構成され、カメラヘッド制御部5015からの制御により、レンズユニット5007のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5009による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5013は、CCU5039との間で各種の情報を送受信するための通信装置によって構成される。通信部5013は、撮像部5009から得た画像信号をRAWデータとして伝送ケーブル5065を介してCCU5039に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5067が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5013には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5065を介してCCU5039に送信される。
また、通信部5013は、CCU5039から、カメラヘッド5005の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5013は、受信した制御信号をカメラヘッド制御部5015に提供する。なお、CCU5039からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5013には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5015に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5039の制御部5063によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5001に搭載される。
カメラヘッド制御部5015は、通信部5013を介して受信したCCU5039からの制御信号に基づいて、カメラヘッド5005の駆動を制御する。例えば、カメラヘッド制御部5015は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5009の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5015は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5011を介してレンズユニット5007のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5015は、更に、鏡筒5003やカメラヘッド5005を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5007や撮像部5009等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5005について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5039の機能構成について説明する。通信部5059は、カメラヘッド5005との間で各種の情報を送受信するための通信装置によって構成される。通信部5059は、カメラヘッド5005から、伝送ケーブル5065を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5059には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5059は、電気信号に変換した画像信号を画像処理部5061に提供する。
また、通信部5059は、カメラヘッド5005に対して、カメラヘッド5005の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5061は、カメラヘッド5005から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5061は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5061は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5061が複数のGPUによって構成される場合には、画像処理部5061は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5063は、内視鏡5001による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5063は、カメラヘッド5005の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5063は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5001にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5063は、画像処理部5061による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5063は、画像処理部5061によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5041に表示させる。この際、制御部5063は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5063は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5021使用時のミスト等を認識することができる。制御部5063は、表示装置5041に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5067に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5005及びCCU5039を接続する伝送ケーブル5065は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5065を用いて有線で通信が行われていたが、カメラヘッド5005とCCU5039との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5065を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5065によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る内視鏡手術システム5000の一例について説明した。なお、ここでは、一例として内視鏡手術システム5000について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、図31のカメラヘッド5005に好適に適用され得る。具体的には、図2に例示した固体撮像素子200は、カメラヘッド5005内の撮像部5009に用いられる。固体撮像素子200の適用により、画素加算の加算単位を任意に変更することができるため、内視鏡手術システム5000の利便性を向上させることができる。
<<第2の応用例>>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
図32は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図32を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図32では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A〜5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療用機器とも呼称される。一方、表示装置5103A〜5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A〜5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ5107は、出力先の装置である表示装置5103A〜5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
また、図32では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
図33は、集中操作パネル5111における操作画面の表示例を示す図である。図33では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図33を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
図34は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図32に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図34では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a〜5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a〜5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図32に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図32に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図34では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a〜5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a〜5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図34では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a〜5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a〜5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a〜5147cにはアクチュエータが設けられており、関節部5147a〜5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a〜5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a〜5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a〜5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図35を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図35は、図34に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図35を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図35は、図34に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図35を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、図35に例示したカメラヘッド5119に好適に適用され得る。具体的には、図2に例示した固体撮像素子200は、カメラヘッド5119内の撮像部5123に用いられる。固体撮像素子200の適用により、画素加算の加算単位を任意に変更することができるため、手術室システム5100の利便性を向上させることができる。
<<第3の応用例>>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、患者の微細部位を拡大観察しながら行う、いわゆるマイクロサージェリーに用いられる顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、患者の微細部位を拡大観察しながら行う、いわゆるマイクロサージェリーに用いられる顕微鏡手術システムに適用されてもよい。
図36は、本開示に係る技術が適用され得る顕微鏡手術システム5300の概略的な構成の一例を示す図である。図36を参照すると、顕微鏡手術システム5300は、顕微鏡装置5301と、制御装置5317と、表示装置5319と、から構成される。なお、以下の顕微鏡手術システム5300についての説明において、「ユーザ」とは、術者及び助手等、顕微鏡手術システム5300を使用する任意の医療スタッフのことを意味する。
顕微鏡装置5301は、観察対象(患者の術部)を拡大観察するための顕微鏡部5303と、顕微鏡部5303を先端で支持するアーム部5309と、アーム部5309の基端を支持するベース部5315と、を有する。
顕微鏡部5303は、略円筒形状の筒状部5305と、当該筒状部5305の内部に設けられる撮像部(図示せず)と、筒状部5305の外周の一部領域に設けられる操作部5307と、から構成される。顕微鏡部5303は、撮像部によって電子的に撮像画像を撮像する、電子撮像式の顕微鏡部(いわゆるビデオ式の顕微鏡部)である。
筒状部5305の下端の開口面には、内部の撮像部を保護するカバーガラスが設けられる。観察対象からの光(以下、観察光ともいう)は、当該カバーガラスを通過して、筒状部5305の内部の撮像部に入射する。なお、筒状部5305の内部には例えばLED(Light Emitting Diode)等からなる光源が設けられてもよく、撮像時には、当該カバーガラスを介して、当該光源から観察対象に対して光が照射されてもよい。
撮像部は、観察光を集光する光学系と、当該光学系が集光した観察光を受光する撮像素子と、から構成される。当該光学系は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成され、その光学特性は、観察光を撮像素子の受光面上に結像するように調整されている。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した信号、すなわち観察像に対応した画像信号を生成する。当該撮像素子としては、例えばBayer配列を有するカラー撮影可能なものが用いられる。当該撮像素子は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ又はCCD(Charge Coupled Device)イメージセンサ等、各種の公知の撮像素子であってよい。撮像素子によって生成された画像信号は、RAWデータとして制御装置5317に送信される。ここで、この画像信号の送信は、好適に光通信によって行われてもよい。手術現場では、術者が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信で画像信号が送信されることにより、低レイテンシで撮像画像を表示することが可能となる。
なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時の焦点距離が調整され得る。また、撮像部には、AE(Auto Exposure)機能やAF(Auto Focus)機能等、一般的に電子撮像式の顕微鏡部に備えられ得る各種の機能が搭載されてもよい。
また、撮像部は、1つの撮像素子を有するいわゆる単板式の撮像部として構成されてもよいし、複数の撮像素子を有するいわゆる多板式の撮像部として構成されてもよい。撮像部が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、当該撮像部は、立体視(3D表示)に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、当該撮像部が多板式で構成される場合には、各撮像素子に対応して、光学系も複数系統が設けられ得る。
操作部5307は、例えば十字レバー又はスイッチ等によって構成され、ユーザの操作入力を受け付ける入力手段である。例えば、ユーザは、操作部5307を介して、観察像の拡大倍率及び観察対象までの焦点距離を変更する旨の指示を入力することができる。当該指示に従って撮像部の駆動機構がズームレンズ及びフォーカスレンズを適宜移動させることにより、拡大倍率及び焦点距離が調整され得る。また、例えば、ユーザは、操作部5307を介して、アーム部5309の動作モード(後述するオールフリーモード及び固定モード)を切り替える旨の指示を入力することができる。なお、ユーザが顕微鏡部5303を移動させようとする場合には、当該ユーザは筒状部5305を握るように把持した状態で当該顕微鏡部5303を移動させる様態が想定される。従って、操作部5307は、ユーザが筒状部5305を移動させている間でも操作可能なように、ユーザが筒状部5305を握った状態で指によって容易に操作しやすい位置に設けられることが好ましい。
アーム部5309は、複数のリンク(第1リンク5313a〜第6リンク5313f)が、複数の関節部(第1関節部5311a〜第6関節部5311f)によって互いに回動可能に連結されることによって構成される。
第1関節部5311aは、略円柱形状を有し、その先端(下端)で、顕微鏡部5303の筒状部5305の上端を、当該筒状部5305の中心軸と平行な回転軸(第1軸O1)まわりに回動可能に支持する。ここで、第1関節部5311aは、第1軸O1が顕微鏡部5303の撮像部の光軸と一致するように構成され得る。これにより、第1軸O1まわりに顕微鏡部5303を回動させることにより、撮像画像を回転させるように視野を変更することが可能になる。
第1リンク5313aは、先端で第1関節部5311aを固定的に支持する。具体的には、第1リンク5313aは略L字形状を有する棒状の部材であり、その先端側の一辺が第1軸O1と直交する方向に延伸しつつ、当該一辺の端部が第1関節部5311aの外周の上端部に当接するように、第1関節部5311aに接続される。第1リンク5313aの略L字形状の基端側の他辺の端部に第2関節部5311bが接続される。
第2関節部5311bは、略円柱形状を有し、その先端で、第1リンク5313aの基端を、第1軸O1と直交する回転軸(第2軸O2)まわりに回動可能に支持する。第2関節部5311bの基端には、第2リンク5313bの先端が固定的に接続される。
第2リンク5313bは、略L字形状を有する棒状の部材であり、その先端側の一辺が第2軸O2と直交する方向に延伸しつつ、当該一辺の端部が第2関節部5311bの基端に固定的に接続される。第2リンク5313bの略L字形状の基端側の他辺には、第3関節部5311cが接続される。
第3関節部5311cは、略円柱形状を有し、その先端で、第2リンク5313bの基端を、第1軸O1及び第2軸O2と互いに直交する回転軸(第3軸O3)まわりに回動可能に支持する。第3関節部5311cの基端には、第3リンク5313cの先端が固定的に接続される。第2軸O2及び第3軸O3まわりに顕微鏡部5303を含む先端側の構成を回動させることにより、水平面内での顕微鏡部5303の位置を変更するように、当該顕微鏡部5303を移動させることができる。つまり、第2軸O2及び第3軸O3まわりの回転を制御することにより、撮像画像の視野を平面内で移動させることが可能になる。
第3リンク5313cは、その先端側が略円柱形状を有するように構成されており、当該円柱形状の先端に、第3関節部5311cの基端が、両者が略同一の中心軸を有するように、固定的に接続される。第3リンク5313cの基端側は角柱形状を有し、その端部に第4関節部5311dが接続される。
第4関節部5311dは、略円柱形状を有し、その先端で、第3リンク5313cの基端を、第3軸O3と直交する回転軸(第4軸O4)まわりに回動可能に支持する。第4関節部5311dの基端には、第4リンク5313dの先端が固定的に接続される。
第4リンク5313dは、略直線状に延伸する棒状の部材であり、第4軸O4と直交するように延伸しつつ、その先端の端部が第4関節部5311dの略円柱形状の側面に当接するように、第4関節部5311dに固定的に接続される。第4リンク5313dの基端には、第5関節部5311eが接続される。
第5関節部5311eは、略円柱形状を有し、その先端側で、第4リンク5313dの基端を、第4軸O4と平行な回転軸(第5軸O5)まわりに回動可能に支持する。第5関節部5311eの基端には、第5リンク5313eの先端が固定的に接続される。第4軸O4及び第5軸O5は、顕微鏡部5303を上下方向に移動させ得る回転軸である。第4軸O4及び第5軸O5まわりに顕微鏡部5303を含む先端側の構成を回動させることにより、顕微鏡部5303の高さ、すなわち顕微鏡部5303と観察対象との距離を調整することができる。
第5リンク5313eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材と、が組み合わされて構成される。第5リンク5313eの第1の部材の鉛直方向に延伸する部位の上端近傍に、第5関節部5311eの基端が固定的に接続される。第5リンク5313eの第2の部材の基端(下端)には、第6関節部5311fが接続される。
第6関節部5311fは、略円柱形状を有し、その先端側で、第5リンク5313eの基端を、鉛直方向と平行な回転軸(第6軸O6)まわりに回動可能に支持する。第6関節部5311fの基端には、第6リンク5313fの先端が固定的に接続される。
第6リンク5313fは鉛直方向に延伸する棒状の部材であり、その基端はベース部5315の上面に固定的に接続される。
第1関節部5311a〜第6関節部5311fの回転可能範囲は、顕微鏡部5303が所望の動きを可能であるように適宜設定されている。これにより、以上説明した構成を有するアーム部5309においては、顕微鏡部5303の動きに関して、並進3自由度及び回転3自由度の計6自由度の動きが実現され得る。このように、顕微鏡部5303の動きに関して6自由度が実現されるようにアーム部5309を構成することにより、アーム部5309の可動範囲内において顕微鏡部5303の位置及び姿勢を自由に制御することが可能になる。従って、あらゆる角度から術部を観察することが可能となり、手術をより円滑に実行することができる。
なお、図示するアーム部5309の構成はあくまで一例であり、アーム部5309を構成するリンクの数及び形状(長さ)、並びに関節部の数、配置位置及び回転軸の方向等は、所望の自由度が実現され得るように適宜設計されてよい。例えば、上述したように、顕微鏡部5303を自由に動かすためには、アーム部5309は6自由度を有するように構成されることが好ましいが、アーム部5309はより大きな自由度(すなわち、冗長自由度)を有するように構成されてもよい。冗長自由度が存在する場合には、アーム部5309においては、顕微鏡部5303の位置及び姿勢が固定された状態で、アーム部5309の姿勢を変更することが可能となる。従って、例えば表示装置5319を見る術者の視界にアーム部5309が干渉しないように当該アーム部5309の姿勢を制御する等、術者にとってより利便性の高い制御が実現され得る。
ここで、第1関節部5311a〜第6関節部5311fには、モータ等の駆動機構、及び各関節部における回転角度を検出するエンコーダ等が搭載されたアクチュエータが設けられ得る。そして、第1関節部5311a〜第6関節部5311fに設けられる各アクチュエータの駆動が制御装置5317によって適宜制御されることにより、アーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が制御され得る。具体的には、制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、アーム部5309の現在の姿勢、並びに顕微鏡部5303の現在の位置及び姿勢を把握することができる。制御装置5317は、把握したこれらの情報を用いて、ユーザからの操作入力に応じた顕微鏡部5303の移動を実現するような各関節部に対する制御値(例えば、回転角度又は発生トルク等)を算出し、当該制御値に応じて各関節部の駆動機構を駆動させる。なお、この際、制御装置5317によるアーム部5309の制御方式は限定されず、力制御又は位置制御等、各種の公知の制御方式が適用されてよい。
例えば、術者が、図示しない入力装置を介して適宜操作入力を行うことにより、当該操作入力に応じて制御装置5317によってアーム部5309の駆動が適宜制御され、顕微鏡部5303の位置及び姿勢が制御されてよい。当該制御により、顕微鏡部5303を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、当該入力装置としては、術者の利便性を考慮して、例えばフットスイッチ等、術者が手に術具を有していても操作可能なものが適用されることが好ましい。また、ウェアラブルデバイスや手術室内に設けられるカメラを用いたジェスチャ検出や視線検出に基づいて、非接触で操作入力が行われてもよい。これにより、清潔域に属するユーザであっても、不潔域に属する機器をより自由度高く操作することが可能になる。あるいは、アーム部5309は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5309は、手術室から離れた場所に設置される入力装置を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、ユーザからの外力を受け、その外力にならってスムーズにアーム部5309が移動するように第1関節部5311a〜第6関節部5311fのアクチュエータが駆動される、いわゆるパワーアシスト制御が行われてもよい。これにより、ユーザが、顕微鏡部5303を把持して直接その位置を移動させようとする際に、比較的軽い力で顕微鏡部5303を移動させることができる。従って、より直感的に、より簡易な操作で顕微鏡部5303を移動させることが可能となり、ユーザの利便性を向上させることができる。
また、アーム部5309は、ピボット動作をするようにその駆動が制御されてもよい。ここで、ピボット動作とは、顕微鏡部5303の光軸が空間上の所定の点(以下、ピボット点という)を常に向くように、顕微鏡部5303を移動させる動作である。ピボット動作によれば、同一の観察位置を様々な方向から観察することが可能となるため、より詳細な患部の観察が可能となる。なお、顕微鏡部5303が、その焦点距離を調整不可能に構成される場合には、顕微鏡部5303とピボット点との距離が固定された状態でピボット動作が行われることが好ましい。この場合には、顕微鏡部5303とピボット点との距離を、顕微鏡部5303の固定的な焦点距離に調整しておけばよい。これにより、顕微鏡部5303は、ピボット点を中心とする焦点距離に対応する半径を有する半球面(図36に概略的に図示する)上を移動することとなり、観察方向を変更しても鮮明な撮像画像が得られることとなる。一方、顕微鏡部5303が、その焦点距離を調整可能に構成される場合には、顕微鏡部5303とピボット点との距離が可変な状態でピボット動作が行われてもよい。この場合には、例えば、制御装置5317は、エンコーダによって検出された各関節部の回転角度についての情報に基づいて、顕微鏡部5303とピボット点との距離を算出し、その算出結果に基づいて顕微鏡部5303の焦点距離を自動で調整してもよい。あるいは、顕微鏡部5303にAF機能が設けられる場合であれば、ピボット動作によって顕微鏡部5303とピボット点との距離が変化するごとに、当該AF機能によって自動で焦点距離の調整が行われてもよい。
また、第1関節部5311a〜第6関節部5311fには、その回転を拘束するブレーキが設けられてもよい。当該ブレーキの動作は、制御装置5317によって制御され得る。例えば、顕微鏡部5303の位置及び姿勢を固定したい場合には、制御装置5317は各関節部のブレーキを作動させる。これにより、アクチュエータを駆動させなくてもアーム部5309の姿勢、すなわち顕微鏡部5303の位置及び姿勢が固定され得るため、消費電力を低減することができる。顕微鏡部5303の位置及び姿勢を移動したい場合には、制御装置5317は、各関節部のブレーキを解除し、所定の制御方式に従ってアクチュエータを駆動させればよい。
このようなブレーキの動作は、上述した操作部5307を介したユーザによる操作入力に応じて行われ得る。ユーザは、顕微鏡部5303の位置及び姿勢を移動したい場合には、操作部5307を操作し、各関節部のブレーキを解除させる。これにより、アーム部5309の動作モードが、各関節部における回転を自由に行えるモード(オールフリーモード)に移行する。また、ユーザは、顕微鏡部5303の位置及び姿勢を固定したい場合には、操作部5307を操作し、各関節部のブレーキを作動させる。これにより、アーム部5309の動作モードが、各関節部における回転が拘束されたモード(固定モード)に移行する。
制御装置5317は、顕微鏡装置5301及び表示装置5319の動作を制御することにより、顕微鏡手術システム5300の動作を統括的に制御する。例えば、制御装置5317は、所定の制御方式に従って第1関節部5311a〜第6関節部5311fのアクチュエータを動作させることにより、アーム部5309の駆動を制御する。また、例えば、制御装置5317は、第1関節部5311a〜第6関節部5311fのブレーキの動作を制御することにより、アーム部5309の動作モードを変更する。また、例えば、制御装置5317は、顕微鏡装置5301の顕微鏡部5303の撮像部によって取得された画像信号に各種の信号処理を施すことにより、表示用の画像データを生成するとともに、当該画像データを表示装置5319に表示させる。当該信号処理では、例えば現像処理(デモザイク処理)、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)及び/又は拡大処理(すなわち、電子ズーム処理)等、各種の公知の信号処理が行われてよい。
なお、制御装置5317と顕微鏡部5303との通信、及び制御装置5317と第1関節部5311a〜第6関節部5311fとの通信は、有線通信であってもよいし無線通信であってもよい。有線通信の場合には、電気信号による通信が行われてもよいし、光通信が行われてもよい。この場合、有線通信に用いられる伝送用のケーブルは、その通信方式に応じて電気信号ケーブル、光ファイバ、又はこれらの複合ケーブルとして構成され得る。一方、無線通信の場合には、手術室内に伝送ケーブルを敷設する必要がなくなるため、当該伝送ケーブルによって医療スタッフの手術室内の移動が妨げられる事態が解消され得る。
制御装置5317は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。制御装置5317のプロセッサが所定のプログラムに従って動作することにより、上述した各種の機能が実現され得る。なお、図示する例では、制御装置5317は、顕微鏡装置5301と別個の装置として設けられているが、制御装置5317は、顕微鏡装置5301のベース部5315の内部に設置され、顕微鏡装置5301と一体的に構成されてもよい。あるいは、制御装置5317は、複数の装置によって構成されてもよい。例えば、顕微鏡部5303や、アーム部5309の第1関節部5311a〜第6関節部5311fにそれぞれマイコンや制御基板等が配設され、これらが互いに通信可能に接続されることにより、制御装置5317と同様の機能が実現されてもよい。
表示装置5319は、手術室内に設けられ、制御装置5317からの制御により、当該制御装置5317によって生成された画像データに対応する画像を表示する。つまり、表示装置5319には、顕微鏡部5303によって撮影された術部の画像が表示される。なお、表示装置5319は、術部の画像に代えて、又は術部の画像とともに、例えば患者の身体情報や手術の術式についての情報等、手術に関する各種の情報を表示してもよい。この場合、表示装置5319の表示は、ユーザによる操作によって適宜切り替えられてよい。あるいは、表示装置5319は複数設けられてもよく、複数の表示装置5319のそれぞれに、術部の画像や手術に関する各種の情報が、それぞれ表示されてもよい。なお、表示装置5319としては、液晶ディスプレイ装置又はEL(Electro Luminescence)ディスプレイ装置等、各種の公知の表示装置が適用されてよい。
図37は、図36に示す顕微鏡手術システム5300を用いた手術の様子を示す図である。図37では、術者5321が、顕微鏡手術システム5300を用いて、患者ベッド5323上の患者5325に対して手術を行っている様子を概略的に示している。なお、図37では、簡単のため、顕微鏡手術システム5300の構成のうち制御装置5317の図示を省略するとともに、顕微鏡装置5301を簡略化して図示している。
図37に示すように、手術時には、顕微鏡手術システム5300を用いて、顕微鏡装置5301によって撮影された術部の画像が、手術室の壁面に設置される表示装置5319に拡大表示される。表示装置5319は、術者5321と対向する位置に設置されており、術者5321は、表示装置5319に映し出された映像によって術部の様子を観察しながら、例えば患部の切除等、当該術部に対して各種の処置を行う。
以上、本開示に係る技術が適用され得る顕微鏡手術システム5300の一例について説明した。なお、ここでは、一例として顕微鏡手術システム5300について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、顕微鏡装置5301は、その先端に顕微鏡部5303に代えて他の観察装置や他の術具を支持する、支持アーム装置としても機能し得る。当該他の観察装置としては、例えば内視鏡が適用され得る。また、当該他の術具としては、鉗子、攝子、気腹のための気腹チューブ、又は焼灼によって組織の切開や血管の封止を行うエネルギー処置具等が適用され得る。これらの観察装置や術具を支持アーム装置によって支持することにより、医療スタッフが人手で支持する場合に比べて、より安定的に位置を固定することが可能となるとともに、医療スタッフの負担を軽減することが可能となる。本開示に係る技術は、このような顕微鏡部以外の構成を支持する支持アーム装置に適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、図36の筒状部5305に好適に適用され得る。具体的には、図2に例示した固体撮像素子200は、筒状部5305内の撮像部に用いられる。固体撮像素子200の適用により、画素加算の加算単位を任意に変更することができるため、顕微鏡手術システム5300の利便性を向上させることができる。
<<第4の応用例>>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、カプセル型内視鏡を用いた患者の体内情報取得システムに適用されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、カプセル型内視鏡を用いた患者の体内情報取得システムに適用されてもよい。
図38は、本開示に係る技術が適用され得る体内情報取得システム5400の概略的な構成の一例を示す図である。図38を参照すると、体内情報取得システム5400は、カプセル型内視鏡5401と、体内情報取得システム5400の動作を統括的に制御する外部制御装置5423と、から構成される。検査時には、カプセル型内視鏡5401が患者によって飲み込まれる。カプセル型内視鏡5401は、撮像機能及び無線通信機能を有し、患者から自然排出されるまでの間、胃や腸等の臓器の内部を蠕動運動等によって移動しつつ、当該臓器の内部の画像(以下、体内画像ともいう)を所定の間隔で順次撮像し、その体内画像についての情報を体外の外部制御装置5423に順次無線送信する。外部制御装置5423は、受信した体内画像についての情報に基づいて、表示装置(図示せず)に当該体内画像を表示するための画像データを生成する。体内情報取得システム5400では、このようにして、カプセル型内視鏡5401が飲み込まれてから排出されるまでの間、患者の体内の様子を撮像した画像を随時得ることができる。
カプセル型内視鏡5401と外部制御装置5423の構成及び機能についてより詳細に説明する。図示するように、カプセル型内視鏡5401は、カプセル型の筐体5403内に、光源部5405、撮像部5407、画像処理部5409、無線通信部5411、給電部5415、電源部5417、状態検出部5419及び制御部5421の機能が搭載されて構成される。
光源部5405は、例えばLED(light emitting diode)等の光源から構成され、撮像部5407の撮像視野に対して光を照射する。
撮像部5407は、撮像素子、及び当該撮像素子の前段に設けられる複数のレンズからなる光学系から構成される。観察対象である体組織に照射された光の反射光(以下、観察光という)は、当該光学系によって集光され、当該撮像素子に入射する。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した電気信号、すなわち観察像に対応した画像信号を生成する。撮像部5407によって生成された画像信号は、画像処理部5409に提供される。なお、撮像部5407の撮像素子としては、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ又はCCD(Charge Coupled Device)イメージセンサ等、各種の公知の撮像素子が用いられてよい。
画像処理部5409は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサによって構成され、撮像部5407によって生成された画像信号に対して各種の信号処理を行う。当該信号処理は、画像信号を外部制御装置5423に伝送するための最小限の処理(例えば、画像データの圧縮、フレームレートの変換、データレートの変換及び/又はフォーマットの変換等)であってよい。画像処理部5409が必要最小限の処理のみを行うように構成されることにより、当該画像処理部5409を、より小型、より低消費電力で実現することができるため、カプセル型内視鏡5401に好適である。ただし、筐体5403内のスペースや消費電力に余裕がある場合であれば、画像処理部5409において、更なる信号処理(例えば、ノイズ除去処理や他の高画質化処理等)が行われてもよい。画像処理部5409は、信号処理を施した画像信号を、RAWデータとして無線通信部5411に提供する。なお、画像処理部5409は、状態検出部5419によってカプセル型内視鏡5401の状態(動きや姿勢等)についての情報が取得されている場合には、当該情報と紐付けて、画像信号を無線通信部5411に提供してもよい。これにより、画像が撮像された体内における位置や画像の撮像方向等と、撮像画像とを関連付けることができる。
無線通信部5411は、外部制御装置5423との間で各種の情報を送受信可能な通信装置によって構成される。当該通信装置は、アンテナ5413と、信号の送受信のための変調処理等を行う処理回路等から構成される。無線通信部5411は、画像処理部5409によって信号処理が施された画像信号に対して変調処理等の所定の処理を行い、その画像信号を、アンテナ5413を介して外部制御装置5423に送信する。また、無線通信部5411は、外部制御装置5423から、カプセル型内視鏡5401の駆動制御に関する制御信号を、アンテナ5413を介して受信する。無線通信部5411は、受信した制御信号を制御部5421に提供する。
給電部5415は、受電用のアンテナコイル、当該アンテナコイルに発生した電流から電力を再生する電力再生回路、及び昇圧回路等から構成される。給電部5415では、いわゆる非接触充電の原理を用いて電力が生成される。具体的には、給電部5415のアンテナコイルに対して外部から所定の周波数の磁界(電磁波)が与えられることにより、当該アンテナコイルに誘導起電力が発生する。当該電磁波は、例えば外部制御装置5423からアンテナ5425を介して送信される搬送波であってよい。当該誘導起電力から電力再生回路によって電力が再生され、昇圧回路においてその電位が適宜調整されることにより、蓄電用の電力が生成される。給電部5415によって生成された電力は、電源部5417に蓄電される。
電源部5417は、二次電池によって構成され、給電部5415によって生成された電力を蓄電する。図38では、図面が煩雑になることを避けるために、電源部5417からの電力の供給先を示す矢印等の図示を省略しているが、電源部5417に蓄電された電力は、光源部5405、撮像部5407、画像処理部5409、無線通信部5411、状態検出部5419及び制御部5421に供給され、これらの駆動に用いられ得る。
状態検出部5419は、加速度センサ及び/又はジャイロセンサ等の、カプセル型内視鏡5401の状態を検出するためのセンサから構成される。状態検出部5419は、当該センサによる検出結果から、カプセル型内視鏡5401の状態についての情報を取得することができる。状態検出部5419は、取得したカプセル型内視鏡5401の状態についての情報を、画像処理部5409に提供する。画像処理部5409では、上述したように、当該カプセル型内視鏡5401の状態についての情報が、画像信号と紐付けられ得る。
制御部5421は、CPU等のプロセッサによって構成され、所定のプログラムに従って動作することによりカプセル型内視鏡5401の動作を統括的に制御する。制御部5421は、光源部5405、撮像部5407、画像処理部5409、無線通信部5411、給電部5415、電源部5417及び状態検出部5419の駆動を、外部制御装置5423から送信される制御信号に従って適宜制御することにより、以上説明したような各部における機能を実現させる。
外部制御装置5423は、CPU、GPU等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。外部制御装置5423は、アンテナ5425を有し、当該アンテナ5425を介して、カプセル型内視鏡5401との間で各種の情報を送受信可能に構成される。具体的には、外部制御装置5423は、カプセル型内視鏡5401の制御部5421に対して制御信号を送信することにより、カプセル型内視鏡5401の動作を制御する。例えば、外部制御装置5423からの制御信号により、光源部5405における観察対象に対する光の照射条件が変更され得る。また、外部制御装置5423からの制御信号により、撮像条件(例えば、撮像部5407におけるフレームレート、露出値等)が変更され得る。また、外部制御装置5423からの制御信号により、画像処理部5409における処理の内容や、無線通信部5411が画像信号を送信する条件(例えば、送信間隔、送信画像数等)が変更されてもよい。
また、外部制御装置5423は、カプセル型内視鏡5401から送信される画像信号に対して、各種の画像処理を施し、撮像された体内画像を表示装置に表示するための画像データを生成する。当該画像処理としては、例えば現像処理(デモザイク処理)、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が行われてよい。外部制御装置5423は、表示装置(図示せず)の駆動を制御して、生成した画像データに基づいて撮像された体内画像を表示させる。あるいは、外部制御装置5423は、生成した画像データを記録装置(図示せず)に記録させたり、印刷装置(図示せず)に印刷出力させてもよい。
<<第5の応用例>>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図39は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図30に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図39では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図40は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図40には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920〜7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図39に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(Global System of Mobile communications)、WiMAX、LTE(Long Term Evolution)若しくはLTE−A(LTE−Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi−Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(High-Definition Multimedia Interface)、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図39の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図39に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
以上説明した車両制御システム7000において、図2を用いて説明した本実施形態に係る固体撮像素子200は、図39に示した応用例の統合制御ユニット7600に適用することができる。例えば、固体撮像素子200は、統合制御ユニット7600の撮像部7410に相当する。例えば、統合制御ユニット7600の制御に従って、固体撮像素子200は、画素加算の加算単位を任意に変更することができる。
以上、本開示に係る技術が適用され得る体内情報取得システム5400の一例について説明した。本開示に係る技術は、以上説明した構成のうち、図40に例示した撮像部5407に好適に適用され得る。具体的には、図2に例示した固体撮像素子200が、撮像部5407に用いられる。固体撮像素子200の適用により、画素加算の加算単位を任意に変更することができるため、体内情報取得システム5400の利便性を向上させることができる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disc)、メモリカード、ブルーレイディスク(Blu-ray(登録商標)Disc)等を用いることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
なお、本技術は以下のような構成もとることができる。
(1)光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部と、
所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記接続線との間の経路を開閉する接続経路開閉部と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉部と、
前記接続経路開閉部および前記線間経路開閉部を制御して加算対象の前記電荷蓄積部のそれぞれの前記電荷の量を加算させる走査回路と
を具備する固体撮像素子。
(2)前記電荷蓄積部は、浮遊拡散層である
前記(1)記載の固体撮像素子。
(3)前記接続経路開閉部は、前記電荷蓄積部と当該電荷蓄積部に対応する前記接続線とを開閉するリセットトランジスタを前記電荷蓄積部ごとに備える
前記(2)記載の固体撮像素子。
(4)前記電荷蓄積部のそれぞれについて前記電荷蓄積部を初期化するリセットトランジスタをさらに具備する前記(2)記載の固体撮像素子。
(5)電源と前記接続線との間の経路を開閉する電源経路開閉部をさらに具備する
前記(2)から(4)のいずれかに記載の固体撮像素子。
(6)前記アレイ部には、二次元格子状に複数の画素が配列され、
隣接する前記複数の画素は、前記浮遊拡散層を共有する
前記(2)から(5)のいずれかに記載の固体撮像素子。
(7)前記電荷蓄積部は、光電変換素子である
前記(1)記載の固体撮像素子。
(8)前記集合ごとに配線された信号線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記信号線との間の経路を開閉する選択部と
をさらに具備する前記(1)から(7)のいずれかに記載の固体撮像素子。
(9)互いに隣接する前記信号線と前記接続線との間の経路を開閉する信号経路開閉部をさらに具備する前記(8)記載の固体撮像素子。
(10)前記信号線のそれぞれから出力されたアナログ信号に対して所定の信号処理を行う信号処理部をさらに具備する
前記(8)または(9)に記載の固体撮像素子。
(11)前記集合ごとに所定数の前記接続線が配線され、
前記アレイ部は、複数の加算単位に分割され、
前記所定方向において隣接する前記所定数の加算単位のそれぞれは、前記所定方向に配線された前記所定数の信号線と互いに異なる前記接続線とに接続され、
前記走査回路は、前記所定方向において隣接する前記所定数の加算単位のそれぞれに互いに異なる前記信号線から画素信号を出力させる
前記(1)から(10)のいずれかに記載の固体撮像素子。
(12)前記アレイ部および前記接続トランジスタは、所定の半導体基板に配置され、
前記線間経路開閉部は、前記所定の半導体基板に積層された半導体基板に配置される
前記(1)から(11)のいずれかに記載の固体撮像素子。
(13)光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部と、
所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記接続線との間の経路を開閉する接続経路開閉部と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉部と、
前記接続経路開閉部および前記線間経路開閉部を制御して加算対象の前記電荷蓄積部のそれぞれの前記電荷の量を加算させる走査回路と、
前記電荷の量に応じた画素信号からなる画像データを記録する記録部と
を具備する撮像装置。
(14)光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部において所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と前記電荷蓄積部との間の経路を開閉する接続手順と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉手順と
を具備する固体撮像素子の制御方法。
(1)光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部と、
所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記接続線との間の経路を開閉する接続経路開閉部と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉部と、
前記接続経路開閉部および前記線間経路開閉部を制御して加算対象の前記電荷蓄積部のそれぞれの前記電荷の量を加算させる走査回路と
を具備する固体撮像素子。
(2)前記電荷蓄積部は、浮遊拡散層である
前記(1)記載の固体撮像素子。
(3)前記接続経路開閉部は、前記電荷蓄積部と当該電荷蓄積部に対応する前記接続線とを開閉するリセットトランジスタを前記電荷蓄積部ごとに備える
前記(2)記載の固体撮像素子。
(4)前記電荷蓄積部のそれぞれについて前記電荷蓄積部を初期化するリセットトランジスタをさらに具備する前記(2)記載の固体撮像素子。
(5)電源と前記接続線との間の経路を開閉する電源経路開閉部をさらに具備する
前記(2)から(4)のいずれかに記載の固体撮像素子。
(6)前記アレイ部には、二次元格子状に複数の画素が配列され、
隣接する前記複数の画素は、前記浮遊拡散層を共有する
前記(2)から(5)のいずれかに記載の固体撮像素子。
(7)前記電荷蓄積部は、光電変換素子である
前記(1)記載の固体撮像素子。
(8)前記集合ごとに配線された信号線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記信号線との間の経路を開閉する選択部と
をさらに具備する前記(1)から(7)のいずれかに記載の固体撮像素子。
(9)互いに隣接する前記信号線と前記接続線との間の経路を開閉する信号経路開閉部をさらに具備する前記(8)記載の固体撮像素子。
(10)前記信号線のそれぞれから出力されたアナログ信号に対して所定の信号処理を行う信号処理部をさらに具備する
前記(8)または(9)に記載の固体撮像素子。
(11)前記集合ごとに所定数の前記接続線が配線され、
前記アレイ部は、複数の加算単位に分割され、
前記所定方向において隣接する前記所定数の加算単位のそれぞれは、前記所定方向に配線された前記所定数の信号線と互いに異なる前記接続線とに接続され、
前記走査回路は、前記所定方向において隣接する前記所定数の加算単位のそれぞれに互いに異なる前記信号線から画素信号を出力させる
前記(1)から(10)のいずれかに記載の固体撮像素子。
(12)前記アレイ部および前記接続トランジスタは、所定の半導体基板に配置され、
前記線間経路開閉部は、前記所定の半導体基板に積層された半導体基板に配置される
前記(1)から(11)のいずれかに記載の固体撮像素子。
(13)光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部と、
所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記接続線との間の経路を開閉する接続経路開閉部と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉部と、
前記接続経路開閉部および前記線間経路開閉部を制御して加算対象の前記電荷蓄積部のそれぞれの前記電荷の量を加算させる走査回路と、
前記電荷の量に応じた画素信号からなる画像データを記録する記録部と
を具備する撮像装置。
(14)光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部において所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と前記電荷蓄積部との間の経路を開閉する接続手順と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉手順と
を具備する固体撮像素子の制御方法。
100 撮像装置
110 撮像レンズ
120 記録部
130 撮像制御部
200 固体撮像素子
201 上側半導体基板
202 下側半導体基板
203 画素ユニット
204 回路ブロック
210 行走査回路
220 画素アレイ部
230 画素回路
231、303、304、307、308、315、316、319、320 光電変換素子
232、301、302、305、306、312、313、317、318 転送トランジスタ
233、309 リセットトランジスタ
234、310 浮遊拡散層
235、311 増幅トランジスタ
236、314 選択トランジスタ
237 接続トランジスタ
240、350 画素加算制御部
241、242、245、246、247、351〜360 スイッチ
243、244 MOSトランジスタ
260 タイミング制御部
270 AD変換部
271 AD変換器
280 列走査回路
290 画像処理部
300 画素ブロック
5009、5123、5407、7410 撮像部
5305 筒状部
110 撮像レンズ
120 記録部
130 撮像制御部
200 固体撮像素子
201 上側半導体基板
202 下側半導体基板
203 画素ユニット
204 回路ブロック
210 行走査回路
220 画素アレイ部
230 画素回路
231、303、304、307、308、315、316、319、320 光電変換素子
232、301、302、305、306、312、313、317、318 転送トランジスタ
233、309 リセットトランジスタ
234、310 浮遊拡散層
235、311 増幅トランジスタ
236、314 選択トランジスタ
237 接続トランジスタ
240、350 画素加算制御部
241、242、245、246、247、351〜360 スイッチ
243、244 MOSトランジスタ
260 タイミング制御部
270 AD変換部
271 AD変換器
280 列走査回路
290 画像処理部
300 画素ブロック
5009、5123、5407、7410 撮像部
5305 筒状部
Claims (14)
- 光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部と、
所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記接続線との間の経路を開閉する接続経路開閉部と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉部と、
前記接続経路開閉部および前記線間経路開閉部を制御して加算対象の前記電荷蓄積部のそれぞれの前記電荷の量を加算させる走査回路と
を具備する固体撮像素子。 - 前記電荷蓄積部は、浮遊拡散層である
請求項1記載の固体撮像素子。 - 前記接続経路開閉部は、前記電荷蓄積部と当該電荷蓄積部に対応する前記接続線とを開閉するリセットトランジスタを前記電荷蓄積部ごとに備える
する請求項2記載の固体撮像素子。 - 前記電荷蓄積部ごとに当該電荷蓄積部を初期化するリセットトランジスタをさらに具備する請求項2記載の固体撮像素子。
- 電源と前記接続線との間の経路を開閉する電源経路開閉部をさらに具備する
請求項2記載の固体撮像素子。 - 前記アレイ部には、二次元格子状に複数の画素が配列され、
隣接する前記複数の画素は、前記浮遊拡散層を共有する
請求項2記載の固体撮像素子。 - 前記電荷蓄積部は、光電変換素子である
請求項1記載の固体撮像素子。 - 前記集合ごとに配線された信号線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記信号線との間の経路を開閉する選択部と
をさらに具備する請求項1記載の固体撮像素子。 - 互いに隣接する前記信号線と前記接続線との間の経路を開閉する信号経路開閉部をさらに具備する請求項8記載の固体撮像素子。
- 前記信号線のそれぞれから出力されたアナログ信号に対して所定の信号処理を行う信号処理部をさらに具備する
請求項8記載の固体撮像素子。 - 前記集合ごとに所定数の前記接続線が配線され、
前記アレイ部は、複数の加算単位に分割され、
前記所定方向において隣接する前記所定数の加算単位のそれぞれは、前記所定方向に配線された前記所定数の信号線と互いに異なる前記接続線とに接続され、
前記走査回路は、前記所定方向において隣接する前記所定数の加算単位のそれぞれに互いに異なる前記信号線から画素信号を出力させる
請求項1記載の固体撮像素子。 - 前記アレイ部および前記接続経路開閉部は、所定の半導体基板に配置され、
前記線間経路開閉部は、前記所定の半導体基板に積層された半導体基板に配置される
請求項1記載の固体撮像素子。 - 光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部と、
所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と、
前記電荷蓄積部のそれぞれと前記電荷蓄積部に対応する前記接続線との間の経路を開閉する接続経路開閉部と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉部と、
前記接続経路開閉部および前記線間経路開閉部を制御して加算対象の前記電荷蓄積部のそれぞれの前記電荷の量を加算させる走査回路と、
前記電荷の量に応じた画素信号からなる画像データを記録する記録部と
を具備する撮像装置。 - 光電変換により生成された電荷を蓄積する所定数の電荷蓄積部が二次元格子状に配列されたアレイ部において所定方向に配列された前記電荷蓄積部の集合ごとに配線された接続線と前記電荷蓄積部との間の経路を開閉する接続手順と、
前記接続線のそれぞれの間の経路を開閉する線間経路開閉手順と
を具備する固体撮像素子の制御方法。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016131851A JP2018007035A (ja) | 2016-07-01 | 2016-07-01 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
| US16/312,675 US10873715B2 (en) | 2016-07-01 | 2017-05-10 | Solid-state image sensor, imaging device, and method of controlling solid-state image sensor |
| PCT/JP2017/017705 WO2018003305A1 (ja) | 2016-07-01 | 2017-05-10 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016131851A JP2018007035A (ja) | 2016-07-01 | 2016-07-01 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2018007035A true JP2018007035A (ja) | 2018-01-11 |
Family
ID=60787176
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016131851A Pending JP2018007035A (ja) | 2016-07-01 | 2016-07-01 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US10873715B2 (ja) |
| JP (1) | JP2018007035A (ja) |
| WO (1) | WO2018003305A1 (ja) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019155699A1 (ja) * | 2018-02-09 | 2019-08-15 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置及び撮像方法 |
| WO2020153262A1 (ja) * | 2019-01-24 | 2020-07-30 | ソニーセミコンダクタソリューションズ株式会社 | 計測装置および測距装置 |
| WO2020255496A1 (ja) * | 2019-06-17 | 2020-12-24 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
| CN112470462A (zh) * | 2018-07-31 | 2021-03-09 | 索尼半导体解决方案公司 | 层叠式光接收传感器和电子装置 |
| JPWO2020053921A1 (ja) * | 2018-09-10 | 2021-08-30 | オリンパス株式会社 | 半導体装置 |
| US12446350B2 (en) | 2018-07-31 | 2025-10-14 | Sony Semiconductor Solutions Corporation | Stacked light-receiving sensor and in-vehicle imaging device |
Families Citing this family (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2020017810A (ja) * | 2018-07-24 | 2020-01-30 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置 |
| JP2020118569A (ja) * | 2019-01-24 | 2020-08-06 | ソニーセミコンダクタソリューションズ株式会社 | 受光装置および測距装置 |
| JP7309420B2 (ja) * | 2019-04-02 | 2023-07-18 | キヤノン株式会社 | 撮像装置 |
| US11653122B2 (en) | 2020-03-13 | 2023-05-16 | Sony Semiconductor Solutions Corporation | Solid-state image capturing element with floating diffusion layers processing a signal undergoing pixel addition |
| CN111528782B (zh) * | 2020-05-26 | 2023-05-23 | 郑州大学第一附属医院 | 一种消化内镜微创诊疗导航系统 |
| EP3985555B1 (en) * | 2020-08-21 | 2023-10-11 | Shenzhen Goodix Technology Co., Ltd. | Image sensor, fingerprint detection apparatus, and electronic device |
| KR20220053320A (ko) * | 2020-10-22 | 2022-04-29 | 삼성전자주식회사 | 이미지 센서 및 이의 동작 방법 |
| DE102022111485B3 (de) * | 2022-05-09 | 2023-01-26 | Dr. Ing. H.C. F. Porsche Aktiengesellschaft | Optisches Sensorsystem und Kraftfahrzeug mit einem optischen Sensorsystem |
Family Cites Families (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6567571B1 (en) * | 1998-06-24 | 2003-05-20 | Canon Kabushiki Kaisha | Image sensing device capable of outputting image signals by blocks and processing circuit which processes image signals by blocks |
| JP2009033316A (ja) * | 2007-07-25 | 2009-02-12 | Nikon Corp | 固体撮像装置及びこれを用いた電子カメラ |
| JP5251412B2 (ja) | 2008-10-09 | 2013-07-31 | ソニー株式会社 | 固体撮像素子およびその駆動方法、並びにカメラシステム |
| JP5404112B2 (ja) * | 2009-03-12 | 2014-01-29 | キヤノン株式会社 | 固体撮像素子、その駆動方法及び撮像システム |
| JP5885403B2 (ja) | 2011-06-08 | 2016-03-15 | キヤノン株式会社 | 撮像装置 |
| JP6039165B2 (ja) | 2011-08-11 | 2016-12-07 | キヤノン株式会社 | 撮像素子及び撮像装置 |
| US8890047B2 (en) * | 2011-09-21 | 2014-11-18 | Aptina Imaging Corporation | Stacked-chip imaging systems |
| JP2014209696A (ja) * | 2012-07-23 | 2014-11-06 | ソニー株式会社 | 固体撮像装置、信号読み出し方法、および電子機器 |
| US9661243B2 (en) * | 2013-03-15 | 2017-05-23 | Forza Silicon Corporation | CMOS image sensor with column-wise selective charge-domain binning |
| US10136079B2 (en) * | 2013-10-31 | 2018-11-20 | Ricoh Imaging Company, Ltd. | Method and apparatus for imaging an object |
| JP2015119154A (ja) * | 2013-12-20 | 2015-06-25 | ソニー株式会社 | 固体撮像素子、固体撮像素子の製造方法、及び電子機器 |
| JP2015182390A (ja) | 2014-03-25 | 2015-10-22 | キヤノン株式会社 | 記録ヘッド、データ転送装置、その装置を用いた記録装置、及びデータ転送方法 |
| KR20210115064A (ko) | 2014-05-26 | 2021-09-24 | 소니그룹주식회사 | 신호 처리 장치, 제어 방법, 촬상 소자 및 전자 기기 |
-
2016
- 2016-07-01 JP JP2016131851A patent/JP2018007035A/ja active Pending
-
2017
- 2017-05-10 US US16/312,675 patent/US10873715B2/en not_active Expired - Fee Related
- 2017-05-10 WO PCT/JP2017/017705 patent/WO2018003305A1/ja not_active Ceased
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019155699A1 (ja) * | 2018-02-09 | 2019-08-15 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置及び撮像方法 |
| CN112470462A (zh) * | 2018-07-31 | 2021-03-09 | 索尼半导体解决方案公司 | 层叠式光接收传感器和电子装置 |
| CN112470462B (zh) * | 2018-07-31 | 2024-06-07 | 索尼半导体解决方案公司 | 层叠式光接收传感器和电子装置 |
| US12446350B2 (en) | 2018-07-31 | 2025-10-14 | Sony Semiconductor Solutions Corporation | Stacked light-receiving sensor and in-vehicle imaging device |
| JPWO2020053921A1 (ja) * | 2018-09-10 | 2021-08-30 | オリンパス株式会社 | 半導体装置 |
| JP7190499B2 (ja) | 2018-09-10 | 2022-12-15 | オリンパス株式会社 | 半導体装置 |
| US11546541B2 (en) | 2018-09-10 | 2023-01-03 | Olympus Corporation | Semiconductor device |
| WO2020153262A1 (ja) * | 2019-01-24 | 2020-07-30 | ソニーセミコンダクタソリューションズ株式会社 | 計測装置および測距装置 |
| US12411217B2 (en) | 2019-01-24 | 2025-09-09 | Sony Semiconductor Solutions Corporation | Measurement device and distance measuring device |
| WO2020255496A1 (ja) * | 2019-06-17 | 2020-12-24 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| US10873715B2 (en) | 2020-12-22 |
| WO2018003305A1 (ja) | 2018-01-04 |
| US20200036930A1 (en) | 2020-01-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109891875B (zh) | 图像传送设备、方法、系统和存储介质 | |
| US10873715B2 (en) | Solid-state image sensor, imaging device, and method of controlling solid-state image sensor | |
| US10986986B2 (en) | Solid-state image pickup element, image pickup apparatus, and method of controlling solid-state image pickup element | |
| US11372200B2 (en) | Imaging device | |
| US11350053B2 (en) | Imaging device, method thereof, and imaging element | |
| WO2018135315A1 (ja) | 撮像装置、画像処理方法および画像処理システム | |
| WO2017221715A1 (ja) | 撮像素子及び電子機器 | |
| TW201921020A (zh) | 透鏡鏡筒及攝像裝置 | |
| WO2019163368A1 (ja) | 測距システム、及び、受光モジュール | |
| WO2018016344A1 (ja) | 固体撮像装置および電子機器 | |
| JP6989504B2 (ja) | 送信装置、送信方法、および通信システム | |
| JPWO2018088239A1 (ja) | 情報処理装置および方法、並びにプログラム | |
| US11156751B2 (en) | Imaging optical system, camera module, and electronic device | |
| US11482159B2 (en) | Display control device, display control method, and display control program | |
| US12149759B2 (en) | Display control apparatus, display control method, and video output apparatus | |
| WO2018037680A1 (ja) | 撮像装置、撮像システム、及び、信号処理方法 | |
| JP7484892B2 (ja) | 駆動モーター、像ぶれ補正装置及び撮像装置 | |
| WO2019163250A1 (ja) | 信号処理装置と信号処理方法および撮像装置 |