[go: up one dir, main page]

JP2016062365A - 載置支援方法 - Google Patents

載置支援方法 Download PDF

Info

Publication number
JP2016062365A
JP2016062365A JP2014190539A JP2014190539A JP2016062365A JP 2016062365 A JP2016062365 A JP 2016062365A JP 2014190539 A JP2014190539 A JP 2014190539A JP 2014190539 A JP2014190539 A JP 2014190539A JP 2016062365 A JP2016062365 A JP 2016062365A
Authority
JP
Japan
Prior art keywords
unit
imaging
image
placement
article
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2014190539A
Other languages
English (en)
Inventor
隆敏 山中
Takatoshi Yamanaka
隆敏 山中
山野 大偉治
Taiji Yamano
大偉治 山野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014190539A priority Critical patent/JP2016062365A/ja
Publication of JP2016062365A publication Critical patent/JP2016062365A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • General Factory Administration (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】物品を載置する作業を簡単化することが可能な載置支援方法を提供する。
【解決手段】撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、撮像対象物からの物品の載置動作を検出する処理S207と、物品の載置手順を記憶した記憶部を参照して、撮像対象物上の載置動作が検出された箇所の次に載置される物品の撮像対象物上の箇所を特定する処理S204と、撮像対象物のうち、特定した箇所に対して投影を実行する処理S206とを含むことを特徴とする。
【選択図】図14

Description

本件は、載置支援方法に関する。
例えば回路基板上の予め指定された箇所に電子部品(例えば抵抗器やトランジスタなど)を載置して、電子部品をハンダにより固定することは広く行われている。回路基板に電子部品を載置する場合、事前準備として部品庫から取り出した電子部品を電子部品毎に小分けして収容可能なトレイに載置させる場合がある。したがって、作業者が組み立て手順書などを参考にしながら、トレイに収容された電子部品を組み立て順に取り出して回路基板に載置してハンダづけすることで、電子装置の組み立てが完成する。
ところが、回路基板に多くの電子部品を載置する場合、小分け可能なトレイが有する複数の収容箇所に誤って不要な電子部品を収容してしまうおそれがある。このような事態を回避するために、事前にトレイに電子部品の写真を貼り付けておく手法が採用されている。
しかしながら、組み立てる電子装置が変わる度にトレイに貼り付ける写真を取り替えることは非常に手間である。一方、組み立てる電子装置毎にトレイを用意することは管理や運用に負担がかかるという問題がある。
また、トレイから電子部品を取り出して回路基板に載置する場合に、電子部品を取り違えて誤った組み立て順序で載置してしまうおそれもある。部品の取り違えを未然に防止する技術として、部品にICタグを予め取り付けておくとともに、組立説明書にもICタグを貼り付けておき、双方のICタグに記録されたコードが一致するか否かを報知する技術が知られている(例えば特許文献1参照)。
特開2006−268079号公報
しかしながら、上述した特許文献1では部品にICタグを取り付けるとともに、組立説明書にもICタグを貼り付けなければならず、多大な手間がかかるという問題がある。
そこで、1つの側面では、物品を載置する作業を簡単化することが可能な載置支援方法を提供することを目的とする。
本明細書に開示の載置支援方法は、撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、前記撮像対象物からの物品の載置動作を検出し、物品の載置手順を記憶した記憶部を参照して、前記撮像対象物上の前記載置動作が検出された箇所の次に載置される物品の前記撮像対象物上の箇所を特定し、前記撮像対象物のうち、特定した前記箇所に対して投影を実行する、処理を含むことを特徴とする載置支援方法である。
本明細書に開示の載置支援方法は、第1撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、組立単位毎に物品を記憶した第1記憶部から前記第1撮像対象物で定められた物品を特定し、第2撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、物品の載置箇所を前記第2撮像対象物毎に記憶した第2記憶部から、撮像した前記第2撮像対象物に対応する載置箇所を特定し、特定した前記載置箇所に対して、特定した前記物品に関する画像の投影を実行する、処理を含むことを特徴とする載置支援方法である。
本明細書に開示の載置支援方法は、物品を載置した撮像対象物を撮像して得られた撮像画像を解析して、前記撮像対象物を識別する情報を検出し、前記情報を利用して前記撮像対象物に対する検査手引きを記憶した記憶部を参照し、前記撮像対象物に応じた検査手引きを特定し、特定した前記検査手引きで示された検査箇所と前記撮像対象物上の位置とを対応付け、前記物品に対する特定の被写体の動作が検出された場合に、検査内容を表す画像の投影を実行する、処理を含むことを特徴とする載置支援方法である。
本明細書に開示の載置支援方法によれば、物品を載置する作業を簡単化することが可能である。
図1は、載置支援システムの一例を説明するための図である。 図2は、載置支援装置のハードウェア構成の一例である。 図3は、第1実施形態における載置支援装置のブロック図の一例である。 図4は、部品テーブルの一例である。 図5は、トレイテーブルの一例である。 図6は、画像テーブルの一例である。 図7は、割当テーブルの一例である。 図8は、トレイの各載置箇所に画像が投影される様子の一例を説明するための図である。 図9は、第1実施形態における載置支援装置の動作の一例を示すフローチャートである。 図10は、組立指示書の一例である。 図11は、トレイの一例である。 図12は、第2実施形態における載置支援装置のブロック図の一例である。 図13は、組立順記憶部の一例である。 図14は、第2実施形態における載置支援装置の動作の一例を示すフローチャートである。 図15は、組立指示書が置かれたトレイの一例を示す図である。 図16は、載置動作を検出した箇所の次の箇所に画像が投影される様子を説明するための図である。 図17は、第3実施形態における載置支援装置のブロック図の一例である。 図18は、マニュアルテーブル記憶部の一例である。 図19は、基板記憶部の一例である。 図20は、第3実施形態における載置支援装置の動作の一例を示すフローチャートである。 図21は、回路基板を撮像する様子の一例を説明するための図である。 図22は、検査内容を表す画像が投影されている様子の一例を説明するための図である。 図23は、第3実施形態における載置支援装置の一部の動作の一例を示すフローチャートである。
以下、本件を実施するための形態について図面を参照して説明する。
尚、本件を実施するための形態は第1実施形態乃至第3実施形態を含んでいる。
第1実施形態は、部品庫から電子部品を取り出して、トレイに載置する際に本件技術を利用することについて説明している。
第2実施形態は、トレイへの収容が完了した電子部品をトレイから回路基板に載置する際に本件技術を利用することについて説明している。
第3実施形態は、回路基板への載置が完了した後、載置した電子部品を電子部品毎に検査する際に本件技術を利用することについて説明している。
(第1実施形態)
図1は、載置支援システムSの一例を説明するための図である。載置支援システムSは、第1実施形態乃至第3実施形態のいずれの場合においても利用される。
載置支援システムSは、投影部100、第1撮像部200、第2撮像部300及び載置支援装置400を含んでいる。載置支援装置400に代えて、載置支援装置500,600が利用されてもよい。載置支援装置400は、投影部100、第1撮像部200、第2撮像部300と有線または無線を介して通信可能に接続される。なお、載置支援装置400は、図示しない通信部を有しており、通信回線を介して様々な外部装置と双方向にデータの送受信を行うことによりネットワークリソースを用いることが可能である。更に、投影部100は、必要に応じて載置支援システムSに含まれれば良く、必ずしも必要な構成要素ではない。図1に示すように、投影部100、第1撮像部200及び第2撮像部300は、例えば投影面10の上方に、鉛直下向きの方向で設置される。投影面10としては、例えば、カウンター、台、机といった各種作業を行うための作業台がある。
投影部100は、撮像対象の一例である対象物OB上又はその傍に画像を投影する。例えば、投影面10に対象物OBが置かれて、その対象物OBの一部を手指により指定すると、第1撮像部200及び第2撮像部300は対象物OBを手指とともに撮像し、投影部100は撮像された撮像画像に基づいて対象物OB上又はその傍の所定の位置に画像を投影する。このような投影手法は、例えばAugmented Reality(AR:拡張現実)と呼ばれる。さらに、ユーザが手指FGを画像に提示すると、投影された画像に対してインタラクション操作が行われる。尚、投影部100としては、例えばプロジェクタといった画像を表示するデバイスがある。対象物OBとしては、例えば電子部品収容前又は収容後のトレイ、回路基板などがある。
第1撮像部200及び第2撮像部300は、内部パラメータが等しく既知であり、互いの光軸が平行で、かつ、第1撮像部200及び第2撮像部300が撮像する複数の画像中の任意の横軸が同一直線状上になる様に配置される、いわゆる平行ステレオの配置となる。第1撮像部200は、第1の視野V1の範囲内に含まれる領域を撮像する。第2撮像部300は、第2の視野V2の範囲内に含まれる領域を撮像する。したがって、第1撮像部200による第1撮像画像及び第2撮像部300による第2撮像画像にはそれぞれ、対象物OBを含む投影面10が含まれる。特に、対象物OB上に手指FGが含まれている場合には、第1撮像画像及び第2撮像画像にはそれぞれ手指FGの画像が含まれる。第1撮像部200及び第2撮像部300により、第1撮像画像と第2撮像画像の色情報、ならびに対象物OBの深度、手指FGの深度などの情報を含む画像が撮像される。尚、第1撮像部200及び第2撮像部300としては、例えば、Charge Coupled Device(CCD)カメラやComplementary Metal Oxide Semiconductor(CMOS)カメラといった撮像デバイスがある。また、平行ステレオは、位置関係が既知かつ平行な2台のカメラによる撮像画像から同一の対象物が撮影された画素の位置ずれ(視差)を利用して、三角測量の原理により任意の基準点から対象物までの距離を算出する手法である。
載置支援装置400は、第1撮像部200及び第2撮像部300により異なる光軸で撮像された第1撮像画像及び第2撮像画像を取得し、後述する各種の処理を行って投影部100の動作を制御する。これにより、投影部100は各種の画像を投影する。例えば、取得した第1撮像画像及び第2撮像画像に基づいて、世界座標系(3次元上)におけるユーザの手指FGの位置及び対象物OBの位置を算出する。算出した位置における深度が対象物OBから所定の距離(例えば0〜10mm)の範囲内に含まれていた場合、対象物OBの傍に画像が投影される。ここで、載置支援システムSにおける載置支援装置400の配置位置は自由に設定することが可能である。例えば、載置支援装置400は投影部100と同じ位置に配置されていてもよい。尚、載置支援装置400の機能の詳細については後述する。
ところで、図1に示す載置支援システムSの構成時点で、第1撮像部200と第2撮像部300の座標系と投影部100の世界座標系における位置合わせ(キャリブレーション)は、予め実施されているものとする。また、載置支援装置400に使用開始後に、第1撮像部200と第2撮像部300と投影部100の位置関係を変化させる場合は、キャリブレーションを、少なくとも一回実行すれば良い。ここで、具体的なキャリブレーションの方法の一例として、投影部100が投影する任意の投影画像を、第1撮像部200と第2撮像部300で撮像することで、載置支援装置400内部でキャリブレーションを実行する方法を説明する。なお、当該方法においては、第1撮像部200と第2撮像部300のそれぞれについて、予めキャリブレーションが実行されているものとする。
先ず、投影部100は、世界座標系において、ある任意の座標値(x、y)に対して任意のマーカを投影する。当該マーカは、周囲の背景と区別しやすいような任意の色や形状を用いることが可能である。そして、第1撮像部200と第2撮像部300は、所定の投影面10に投影されたマーカを撮像する。続いて、載置支援装置400は、マーカを公知の任意の載置支援によって認識する。例えば、載置支援装置400は、投影部100がマーカとして円形の模様を投影した場合、例えば、「Kimmeら、“Finding circles by an array of accumulators”, Communications of the Association for Computing Machinery, #18, pp.120-122, 1975.」に開示される、ハフ円変換により円形状を認識することが出来る。ここで、載置支援装置400がマーカを認識した際の座標値を(x、y)とする。載置支援装置400は、上述の処理を、任意の場所で4点分繰り返す。載置支援装置400は、当該処理で得られた(x、y)に対応する(x、y)の組の4組から、3行3列のホモグラフィ行列Hの各成分を、8次元連立一次方程式を用いて算出する。なお、ホモグラフィとは、三次元空間上のある平面から別の平面への射影変換を表す行列である。本実施形態においては、載置支援装置400は、第1撮像部200と第2撮像部300の座標平面と投影部100の投影部座標平面との対応付けを求める。載置支援装置400は、算出したホモグラフィ行列を、例えば、図示しないキャッシュまたはメモリに保存しておくことで、画像の投影時においてホモグラフィ行列を利用することが出来る。
続いて、図2を参照して、載置支援装置400のハードウェア構成について説明する。
図2は、載置支援装置400のハードウェア構成の一例である。後述する載置支援装置500,600についても基本的に同様の構成を有する。
図2に示すように、載置支援装置400は、少なくともCentral Processing Unit(CPU)400A、Random Access Memory(RAM)400B、Read Only Memory(ROM)400C及びネットワークI/F(インタフェース)400Dを含んでいる。載置支援装置400は、必要に応じて、Hard Disk Drive(HDD)400E、入力I/F400F、出力I/F400G、入出力I/F400H、ドライブ装置400Iの少なくとも1つを含んでいてもよい。CPU400A・・・ドライブ装置400Iは、内部バス400Jによって互いに接続されている。少なくともCPU400AとRAM400Bとが協働することによってコンピュータが実現される。
入力I/F400Fには、入力装置710が接続される。入力装置710としては、例えばキーボードやマウスなどがある。
出力I/F400Gには、表示装置720が接続される。表示装置720としては、例えば液晶ディスプレイがある。
入出力I/F400Hには、半導体メモリ730が接続される。半導体メモリ730としては、例えばUniversal Serial Bus(USB)メモリやフラッシュメモリなどがある。入出力I/F400Hは、半導体メモリ730に記憶されたプログラムやデータを読み取る。
入力I/F400F及び入出力I/F400Hは、例えばUSBポートを備えている。出力I/F400Gは、例えばディスプレイポートを備えている。
ドライブ装置400Iには、可搬型記録媒体740が挿入される。可搬型記録媒体740としては、例えばCompact Disc(CD)−ROM、Digital Versatile Disc(DVD)といったリムーバブルディスクがある。ドライブ装置400Iは、可搬型記録媒体740に記録されたプログラムやデータを読み込む。
ネットワークI/F400Dは、例えばポートとPhysical Layer Chip(PHYチップ)とを備えている。載置支援装置400は、ネットワークI/F400Dを介してネットワークと接続される。
上述したRAM400Bには、ROM400CやHDD400Eに記憶されたプログラムがCPU400Aによって格納される。RAM400Bには、可搬型記録媒体740に記録されたプログラムがCPU400Aによって格納される。格納されたプログラムをCPU400Aが実行することにより、後述する各種の機能が実現され、また、各種の動作が実行される。尚、プログラムは後述するフローチャートに応じたものとすればよい。
続いて、図3乃至図7を参照して、第1実施形態における載置支援装置400の詳細について説明する。
図3は、載置支援装置400のブロック図の一例である。
載置支援装置400は、図3に示すように、第1記憶部の一例である部品記憶部410、第2記憶部の一例であるトレイ記憶部420、画像記憶部430、画像解析部440、第1特定部450、第2特定部460、画像抽出部470、投影画像割当部480及びテーブル記憶部490を含んでいる。
部品記憶部410は、電子装置の組立単位毎に電子装置の組立てに要する電子部品の種類、電子部品の数及び電子部品を表す画像の識別情報を記憶する。具体的には、図4に示すように、部品記憶部410は、複数の部品テーブル20を記憶している。部品テーブル20は、ユニット番号、項番、部品番号、ピッキング数及び画像IDを構成要素としている。ユニット番号は、電子装置の組立単位毎に割り当てられた識別番号である。ピッキング数は、その部品番号の電子部品を必要とする数である。したがって、ユニット番号「34829」の電子装置は、部品番号「K0001」が割り当てられた2つの電子部品と、部品番号「K0002」が割り当てられた3つの電子部品と、・・・、部品番号「K0006」が割り当てられた1つの電子部品とにより組み立てられる。
トレイ記憶部420は、電子部品を収容するトレイに関する情報を記憶する。具体的には、図5に示すように、トレイ記憶部420は、トレイテーブル30を記憶している。トレイテーブル30は、トレイを識別するトレイ番号、トレイのサイズ、載置箇所の数及び載置箇所のサイズを構成要素としている。載置箇所は、電子部品を収容可能な収容部を表している。例えば、トレイ番号「101」のトレイは、そのサイズが「300mm×360mm」である。そして、当該トレイは、6個の載置箇所を有しており、各々のサイズが「140mm×110mm」である。
画像記憶部430は、電子部品の写真又はイラストを表す画像情報を記憶する。具体的には、図6に示すように、画像記憶部430は、画像テーブル40を記憶している。画像テーブル40は、画像ID及び部品画像を構成要素としている。したがって、部品テーブルの構成要素の1つである画像IDを特定すれば、特定された画像IDに基づいて、その画像IDを有する電子部品の部品画像を特定することができる。
画像解析部440は、第1撮像部200による第1撮像画像と第2撮像部300による第2撮像画像を解析して、撮像画像に含まれる各種の情報を読み取る。例えば、第1撮像画像と第2撮像画像に後述する組立指示書(図10参照)が含まれている場合、第1撮像画像と第2撮像画像を解析して、その組立指示書に示されたユニット番号を情報として読み取る。例えば、第1撮像画像と第2撮像画像にトレイTR(図11参照)が含まれている場合、第1撮像画像と第2撮像画像を解析して、そのトレイTRに付されたトレイ番号を情報として読み取る。画像解析部440は、読み取った情報を第1特定部450又は第2特定部460に送信する。
第1特定部450は、画像解析部440から送信された情報に基づいて、部品記憶部410からその情報に対応する部品テーブル20を特定する。例えば、画像解析部440からユニット番号が送信された場合、ユニット番号に対応する部品テーブル20を特定する。部品テーブル20には、ユニット番号が割り当てられた電子装置の組立てに要する種々の部品番号が含まれているため、部品テーブル20を特定することで、組立てに要する部品番号が特定される。第1特定部450は、部品テーブル20を特定すると、特定した部品テーブル20を画像抽出部470に送信する。
第2特定部460は、画像解析部440から送信された情報に基づいて、トレイ記憶部420からその情報に対応するトレイテーブル30の載置箇所等を特定する。例えば、画像解析部440からトレイ番号が送信された場合、トレイ番号に対応するトレイのサイズ、載置箇所の数及びサイズを特定する。これにより、トレイのサイズ、電子部品を収容できる載置箇所の数とそのサイズが特定される。第2特定部460は、特定したトレイのサイズ、載置箇所の数及びサイズを投影画像割当部480に送信する。
画像抽出部470は、第1特定部から送信された部品テーブル20に含まれる画像IDに基づいて、画像記憶部430から画像IDに対応する電子部品の部品画像を抽出する。画像抽出部470は、部品テーブル20と部品画像を投影画像割当部480に送信する。
投影画像割当部480は、画像抽出部470から送信された部品テーブル20及び部品画像、並びに第2特定部460から送信されたトレイのサイズ、載置箇所の数及びサイズを受信すると、テーブル記憶部490に投影画像を割り当てるための割当テーブルを生成する。具体的には、投影画像割当部480は、トレイのサイズ、載置箇所の数及びサイズに基づいて、すべての載置箇所がトレイに収まる配置構成を有する割当テーブルを生成する。例えば、トレイ番号が「101」である場合、図5を参照して説明したように、トレイのサイズが「300mm×360mm」、載置箇所の数が「6個」、載置箇所のサイズが「140mm×110mm」であるため、投影画像割当部480は、これらの情報に基づいて、図7に示すように、2×3の割当テーブルを生成する。投影画像割当部480は、割当テーブルを生成すると、部品テーブル20に含まれる部品番号、ピッキング数及び画像IDを割当テーブルの各領域に順に割り当てる。したがって、図7に示すように、割当テーブルにおける1Aの領域には、部品テーブル20に含まれる部品番号「K0001」、ピッキング数「2」及び画像ID「K001.jpg」が割り当てられる。同様に、割当テーブルにおける2A〜3Bの領域には、それぞれ対応する部品番号、ピッキング数及び画像IDが割り当てられる。これにより、投影部100により投影される画像がテーブル記憶部490に記憶される。投影画像割当部480は、投影画像の割当が完了すると、投影部100にその旨を送信する。
この結果、投影部100は、投影画像の割当が完了した旨を投影画像割当部480から受信すると、テーブル記憶部490から割当テーブルを取得し、割当テーブルに割り当てられた画像IDに応じた部品画像を投影画像割当部480から取得する。これにより、割当テーブルに割り当てられた画像IDは部品画像に変換される。投影部100は画像IDが部品画像に変換されたことを確認すると、図8(a)に示すように、トレイTRに投影画像の投影を実行する。この結果、トレイTRには、図8(b)に示すように、それぞれの載置箇所Xに割当テーブルの各領域に対応する投影画像Yが投影される。尚、投影が実行される際には、「部品番号:」が部品番号「K0001」〜「K0006」に付与されて実行される。同様に、「個数:」がピッキング数「2」〜「1」に付与されて実行される。
続いて、図9乃至図11を参照して、載置支援装置400の動作について説明する。
図9は、載置支援装置400の動作の一例を示すフローチャートである。図10は、組立指示書の一例である。図11は、トレイTRの一例である。
まず、載置支援システムSに電源が投入されると、第1撮像部200は第1の視野V1内を撮像し、第2撮像部300は第2の視野V2内を撮像する。したがって、第1の視野V1内及び第2の視野V2内に対象物OBが含まれていれば、第1撮像部200及び第2撮像部300は、対象物OBをそれぞれ撮像する。これにより、画像解析部440には、第1撮像部200による第1撮像画像と第2撮像部300による第2撮像画像が入力される。
ここで、画像解析部440は、組立指示書を撮像したか否かを判断する(ステップS101)。紙などで作られた組立指示書には、図10に示すように、ユニット番号、ユニット番号に対応するバーコード、ユニット番号に対応する電子装置の組立順、部品番号及び部品画像が示されている。作業者は投影面10に対象物OBとして組立指示書を置いたり、投影面10上でかざしたりすると、第1撮像部200及び第2撮像部300が組立指示書をそれぞれ撮像するため、組立指示書をそれぞれ含む第1撮像画像及び第2撮像画像が画像解析部440に入力される。画像解析部440は、第1撮像画像及び第2撮像画像を解析して、OCR処理といった文字認識処理により文字「ユニット番号」が第1撮像画像及び第2撮像画像に含まれていれば、組立指示書を撮像したと判断する(ステップS101:YES)。逆に、文字「ユニット番号」が第1撮像画像及び第2撮像画像に含まれていなければ、組立指示書以外の対象物OBを撮像したと判断する(ステップS101:NO)。画像解析部440は、組立指示書を撮像したと判断した場合、文字「ユニット番号」の右隣りに5桁の数値で表されたユニット番号「34829」を読み取る(ステップS102)。尚、バーコードに対して画像認識処理を実行してバーコードに対応するユニット番号を読み取るようにしてもよい。
画像解析部440がユニット番号を読み取ると、次いで、第1特定部450は、部品記憶部410からユニット番号に応じた部品テーブル20を特定し(ステップS103)、画像解析部440がトレイTRを撮像したと判断するまで待機する。次いで、画像解析部440は、トレイTRを撮像したか否かを判断する(ステップS104)。トレイTRの側縁には、図11に示すように、トレイ番号、トレイ番号に対応するバーコードが付されている。作業者は投影面10に対象物OBとしてトレイTRを置いたり、投影面10上でかざしたりすると、第1撮像部200及び第2撮像部300がトレイTRをそれぞれ撮像するため、トレイTRをそれぞれ含む第1撮像画像及び第2撮像画像が画像解析部440に入力される。画像解析部440は、第1撮像画像及び第2撮像画像を解析して、文字認識処理により文字「トレイ番号」が第1撮像画像及び第2撮像画像に含まれていれば、トレイTRを撮像したと判断する(ステップS104:YES)。逆に、文字「トレイ番号」が第1撮像画像及び第2撮像画像に含まれていなければ、トレイTR以外の対象物OBを撮像したと判断する(ステップS104:NO)。画像解析部440は、トレイTRを撮像したと判断した場合、文字「トレイ番号」の右隣りに3桁の数値で表されたトレイ番号「101」を読み取る(ステップS105)。尚、バーコードに対して画像認識処理を実行してバーコードに対応するトレイ番号を読み取るようにしてもよい。
画像解析部440がトレイ番号を読み取ると、次いで、第2特定部460は、トレイ記憶部420からトレイ番号に応じた載置箇所等を特定する(ステップS106)。また、ステップS106の処理の後、又は、ステップS106の処理と並行して、画像抽出部470は、画像記憶部430から部品テーブル20の画像IDに応じた部品画像を抽出する(ステップS107)。そして、ステップS107の処理が完了すると、投影画像割当部480は、トレイTRに対応する割当テーブル投影画像を割り当て(ステップS108)、割当テーブルの投影画像を投影部100に投影させる(ステップS109)。
これにより、図8(b)に示すように、トレイTRの各載置箇所Xに対し投影部100から対応する電子部品の部品番号、ピッキング数及び部品画像を含む投影画像Yが投影される。したがって、トレイTRの各載置箇所Xに対し投影部100から対応する電子部品の部品番号等が投影されているため、作業者は部品庫から電子部品を取り出して、トレイTRに電子部品を載置する際に、電子装置の組立てに要する電子部品の種類や個数を誤らずに載置させることができる。言い換えれば、画像投影により部品庫からトレイTRに電子部品を載置する作業が支援される。特に、電子部品の写真やイラストを利用して作業者に電子部品をトレイTRに載置させていないため、写真等を貼り替える手間や貼り替え誤りが防止される。
(第2実施形態)
続いて、本件の第2実施形態について説明する。第2実施形態では、電子部品の収容が完了したトレイTRを利用して行われる。
図12は、載置支援装置500のブロック図の一例である。図13は、組立順記憶部510の一例である。
載置支援装置500は、図12に示すように、記憶部の一例である組立順記憶部510、テーブル記憶部520、解析手段の一例である画像解析部530、特定手段の一例である組立順テーブル抽出部540及び次箇所特定部560並びに動作検出部550を含んでいる。
組立順記憶部510は、電子装置の組立順序に関する情報をユニット番号毎に記憶する。具体的には、図13に示すように、組立順記憶部510は、組立順テーブル50を記憶している。組立順テーブル50は、ユニット番号、組立順序、部品番号及び画像IDを構成要素としている。したがって、ユニット番号「34829」の電子装置は、最初に部品番号「K0001」の電子部品が回路基板に取り付けられ、次に、部品番号「K0003」の電子部品が回路基板に取り付けられる。以降、組立順序に従って電子部品が回路基板に取り付けられる。
テーブル記憶部520は、割当テーブルを記憶する。テーブル記憶部520に記憶される割当テーブルには投影画像が割り当てられる。尚、テーブル記憶部520に記憶される割当テーブルには、テーブル記憶部490(図7参照)に記憶された割当テーブルが利用される。
画像解析部530は、第1撮像部200による第1撮像画像と第2撮像部300による第2撮像画像を解析して、撮像画像に含まれる各種の情報を読み取る。例えば、第1撮像画像と第2撮像画像にトレイTRの上に置かれた組立指示書(図15参照)が含まれている場合、第1撮像画像と第2撮像画像を解析して、その組立指示書に示されたユニット番号を情報として読み取る。画像解析部440は、読み取った情報を組立順テーブル抽出部540に送信する。
組立順テーブル抽出部540は、画像解析部530から送信された情報に基づいて、組立順記憶部510からその情報に対応する組立順テーブル50を抽出る。例えば、画像解析部530からユニット番号が送信された場合、ユニット番号に対応する組立順テーブル50を抽出する。組立順テーブル抽出部540は、組立順テーブル50を抽出すると、抽出した組立順テーブル50を次箇所特定部560に送信する。
動作検出部550は、第1撮像部200による第1撮像画像と第2撮像部300による第2撮像画像を受信して、トレイTRからの電子部品の回路基板への載置動作を検出する。動作検出部550は、載置動作の検出を、載置を行う手指の動作を示す画像の検出に基づいて行う。例えば、動作検出部550は、手指が電子部品をつまむ動作を示す画像を検出した場合、トレイTRからの電子部品の回路基板への載置動作があったと判断する。動作検出部550は、トレイTRからの電子部品の回路基板への載置動作を検出した場合、検出した旨を次箇所特定部560に送信する。
次箇所特定部560は、載置動作を検出した旨を動作検出部550から受信すると、テーブル記憶部520を参照して割当テーブルを抽出し、割当テーブルと組立順テーブル50との関係に基づいて、トレイTR上の載置動作が検出された箇所の次に載置される電子部品のトレイTR上の箇所を特定する。具体的には、次箇所特定部560は、割当テーブルにおける1Aの領域(図7参照)に対応する箇所に対し最初の載置動作が検出された場合、部品番号「K0001」の電子部品が回路基板に載置されると判断できる。そして、組立順テーブル50を参照すると、次に載置される電子部品は、部品番号「K0003」の電子部品であるため(図13参照)、割当テーブルにおける3Aの領域(図7参照)に対応する箇所を特定する。次箇所特定部560は、次の箇所を特定すると、特定した次の箇所に所定の投影画像を投影させる指示を投影部100に送信する。所定の投影画像は、例えば電子部品を示すマークの投影である。当該マークとしては、例えば電子部品の形状を示す画像であったり、電子部品の名を示す文字であったり、電子部品に対応するシンボルが利用される。
これにより、投影部100は、トレイTR上の載置動作が検出された箇所の次に載置される電子部品のトレイTR上の箇所に所定の投影画像を投影する。したがって、作業者がトレイTRにおける任意の箇所から電子部品を回路基板に載置すると、投影部100から次に回路基板に載置する電子部品が収容された箇所に投影画像が投影される。このため、作業者は電子部品の組立順序を誤らずに作業することができる。
次に、図14乃至図16を参照して、載置支援装置500の動作について説明する。
図14は、載置支援装置500の動作の一例を示すフローチャートである。図15は、組立指示書が置かれたトレイTRの一例を示す図である。図16は、載置動作を検出した箇所の次の箇所に画像が投影される様子を説明するための図である。
第1撮像部200が第1の視野V1内を撮像し、第2撮像部300は第2の視野V2内を撮像すると、画像解析部440には、第1撮像部200による第1撮像画像と第2撮像部300による第2撮像画像が入力される。
ここで、画像解析部530は、ユニット番号とトレイ番号を撮像したか否かを判断する(ステップS201)。望ましくは、画像解析部530は、ユニット番号とトレイ番号を同時に撮像したか否かを判断する。例えば、図15に示すように、組立指示書が2つ折りにされてトレイTR上に置かれている場合、画像解析部530は、文字認識処理により文字「ユニット番号」及び文字「トレイ番号」の双方を同時に認識することができる。画像解析部530は、文字「ユニット番号」及び文字「トレイ番号」の双方を認識するまで待機し(ステップS201:NO)、文字「ユニット番号」及び文字「トレイ番号」の双方を認識した場合、ユニット番号とトレイ番号を撮像した判断する(ステップS201:YES)。トレイ番号を認識できたことで、トレイTRが投影面10に置かれていると判断できる。尚、ユニット番号とトレイ番号が撮像された場合、電子装置の組立作業を開始するため、作業者にはトレイTRから組立指示書を取り除くことが要求される。
ステップS201の処理が完了すると、次いで、画像解析部530は。文字「ユニット番号」の右隣りに5桁の数値で表されたユニット番号「34829」を読み取る(ステップS202)。尚、バーコードに対して画像認識処理を実行してバーコードに対応するユニット番号を読み取るようにしてもよい。
画像解析部530がユニット番号を読み取ると、次いで、組立順テーブル抽出部540は、組立順記憶部510からユニット番号に応じた組立順テーブル50を抽出する(ステップS203)。組立順テーブル抽出部540が組立順テーブル50を抽出すると、次いで、次箇所特定部560は、組立順テーブルの部品番号の1つを読み取り、テーブル記憶部520(より詳しくは割当テーブル)から部品番号に対応する載置箇所の次の載置箇所を特定する(ステップS204)。ステップS204の処理が最初に実行される場合には、組立順序「1」の部品番号を読み取り、ステップS204の処理が2回目以降に実行される場合には、直近に処理を終えた組立順序の次の組立順序の部品番号を読み取る。
次箇所特定部560は、テーブル記憶部520における割当テーブルを参照し、全部品が使用されているか否かを判断する(ステップS205)。例えば、トレイTRから回路基板への載置動作が繰り返されることにより、トレイTRから電子部品が徐々に減っていき、最終的にトレイTRには電子部品が残らなくなる。次箇所特定部560は、割当テーブルを参照する度に各領域の電子部品の数を計数し、全部品が使用されているか否かを判断する。
次箇所特定部560は、全部品が使用されていないと判断した場合(ステップS205:NO)、特定した載置箇所に所定の画像を投影部100に投影させる(ステップS206)。これにより、図16(a)に示すように、最初に回路基板に載置される部品番号「K0001」の電子部品Z1の次に載置される部品番号「K0003」の電子部品Z3が載置されたトレイTRの箇所X3に所定の投影画像W3が投影される。これにより、作業者は回路基板に最初に取り付ける電子部品Z1の次に回路基板に取り付ける電子部品Z3を誤らずに認識することができる。
次いで、動作検出部550は、撮像画像から、特定した載置箇所に対する手指の動作を検出したか否かを判断する(ステップS207)。動作検出部550は、手指の動作を検出するまで待機を続け(ステップS207:NO)、手指の動作を検出すると(ステップS207:YES)、ステップS205の処理で全部品を使用し終えたと判断されない限り、ステップS204からステップS206の処理を繰り返す。これにより、図16(b)に示すように、部品番号「K0003」の電子部品Z3が載置されたトレイTRの箇所X3に手指FGが移動して、部品番号「K0003」の電子部品Z3をつまむ動作を行うと、投影部100は、部品番号「K0006」の電子部品Z6が載置されたトレイTRの箇所X6に所定の投影画像W6を投影する。同様に、図16(c)に示すように、部品番号「K0006」の電子部品Z6が載置されたトレイTRの箇所X6に手指FGが移動して、部品番号「K0006」の電子部品Z6をつまむ動作を行うと、投影部100は、部品番号「K0001」の電子部品Z1が載置されたトレイTRの箇所X1に所定の投影画像W1を投影する。
尚、図15(a)乃至図15(c)においては、電子部品に対応するシンボルを表す画像を投影させているが、電子部品の形状を示す画像や電子部品の名を示す文字を投影させるようにしてもよい。
以上説明したように、第2実施形態によれば、回路基板に載置する電子部品が投影画像により次々と案内される。このため、作業者は当該案内に沿って電子部品を回路基板に載置していけば、誤った取付順序で電子部品を回路基板に取り付けることが防止される。すなわち、画像投影によりトレイから回路基板に電子部品を載置する作業が支援される。
(第3実施形態)
続いて、本件の第3実施形態について説明する。第3実施形態では、電子部品が載置された回路基板を利用して行われる。
図17は、載置支援装置600のブロック図の一例である。図18は、マニュアルテーブル記憶部610の一例である。図19は、基板記憶部660の一例である。
載置支援装置600は、図17に示すように、マニュアルテーブル記憶部610、画像解析部620、マニュアルテーブル特定部630、座標算出部640、手指位置判定部650、基板記憶部660及び基板ID特定部670を含んでいる。
マニュアルテーブル記憶部610は、電子装置の検査マニュアルに関するマニュアルテーブルを記憶する。マニュアルテーブルは、検査手引きの一例である。具体的には、図18に示すように、マニュアルテーブル記憶部610は、マニュアルテーブル60を記憶している。マニュアルテーブル60は、マニュアルID、検査順、検査箇所、検査項目を構成要素としている。検査項目は、さらに検査箇所の位置座標を含んでいる。したがって、マニュアルID「101001」によって検査される電子装置は、最初に位置座標(X11,Y11)から位置座標(X12,Y12)に載置された検査箇所「ファン」について、「1:4ヶ所ネジとめ」、「2:赤線ハンダつけ」、・・・、「n−1:ケーブル差し込み」が検査項目として検査される。ファンについてこれらの検査項目に対する検査が終了すると、次に、チップ1の検査が行われ、以降、チップ2、ジャック差し込み、・・・の検査が行われる。
画像解析部620は、第1撮像部200による第1撮像画像と第2撮像部300による第2撮像画像を解析して、撮像画像に含まれる情報を検出する。例えば、第1撮像画像と第2撮像画像に回路基板BRD(図21(a)参照)が含まれている場合、画像解析部620は、第1撮像画像と第2撮像画像を解析して、その回路基板BRDに付された基板IDを情報として検出する。また、画像解析部620は、第1撮像画像と第2撮像画像を解析して、その回路基板BRDの形状を情報として検出する。画像解析部620は、検出した情報をマニュアルテーブル特定部630に送信する。画像解析部620は、検出した形状を基板ID特定部670に送信する。画像解析部620は、入力された第1撮像画像及び第2撮像画像を座標算出部640に送信する。
マニュアルテーブル特定部630は、画像解析部620から送信された情報に基づいて、マニュアルテーブル記憶部610からその情報に対応するマニュアルテーブル60を特定する。例えば、画像解析部620から基板IDが送信された場合、基板IDに対応するマニュアルテーブル60を特定する。マニュアルテーブル特定部630は、マニュアルテーブル60を特定すると、特定したマニュアルテーブル60を座標算出部640及び手指位置判定部650に送信する。
座標算出部640は、画像解析部620から送信された第1撮像画像及び第2撮像画像に基づいて、回路基板BRDの左下端を原点とした回路基板BRD上の位置座標を算出する。回路基板BRDの左下端に凹みがある場合には、凹みが存在しないと仮定した回路基板BRDの左下端を原点とする。これにより、左下端を原点とした回路基板上の位置座標が特定される。さらに、座標算出部640は、受信したマニュアルテーブル60の位置座標と算出した位置座標とを対応付ける。これにより、検査箇所の位置座標と回路基板BRD上の位置座標が対応付けられる。座標算出部640は、対応付けを終えると、検査手順が最初の検査箇所に検査内容を表す画像を投影部100に投影させる。これにより、投影部100は、検査手順が最初の検査箇所に検査内容を表す画像を投影する。
手指位置判定部650は、第1撮像部200による第1撮像画像と第2撮像部300による第2撮像画像を取得して、第1撮像画像及び第2撮像画像に特定の被写体としての手指が含まれていれば、回路基板BRD上で手指が指し示した位置座標を判定する。手指位置判定部650は、判定した結果、検査箇所に対応していれば、マニュアルテーブル60に基づいて、検査手順が次である検査箇所に検査内容を表す画像を投影部100に投影させる。これにより、次に確認すべき検査箇所に検査内容を表す画像が投影され、作業者による検査誤りを回避することができる。
基板記憶部660は、回路基板BRDに形状に関する情報を記憶する。具体的には、図19に示すように、基板記憶部660は、基板テーブル70を記憶している。基板テーブル70は、基板ID、基板形状、サイズ、凹み位置及び凹みサイズを構成要素としている。すなわち、回路基板BRDの形状毎に識別情報が割り当てられており、回路基板BRDの形状が矩形でない場合には、矩形の一部が凹んでいると定め、その凹んだ位置を凹み位置としてサイズとともに特定している。
基板ID特定部670は、画像解析部620から送信された形状に基づいて、基板記憶部660からその形状に対応する基板IDを特定する。基板ID特定部670は、基板IDを特定すると、特定した基板IDをマニュアルテーブル特定部630に送信する。
次に、図20乃至図23を参照して、載置支援装置600の動作について説明する。
図20は、載置支援装置600の動作の一例を示すフローチャートである。図21は、回路基板BRDを撮像する様子の一例を説明するための図である。図22は、検査内容を表す画像が投影されている様子の一例を説明するための図である。図23は、載置支援装置600の一部の動作の一例を示すフローチャートである。
第1撮像部200が第1の視野V1内を撮像し、第2撮像部300は第2の視野V2内を撮像すると、画像解析部620には、第1撮像部200による第1撮像画像と第2撮像部300による第2撮像画像が入力される。
ここで、画像解析部620は、回路基板BRDを撮像したか否かを判断する(ステップS301)。例えば、画像解析部440は、第1撮像画像及び第2撮像画像を解析して、OCR処理といった文字認識処理により文字「基板ID」が第1撮像画像及び第2撮像画像に含まれていれば、回路基板BRDを撮像したと判断する(ステップS301:YES)。逆に、文字「基板ID」が第1撮像画像及び第2撮像画像に含まれていなければ、回路基板BRD以外の対象物OBを撮像したと判断する(ステップS301:NO)。画像解析部620は、回路基板BRDを撮像したと判断した場合、文字「基板ID」の右隣りに6桁の数値で表された基板ID「101001」を検出する(ステップS302)。尚、バーコードに対して画像認識処理を実行してバーコードに対応する基板IDを検出するようにしてもよい。
画像解析部620が基板IDを検出すると、次いで、マニュアルテーブル特定部630は、マニュアルテーブル記憶部610から基板IDに応じたマニュアルテーブルを特定する(ステップS303)。ステップS303の処理が完了すると、座標算出部640は、回路基板の左下端を原点とした位置座標を算出し(ステップS304)、マニュアルテーブルの検査箇所を示す位置座標と算出した位置座標とを対応付ける(ステップS305)。座標算出部640は、ステップS305の処理を終えると、検査手順が最初の検査箇所に検査内容を表す画像を投影させる(ステップS306)。これにより、図22(a)に示すように、検査手順が最初の検査箇所に検査内容を表す画像W7が投影される。
次いで、手指位置判定部650は、手指が指し示した位置座標を判定し(ステップS307)、手指の位置座標が検査箇所に対応しているか否かを判断する(ステップS308)。回路基板BRDの位置座標は算出されているため、ステップS307で判定した手指の位置座標が検査項目の位置座標に対応していれば、手指位置判定部650は、手指の位置座標が検査箇所に対応していると判断する(ステップS308:YES)。一方、ステップS307で判定した手指の位置座標が検査項目の位置座標に対応していなければ、手指位置判定部650は、手指の位置座標が検査箇所に対応していないと判断する(ステップS308:NO)。
手指の位置座標が検査箇所に対応していると判断された場合、手指位置判定部650は、次の検査箇所があるか否かを判断する(ステップS309)。手指位置判定部650にはマニュアルテーブル特定部630からマニュアルテーブル60が送信されているため、手指位置判定部650はマニュアルテーブル60に基づいて次の検査箇所があるか否かを判断する。手指位置判定部650は、次の検査箇所があると判断した場合(ステップS309:YES)、検査手順が次の検査場所に検査内容を表す画像を投影させる(ステップS310)。すなわち、図22(b)に示すように、手指FGの位置座標が最初の検査箇所に対応している場合、検査内容を表す画像W8は、検査手順が次の検査場所に投影される。手指位置判定部650は、ステップS310の処理を終えると、ステップS307からステップS309の処理を繰り返す。そして、手指位置判定部650は、次の検査箇所がないと判断した場合(ステップS309:NO)、処理を終える。
このように、第3実施形態によれば、電子部品が回路基板に載置された電子装置を検査する際に、検査順序に沿って検査内容を表す画像が投影される。作業者が検査内容を表す画像が投影された検査箇所を手指で指定すれば、検査をしている又は検査を終えたと判断され、検査順序に沿った次の検査箇所に検査内容を表す画像が投影される。したがって、作業者は画像が投影された検査箇所を次に検査すればよいと判断でき、検査漏れを回避することができる。すなわち、画像投影により載置した電子部品の検査作業が支援される。
以上説明した処理では、基板IDを利用してマニュルテーブルを特定したが、回路基板BRDの形状を利用してから基板IDを特定し、特定した基板IDを利用してマニュルテーブル60を特定してもよい。例えば、回路基板BRDに基板IDが付与されていなくても、基板記憶部660に基板テーブル70が記憶されていれば、回路基板BRDの形状から基板IDを特定することができる。以下の説明では、回路基板BRDの形状を利用して基板IDを特定する処理について説明する。
まず、図23に示すように、上述した画像解析部620がステップS301の処理を終えると、撮像画像を解析して回路基板BRDの形状を検出する(ステップS401)。図21(b)に示すように、投影面10に回路基板BRDが置かれれば、回路基板BRDは第1撮像部200及び第2撮像部300により撮像されるため、第1撮像画像及び第2撮像画像を通じて回路基板BRDの形状が検出される。検出した形状は基板ID特定部670に送信され、次いで、基板ID特定部670は、検出された基板の形状に基づいて、基盤記憶部660から形状に応じた基板IDを特定する(ステップS402)。特定した基板IDはマニュアルテーブル特定部630に送信され、マニュアルテーブル特定部630は、マニュアルテーブル記憶部610から基板IDに応じたマニュアルテーブル60を特定する(ステップS403)。ステップS403の処理が終了すると、座標算出部640がステップS304の処理を実行する。ステップS305以降の処理については、図19を参照して説明したとおりである。このような処理によっても、上述したように、作業者は画像が投影された検査箇所を次に検査すればよいと判断でき、検査漏れを回避することができる。
以上、本発明の好ましい実施形態について詳述したが、本発明に係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。例えば、上述した実施形態では、電子部品を用いて説明したが機械部品(例えばネジやボルト等)を用いてもよい。また、特定の被写体として手指FGの場合を説明したが、例えば筆記具を含む棒状の部材であってもよい。
なお、以上の説明に関して更に以下の付記を開示する。
(付記1)撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、前記撮像対象物からの物品の載置動作を検出し、物品の載置手順を記憶した記憶部を参照して、前記撮像対象物上の前記載置動作が検出された箇所の次に載置される物品の前記撮像対象物上の箇所を特定し、前記撮像対象物のうち、特定した前記箇所に対して投影を実行する、処理を含むことを特徴とする載置支援方法。
(付記2)前記載置動作の検出は、載置を行う指の動作を示す画像の検出に基づいて行われる、ことを特徴とする付記1記載の載置支援方法。
(付記3)前記投影は、次に載置される物品の前記撮像対象物上の箇所に対する特定の物品を示すマークの投影である、ことを特徴とする付記1又は2に記載の載置支援方法。
(付記4)前記マークは、前記特定の物品の形状を示す画像、又は、前記特定の物品の名を示す文字、又は、前記特定の物品に対応するシンボルである、ことを特徴とする付記3に記載の載置支援方法。
(付記5)第1撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、組立単位毎に物品を記憶した第1記憶部から前記第1撮像対象物で定められた物品を特定し、第2撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、物品の載置箇所を前記第2撮像対象物毎に記憶した第2記憶部から、撮像した前記第2撮像対象物に対応する載置箇所を特定し、特定した前記載置箇所に対して、特定した前記物品に関する画像の投影を実行する、処理を含むことを特徴とする載置支援方法。
(付記6)物品を載置した撮像対象物を撮像して得られた撮像画像を解析して、前記撮像対象物を識別する情報を検出し、前記情報を利用して前記撮像対象物に対する検査手引きを記憶した記憶部を参照し、前記撮像対象物に応じた検査手引きを特定し、特定した前記検査手引きで示された検査箇所と前記撮像対象物上の位置とを対応付け、前記物品に対する特定の被写体の動作が検出された場合に、検査内容を表す画像の投影を実行する、処理を含むことを特徴とする載置支援方法。
(付記7)撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、前記撮像対象物からの物品の載置動作を検出し、物品の載置手順を記憶した記憶部を参照して、前記撮像対象物上の前記載置動作が検出された箇所の次に載置される物品の前記撮像対象物上の箇所を特定し、前記撮像対象物のうち、特定した前記箇所に対して投影を実行する、処理をコンピュータに実行させることを特徴とする載置支援プログラム。
(付記8)撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、前記撮像対象物からの物品の載置動作を検出する解析手段と、物品の載置手順を記憶した記憶部を参照して、前記撮像対象物上の前記載置動作が検出された箇所の次に載置される物品の前記撮像対象物上の箇所を特定する特定手段と、前記撮像対象物のうち、特定した前記箇所に対して投影を実行させる投影手段と、を備えることを特徴とする載置支援装置。
(付記9)前記載置動作の検出は、載置を行う指の動作を示す画像の検出に基づいて行われる、ことを特徴とする付記8記載の載置支援装置。
(付記10)前記投影は、次に載置される物品の前記撮像対象物上の箇所に対する特定の物品を示すマークの投影である、ことを特徴とする付記8又は9に記載の載置支援装置。
(付記11)前記マークは、前記特定の物品の形状を示す画像、又は、前記特定の物品の名を示す文字、又は、前記特定の物品に対応するシンボルである、ことを特徴とする付記10に記載の載置支援装置。
S 載置支援システム
100 投影部
200 第1撮像部
300 第2撮像部
400,500,600 載置支援装置

Claims (6)

  1. 撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、前記撮像対象物からの物品の載置動作を検出し、
    物品の載置手順を記憶した記憶部を参照して、前記撮像対象物上の前記載置動作が検出された箇所の次に載置される物品の前記撮像対象物上の箇所を特定し、
    前記撮像対象物のうち、特定した前記箇所に対して投影を実行する、
    処理を含むことを特徴とする載置支援方法。
  2. 前記載置動作の検出は、載置を行う指の動作を示す画像の検出に基づいて行われる、
    ことを特徴とする請求項1記載の載置支援方法。
  3. 前記投影は、次に載置される物品の前記撮像対象物上の箇所に対する特定の物品を示すマークの投影である、
    ことを特徴とする請求項1又は2に記載の載置支援方法。
  4. 前記マークは、前記特定の物品の形状を示す画像、前記特定の物品の名を示す文字、又は前記特定の物品に対応するシンボルである、
    ことを特徴とする請求項3に記載の載置支援方法。
  5. 第1撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、組立単位毎に物品を記憶した第1記憶部から前記第1撮像対象物で定められた物品を特定し、
    第2撮像対象物を撮像装置で撮像して得られた撮像画像を解析して、物品の載置箇所を前記第2撮像対象物毎に記憶した第2記憶部から、撮像した前記第2撮像対象物に対応する載置箇所を特定し、
    特定した前記載置箇所に対して、特定した前記物品に関する画像の投影を実行する、
    処理を含むことを特徴とする載置支援方法。
  6. 物品を載置した撮像対象物を撮像して得られた撮像画像を解析して、前記撮像対象物を識別する情報を検出し、
    前記情報を利用して前記撮像対象物に対する検査手引きを記憶した記憶部を参照し、前記撮像対象物に応じた検査手引きを特定し、
    特定した前記検査手引きで示された検査箇所と前記撮像対象物上の位置とを対応付け、
    前記物品に対する特定の被写体の動作が検出された場合に、検査内容を表す画像の投影を実行する、
    処理を含むことを特徴とする載置支援方法。
JP2014190539A 2014-09-18 2014-09-18 載置支援方法 Withdrawn JP2016062365A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014190539A JP2016062365A (ja) 2014-09-18 2014-09-18 載置支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014190539A JP2016062365A (ja) 2014-09-18 2014-09-18 載置支援方法

Publications (1)

Publication Number Publication Date
JP2016062365A true JP2016062365A (ja) 2016-04-25

Family

ID=55797821

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014190539A Withdrawn JP2016062365A (ja) 2014-09-18 2014-09-18 載置支援方法

Country Status (1)

Country Link
JP (1) JP2016062365A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109257922A (zh) * 2017-07-13 2019-01-22 Juki株式会社 电子部件安装装置及电子部件安装方法
JP2020149101A (ja) * 2019-03-11 2020-09-17 株式会社デンソーウェーブ 作業支援装置及び作業支援プログラム
JP2020166471A (ja) * 2019-03-29 2020-10-08 株式会社デンソーウェーブ 作業分析装置及び作業分析プログラム
US11551381B2 (en) 2018-03-14 2023-01-10 Mitsubishi Electric Corporation Information processing device, information processing system, and non-transitory computer-readable medium storing information processing program

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109257922A (zh) * 2017-07-13 2019-01-22 Juki株式会社 电子部件安装装置及电子部件安装方法
US11551381B2 (en) 2018-03-14 2023-01-10 Mitsubishi Electric Corporation Information processing device, information processing system, and non-transitory computer-readable medium storing information processing program
JP2020149101A (ja) * 2019-03-11 2020-09-17 株式会社デンソーウェーブ 作業支援装置及び作業支援プログラム
JP7207029B2 (ja) 2019-03-11 2023-01-18 株式会社デンソーウェーブ 作業支援装置及び作業支援プログラム
JP2020166471A (ja) * 2019-03-29 2020-10-08 株式会社デンソーウェーブ 作業分析装置及び作業分析プログラム
JP7207090B2 (ja) 2019-03-29 2023-01-18 株式会社デンソーウェーブ 作業分析装置及び作業分析プログラム

Similar Documents

Publication Publication Date Title
JP6960980B2 (ja) 視覚システムにおける画像ベーストレイ位置合わせ及びチューブスロット位置特定
CN109584295B (zh) 对图像内目标物体进行自动标注的方法、装置及系统
EP3674980B1 (en) Positional relationship detection device and positional relationship detection system
JP5831420B2 (ja) 画像処理装置および画像処理方法
KR102347623B1 (ko) 컴퓨터 프로그램 생성 장치 및 컴퓨터 프로그램 생성 방법
CN115908420A (zh) 印刷电路板的缺陷检测方法、装置、设备及存储介质
JP2016062365A (ja) 載置支援方法
JP2012152016A (ja) ケーブル接続作業支援装置
US20220215582A1 (en) Conversion parameter calculation method, displacement amount calculation method, conversion parameter calculation device, and displacement amount calculation device
JP2016071746A (ja) 情報投影方法、情報投影プログラム、及び情報処理装置
JP5683695B2 (ja) 資産管理システム、操作端末、及び資産管理方法
CN111694534A (zh) 拼接屏的显示单元信息的获取方法及装置
JP4710734B2 (ja) ポインティング装置、ポインティング位置検出方法及びプログラム
WO2024012463A1 (zh) 一种定位方法及装置
JP2022017914A (ja) 運用保守システム、運用保守方法および運用保守プログラム
CN112532874B (zh) 生成平面热力图的方法、装置、存储介质和电子设备
JP2012018541A (ja) 表示装置
JP2014174653A (ja) 稼動実績取得システム及び稼動実績取得方法
EP3647890B1 (en) Assembly system and method for operating an assembly system
JP2017097859A (ja) 情報処理装置と、その処理方法及びプログラム
CN105975566A (zh) 基于图像的信息搜索方法及装置
KR101669850B1 (ko) 센서 켈리브레이션 방법 및 이를 위한 전자 장치와 마커 보드 장치
JP2015188284A (ja) 端末、サーバ、作業支援システム、作業支援方法
JPWO2018158818A1 (ja) 点検支援装置、点検支援方法およびプログラム
JP6007496B2 (ja) 表示システム、表示プログラムおよび表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170605

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20180122