JP3970535B2 - Data duplication method for storage system and storage system - Google Patents
Data duplication method for storage system and storage system Download PDFInfo
- Publication number
- JP3970535B2 JP3970535B2 JP2001075365A JP2001075365A JP3970535B2 JP 3970535 B2 JP3970535 B2 JP 3970535B2 JP 2001075365 A JP2001075365 A JP 2001075365A JP 2001075365 A JP2001075365 A JP 2001075365A JP 3970535 B2 JP3970535 B2 JP 3970535B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- control device
- sub
- control devices
- side control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Techniques For Improving Reliability Of Storages (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、処理装置(ホストコンピュータ)に接続された正側制御装置と正側制御装置に接続された副側制御装置との間でデータの2重化(データのバックアップ)を行う記憶装置システムに関する。
【0002】
【従来の技術】
正・副の制御装置間で、データの2重化を行う方法として、正・副の制御装置をインタフェースケーブルで接続し、正側の制御装置が処理装置から受領したライト要求を副側の制御装置に発行することでデータの2重化を行う方法が一般的に知られている。
【0003】
更に、正・副のシステムが各々複数(M,N台)の制御装置を備え、処理装置からM台の正側制御装置にライト要求が発行されるシステムで、データの2重化を行う方法も知られている。この方法については、例えば、特開平11−85408公報に開示がある。
【0004】
この正・副のシステムが各々複数(M,N台)の制御装置を備える場合、各正側制御装置は処理装置(ホスト)から受領したライト要求に、ライト要求が発行されたライト時刻を付与して、インタフェースケーブルで接続された各副側制御装置にライト要求を発行し、副側制御装置にライトデータとライト時刻を送信する。一方、副側システムでは、複数の副側制御装置の中から1台をマスタ制御装置と設定され、その設定されたマスタ制御装置とその他の副側制御装置が、各々データ転送路によって1対1接続されている。そして、マスタ以外の副側制御装置は、正側制御装置から受領したライトデータのライト時刻(ホストから正側制御装置へのライト時刻)に関する情報を、副側のマスタ制御装置にデータ転送路で送信する。マスタ制御装置は、全ての副側制御装置から受領したライト時刻に関する情報(マスタ制御装置自身のライト時刻情報も含む)を参照して保証時刻を決定する。ここで、保証時刻とは、「全副側制御装置において、保証時刻よりも過去のライト時刻(ホストから正側へのライト時刻)が付与されているライトデータについては全て副側制御装置で受領済みであると保証できる時刻」である。即ち、決定された保証時刻は、保証時刻以前に処理装置から各正側制御装置に発行された全ライト要求に関する全ライトデータが副側制御装置で受領済み(2重化済み)であることを保証する。マスタ制御装置は、この決定した保証時刻を全副側制御装置に通知し、各副側制御装置は、保証時刻以前のライト時刻を持つライトデータの2重化が保証されたことを確認できる。そして、この保証時刻を知らされた制御装置は、例えば、正側のデータが何らかの障害で破壊された場合に、この保証時刻以前に正側制御装置から受領したデータを利用することができることになる。
【0005】
【発明が解決しようとする課題】
上記の方法では、正・副のシステムが複数の制御装置を備えるシステムにおいて、データの2重化を保証し、この副側のデータを使用するためには、保証時刻を決定する必要がある。そして、保証時刻を決定するためには、副側のマスタ制御装置とその他の各副側制御装置との間で、各副側制御装置がライト時刻に関する情報をマスタ制御装置に送信するのと、前記マスタ制御装置が決定した保証時刻を各副側制御装置に通知するので、マスタ副制御装置以外の副制御装置は各々2回の通信が必要であった。
【0006】
また上記の方法では、データの2重化を保証するための処理・通信がマスタ制御装置に集中してしまうため、特に制御装置を多数備えるようなシステムにおいては、マスタ制御装置における、通信性能と処理性能が低下してしまう課題があった。
【0007】
更に上記方法では、マスタ制御装置に、他の(N−1)台の副側制御装置と個々に通信が行える機能及び物理的な構成を持たせなければならず、特に副システムを構成する制御装置の数が多数に及ぶ場合には、マスタ制御装置にその他の全ての副側制御装置と通信を行う機能及び物理的な構成を持たせることは困難となっていた。
【0008】
更に上記方法では、マスタ制御装置に障害が発生した場合を考慮して、マスタ制御装置としての機能を副側制御装置に分散させ、冗長性を持たせることを考えると、マスタ制御装置としての機能及び物理的な構成を各副側制御装置に分散させて持たせる必要があり、このようなことの実現は非常に困難と考えられる。
【0009】
本発明の目的は、上記の課題を解決することにあり、副側制御装置間の通信回数を減らして、ライトデータの2重化を保証する処理を効率化することである。本発明の他の目的は、ライトデータの2重化を保証する処理を1台の副側制御装置に集中させず各副側制御装置に処理を分散させることである。
本発明の他の目的は、副側のマスタ制御装置を必要とせず、副システムを構成する制御装置の数が多数に及んでも実現可能(副システム構成する制御装置の数に影響されない)な、データの2重化手段を提供することである。
【0010】
【課題を解決するための手段】
上記目的を達成するために、正システムを構成する1台以上の正側制御装置から副システムを構成する2台以上の副側制御装置へデータのバックアップを行う記憶装置システムにおいて、処理装置から前記正側制御装置にライト要求があった場合に、前記ライト要求のデータにライト時刻に関する時刻情報を付与して前記正側制御装置内のキャッシュメモリに格納するステップと、前記格納された前記ライトデータと前記時刻情報を前記副側制御装置に送るステップと、前記副側制御装置内のキャッシュメモリに前記ライトデータと前記時刻情報を格納するステップと、前記副側制御装置内の前記キャッシュメモリに格納された前記時刻情報を、前記副側制御装置間を互いに接続した通信路を通して他の副側制御装置に送るステップと、第1の正側制御装置から受け取った第1の副側制御装置の時刻情報と、第2の副側制御装置から送られた時刻情報とを比較して、古い方の時刻情報を前記通信路を通して次の副側制御装置に送るステップと、前記古い方の時刻情報を前記複数の副側制御装置間を一巡させて、前記複数の副側制御装置間に前記ライトデータが二重化されたことを保証するデータ保証時刻を決定するステップとを備えるようにする。他の実現方法は、発明の実施の形態の中で、詳しく説明される。
【0011】
【発明の実施の形態】
図1は、本発明の実施形態におけるデータ2重化システムの構成概要図である。
正側複合記憶装置システムは、複数(M台、1〜m)の正側制御装置210、220、230、240から構成される。各正側制御装置は処理装置10と各々接続される。副側複合記憶装置システムは、複数(N台、1〜n)の副側制御装置310、320、330、340から構成される。処理装置と正側制御装置間、正側制御装置と副側制御装置間は、それぞれインタフェースケーブル40によって接続されている。また、副側制御装置間は通信ケーブル50によってリング状に接続され、副側制御装置間で通信できる。ここで、インタフェースケーブル40と通信ケーブル50を便宜上名称を使い分けているが、どちらも情報を通信することが出来るものであれば良い。また、信頼性を高めるため、冗長化されたインタフェースケーブル40、通信ケーブル50を使用しても良い。
【0012】
処理装置がライト要求を発行すると、ライト要求を受けた正側制御装置は、当該正側制御装置とインタフェースケーブルで接続された副側制御装置へ、ライト要求に含まれるデータを二重化するため、ライト要求を副側制御装置へ発行する。正側制御装置から副側制御装置へライト要求のデータがインタフェースケーブル40上で転送される場合、副側制御装置が受け取るライト要求のデータの受信順序は、ホストが正側制御装置へライト要求を発行した順序とは必ずしも一致しておらず、異なっていることがある。このため、副側制御装置では、これを正しい順序(ライト要求が発行された順序)に並べ替える必要がある。これを実現するため、正側の制御装置は、ホストからライト要求を受け付けた順にシーケンシャル番号を付与し、副側制御装置へライト要求のデータを転送する際は、このシーケンシャル番号も合せて送るようにする。副側制御装置はこのシーケンシャル番号を参照することで、ホストがライト要求を発行した順序を知ることができる。
【0013】
また、副側複合記憶装置システム内の副側制御装置間の通信手段として、複数の副側制御装置を通信ケーブルでリング状に接続した場合の手段について述べているが、その他の通信手段として、副側制御装置が赤外線や無線による通信手段を用いて副側制御装置間での通信を行う手段や、副側制御装置をバス接続によって接続し、バスを用いて通信を行う手段等も考えられる。いずれの通信プロトコル(通信手段)を用いるにしろ、以下に説明する本実施例ないし実施形態と同様の方法で(本実施例ないし実施形態と同種の情報を通信することで)データの2重化処理を実行することが可能である。
【0014】
次に、制御装置の構成を詳しく説明する。
【0015】
図14は、正側制御装置210の構成図を示す。なお、本実施例における制御装置は正側、副側にかかわらず全て制御装置210と同じ構成である。制御装置は、処理装置10とのデータや制御情報の受け渡し、他制御装置111とデータや制御情報の受け渡し(正副制御装置間でのデータや制御情報の受け渡し)、及び、副側複合記憶装置システム内の複数の副側制御装置間でのデータや制御情報の受け渡しを行う、マイクロコンピュータ制御のチャネルアダプタ112を有する。更に、制御装置は、ディスクドライブ等の外部記憶装置113とのデータの受け渡しを行うマイクロコンピュータ制御のディスクアダプタ114、受領したデータを格納するための不揮発キャッシュメモリ115、制御装置の共有情報を格納するためのシェアドメモリ116、制御装置内でチャネルアダプタ、ディスクアダプタ、不揮発キャッシュメモリ、及び、シェアドメモリ間のデータや制御情報の転送を行うバス119を有する。ここで、図14の当該装置が正側制御装置の場合は他制御装置111とは副側制御装置に相当し、この2つの正副制御装置間でデータの受け渡しや正副間の制御装置間通信が行われる。また、図14の当該装置が副側制御装置の場合は、他制御装置としては正側制御装置のほか、副側複合記憶装置システム内の他の副側制御装置に相当することもある。なお、制御装置210と外部記憶装置113とを合せて、記憶システムを構成する。この記憶システムは処理装置10から見て、外部記憶装置となる。処理装置がメインフレーム系のコンピュータの場合、外部記憶装置はサブシステムと呼ばれる。
【0016】
図15は、図14で示したチャネルアダプタ112の詳細な構成図である。チャネルアダプタ112は、処理装置10及び他の制御装置111からのデータを受領するデータ受領部211、処理装置10及び他の制御装置111にデータを送信するデータ送信部212、本発明を実行するためのプログラムを含むプログラムの格納部分である不揮発メモリ117、及び、プログラム実行部分であるマイクロプロセッサ118より構成される。
【0017】
次に、図2および図3を用いて、ホストがライト要求を発行する際の正側制御装置の動作、および、正側制御装置から副側制御装置へライト要求を発行する際の正副制御装置の動作を説明する。
【0018】
図2は、正側制御装置1(210)における、処理装置10からのライト要求を受けた場合の処理について表している。正側制御装置1(210)のデータ受領部213(図15のデータ受領部211)は、処理装置10からライト要求を受領すると、ライトデータに時刻情報を付与して、冗長化された正側不揮発キャッシュメモリ212a,212b(図14の不揮発キャッシュメモリ115)に格納し、処理装置10にライト要求の完了報告を行う。時刻情報としては、処理装置がタイマーを有し、タイマーから得た時刻情報を付与したライト要求を発行してくる場合は、このライト要求に付与されている時刻情報を用いることができる。一方、処理装置がタイマーを有していない場合は、複数の正側制御装置が有するタイマーからライト要求を受けた時刻を取得し、取得した時刻情報を用いる。なお、制御装置は、前述したように、処理装置が発行した順序、即ち、正側処理装置がライト要求を受け付けた順序でシーケンシャル番号も合せて格納する。
【0019】
図3は、正側制御装置1(210)から副側制御装置1(310)へライト要求を発行した場合の処理を示す。正側制御装置1(210)のデータ送信部214(図15のデータ送信部212)は、インタフェースケーブル40で接続された副側制御装置1に対してライト要求を発行し、正側不揮発キャッシュメモリ212aに格納したライトデータ、時刻情報、シーケンシャル番号の転送を行う。副側制御装置1(310)のデータ受領部215(図15のデータ受領部211)は、受け取ったライトデータ、時刻情報(処理装置から正側へのライト時刻であり、以下に記述する「時刻情報」もすべて処理装置から正側へのライト時刻)、シーケンシャル番号を副側不揮発キャッシュメモリ312a(図14の不揮発性キャッシュメモリ115)に格納する。このほかの正側制御装置2〜mと、副側制御装置2〜nの間でも、処理装置からライト要求を受けた場合は、同様に、正側制御装置から副側制御装置へライト要求が発行される。
【0020】
図4は、副側制御装置1(310)の副側不揮発キャッシュメモリ312a(図14の不揮発性キャッシュメモリ115)上に設けられたライトデータ管理情報テーブル700の構造を表している。副側制御装置1は、正側制御装置1(210)から受領したライトデータを副側不揮発キャッシュメモリ312aに設けられたライトデータ管理情報テーブル700によって管理する。このライトデータ管理情報テーブルには、シーケンシャル番号701、ライトデータの時刻情報721、ライトデータが格納されている副側不揮発キャッシュメモリ312a(図14の不揮発性キャッシュメモリ115)のアドレス情報711等が、格納される。副側制御装置310は、正側制御装置210から送られるライトデータを、必ずしも時刻情報の古いものから順に受領するとは限らず、ライトデータに一時的に抜けが発生する場合がある。そのため、副側制御装置は、ライトデータ管理情報テーブルに格納されているシーケンシャル番号701を参照し、この番号に抜けが有るか否かを調べ、このシーケンス番号に抜けが無く連続して受領している最新のライト要求を見つける。そして、副側制御装置は、このライト要求が有する時刻情報が示す時刻までのライトデータを受信していると判断する。即ち、副側制御装置310は、ライトデータ管理情報テーブル700を参照することにより、どの時刻以前の時刻情報を持つライトデータは連続して受領済みで、どの時刻よりも後の時刻情報を持つライトデータには抜けがあるかを確認することが出来る。テーブル700の例では、シーケンシャル番号705に抜けがあり、シーケンシャル番号がNo.5であるライトデータを未受領であり、時刻情報4以前の全ライトデータを、副側制御装置が受領していることが分かる。
【0021】
副側複合記憶装置システムの各々の副側制御装置は、このライトデータ管理情報テーブルを有し、自身が受領したライトデータ及びその時刻情報の管理を行っている。また、1台の副側制御装置に対して、複数台の正側制御装置が接続されるケースでは、副側制御装置は接続される正側制御装置の台数分のライトデータ管理情報テーブルを持つ。
【0022】
次に、正側制御装置からライトデータを受領した副側制御装置が保証時刻を決定する動作と保証時刻を通知する動作の説明を通して、受領したライトデータの2重化を保証する方法を以下に説明する。
最初に図16を用いて、保証時刻の決定と保証時刻の通知のプロセスを行うために副側制御装置間で巡回される情報について説明しておく。図16は、副側制御装置間で巡回される情報を示しており、制御装置内では副側不揮発キャッシュメモリ312a上に格納される。各情報の詳細・具体的な使われ方などは後述する。Serial#2001は、当該制御装置を識別するための制御装置の固有情報であり、副側不揮発キャッシュメモリ312a上に格納されるほか、各制御装置のシェアドメモリ116にも格納されている。要求種別2002には、「要求種別1=保証時刻決定」2003及び「要求種別2=保証時刻通知」2004の2つがあり、要求種別2002を受領した副側制御装置が「保証時刻決定の処理を行うのか」、「保証時刻通知の処理を行うのか」を判断するために使用される情報である。保証時刻2005は、それ以前の時刻情報を持つライトデータについては全て副側制御装置で受領済みであることを保証する時刻である。仮保証時刻2006は、保証時刻決定のプロセスにおいて、正式な保証時刻2005が決定されるまでの仮の保証時刻であり(詳細は後述)、これらの情報は副側不揮発キャッシュメモリ312a上に格納される。
【0023】
(1)保証時刻を決定する処理
正側制御装置から受け取ったライトデータの2重化を保証する保証時刻の決定する際の各副側制御装置での処理プロセスを以下説明する。なお、この処理プロセスは、図6に示す副側複合記憶装置システムを例にして説明する。ここで、例とする図6のシステムは、データ受領部(313、323、333、343)とデータ送信部(314、324、334、344)とを有するn個の副側制御装置(310、320、330、340)が、通信ケーブル50によってリング状に接続される構成を有するものである。なお、データ受領部(313、323、333、343)は図15のデータ受領部211が対応し、とデータ送信部(314、324、334、344)は図15のデータ送信部212が対応する。
【0024】
また、基準時刻を説明しておく。副側制御装置1(310)は、ライトデータの2重化を保証するために、副側制御装置1のライトデータ管理情報テーブル700を参照し、どの時刻までのライトデータが抜けがなく、正側制御装置から連続して到着しているかをシーケンシャル番号を用いて確認し、連続して受領しているライトデータに付与されている時刻を「基準時刻」として副側不揮発キャッシュメモリ312aに記憶する。このようにして決定された基準時刻は、当該副側制御装置に接続された正側制御装置から送信された、それ以前の時刻情報を持つライトデータについては全て当該副側制御装置で受領済みであると保証できる時刻であると言える。ライトデータ管理情報テーブル700は、各副側制御装置が有しており、基準時刻は各副側制御装置ごとに決定され、各副側制御装置の副側不揮発キャッシュメモリに記憶される。
【0025】
以下、具体的に保証時刻決定のプロセスを説明する。
【0026】
まず、最初に保証時刻を決定するための情報を送信する副制御装置の動作を説明する。副側制御装置1(310)は、副側制御装置間通信送信部314より、シェアドメモリ116上に格納されている自身のSerial#(各制御装置に固有の情報)、要求種別=保証時刻決定(送信の要求種別を保証時刻決定と云う種別にする)、及び、仮保証時刻(自身が記憶した基準時刻)2006を、接続先の副側制御装置2(320)に転送する(図6のデータ送信部314からデータ受領部323へ向けての送信)。要求種別には送り側の副側制御装置1(310)が何を目的にして送信を行っているかの情報が格納されており、受け側の副側制御装置2(320)は要求種別を参照してどういう処理をすれば良いのかを判断することができる。
【0027】
次に、図5を用いて、副制御装置が送信した情報を順次受信する副制御装置の動作を説明する。副側制御装置2(320)は、副制御装置1から、要求種別1=保証時刻決定をデータ受領部(323)で受け取ると(ステップ802)、受信したSerial#とシェアドメモリに格納されている自Serial#とを比較して、受信したSerial#2001と自身のSerial#が異なるか否かを確認する(ステップ803)。異なる場合、副側制御装置2(320)は、自身の基準時刻を決定し(ステップ804)、前段の副側制御装置1(310)から受け取った仮保証時刻2006と比較する(ステップ805)。副側制御装置2(320)は、比較した結果、自身の基準時刻の方が受領した仮保証時刻2006よりも過去ならば、仮保証時刻2006を自身の基準時刻で更新する(ステップ806)。そして、副側制御装置2は、ステップ801において、副側制御装置1(310)から受け取った副側制御装置1(310)のSerial#2001、要求種別1=保証時刻決定2003とともにステップ806で更新した仮保証時刻を、次副側制御装置3(330)に送信する(ステップ807)。逆に、ステップ805で比較した結果、受領した仮保証時刻2006の方が古いならば受領した仮保証時刻2006は更新せず、副側制御装置1(310)のSerial#2001、要求種別1=保証時刻決定2003とともにステップ802で受領した仮保証時刻をそのまま次副側制御装置3(330)に送信する(ステップ807)。
【0028】
上記の処理を全副側制御装置間で繰り返し、ステップ807において最後に副側制御装置n(340)のデータ送信部(343)から副側制御装置1(310)のデータ受領部(314)へ、仮保証時刻2006、副側制御装置1(310)のSerial#2001、要求種別1=保証時刻決定2003を送信する。ステップ802において副側制御装置1(310)が、副側制御装置n(340)より受領したSerial#2001を、ステップ803において自身のSerial#と同一であることを確認することによって、受領した仮保証時刻2006が全副側制御装置を一巡して決定されたものであると認識し、仮保証時刻2006を保証時刻2005として決定する。そして、副制御装置1は、それ自身の不揮発キャッシュメモリ(312a)に、この保証時刻を格納する。
【0029】
このようにして決定された保証時刻2005はそれ以前の時刻情報を持つ、全正側制御装置から送信されたライトデータを全て副側制御装置で受領済みであると保証できる時刻である。
【0030】
また、1台の副側制御装置に複数台の正側制御装置が接続されるケースでは、各副側制御装置の基準時刻は以下のように決定される。その他の保証時刻決定のプロセスは上記と全く同様に行われる。副側制御装置は接続される各正側制御装置に対応する台数分のライトデータ管理情報テーブル700を持ち、各正側制御装置に対応するライトデータ管理情報テーブル700を参照することで、各正側制御装置からどの時刻までのライトデータが抜けがなく、連続して到着しているかを確認することが出来る。その時刻を仮基準時刻と定義すると、副側制御装置は各正側制御装置に対応する仮基準時刻の中から1番古い時刻を持つ仮基準時刻を基準時刻として副側不揮発キャッシュメモリに格納する。このようにしてして決定された基準時刻は、当該副側制御装置に接続された複数の正側制御装置から送信された、それ以前の時刻情報を持つライトデータは全て当該副側制御装置で受領済みであると保証できる時刻であると言える。
【0031】
(2)保証時刻を通知する処理
上記で保証時刻決定の処理について述べ、保証時刻2005が、保証時刻以前の時刻情報を持つ全ライトデータの2重化が保証されていることを示すこと説明したが、各副側制御装置は決定された保証時刻2005を知らないため、どの時刻までの時刻情報を持つライトデータの2重化が保証されているのかを判断することが出来ない。決定された保証時刻2005を全副側制御装置に通知し、各副側制御装置がどの時刻までのライトデータの2重化が保証出来るのか知ることで、各副制御装置は、保証時刻2005以前の時刻情報を持つライトデータの2重化を保証できる。
【0032】
まず、保証時刻を決定し不揮発キャッシュメモリにその保証時刻を格納した副制御装置1(310)は、副側制御装置間で巡回される情報のうち、要求種別2002を「要求種別=保証時刻通知」2004(送信の要求を「保証時刻通知」という種別にする)に更新し、決定した保証時刻2005、自身のSerial#2001とともに更新した要求種別(保証時刻通知)を副側制御装置2(320)に送信する。
【0033】
次に、図7を用いて、保証時刻通知を要求種別にもつ巡回情報を受領した副制御装置の動作を説明する。ステップ902において、「要求種別=保証時刻通知」をデータ受領部(323)で受け取った副側制御装置2(320)は、受け取ったSerial#2001と自身のSerial#が異なるか否かを判定する(ステップ903)。異なる場合、受領した保証時刻2005を自身の不揮発キャッシュメモリに格納する(ステップ904)とともに、ステップ902で受信した保証時刻2005を、要求種別2=保証時刻通知2004、副側制御装置1(310)のSerial#2001とともに副側制御装置3(330)に送信する(ステップ905)。
【0034】
上記の処理をリング状に接続された通信ケーブル50に沿って全副側制御装置間で繰り返し、最後にステップ901において副側制御装置n(340)のデータ送信部(344)から副側制御装置1(310)のデータ受領部313に保証時刻2005、副側制御装置310のSerial#2001、要求種別=保証時刻通知2004を送信する(ステップ905)。そして、副側制御装置1(310)は、ステップ902において副側制御装置n(340)からSerial#を受領し、ステップ903において、受領したSerial#2001が自身のSerial#と同一であることを確認すると、保証時刻通知がリング状に接続された副制御装置を一巡したとして、保証時刻2005が全副側制御装置に通知されたことを認識する。
【0035】
以上(1)(2)で説明したように、保証時刻2005を決定し全副側制御装置に通知することによって各副側制御装置は自身の副側不揮発キャッシュメモリ上のライトデータが保証時刻2005以前のものか以後のものかを判断することが可能となり、保証時刻2005以前の時刻情報を持つライトデータの2重化が保証される。
【0036】
(3)保証時刻の決定と保証時刻の通知を一緒に行う処理
次に、保証時刻の通知と、次回の保証時刻の決定とを一緒にして同時的に行う場合の各副側制御装置での処理プロセスを示す。次回の保証時刻の決定と保証時刻の通知とを一緒に行うことにより、処理の効率化を図ることができる。また、従来の方法では、データの2重化を保証するために、保証時刻の決定のための通信と保証時刻の通知のための通信とでマスタ制御装置と各副側制御装置の間で2回の通信が必要であったのに対し、本処理方法では保証時刻の決定と保証時刻の通知のための通信を一緒に(同時的に)行うことにより、各副側制御装置間で1回の通信を行えばデータの2重化を保証することができる。
【0037】
まず、副側制御装置1(310)は、副側制御装置n(340)から受け取った仮保証時刻2006を保証時刻2005として決定し、自身の不揮発キャッシュメモリ312aに格納するとともに、保証時刻2005を要求種別2=保証時刻通知2004とともに副側制御装置2(320)に転送する。この際、更に、副側制御装置1(310)は、次の保証時刻決定のための自身の現在の基準時刻である仮保証時刻2006、自身のSerial#2001、要求種別1=保証時刻決定2003も合せて、副側制御装置間通信送信部314より、接続先の副側制御装置2(320)に送信する。即ち、自制御装置のSerial#、要求種別1(保証時刻決定)、仮保証時刻、要求種別2(保証時刻通知)、保証時刻が、次副側制御装置へ、一緒に転送される。
【0038】
次に、保証時刻通知と保証時刻決定要求とを1つの処理として受領した副制御装置の動作を、図8で説明する。副側制御装置2(320)は、要求種別1=保証時刻決定2003と要求種別2=保証時刻通知2004をデータ受領部(323)で一緒に受け取ると(ステップ1002)、受け取ったSerial#と自身のSerial#が異なることを確認し(ステップ1003)、受領した保証時刻2005を自身の不揮発キャッシュメモリに格納する(ステップ1004)。更に、副側制御装置2は、自身の基準時刻を決定し、副側制御装置1(310)から受け取った仮保証時刻2006と比較する(ステップ1005)。比較した結果(ステップ1006)、副側制御装置2自身の基準時刻の方が仮保証時刻2006よりも過去ならば、ステップ1007において仮保証時刻2006を自身の基準時刻で更新し、ステップ1001へ進む。過去でないなら、受信した仮保証時刻をそのままにし、その仮保証時刻は更新せずに、ステップ1008へ進む。そして次のステップ1008において、副側制御装置1(310)から受け取った副側制御装置1(310)のSerial#2001、要求種別1=保証時刻決定2003を仮保証時刻とともに副側制御装置3(330)に送信するのと一緒に、要求種別2=保証時刻通知2004と保証時刻2005も次段の副側制御装置3(330)に送信する。
【0039】
上記の処理を全副側制御装置間で繰り返し、ステップ1002において最後に副側制御装置n(340)のデータ送信部(343)から、副側制御装置1(310)のデータ受領部(314)へ、副側制御装置1(310)のSerial#2001、要求種別1=保証時刻決定2003、仮保証時刻2006、要求種別2=保証時刻通知2004、保証時刻2005が送信される。副側制御装置1(310)は、副側制御装置n(340)からSerial#2001を受信し(ステップ1002)、この受信したSerial#が自身のSerial#2001と同一であることを確認することによって(ステップ1003)、保証時刻2005が全副側制御装置に通知されたことを認識する。更に、受領した仮保証時刻2006が全副側制御装置を一巡して決定されたものであると認識し、仮保証時刻2006を次回の保証時刻として決定する。
【0040】
以上のように保証時刻の決定処理と保証時刻の通知処理とを一緒に行うことにより、ライトデータの2重化を保証するために必要な、各副側制御装置間での通信回数を1回に抑えることが可能となる。
【0041】
次に、リング状に接続された副側制御装置間で、保証時刻の決定と保証時刻の通知を一緒に行う処理を複数個(例では2個)並行して実行した場合について説明する。処理を複数個並行して実行することにより、ライトデータの2重化を保証する処理の実行間隔を短縮することが可能となる。図9および図10は、これを説明する図である。図9は、リング状に接続された副側制御装置間で、上記の保証時刻決定と保証時刻の通知を一緒に行う処理を、2つ並行して行った場合の概念図を示す。図10は、図9に示す方法の優位性を示すための比較例を示すものであり、上記の保証時刻決定と保証時刻の通知処理を1つだけ行った場合の概念図を示す。
【0042】
図9において、副側制御装置間で巡回する情報1(1101)は、処理(3)で説明した保証時刻決定と保証時刻通知を一緒に行うための情報を含んでおり、Serial#2001、要求種別1=保証時刻決定2003、要求種別2=保証時刻通知2004、保証時刻2005、仮保証時刻2006から構成される。また、情報2(1102)も副制御装置間で巡回する、保証時刻決定と保証時刻通知のための情報(情報1と同種の情報だが中身が異なる)である。そして、図9では、これら情報1(1101)と情報2(1102)の2つを、リング状に接続された副側制御装置間(310,320,330,340)で並行して巡回させることによって、保証時刻の決定と保証時刻の通知処理が2つ並行して行われるようになる。これは、2つの情報が同時に巡回しているので、1つの場合と比べて、情報が巡回してくる間隔が短く、保証時刻の決定と保証時刻の通知が速く行われるようになる。
【0043】
図10では、1つの情報1だけがリング状に接続された副側制御装置間で巡回しているので、図9のように情報を2つ同時に巡回させている場合と比較して、情報が巡回してくる間隔が長くなり保証時刻の決定と保証時刻の通知が遅くなる。
【0044】
今、図9および図10において、リング状に接続された4つの副制御装置間を情報が一巡して保証時刻以前の時刻情報を持つライトデータの2重化が保証されるまでの時間を間隔T(1201)とする。
【0045】
この場合、図10に示す例では、ライトデータの2重化の保証処理を1つの情報1の巡回を繰り返して保証するので、図11に示すように間隔Tでライトデータの2重化保証処理が繰り返されることになる(1201、1202、・・・)。見方を変えれば、現時刻よりも間隔T以前のライトデータは、2重化が保証されていることになる。
【0046】
一方、図9に示す例では、リング状に接続された複数の副側制御装置間で、情報1(1101)と情報2(1102)を、T/2の間隔で2個並行して巡回することになる。そうすると、情報1が副側制御装置間を一巡し保証時刻以前の時刻情報を持つライトデータの2重化を保証した後、T/2の間隔で、情報2が副側制御装置間を一巡し、保証時刻以前の時刻情報を持つライトデータの2重化を保証することになる。即ち、ライトデータの2重化保証処理を2つの情報(情報1、情報2)の巡回を繰り返した場合、図12に示すように間隔T/2でライトデータの2重化保証処理が繰り返される(1301、1302、1303、1304、・・・)。見方を変えれば、現時刻よりも間隔T/2以前のライトデータは2重化が保証されていることになる。
【0047】
このように、リング状に接続された副側制御装置間で、保証時刻の決定と保証時刻の通知を一緒に行う処理を1個だけ実行した場合(図10の場合)に比べ、リング状に接続された副側制御装置間で、保証時刻の決定と保証時刻の通知を一緒に行う処理を複数個(図9は2つの場合)並行して実行することによって、より最近のライトデータまで2重化を保証することができる。
【0048】
上述の説明では、リング状に接続された副側制御装置間で、保証時刻の決定と保証時刻の通知を一緒に行う処理を2個並行して実行した場合の例にとったが、処理を3個,4個と複数個並行して実行することにより、さらに最近のライトデータまで2重化を保証することも可能となる。但し、ここで注意しておきたいのは、保証時刻の決定と保証時刻の通知を一緒に行うための情報が、副制御装置間をリング状に結ぶ通信ケーブル上を、物理的に同時に複数通信できることが必要ということである。もし、副制御装置間が論理的にリング状に結ばれている場合でも、保証時刻の決定と保証時刻の通知を一緒に行う処理のための情報が通信ケーブルの上で、同時に転送できなければ、保証間隔Tを短縮することは難しい。例えば、バスを用いて論理的に巡回接続を実施した場合には、負荷が集中する副制御装置は存在しないが、バスは同時には1つの通信しかできないので、保証時刻の決定と保証時刻の通知を一緒に行う処理を2個並行して送信することはできない。
【0049】
また、2重化の保証された副側不揮発キャッシュメモリのライトデータは、外部記憶装置113に書き込まれた後、副側不揮発キャッシュメモリから破棄されることが許される。そのため、ライトデータの二重化が速く保証されれば、外部記憶装置にライトデータを速く書き込め、不揮発性キャッシュメモリからライトデータを速く破棄できるので、キャッシュメモリの使用率を抑えることができ、システムとしての動作性能を高めることができる。即ち、保証時刻決定及び保証時刻の通知処理を複数個並行して行うことにより、データの二重化を保証するまでの時間を短縮できるので、データ2重化処理に伴う副側不揮発キャッシュメモリの使用率を低くすることが可能であるとともに、万が一、副システムに障害が発生した場合にロストするデータ量(2重化が保証できないデータ量)も少なくすることが可能となる。
【0050】
図13はリング状に接続された副側制御装置(310、320、330)によって構成される副システムに、オンラインで副側制御装置4(340)を1台増設する場合の説明図である。まず、既存の通信路a(1401)(実線で示される部分)とは別に、予め、通信ケーブル50を使って、副側制御装置4(340)を1台増設した後の通信路b(1402)(破線で示される部分)を構築しておく。そして、副制御装置3(330)のデータ送信部に、通信ケーブル50で接続される2台の副側制御装置1(310)および副側制御装置4(340)の中から選択的に1台の副側制御装置を指定して情報を送信する機能を設け、指示(コマンド)により、副側制御装置3の情報送信先を副側制御装置1(310)から副側制御装置4(340)に切り替えるようにする。これにより、オンラインでの副側制御装置の増設が可能となる。
【0051】
以上説明したように、本発明の実施形態に係る記憶装置システムは、次のような構成上の特徴と機能を奏するものである。
【0052】
本実施形態では、全ての副側制御装置(N台)を通信ケーブル等の通信路で接続し、各副側制御装置が接続先の制御装置と通信することによって、全副側制御装置間で情報が巡回可能な構成なっている。このため、各副側制御装置は、自身が正側制御装置から受け取ったライトデータに付与された時刻情報を上記の通信路に沿って、全副側制御装置間で巡回することで保証時刻を決定し、決定した保証時刻に関する情報を上記の通信路に沿って全副側制御装置に巡回して通知することによってデータの2重化を保証することができる。なお、情報を巡回させるための通信路に関し、実施例では、リング状に接続した通信ケーブルとしたが、通信路として赤外線や無線などの通信手段を用いた場合でも、情報を副側制御装置間で巡回可能とする通信手段であればよい。また、副側制御装置をバスに接続し、バスを利用した副側制御装置間の通信により情報を巡回できるような通信手段でもよい。
【0053】
また、この記憶装置システムでは、データの2重化を保証するための処理・通信は、個々の副側制御装置が分担して行い、1台の副側制御装置に処理・通信が集中するのを防いでいる。
【0054】
また、このシステムでは、副側制御装置の数が何台であろうと、個々の副側制御装置には、情報の通信元及び通信先の2台の制御装置と通信できる機能が備わっていれば良い。
【0055】
また、各副側制御装置が時刻情報(次回の保証時刻決定のための時刻情報)と、決定した保証時刻に関する情報とを同時に送・受信することにより、データの2重化を保証する処理における、各副側制御装置間での通信回数を1回に抑えることができる。
【0056】
また、通信路で接続された2台の副側制御装置a,bの間に副側制御装置cを1台増設する場合に、増設する副側制御装置cを2台の副側制御装置a,bと接続して予め通信路を構築し、副側制御装置aの通信先を副側制御装置bから副側制御装置cに切り替えること(1403)により、オンラインでの制御装置の増設を可能としている。
【0057】
また、M対N台の複数の正・副制御装置間で、データの2重書きを行う機能に関して、従来の方法ではデータの2重化を保証するためにはマスタ制御装置とその他の各副側制御装置の間で保証時刻の決定と通知とで各々計2回の通信回数が必要であるが、本実施例では、各副側制御装置間で1回の通信で保証時刻の決定と通知とを同時に行うことを可能とし、データ2重化処理の効率化を図り、正・副の制御装置の数が多数に及ぶ場合においても、1台の副側制御装置に負荷を集中させることなく、データの2重化を行えることを示している。
【0058】
【発明の効果】
全副側制御装置をループ接続し、各副側制御装置は、正側制御装置から受信したデータに付与された時刻を前記ループ通信路で巡回することで保証時刻を決定できる。また、決定した保証時刻をループ通信路で巡回することで、保証時刻を通知できる。また、保証時刻の決定および通知を通して、複数の正側制御装置から、複数の副側制御装置へ、一貫性のとれたデータの非同期コピーを可能とする。
【図面の簡単な説明】
【図1】 本発明の実施例に係るデータ2重化システムの概略を示す図である。
【図2】 処理装置からのライト要求に対する正側制御装置の処理の流れを示す図である。
【図3】 正側制御装置からのライト要求に対する副側制御装置の処理の流れを示す図である。
【図4】 副側制御装置に設けられるライトデータ管理情報テーブルの構成例を示す図である。
【図5】 副側制御装置での保証時刻決定処理のフローチャートである。
【図6】 本実施例に係る、通信ケーブルで接続された複数の副側制御装置の接続関係を示す図である。
【図7】 副側制御装置における保証時刻の通知処理のフローチャートである。
【図8】 副側制御装置において、保証時刻の決定処理と保証時刻の通知処理を一緒にした処理のフローチャートである。
【図9】 保証時刻の決定処理及び保証時刻の通知処理を一緒にした処理を、2つ並行して行った場合の説明図である。
【図10】 保証時刻の決定処理と保証時刻の通知処理を一緒にした処理を、1つ行った場合の説明図である。
【図11】 保証時刻の決定処理及び保証時刻の通知処理を一緒にした処理を1つ行った場合の、処理の実行間隔を示す図である。
【図12】 保証時刻の決定処理及び保証時刻の通知処理を一緒にした処理を、2つ並行して行った場合の、処理の実行間隔を示す図である。
【図13】 副システムに副制御装置を増設する場合の説明図である。
【図14】 制御装置の構成を示す図である。
【図15】 チャネルアダプタの構成を示す図である。
【図16】 保証時刻の決定処理、及び保証時刻の通知処理に使用する情報を示す図である。
【符号の説明】
10 処理装置
210,220,230,240 正側制御装置
310,320,330,340 副側制御装置
40 インタフェースケーブル
50 通信ケーブル
212a,212b 正側不揮発キャッシュメモリ
213 正側ライトデータ送信部
215 副側ライトデータ受領部
312a 副側不揮発キャッシュメモリ
700 ライトデータ管理情報テーブル
313,323,333,343 副側制御装置間通信受領部
314,324,334,344 副側制御装置間通信送信部
1201,1202 2重化保証処理実行間隔T
1301,1302,1303,1304 2重化保証処理実行間隔T/2
1401 通信路a[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a storage device system for performing data duplication (data backup) between a primary control device connected to a processing device (host computer) and a secondary control device connected to the primary control device. About.
[0002]
[Prior art]
As a method of duplicating data between the primary and secondary control devices, the primary and secondary control devices are connected by an interface cable, and the write request received from the processing device by the primary control device is controlled by the secondary side. A method of duplicating data by issuing it to an apparatus is generally known.
[0003]
Further, a method of duplicating data in a system in which each of the primary and secondary systems includes a plurality of (M, N) control devices and a write request is issued from the processing device to the M primary control devices. Is also known. This method is disclosed in, for example, Japanese Patent Laid-Open No. 11-85408.
[0004]
When each of the primary and secondary systems has a plurality of (M, N) control devices, each primary control device gives the write time when the write request is issued to the write request received from the processing device (host). Then, a write request is issued to each secondary control device connected by the interface cable, and write data and write time are transmitted to the secondary control device. On the other hand, in the secondary side system, one of the plurality of secondary side control devices is set as the master control device, and the set master control device and the other secondary side control device are in a one-to-one relationship with each other by the data transfer path. It is connected. Then, the sub-side control device other than the master transmits information on the write time of the write data received from the primary side control device (write time from the host to the primary side control device) to the sub-side master control device via the data transfer path. Send. The master control device determines the guaranteed time with reference to the information on the write time received from all the sub-control devices (including the write time information of the master control device itself). Here, the guaranteed time is “All the secondary side control devices have received all the write data to which the past write time (write time from the host to the primary side) than the guaranteed time has been received by the secondary side control device. It is a time that can be guaranteed to be. That is, the determined guarantee time indicates that all write data related to all write requests issued from the processing device to each primary control device before the guarantee time have been received (duplicated) by the secondary control device. Guarantee. The master control device notifies the determined guarantee time to all the secondary control devices, and each secondary control device can confirm that the duplication of the write data having the write time before the guarantee time is guaranteed. The control device informed of the guarantee time can use the data received from the primary control device before the guarantee time, for example, when the primary data is destroyed due to some failure. .
[0005]
[Problems to be solved by the invention]
In the above method, in a system in which the primary and secondary systems include a plurality of control devices, it is necessary to determine the guaranteed time in order to guarantee data duplication and use the secondary data. And in order to determine the guaranteed time, each sub-side control device transmits information on the write time to the master control device between the sub-side master control device and each other sub-side control device, Since the guarantee time determined by the master control device is notified to each sub-control device, each sub-control device other than the master sub-control device needs to communicate twice.
[0006]
In the above method, processing and communication for guaranteeing data duplication is concentrated on the master control device. Therefore, particularly in a system having a large number of control devices, the communication performance in the master control device There existed a subject which processing performance fell.
[0007]
Further, in the above method, the master control device must have a function and a physical configuration capable of individually communicating with the other (N-1) secondary control devices, and in particular, control for configuring the secondary system. When the number of devices reaches a large number, it has been difficult for the master control device to have a function and a physical configuration for communicating with all the other secondary control devices.
[0008]
Further, in the above method, considering the case where a failure occurs in the master control device, the function as the master control device is considered by distributing the functions as the master control device to the secondary control device and providing redundancy. In addition, it is necessary to distribute the physical configuration to each sub-side control device, and it is considered that it is very difficult to realize such a configuration.
[0009]
An object of the present invention is to solve the above-described problem, and to reduce the number of times of communication between sub-side control devices, and to improve the efficiency of processing that guarantees duplication of write data. Another object of the present invention is to distribute processing to each sub-side control device without concentrating the processing for guaranteeing the duplication of write data on one sub-side control device.
Other objects of the present invention do not require a secondary master control device, and can be realized even when the number of control devices constituting the secondary system is large (not affected by the number of control devices constituting the secondary system). It is to provide a data duplication means.
[0010]
[Means for Solving the Problems]
In order to achieve the above object, a sub-system is constituted by one or more positive-side control devices constituting the main system. 2 In a storage system that backs up data to two or more secondary control devices, when a write request is made from the processing device to the primary control device, time information related to the write time is added to the write request data. Storing in the cache memory in the primary control device; sending the stored write data and the time information to the secondary control device; and writing data to the cache memory in the secondary control device. And storing the time information, and sending the time information stored in the cache memory in the sub-side control device to another sub-side control device through a communication path connecting the sub-side control devices to each other. Step, time information of the first secondary control device received from the first primary control device, and time sent from the second secondary control device The old time information is sent to the next secondary side control device through the communication path, and the old time information is cycled between the multiple secondary side control devices, Determining a data guarantee time for guaranteeing that the write data has been duplicated between the secondary control devices. Other implementation methods are described in detail in the embodiments of the invention.
[0011]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 is a schematic configuration diagram of a data duplex system according to an embodiment of the present invention.
The primary composite storage device system includes a plurality (M units, 1 to m) of
[0012]
When the processing device issues a write request, the primary control device that has received the write request writes the data included in the write request to the secondary control device connected to the primary control device via an interface cable. Issues a request to the secondary control unit. When the write request data is transferred from the primary control device to the secondary control device via the interface cable 40, the reception order of the write request data received by the secondary control device is such that the host issues a write request to the primary control device. The order in which they are issued is not necessarily the same and may differ. For this reason, the secondary control apparatus needs to rearrange them in the correct order (the order in which the write request is issued). In order to realize this, the primary control apparatus assigns sequential numbers in the order in which write requests are received from the host, and when transferring write request data to the secondary control apparatus, the sequential numbers are also sent together. To. By referring to this sequential number, the secondary control device can know the order in which the host issued the write request.
[0013]
In addition, as a communication means between the secondary side control devices in the secondary side composite storage device system, a means when a plurality of secondary side control devices are connected in a ring shape with a communication cable is described, but as other communication means, A means for the sub-side control device to communicate between the sub-side control devices using infrared or wireless communication means, a means for connecting the sub-side control device by bus connection and performing communication using the bus, etc. are also conceivable. . Whichever communication protocol (communication means) is used, this embodiment described below Or embodiment and In the same way (this example Or embodiment It is possible to perform data duplication processing (by communicating the same type of information).
[0014]
Next, the configuration of the control device will be described in detail.
[0015]
FIG. 14 shows a configuration diagram of the positive-
[0016]
FIG. 15 is a detailed configuration diagram of the
[0017]
Next, using FIG. 2 and FIG. 3, the operation of the primary control device when the host issues a write request, and the primary and secondary control device when issuing a write request from the primary control device to the secondary control device The operation of will be described.
[0018]
FIG. 2 shows processing when the write request from the
[0019]
FIG. 3 shows processing when a write request is issued from the primary control apparatus 1 (210) to the secondary control apparatus 1 (310). The data transmission unit 214 (
[0020]
FIG. 4 shows the structure of the write data management information table 700 provided on the secondary
[0021]
Each secondary side control device of the secondary side composite storage system has this write data management information table, and manages the write data received by itself and its time information. In addition, in the case where a plurality of primary control devices are connected to one secondary control device, the secondary control device has a write data management information table for the number of connected primary control devices. .
[0022]
Next, a method for guaranteeing duplication of received write data through the explanation of the operation for determining the guarantee time and the operation for notifying the guarantee time when the secondary control device that received the write data from the primary side control device will be described below. explain.
First, information that is circulated between the secondary control devices in order to perform the guarantee time determination and guarantee time notification process will be described with reference to FIG. FIG. 16 shows information circulated between the secondary side control devices, and is stored in the secondary side
[0023]
(1) Processing for determining guaranteed time
A processing process in each sub-side control device when determining a guarantee time for guaranteeing duplication of the write data received from the primary side control device will be described below. This processing process will be described by taking the secondary composite storage system shown in FIG. 6 as an example. Here, the system of FIG. 6 as an example has n sub-side control devices (310, 310, 343) having data receiving units (313, 323, 333, 343) and data transmitting units (314, 324, 334, 344). 320, 330, 340) are connected in a ring shape by the
[0024]
The reference time will be described. The secondary side control device 1 (310) refers to the write data management information table 700 of the secondary
[0025]
The process for determining the guaranteed time will be specifically described below.
[0026]
First, the operation of the sub-control device that transmits information for determining the guaranteed time will be described first. The sub-side control device 1 (310) determines its own Serial # (information unique to each control device) stored in the shared
[0027]
Next, the operation of the sub-control device that sequentially receives information transmitted by the sub-control device will be described with reference to FIG. When the secondary control device 2 (320) receives the
[0028]
The above processing is repeated between all the secondary control devices, and finally, in
[0029]
The guaranteed
[0030]
Further, in the case where a plurality of primary control devices are connected to one sub control device, the reference time of each sub control device is determined as follows. The other guarantee time determination processes are performed in the same manner as described above. The secondary control device has the same number of write data management information tables 700 corresponding to the connected primary control devices, and each of the primary control devices can be referred to by referring to the write data management information table 700 corresponding to each primary control device. It is possible to confirm to what time the write data has not been lost from the side control device and have arrived continuously. If the time is defined as a temporary reference time, the secondary control device stores the temporary reference time having the oldest time from the temporary reference times corresponding to each primary control device as the reference time in the secondary nonvolatile cache memory. . The reference time determined in this way is all the write data having time information transmitted from the plurality of primary side control devices connected to the secondary side control device is the secondary side control device. It can be said that it is a time when it can be guaranteed that it has been received.
[0031]
(2) Processing to notify the guarantee time
The guarantee time determination process has been described above, and it has been explained that the
[0032]
First, the sub-control device 1 (310) that determines the guarantee time and stores the guarantee time in the non-volatile cache memory sets the
[0033]
Next, the operation of the sub-control apparatus that has received the cyclic information having the guarantee time notification as the request type will be described with reference to FIG. In
[0034]
The above processing is repeated among all the secondary control devices along the
[0035]
As described in (1) and (2) above, by determining the guaranteed
[0036]
(3) Processing to determine the guarantee time and notify the guarantee time together
Next, a processing process in each sub-side control device in the case where the notification of the guarantee time and the determination of the next guarantee time are performed simultaneously will be shown. By determining the next guaranteed time and notifying the guaranteed time together, the processing efficiency can be improved. Further, in the conventional method, in order to guarantee duplication of data, communication between the master controller and each secondary controller is performed between the communication for determining the guarantee time and the communication for notifying the guarantee time. This processing method requires one communication between each sub-side control device by performing communication for determining the guaranteed time and communicating for the guaranteed time together (simultaneously). Thus, it is possible to guarantee data duplication.
[0037]
First, the secondary side control device 1 (310) determines the
[0038]
Next, the operation of the sub-control apparatus that has received the guarantee time notification and the guarantee time determination request as one process will be described with reference to FIG. Upon receiving the
[0039]
The above processing is repeated between all the secondary control devices, and finally, in
[0040]
By performing the guarantee time determination process and the guarantee time notification process together as described above, the number of times of communication between the sub-side control devices required to guarantee the duplication of the write data is once. It becomes possible to suppress to.
[0041]
Next, a case will be described in which a plurality of (two in the example) processes for determining the guarantee time and notifying the guarantee time are executed in parallel between the secondary control devices connected in a ring shape. By executing a plurality of processes in parallel, it is possible to shorten the execution interval of the process that guarantees duplication of write data. FIG. 9 and FIG. 10 are diagrams for explaining this. FIG. 9 is a conceptual diagram in the case where two processes for performing the guarantee time determination and the guarantee time notification together are performed in parallel between the secondary control devices connected in a ring shape. FIG. 10 shows a comparative example for showing the superiority of the method shown in FIG. 9, and shows a conceptual diagram when only one guarantee time determination and guarantee time notification process is performed.
[0042]
In FIG. 9, information 1 (1101) that circulates between the sub-control devices includes information for performing the guarantee time determination and the guarantee time notification described in the process (3) together.
[0043]
In FIG. 10, since only one piece of
[0044]
Now, in FIG. 9 and FIG. 10, the interval between the time when the information is cycled between the four sub-controllers connected in a ring shape and the duplication of the write data having the time information before the guaranteed time is guaranteed. Let T (1201).
[0045]
In this case, in the example shown in FIG. 10, the write data duplication guarantee process is guaranteed by repeating one
[0046]
On the other hand, in the example shown in FIG. 9, two pieces of information 1 (1101) and information 2 (1102) are circulated in parallel at intervals of T / 2 between a plurality of secondary control devices connected in a ring shape. It will be. Then, after the
[0047]
In this way, compared to the case where only one process for performing the determination of the guarantee time and the notification of the guarantee time together is executed between the secondary control devices connected in a ring shape (in the case of FIG. 10), By executing a plurality of processes (in the case of two in FIG. 9) for simultaneously determining the guarantee time and notifying the guarantee time between the connected secondary side control devices, up to the most
[0048]
In the above description, an example has been taken in which two processes for performing the determination of the guarantee time and the notification of the guarantee time are executed in parallel between the secondary control devices connected in a ring shape. By executing three or four in parallel, it becomes possible to guarantee duplication of even the most recent write data. However, it should be noted here that information for simultaneously determining the guarantee time and notifying the guarantee time is a plurality of simultaneous communication over the communication cable that connects the sub-control devices in a ring shape. It is necessary to be able to do it. Even if the sub-controllers are logically linked in a ring, if the information for processing to determine the guarantee time and notify the guarantee time cannot be transferred simultaneously on the communication cable It is difficult to shorten the guarantee interval T. For example, when logical connection is carried out using a bus, there is no sub-control device where the load is concentrated, but since the bus can only perform one communication at the same time, the guarantee time is determined and the guarantee time is notified. It is not possible to send two processes that perform the above together in parallel.
[0049]
Also, the write data in the secondary nonvolatile cache memory that is guaranteed to be duplicated is allowed to be discarded from the secondary nonvolatile cache memory after being written to the
[0050]
FIG. 13 is an explanatory diagram when one sub-side control device 4 (340) is added online to a sub-system composed of sub-side control devices (310, 320, 330) connected in a ring shape. First, apart from the existing communication path a (1401) (part indicated by a solid line), the communication path b (1402) after adding one secondary control device 4 (340) using the
[0051]
As described above, the storage system according to the embodiment of the present invention has the following structural features and functions.
[0052]
In the present embodiment, all the sub-side control devices (N units) are connected by a communication path such as a communication cable, and each sub-side control device communicates with the connection-destination control device. Is configured to be patrol. For this reason, each secondary control device determines the guaranteed time by circulating the time information given to the write data received from the primary control device among all the secondary control devices along the communication path. Then, it is possible to guarantee the duplication of data by circulating information about the determined guarantee time to all the secondary side control devices along the communication path. In addition, regarding the communication path for circulating information, in the embodiment, a communication cable connected in a ring shape is used. However, even when communication means such as infrared or wireless is used as the communication path, information is transferred between the sub-control devices. Any communication means that can be circulated in the network may be used. Alternatively, a communication means may be used in which the secondary control device is connected to a bus and information can be circulated by communication between the secondary control devices using the bus.
[0053]
In this storage system, processing and communication for guaranteeing data duplication is shared by each sub-side control device, and processing and communication is concentrated on one sub-side control device. Is preventing.
[0054]
Also, in this system, no matter how many sub-side control devices are provided, each sub-side control device has a function capable of communicating with two control devices, that is, an information communication source and a communication destination. good.
[0055]
Further, each sub-side control device simultaneously transmits and receives time information (time information for determining the next guaranteed time) and information related to the determined guaranteed time, thereby ensuring data duplication. The number of communications between the sub-side control devices can be reduced to one.
[0056]
Further, when adding one secondary control device c between two secondary control devices a and b connected via a communication path, the secondary control device c to be added is replaced by two secondary control devices a. , B to establish a communication path in advance and switch the communication destination of the secondary control device a from the secondary control device b to the secondary control device c (1403), enabling the addition of online control devices It is said.
[0057]
In addition, regarding the function of performing double data writing between a plurality of M-to-N primary / secondary control devices, in the conventional method, in order to guarantee data duplication, the master control device and each of the other sub-control devices. In the present embodiment, the guarantee time is determined and notified by one communication between the sub-control devices. Can be performed simultaneously, improving the efficiency of data duplication processing, and even when the number of primary and secondary control devices is large, the load is not concentrated on one secondary control device. This indicates that data can be duplicated.
[0058]
【The invention's effect】
All the sub-control devices are connected in a loop, and each sub-control device can determine the guaranteed time by circulating the time given to the data received from the primary control device through the loop communication path. Further, the guaranteed time can be notified by circulating the determined guaranteed time on the loop communication path. Further, it is possible to perform consistent asynchronous copy of data from a plurality of primary control devices to a plurality of secondary control devices through determination and notification of guarantee times.
[Brief description of the drawings]
FIG. 1 shows an outline of a data duplication system according to an embodiment of the present invention. It is a figure .
FIG. 2 shows a processing flow of the primary control device in response to a write request from the processing device. It is a figure .
FIG. 3 shows a flow of processing of the secondary control device in response to a write request from the primary control device. It is a figure .
FIG. 4 shows a configuration example of a write data management information table provided in the sub-control device. It is a figure .
FIG. 5 is a flowchart of guaranteed time determination processing in the sub-side control device. Is .
FIG. 6 shows a connection relationship of a plurality of sub-side control devices connected by communication cables according to the present embodiment. It is a figure .
FIG. 7 is a flowchart of a guarantee time notification process in the sub-control device. Is .
FIG. 8 is a flowchart of a process in which a guarantee time determination process and a guarantee time notification process are combined in the secondary control apparatus; Is .
FIG. 9 is an explanatory diagram when two processes are performed in parallel with a guarantee time determination process and a guarantee time notification process;
FIG. 10 is an explanatory diagram when one process is performed that combines the guarantee time determination process and the guarantee time notification process;
FIG. 11 shows a process execution interval when one process is performed that combines a guarantee time determination process and a guarantee time notification process. It is a figure .
FIG. 12 shows a process execution interval when two processes, which are a combination of a guarantee time determination process and a guarantee time notification process, are performed in parallel. It is a figure .
FIG. 13 is an explanatory diagram when adding a secondary control device to the secondary system;
FIG. 14 shows the structure of the control device. To complete Show It is a figure .
[Fig. 15] Channel adapter configuration To complete Show It is a figure .
[Figure 16] Guaranteed time of Indicates information used for decision processing and warranty time notification processing It is a figure .
[Explanation of symbols]
10 Processing device
210, 220, 230, 240 Positive side control device
310, 320, 330, 340 Sub-side control device
40 Interface cable
50 Communication cable
212a, 212b Positive side non-volatile cache memory
213 Positive write data transmitter
215 Secondary write data receiver
312a Secondary nonvolatile cache memory
700 Write data management information table
313, 323, 333, 343 Subordinate control unit communication receiving unit
314, 324, 334, 344 Inter-sub-controller communication transmitter
1201, 1202 Duplication guarantee processing execution interval T
1301, 1302, 1303, 1304 Duplication guarantee processing execution interval T / 2
1401 Communication channel a
Claims (23)
処理装置から前記正側制御装置にライト要求があった場合に、前記ライト要求のデータにライト時刻に関する時刻情報を付与して前記正側制御装置内のキャッシュメモリに格納するステップと、
前記格納された前記ライトデータと前記時刻情報を前記副側制御装置に送るステップと、
前記副側制御装置内のキャッシュメモリに前記ライトデータと前記時刻情報を格納するステップと、
前記副側制御装置内の前記キャッシュメモリに格納された前記時刻情報を、前記副側制御装置間を互いに接続した通信路を通して他の副側制御装置に送るステップと、
第1の正側制御装置から受け取った第1の副側制御装置の時刻情報と、第2の副側制御装置から送られた時刻情報とを比較して、古い方の時刻情報を前記通信路を通して次の副側制御装置に送るステップと、
前記古い方の時刻情報を前記複数の副側制御装置間を一巡させて、前記複数の副側制御装置間に前記ライトデータが二重化されたことを保証するデータ保証時刻を決定するステップと、を備える記憶装置システムにおけるデータの二重化方法。A data duplication method for a storage system that backs up data from one or more primary control devices constituting a primary system to two or more secondary control devices constituting a secondary system,
When there is a write request from the processing device to the primary control device, the step of giving time information related to the write time to the write request data and storing it in the cache memory in the primary control device;
Sending the stored write data and the time information to the secondary control device;
Storing the write data and the time information in a cache memory in the secondary control device;
Sending the time information stored in the cache memory in the secondary side control device to another secondary side control device through a communication path connecting the secondary side control devices to each other;
The time information of the first sub-side control device received from the first primary side control device is compared with the time information sent from the second sub-side control device, and the older time information is Through to the next secondary controller,
Determining a data guarantee time for ensuring that the write data is duplicated between the plurality of sub-side control devices by making a round of the old time information between the plurality of sub-side control devices; A method for duplicating data in a storage device system.
前記複数の副側制御装置間で前記データ保証時刻を前記通信路で一巡させるステップとを備える請求項1記載の記憶装置システムのデータ二重化方法。The secondary control device notifying the data guarantee time to another secondary control device connected via the communication path;
The data duplication method for a storage system according to claim 1, further comprising a step of making the data guarantee time circulate in the communication path between the plurality of sub-side control devices.
前記複数の正側制御装置が、前記処理装置からデータを受信する第1ステップと、前記複数の正側制御装置が、前記データを処理装置から受領した時刻に関する第1の情報と前記データとを前記複数の副側制御装置へ送信する第2ステップと、前記複数の副側制御装置が、前記第1の情報に関する第2の情報を、前記複数の副側制御装置間で巡回通信する第3ステップとを有するデータ二重化方法。A method of duplicating the data from a plurality of primary control devices that receive data to be written by a processing device to a plurality of secondary control devices,
A first step in which the plurality of primary-side control devices receive data from the processing device; a first information regarding the time at which the plurality of primary-side control devices receive the data from the processing device; and the data. A second step of transmitting to the plurality of sub-side control devices; and a third step in which the plurality of sub-side control devices perform cyclic communication between the plurality of sub-side control devices on the second information relating to the first information. And a data duplexing method.
前記副側制御装置間を通信手段で互いに接続するステップと、
前記副側制御装置間で前記通信手段を通してデータの管理情報を巡回して通信し、データに関する共通の管理情報を決定するステップと、
を有する記憶装置システムにおけるデータ二重化方法。A data duplexing method in a storage system that backs up data from one or more primary control devices constituting a primary system to two or more secondary control devices constituting a secondary system,
Connecting the sub-control devices to each other by communication means;
Circulating and communicating data management information through the communication means between the sub-side control devices, and determining common management information regarding data;
A data duplication method in a storage device system comprising:
前記処理装置からデータを受信する、前記複数の正側制御装置内の複数のデータ受信部と、
前記データを処理装置から受領した時刻に関する第1の情報と前記データとを前記複数の副側制御装置へ送信する、前記複数の正側制御装置内の複数のデータ送信部と、
前記第1の情報に関する第2の情報を、第1の副側制御装置から第2の副側制御装置へ送信する、前記第1の副側制御装置内のデータ送信部と、
前記送信された前記第2の情報を受信する、前記第2の副側制御装置内のデータ受信部とを有し、
前記複数の副側制御装置は巡回通信路を形成する記憶システム。A storage system having a plurality of primary control devices that receive data to be written by a processing device, and a plurality of secondary control devices that receive the data as duplex data,
A plurality of data receiving units in the plurality of primary control devices for receiving data from the processing device;
A plurality of data transmission units in the plurality of primary-side control devices that transmit the first information about the time at which the data is received from the processing device and the data to the plurality of secondary-side control devices;
A data transmission unit in the first sub-side control device that transmits the second information related to the first information from the first sub-side control device to the second sub-side control device;
Receiving the transmitted second information, a data receiving unit in the second sub-control device,
The plurality of secondary-side control devices are storage systems that form a cyclic communication path.
処理装置から前記正側制御装置にライト要求があった場合に、前記ライト要求のデータにライト時刻に関する時刻情報を付与して前記正側制御装置内のキャッシュメモリに格納するステップと、
前記格納された前記ライトデータと前記時刻情報を前記副側制御装置に送るステップと、
前記副側制御装置内のキャッシュメモリに前記ライトデータと前記時刻情報を格納するステップと、
前記副側制御装置内の前記キャッシュメモリに格納された前記時刻情報を、前記副側制御装置間を互いに接続した通信路を通して他の副側制御装置に送るステップと、
第1の正側制御装置から受け取った第1の副側制御装置の時刻情報と、第2の副側制御装置から送られた時刻情報とを比較するステップと、
古い方の時刻情報を前記通信路を通して次の副側制御装置に送るステップと、
前記古い方の時刻情報を前記副側制御装置間を一巡させて、前記複数の副側制御装置間に前記ライトデータが二重化されたことを保証するデータ保証時刻を決定するステップと、
前記副側制御装置へ前記通信路で接続された他の副側制御装置に対して前記データ保証時刻を通知するステップと、
前記副側制御装置が、前記データ保証時刻の決定と前記データ保証時刻の通知とを、任意の時間間隔で並行して実行するステップと、
を備える記憶装置システムにおけるデータの二重化方法。A data duplication method for a storage system that backs up data from one or more primary control devices constituting a primary system to two or more secondary control devices constituting a secondary system,
When there is a write request from the processing device to the primary control device, the step of giving time information related to the write time to the write request data and storing it in the cache memory in the primary control device;
Sending the stored write data and the time information to the secondary control device;
Storing the write data and the time information in a cache memory in the secondary control device;
Sending the time information stored in the cache memory in the secondary side control device to another secondary side control device through a communication path connecting the secondary side control devices to each other;
Comparing the time information of the first secondary control device received from the first primary control device with the time information sent from the second secondary control device;
Sending the older time information to the next secondary control device through the communication path;
Determining a data guarantee time for ensuring that the write data is duplicated between the plurality of sub-side control devices by making a round of the old time information between the sub-side control devices;
Notifying the data guarantee time to another sub-control device connected to the sub-control device via the communication path;
The sub-side control device executing the determination of the data guarantee time and the notification of the data guarantee time in parallel at an arbitrary time interval;
A method for duplicating data in a storage device system comprising:
前記副側制御装置間を通信手段で互いに接続するステップと、
前記副側制御装置間で前記通信手段を通して管理情報データを並行して巡回および通信し、前記データに関する共通の管理情報を決定するステップと、
を有する記憶装置システムにおけるデータ二重化方法。A data duplexing method in a storage system that backs up data from one or more primary control devices constituting a primary system to two or more secondary control devices constituting a secondary system,
Connecting the sub-control devices to each other by communication means;
Circulating and communicating management information data in parallel through the communication means between the secondary control devices, and determining common management information related to the data;
A data duplication method in a storage device system comprising:
前記複数の正側制御装置が、前記処理装置からデータを受信する第1ステップと、
前記複数の正側制御装置が、前記データを処理装置から受領した時刻に関する第1の情報と前記データとを前記複数の副側制御装置へ送信する第2ステップと、
前記第1の情報に関する第2の情報を、第1の副側制御装置と前記複数の副側制御装置との間で巡回通信する第3ステップであって、前記第1の副側制御装置が、前記複数の副側制御装置から受信した前記第2の情報から、前記データの二重化を保証する時刻を決定する第3ステップと、
前記第1の副側制御装置により、前記保証した時刻を、前記巡回通信で前記複数の副側制御装置へ通知する第4ステップであって、前記第3ステップと前記第4ステップとを合せて実行する前記第4ステップと、
を有するデータ二重化方法。A method of duplicating the data from a plurality of primary control devices that receive data to be written by a processing device to a plurality of secondary control devices,
A first step in which the plurality of primary control devices receive data from the processing device;
A second step in which the plurality of primary-side control devices transmit first information about the time when the data is received from the processing device and the data to the plurality of secondary-side control devices;
The third step of cyclically communicating the second information related to the first information between the first sub-side control device and the plurality of sub-side control devices, wherein the first sub-side control device A third step of determining a time for guaranteeing duplication of the data from the second information received from the plurality of sub-side control devices;
The fourth step of notifying the guaranteed time to the plurality of sub control devices by the cyclic communication by the first sub control device, wherein the third step and the fourth step are combined. The fourth step of performing,
A data duplexing method.
前記処理装置が書き込むデータを受信する複数の正側制御装置と、
前記データを二重化データとして前記複数の正側制御装置から受信する複数の副側制御装置と、
前記処理装置から前記データを受信する、前記複数の正側制御装置内の複数のデータ受信部と、
前記データを前記処理装置から受領した時刻に関する第1の情報を前記複数の副側制御装置へ送信する、前記複数の正側制御装置内の複数のデータ送信部と、
前記第1の情報に関する第2の情報を、第1の副側制御装置から第2の副側制御装置へ送信する、前記第1の副側制御装置内のデータ送信部と、
前記送信された前記第2の情報を受信する、前記第2の副側制御装置内のデータ受信部とを有し、
前記複数の副側制御装置は巡回通信路を形成し、
前記第1の副側制御装置は前記第2の情報を生成し、その第2の情報を並行して送信する記憶システム。A processing device;
A plurality of primary control devices for receiving data to be written by the processing device;
A plurality of sub-side control devices that receive the data as duplex data from the plurality of primary side control devices;
A plurality of data receiving units in the plurality of primary control devices for receiving the data from the processing device;
A plurality of data transmission units in the plurality of primary-side control devices that transmit first information related to the time at which the data is received from the processing device to the plurality of secondary-side control devices;
A data transmission unit in the first sub-side control device that transmits the second information related to the first information from the first sub-side control device to the second sub-side control device;
Receiving the transmitted second information, a data receiving unit in the second sub-control device,
The plurality of secondary side control devices form a cyclic communication path,
Storage system the first secondary controller generates the second information, and transmits in parallel the second information.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2001075365A JP3970535B2 (en) | 2000-10-17 | 2001-03-16 | Data duplication method for storage system and storage system |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2000-316743 | 2000-10-17 | ||
| JP2000316743 | 2000-10-17 | ||
| JP2001075365A JP3970535B2 (en) | 2000-10-17 | 2001-03-16 | Data duplication method for storage system and storage system |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2002196989A JP2002196989A (en) | 2002-07-12 |
| JP2002196989A5 JP2002196989A5 (en) | 2005-06-02 |
| JP3970535B2 true JP3970535B2 (en) | 2007-09-05 |
Family
ID=26602239
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2001075365A Expired - Fee Related JP3970535B2 (en) | 2000-10-17 | 2001-03-16 | Data duplication method for storage system and storage system |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3970535B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005031716A (en) | 2003-07-07 | 2005-02-03 | Hitachi Ltd | Data backup method and apparatus |
-
2001
- 2001-03-16 JP JP2001075365A patent/JP3970535B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2002196989A (en) | 2002-07-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US4511958A (en) | Common bus access system using plural configuration tables for failure tolerant token passing among processors | |
| US6603744B2 (en) | Connection establishment method, communication method, state change transmission method, state changing method, wireless apparatus, wireless device, and computer | |
| US4907232A (en) | Fault-tolerant parallel processing system | |
| US7082506B2 (en) | Remote copy control method, storage sub-system with the method, and large area data storage system using them | |
| JP2864741B2 (en) | Communication system that guarantees data integrity | |
| US7944818B2 (en) | High-availability communication system | |
| US5423006A (en) | Notification and verification of state changes in a data processing input/output system | |
| JPH07262070A (en) | Renewal system and related method | |
| WO2002023814A2 (en) | Reliable multicast using merged acknowledgments | |
| JP2007060184A (en) | Network repeating installation and its control method | |
| CN104486128B (en) | A kind of system and method for realizing redundancy heartbeat between dual controller node | |
| US20050114566A1 (en) | Bandwidth utilization in a PPRC system | |
| JPS6324346A (en) | Information transmission system | |
| US6665781B2 (en) | Method and apparatus for data duplexing in storage unit system | |
| CN104683486B (en) | Method, apparatus, the distributed system of synchronization message are handled in distributed system | |
| JP3970535B2 (en) | Data duplication method for storage system and storage system | |
| JP4806382B2 (en) | Redundant system | |
| US5450073A (en) | Controlling power sequencing of a control unit in an input/output system | |
| JPH09130408A (en) | Network interface device | |
| CN115048048A (en) | Data storage system, data storage method, storage medium, and electronic device | |
| US6988176B2 (en) | Method and apparatus for data duplexing in storage unit system | |
| JP2020091839A (en) | Redundant system | |
| CN117555688A (en) | Data processing methods, systems, equipment and storage media based on active-active center | |
| JPH04137008A (en) | Method and device for facility control | |
| KR940004574B1 (en) | Communication method between upper processor and multiple lower processors |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040812 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040812 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20040812 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20061023 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070213 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070220 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070419 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070515 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070606 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100615 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110615 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110615 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120615 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120615 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130615 Year of fee payment: 6 |
|
| LAPS | Cancellation because of no payment of annual fees |