WO2025142797A1 - 遠隔操作支援方法、遠隔操作支援装置及びプログラム - Google Patents
遠隔操作支援方法、遠隔操作支援装置及びプログラム Download PDFInfo
- Publication number
- WO2025142797A1 WO2025142797A1 PCT/JP2024/045318 JP2024045318W WO2025142797A1 WO 2025142797 A1 WO2025142797 A1 WO 2025142797A1 JP 2024045318 W JP2024045318 W JP 2024045318W WO 2025142797 A1 WO2025142797 A1 WO 2025142797A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- distance
- remote operation
- sense
- vehicle
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/09—Arrangements for giving variable traffic instructions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Definitions
- This disclosure relates to a remote operation support method, a remote operation support device, and a program.
- One of the objectives of this disclosure is to provide appropriate support for operators in remote operation.
- FIG. 1 is a diagram showing an example of a schematic configuration of a remote control system 1 according to an embodiment.
- the remote control system 1 includes multiple vehicles 10A, 10B (two in the example of FIG. 1), a remote control assistance device 20, and a terminal device 30.
- FIG. 1 shows two vehicles 10A and 10B as an example, but this is not limiting, and the number of vehicles 10 included in the remote control system 1 can be changed as desired depending on design conditions, etc.
- vehicles 10A and 10B when vehicles 10A and 10B are not to be distinguished from each other, they will simply be referred to as "vehicle 10".
- vehicle 10 when vehicles 10A and 10B are not to be distinguished from each other, they will simply be referred to as "vehicle 10".
- vehicle 10 when vehicles 10A and 10B are not to be distinguished from each other, they will simply be referred to as "vehicle 10".
- vehicle 10 when vehicles 10A and 10B are not to be distinguished from each other, they will simply be referred to as "ve
- the storage unit 220 stores the tilt information in association with each vehicle 10.
- FIG. 6 is a diagram showing an example of the distance sense information according to the embodiment, which is tilt information associated with each vehicle ID.
- the storage unit 220 stores the tilt information in association with each vehicle ID indicating information for identifying a vehicle. Note that the storage format of the tilt information is not limited to the format shown in FIG. 6.
- the acquisition unit 233 acquires the above-mentioned tilt information. More specifically, when an assistance request is received by the assistance request receiving unit 232, the acquisition unit 233 in this embodiment identifies the vehicle ID included in the received assistance request. Then, the acquisition unit 233 acquires tilt information associated with the identified vehicle ID from the storage unit 220. In this embodiment, the acquisition unit 233 acquires tilt information each time an assistance request is received by the assistance request receiving unit 232. As described above, an assistance request is transmitted for each vehicle 10, and receiving an assistance request from one vehicle 10 followed by receiving an assistance request from another vehicle 10 can be considered as a change in the vehicle 10 that is the target of remote operation.
- the determination unit 234 compares the distance sense information indicating the sense of distance before and after the switch, and determines whether or not the comparison result satisfies a predetermined support criterion. In other words, the determination unit 234 determines whether or not the change in the distance sense information before and after the switch satisfies the support criterion.
- satisfying the support criterion in this embodiment means that the tilt indicated by the tilt information has changed by more than a predetermined tilt.
- distance perception information indicating the operator's sense of distance is obtained using optical flow, which represents the movement of an arbitrary object on an image using a motion vector.
- the motion vector is large in an image captured with a wide-angle angle of view (focal length) at which the operator feels the distance is "far”.
- the motion vector is small in an image captured with a telephoto angle of view (focal length) at which the operator feels the distance is "close”. Therefore, with a configuration that uses tilt information based on the motion vector as distance perception information, it can be determined that a large motion vector is on the wider angle side than a small motion vector, and that the object feels far away and the sense of distance is "far”.
- a small motion vector is on the telephoto side than a large motion vector, and that the object feels close and the sense of distance is "close”.
- the determination unit 234 determines whether the tilt indicated by the tilt information acquired by the acquisition unit 233 has decreased by more than a predetermined tilt. If the tilt is decreasing, the determination unit 234 determines that the sense of speed is decreasing, i.e., the distance is closer, since the sense of speed is becoming smaller, i.e., the distance is becoming closer (see FIG. 8). For example, the determination unit 234 determines whether the tilt indicated by the tilt information acquired by the acquisition unit 233 has increased by more than a predetermined tilt. If the tilt is increasing, the determination unit 234 determines that the sense of speed is increasing, i.e., the distance is becoming closer (see FIG. 7).
- the determination unit 234 each time the image for remote control is switched, the determination unit 234 compares the tilt indicated by the latest tilt information with the tilt indicated by the tilt information acquired immediately before, and determines whether the tilt indicated by the tilt information has changed, i.e., whether the sense of distance has changed.
- FIG. 7 is a diagram showing an example of the sense of distance to an object in an image captured by the camera 120 in wide-angle mode according to the embodiment.
- FIG. 8 is a diagram showing an example of the sense of distance to an object in an image captured by the camera 120 in telephoto mode according to the embodiment.
- the same subject is relatively enlarged in the image captured by the camera 120 in telephoto mode, and the operator feels that the distance to an object such as an obstacle is "closer.” Therefore, when switching from the state of FIG. 7 to the state of FIG.
- the assistance control unit 235 of this embodiment changes the threshold value for the control that assists the remote operation of the vehicle 10 before and after the switch.
- the support control that supports remote operation includes a first support control when the sense of distance changes, and a second support control that uses a threshold based on the sense of distance information.
- the control to notify the user of a change in the sense of distance when the sense of distance becomes “far” may be a control to warn the user of speeding, such as "be careful not to exceed the speed limit.”
- the assistance control unit 235 may perform control to display a warning screen (assistance information) on the terminal device 30 that warns the user of speeding when the sense of distance becomes "far.”
- the control to notify the operator that the sense of distance is changing may be control to notify the operator that the sense of distance is becoming “close” in order to reduce anxiety of the operator when the sense of distance becomes “close”.
- the assistance control unit 235 may perform control to display a notification screen (assistance information) on the terminal device 30 to notify the operator that the sense of distance is becoming "close”.
- the distance to the surrounding object may be acquired by any method.
- the assistance control unit 235 may acquire the distance from the vehicle 10 to the surrounding object based on the output of a sensor such as a sonar or LiDAR (not shown) of the vehicle 10.
- the assistance control unit 235 may acquire the distance from the vehicle 10 to the surrounding object based on the distance on the captured image of the vehicle 10 and camera information such as the focal length of the camera 120.
- the assistance control unit 235 may acquire the distance from the vehicle 10 to the surrounding object based on the position information of the vehicle 10 and data of a three-dimensional structure information map related to the traveling route of the vehicle 10 stored in advance in the storage unit 220 or the like.
- the terminal device 30 includes, as hardware elements, a communication device 310, a display device 320, an operation device 330, and a control device 340.
- the hardware elements of the terminal device 30 are not limited to the configuration exemplified in Fig. 2, and may include other hardware elements.
- the communication device 310 is a device that communicates with an external device (such as the remote operation support device 20) via the network 40.
- the display device 320 is a device that displays various types of information, and is configured, for example, with a liquid crystal display.
- the operation device 330 is a device with which the operator performs various operations.
- the control device 340 is a device that comprehensively controls the operation of the terminal device 30.
- the control device 340 is configured as a computer device, and has the same hardware configuration as that shown in FIG. 3.
- the control device 340 has an information receiving unit 341, a display control unit 342, and an operation information transmitting unit 343. Note that in the example of FIG. 2, only the functions necessary for explaining the main parts of this embodiment are illustrated, but the functions of the control device 340 are not limited to these.
- the processor 150 executes a program stored in the ROM 160 to realize the functions of each of the above-mentioned units. However, this is not limiting, and some or all of these functions may be realized by dedicated hardware circuits.
- the information receiving unit 341 receives various information transmitted from the remote operation assistance device 20.
- the information receiving unit 341 can receive information such as the above-mentioned remote operation request, the above-mentioned assistance information, and images captured by the camera 120 of the vehicle 10 from the remote operation assistance device 20.
- the display control unit 342 controls the display of various information on the display device 320.
- the display control unit 342 can control the display of the above-mentioned remote operation request (e.g., a message requesting remote operation, etc.) on the display device 320, can control the display of the above-mentioned support information (e.g., a warning screen, etc.) on the display device 320, and can control the display of an image captured by the camera 120 of the vehicle 10 on the display device 320.
- the display control unit 342 can control the display of the above-mentioned remote operation request (e.g., a message requesting remote operation, etc.) on the display device 320
- the above-mentioned support information e.g., a warning screen, etc.
- an image captured by the camera 120 of the vehicle 10 is transmitted to the terminal device 30 via the remote operation support device 20, and the display control unit 342 displays the image received from the remote operation support device 20 on the display device 320, allowing the operator to remotely control the vehicle 10 while checking the running status of the vehicle 10.
- the operation information transmission unit 343 transmits operation information input in response to the operation of the operation device 330 by the operator to the remote operation assistance device 20. For example, after the operator confirms the above-mentioned remote operation request displayed on the display device 320, the operator operates the operation device 330 to start remote operation of the vehicle 10, and the operation information transmission unit 343 can transmit the operation information input in response to the operation of the operation device 330 by the operator to the remote operation assistance device 20.
- FIG. 10 is a sequence diagram showing an example of an operation procedure when the target vehicle of remote control is switched in the remote control system 1 according to the embodiment.
- an example of an operation procedure of the remote control system 1 when the target of remote control is switched from vehicle 10A to vehicle 10B is described.
- vehicle 10A calculates the above-mentioned tilt information as distance information, and transmits the calculated tilt information and the vehicle ID to remote operation support device 20 (step S1).
- Remote operation support device 20 associates the tilt information (distance information) received from vehicle 10A with the vehicle ID and stores them in storage unit 220 (step S2).
- vehicle 10B transmits the tilt information and the vehicle ID as distance information to remote operation support device 20 (step S3), and remote operation support device 20 associates the tilt information (distance information) received from vehicle 10B with the vehicle ID and stores them in storage unit 220 (step S4).
- step S5 the vehicle 10A becomes unable to travel autonomously and transmits the above-mentioned assistance request to the remote operation assistance device 20 (step S5).
- the remote operation assistance device 20 which has received the assistance request from the vehicle 10A, acquires from the storage unit 220 the tilt information corresponding to the vehicle ID of the vehicle 10A contained in the assistance request, and determines whether the sense of distance indicated by the acquired tilt information has changed beyond the assistance criterion from the sense of distance indicated by the previously acquired tilt information (step S6).
- the determination result of step S6 is negative.
- step S6 Since the determination result of step S6 is negative, the remote operation assistance device 20 does not change the threshold value of the second assistance control, and does not transmit the above-mentioned assistance information of the first assistance control, and transmits the above-mentioned remote operation request to the terminal device 30 (step S7).
- the terminal device 30 displays the remote operation request received from the remote operation support device 20 (step S8). Having confirmed the remote operation request, the operator starts remote operation of the vehicle 10A, and the terminal device 30 transmits operation information corresponding to the operator's operation to the remote operation support device 20 (step S9). At this time, the remote operation support device 20 starts the second support control using the threshold value set at that time.
- the remote operation support device 20 transmits the operation information received from the terminal device 30 to the vehicle 10A (step S10), and the vehicle 10A travels according to the operation information received from the remote operation support device 20. In other words, the vehicle 10A travels according to the operator's remote operation.
- the vehicle 10B becomes unable to travel autonomously and transmits the above-mentioned assistance request to the remote operation assistance device 20 (step S11).
- the remote operation assistance device 20 that receives the assistance request from the vehicle 10B acquires from the storage unit 220 the tilt information corresponding to the vehicle ID of the vehicle 10B included in the assistance request, and determines whether the sense of distance indicated by the acquired tilt information has changed beyond the assistance criterion from the sense of distance indicated by the previously acquired tilt information (step S12).
- the change in the sense of distance information indicating the sense of distance based on the image for remote operation satisfies the predetermined assistance criterion as the remote control target is switched from the vehicle 10A to the vehicle 10B.
- the assistance control unit 235 may not need to change the threshold value according to the sense of distance if the operation time before the image for remote operation is switched is shorter than a predetermined time that is determined in advance and stored in the memory unit 220, for example. This reduces the risk of reduced convenience, such as confusion for the operator, for example, if the threshold value for the second assistance control is changed according to the sense of distance even though the switch occurs before the operator has become accustomed to the sense of distance before the switch, and also reduces the risk of reduced safety, such as a deviation in the sense of distance caused by the threshold change.
- the terminal device 30 notifies the user of the closing of the distance, the speed limit, or approaching an object by displaying support information, but the present invention is not limited to this.
- the support control unit 235 may notify the support information by sound rather than by display. This can prevent a decrease in visibility of the image for remote operation that accompanies the display of the support information.
- the assistance control unit 235 may perform control to notify (warn) the user not to raise the microphone volume too much so that the sound is not made too loud. This makes it possible to prevent the microphone volume from being raised too much so that the sound output from the speaker of the vehicle 10 via the microphone reaches a person who feels that the person is far away, for example, when the sense of distance is "far.”
- the assistance control unit 235 may perform control to notify (notify) the degree of margin, such as that the distance feels close but there is still room to get closer.
- the margin for example, the ratio of distance sensation information to the actual distance can be appropriately used. This allows, for example, the operator to easily grasp how far the vehicle 10 can be moved further even if the distance feels "far.”
- the support control unit 235 may control the display of support information so that the larger the shift in the sense of distance, i.e., the greater the change in the sense of distance before and after the image for remote operation is switched, the stronger the warning will be given by using the size, color, sound, etc. of the characters. This allows the operator to intuitively grasp the magnitude of the change in the sense of distance.
- the support control unit 235 may perform control regarding the display of support information to notify the operator of the degree to which the sense of distance differs before and after the image for remote operation is switched. This notification may be realized, for example, by changing the display mode of the background color according to the sense of distance when displayed on the terminal device 30. For example, the support control unit 235 may change the display mode to use a red background color when the sense of distance is perceived as "close,” and to make the background color darker the greater the difference in the sense of distance. For example, the support control unit 235 may change the display mode to use a blue background color when the sense of distance is perceived as "far,” and to make the background color darker the greater the difference in the sense of distance. This allows the operator to easily imagine the difference in the sense of distance before and after the image for remote operation is switched.
- the assistance control unit 235 may perform control to notify the operator that the sense of distance is the same as the previously operated vehicle 10 if the operator has experience operating the new vehicle 10 based on the operator's past operation history stored in the memory unit 220, for example.
- This notification may be information such as the name, characteristics, and color of the previously operated vehicle 10, or information such as the location of the operation, the location where the vehicle 10 being operated is moving (driving), and the date and time of the operation. This allows the operator to easily grasp the change in the sense of distance based on his or her own experience.
- the assistance control unit 235 may perform control to notify information indicating how the sense of distance in the image for remote operation after switching differs from the image before switching. For example, the assistance control unit 235 may cause the terminal device 30 to display whether an object at the same distance appears to be "closer” or "farther” compared to before switching. This allows the operator to easily grasp the trend of changes in the sense of distance.
- the assistance control unit 235 may adjust at least one of the focal length, the mounting height, the imaging range, and the range of the imaging range used as the image for remote operation according to the change in the sense of distance before and after switching of the image for remote operation so as to reduce the change.
- reducing the change in the sense of distance before and after switching of the image for remote operation means making the sense of distance constant before and after the switch.
- the assistance control unit 235 may change the focal length or shooting mode of the camera 120 so that the angle of view (imaging range) of the camera 120 remains constant before and after switching the image for remote operation.
- the assistance control unit 235 may change the angle of view (imaging range) of the camera 120 so that the field of view of the image for remote control remains constant before and after the image for remote control is switched.
- the assistance control unit 235 may crop a portion of the image captured by the camera 120 or change the crop range so that the field of view of the image for remote operation remains constant before and after the image for remote operation is switched.
- the assistance control unit 235 may change the height of the camera 120 or change to a camera 120 with a different mounting height so that the field of view of the image for remote control remains constant before and after switching of the image for remote control, or so that the height of the camera 120 remains constant.
- the support control unit 235 may permit the start of remote control after the adjustment according to the change in the sense of distance is completed.
- the support control unit 235 may be configured not to permit the start of remote control while the adjustment according to the change in the sense of distance is in progress.
- the camera 120 is positioned so as to be able to capture an image of the front of the vehicle 10, and the tilt information is calculated using the image of the front of the vehicle 10, but this is not limited thereto, and the tilt information may be calculated using, for example, an image of the rear of the vehicle 10, or an image of either the left or right direction of the vehicle 10.
- each vehicle 10 calculates the tilt information, but the present invention is not limited to this, and may be configured such that the tilt information is calculated by the remote operation support device 20.
- the remote operation support device 20 receives speed information and an image from each vehicle 10, and can calculate the tilt information for each vehicle 10 based on the received speed information and image.
- the vehicle 10 used in the remote operation system 1 of the above embodiment various types of moving bodies configured to be movable in response to at least remote operation by an operator can be appropriately used.
- the vehicle 10 may be, for example, a four-wheeled vehicle or a two-wheeled vehicle.
- the vehicle 10 may be an automatic guided vehicle (AGV) or various types of robots such as construction machinery, agricultural machinery, and drones.
- AGV automatic guided vehicle
- moving objects are not limited to those transporting people, but may also transport objects other than people, and may provide specific services other than transportation.
- the remote control system 1 may be applied to support remote control of an autonomous mobile sales robot.
- This autonomous mobile sales robot may sell products or services to customers.
- the support control unit 235 may reduce the threshold of the second support control within a range not below a lower limit, notify the operator not to speed up too much, change (for example, make it faster) the timing of stopping before switching to remote control, notify the operator not to increase the volume of the voice output too much, or limit the volume of the voice output.
- the remote operation system 1 may be applied to assist in remote operation of a robot that grasps or carries a target object, such as a humanoid robot.
- a robot may include robots used for loading and unloading in factories and distribution centers, and robots used for farm work in agriculture.
- the assistance control unit 235 may control the conversion of a remote operation image for remotely operating a robot so that the sense of distance matches the actual distance.
- This image conversion corresponds to converting an image so that the field of view of the image for remote operation is constant before and after switching of the image for remote operation.
- the operation feeling is, for example, the operator's sense of the amount of movement of the operation target relative to the amount of operation of the operation unit that instructs the operation content of the remote operation. This makes it possible to suppress changes in the operation feeling caused by changes in the sense of distance.
- the sense of distance may be determined in advance for each vehicle 10, and the threshold value related to the control for assisting the remote operation of the vehicle 10 may also be determined in advance accordingly.
- the assistance control unit 235 may execute the control for assisting the remote operation of the vehicle 10 using the threshold value determined in advance for the switched vehicle 10.
- the sense of distance and the threshold value determined in advance for each vehicle 10 may be stored in the internal memory of the control device 140 of each vehicle 10, or may be stored in the internal memory of the remote operation assistance device 20.
- the sense of distance for each vehicle 10 and information indicating the correspondence between the sense of distance and the threshold value may be determined in advance and stored in any of the internal memories.
- information indicating the correspondence between the surrounding environment and/or vehicle 10 and the threshold value may be determined in advance and stored in any of the internal memories.
- parameters may be determined in advance for each of the surrounding environment and the vehicle 10, and these parameters and a calculation formula determined in advance so that the threshold value can be calculated using these parameters may be stored in advance in any of the internal memories.
- the remote operation assistance device 20 may further determine whether the sense of distance is greater than the actual distance for each of the remote operation images before and after the switch, based on the distance sense information.
- the remote operation assistance device 20 according to this modification may further determine whether the distance on the image to an arbitrary position on the image felt by the operator remotely operating the vehicle 10 while looking at the video captured by the camera 120 (remote operation image) is greater than the actual distance to that position.
- the determination of whether the sense of distance for the image for remote operation is greater than the actual distance may be performed, for example, by the control device 140 of the vehicle 10.
- the result of the determination of whether the sense of distance is greater than the actual distance may be output from the vehicle 10 to the remote operation assistance device 20 together with the image for remote operation.
- the result of the determination of whether the sense of distance is greater than the actual distance may also be information included in the sense of distance information.
- the determination of whether the sense of distance for an image for remote control is greater than the actual distance may be based on at least one of the following information: a motion vector, tilt information, focus information, mounting height, size of the imaging range (e.g., angle of view), size of the range of the imaging range used as the image for remote control (e.g., field of view, crop range), depth information based on the image for remote control, and the shooting mode. For example, if the motion vector, tilt indicated by the tilt information, or size of the imaging range is equal to or greater than a predetermined threshold, it is determined that the image is for remote control in which the sense of distance is greater than the actual distance.
- the process described below corresponds to, for example, the process of step S205, step S206, or step S209 of the support process according to the embodiment described above.
- the alert to be strengthened/weakened in this modified example is, for example, a warning in the first support control (see FIG. 9), but it may also be a warning in the second support control.
- a process similar to step S205, step S206, or step S209 of the support process according to the embodiment described above may be performed.
- strengthening/weakening the alert may mean emphasizing/suppressing the alert, as in modified example 7 described above.
- strengthening/weakening the alert may be achieved by changing the display mode on the warning screen (support information), such as changing the display color, size, or the presence or absence of a frame.
- strengthening/weakening the alert may be achieved by changing the notification mode, such as the presence or absence of a voice notification (support information), the volume, tone, etc.
- Figure 15 illustrates an example of processing when the "actual distance” is smaller than the “perceived distance” for both the images for remote control before and after switching.
- the support control unit 235 may issue or strengthen an alert (support information) warning about speeding and getting too close when the "actual distance” is smaller than the "sense of distance” both before and after the switch, and the sense of distance changes from "close” to "far” both before and after the switch.
- the assistance control unit 235 may set the threshold value for the second assistance control to be smaller than normal, or even smaller, as in the processing of S206.
- the support control unit 235 may increase the threshold value of the second support control larger than normal or even larger, as in the process of S205.
- Figure 16 illustrates an example of processing when the "actual distance” is greater than the “perceived distance” for both the images for remote control before and after switching.
- the support control unit 235 may weaken the alert (support information) for speeding and getting too close, or may not issue an alert at all. In this case, the assistance control unit 235 may not change the threshold value of the second assistance control, or may reduce the threshold value of the second assistance control, as in the processing of S206.
- the support control unit 235 may display the margin of safety, for example, in the same manner as in the above-mentioned modified example 7. In this case, the support control unit 235 may not change the threshold value of the second support control, or may increase the threshold value of the second support control as in the process of S205.
- Figure 17 shows an example of processing when the magnitude relationship between "actual distance” and “perception of distance” changes before and after switching.
- the support control unit 235 may weaken the speed limit/overshoot warning alert (support information) or not issue an alert. In this case, the support control unit 235 may not change the threshold value of the second support control, or may reduce the threshold value of the second support control as in the process of S206.
- the assistance control unit 235 may display the margin of error, for example, in the same manner as in the above-mentioned modified example 7. In this case, the assistance control unit 235 may not change the threshold value of the second assistance control, or may increase the threshold value of the second assistance control, as in the processing of S205.
- the assistance control unit 235 may issue or strengthen an alert (assistance information) warning about speeding or getting too close. In this case, the assistance control unit 235 may make the threshold value of the second assistance control smaller than normal, or even smaller, as in the processing of S206.
- the support control unit 235 may set the threshold value of the second support control to a value greater than normal or even greater, as in the processing of S205.
- the sense of distance is considered based on the actual distance, but the present invention is not limited to this.
- the sense of distance of an arbitrary vehicle 10 may be used as the reference (reference value) for the sense of distance.
- the reference vehicle may be the vehicle 10 that the operator was previously remotely operating.
- the reference vehicle may be any vehicle 10 previously determined by an administrator or operator, such as a vehicle 10 that operates in a highly difficult task or work environment, a large number of vehicles 10, or a vehicle 10 with an average distance range.
- the reference vehicle may be determined for each operator, and may be, for example, a vehicle 10 that the operator has a lot of operating experience with, or a vehicle 10 that the operator feels is easy to grasp the sense of distance.
- the reference vehicle setting and/or distance sense may be determined in advance and stored in the internal memory of the remote operation support device 20, for example.
- Modification 16 a description will be given of a modified example of the remote operation in the remote operation system 1 of the above-described embodiment.
- the remote operation system 1 according to the present disclosure has been described by taking as an example a case in which an operator in charge of a plurality of vehicles 10 uses the terminal device 30 to simultaneously monitor two or more vehicles 10, or to switch between target vehicles 10 and sequentially monitor or remotely operate them.
- the specified condition includes remotely controlling a vehicle 10 that is at the same distance as the vehicle 10 that issued the current remote control request before the current remote control request is generated.
- before the remote control request is generated may be immediately before switching.
- the specified condition may be that the sense of distance is the same before and after switching (the sense of distance does not change).
- "before a remote control request occurs” may be a period between the time the target remote control request occurs and a predetermined period that is stored in the internal memory.
- the predetermined condition may be having experience of operating a remote control of the vehicle 10 at the same distance during the immediately preceding predetermined period.
- having experience in these operations may mean that the operation time and/or distance of remote control with the same sense of distance is longer than a predetermined time and/or distance that is determined in advance and stored in an internal memory, for example, because it is assumed that one becomes accustomed to the sense of distance.
- the predetermined period or time may be determined for each vehicle 10, sense of distance, operator, operation experience, or any combination of these. For example, the higher the risk of an accident occurring, the shorter the predetermined period or the longer the predetermined time or distance may be set. For example, the longer the predetermined period may be set for an operator with more operation experience.
- the same sense of distance means, for example, that the distance sense information matches, but is not limited to this, and may also mean, for example, that the distance sense information is equivalent.
- the target vehicle 10 cannot be assigned to an operator who satisfies the specified condition of the same sense of distance, such as when there is no corresponding operator or the operator is absent, or when the operator is handling another remote control.
- the specified condition may be that, before the current remote control request is generated, a vehicle 10 with a similar sense of distance to the vehicle 10 that issued the current remote control request was remotely controlled.
- the remote operation system 1 may be capable of performing operator assignments to assign vehicles 10 to be the targets of remote support (remote monitoring) to each operator in the remote control room, regardless of a remote control request.
- vehicles 10 with the same or similar sense of distance are assigned to an operator in charge of remote support (remote monitoring) of two or more vehicles 10. This allows an operator to target vehicles 10 with the same or similar sense of distance when performing remote monitoring control of multiple vehicles 10, thereby improving safety and efficiency.
- Remote operation system 10
- Vehicle 20
- Remote operation support device 30
- Terminal device 141
- Distance information calculation unit 142
- Position information acquisition unit 143
- Image acquisition unit 144
- Travel control unit 145
- Support request transmission unit 146
- Operation information reception unit 231
- Distance information reception unit 232
- Support request reception unit 233
- Acquisition unit 234
- Determination unit 235
- Support control unit 236
- Information reception unit 342 Display control unit 343 Operation information transmission unit
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Traffic Control Systems (AREA)
Abstract
本開示に係る遠隔操作支援方法は、移動体に搭載されたカメラにより撮像される遠隔操作用の画像に基づいてオペレータが移動体を遠隔で操作する遠隔操作を支援する遠隔操作支援装置によって実行される遠隔操作支援方法であって、遠隔操作の対象の移動体から移動体の周囲の物体までの距離が閾値より短い場合に、遠隔操作を支援する支援制御を実行し、遠隔操作用の画像が切り替わる場合、切り替わりの前後における、遠隔操作用の画像内の物体までの距離に対するオペレータの距離感を示す距離感情報を比較し、距離感情報の比較結果が予め定められた支援基準を満たす場合、切り替わりの前後で遠隔操作における閾値を変更する。
Description
本開示は、遠隔操作支援方法、遠隔操作支援装置及びプログラムに関する。
近年、様々な種類の自律走行車両によるサービスが実用化されてきており、それらの車両を遠隔で監視または操作できる遠隔管制システムの開発が進められている。これらの遠隔管制システムでは、自律走行車両から遠隔操作による支援の要請があった場合に、遠隔管制室のオペレータが、自律走行車両に搭載されたカメラで撮像された画像を見ながら車両を遠隔操作することで、自律走行車両を移動させるなどの支援を行うことができる。
例えば、車両走行に関する各種の物理量の実測値と、運転者の感覚とを比較することにより、運転者の運転感覚を養成する技術が知られている。
しかしながら、従来技術では、例えば異なる種類の車両を遠隔操作する場合、車両に搭載されるカメラの画角又は取付位置等が相違すると、カメラで撮像される障害物等の物体の画像上の位置及び大きさも異なるので、画像に基づく車両からその物体までの距離の感覚、すなわち距離感も変化する。そのため、オペレータの遠隔操作に影響を与えるおそれがあった。
本開示は、オペレータの遠隔操作を適切に支援することを目的の一つとしている。
上記目的を達成するために、本開示に係る遠隔操作支援方法は、移動体に搭載されたカメラにより撮像される遠隔操作用の画像に基づいてオペレータが前記移動体を遠隔で操作する遠隔操作を支援する遠隔操作支援装置によって実行される遠隔操作支援方法であって、前記遠隔操作の対象の移動体から前記移動体の周囲の物体までの距離が閾値より短い場合に、前記遠隔操作を支援する支援制御を実行し、前記遠隔操作用の画像が切り替わる場合、切り替わりの前後における、前記遠隔操作用の画像内の物体までの距離に対する前記オペレータの距離感を示す距離感情報を比較し、前記距離感情報の比較結果が予め定められた支援基準を満たす場合、前記切り替わりの前後で前記遠隔操作における前記閾値を変更する。
以下、添付図面を参照しながら、本開示に係る遠隔操作支援方法、遠隔操作支援装置及びプログラムの実施形態を詳細に説明する。
なお、本開示の説明において、既出の図に関して前述したものと同一又は略同一の機能を有する構成要素については、同一符号を付し、説明を適宜省略する場合もある。また、同一又は略同一の部分を表す場合であっても、図面により互いの寸法や比率が異なって表されている場合もある。また、例えば図面の視認性を確保する観点から、各図面の説明において主要な構成要素だけに参照符号を付し、既出の図において前述したものと同一又は略同一の機能を有する構成要素であっても参照符号を付していない場合もある。
図1は、実施形態に係る遠隔操作システム1の概略構成の一例を示す図である。図1に示すように、遠隔操作システム1は、複数(図1の例では2台)の車両10A,10Bと、遠隔操作支援装置20と、端末装置30と、を含む。なお、図1では、2つの車両10A及び車両10Bを例示しているが、これに限らず、遠隔操作システム1に含まれる車両10の数は、設計条件等に応じて任意に変更可能である。以下の説明では、車両10Aおよび10Bを互いに区別しない場合は、単に「車両10」と称する。車両10を構成する各要素についても、同一の要素については同じ符号を付与する。
図1の例では、車両10と、遠隔操作支援装置20と、端末装置30とは、例えばインターネット等のネットワーク40を介して相互に接続可能である。
車両10は、自律走行可能な移動体の一例であり、様々なサービスの提供に用いられる。遠隔操作支援装置20は、車両10の遠隔操作を支援する装置である。端末装置30は、遠隔管制室にいるオペレータが操作する装置である。
一例として、本実施形態に係る遠隔操作システム1では、車両10は、例えば進路上に障害物が検知された場合など、自装置が自律走行不可能な状態に陥った場合に、遠隔操作支援装置20に対して、遠隔操作による支援を要求する支援要求を送信する。車両10からの支援要求を受信した遠隔操作支援装置20は、オペレータの遠隔操作を要求する遠隔操作要求を端末装置30へ送信する。
一例として、本実施形態に係る遠隔操作システム1では、端末装置30は、例えば遠隔操作中の車両10に関して遠隔操作するオペレータを交代する場合に、例えばオペレータの指示操作に応じて、遠隔操作支援装置20に対して、その車両10について遠隔操作により支援することを要求する支援要求を送信する。ここで、遠隔操作中の車両10に関して遠隔操作するオペレータを交代する場合とは、例えば、複雑、あるいは高度な遠隔操作が要求される場合や、他の車両10からの支援要求に応じた遠隔操作のために遠隔操作中の車両10の遠隔操作を他のオペレータに委ねる場合などがあり得る。この場合、端末装置30からの支援要求を受信した遠隔操作支援装置20は、他のオペレータの遠隔操作を要求する遠隔操作要求を他のオペレータの端末装置30へ送信する。
一例として、本実施形態に係る遠隔操作システム1では、端末装置30は、例えば作業ごとに作業内容に応じた車両10を遠隔操作する場合や1人のオペレータが複数の現場の複数台の車両10を担当する場合など、そのオペレータが遠隔操作の対象の車両10を切り替えたい場合に、例えばオペレータの指示操作に応じて、遠隔操作支援装置20に対して、その車両10について遠隔操作により支援することを要求する支援要求を送信する。この支援要求は、遠隔操作の対象の車両10の切替を要求する切替要求とも表現できる。この場合、端末装置30からの切替要求を受信した遠隔操作支援装置20は、切替先の車両10に関しオペレータの遠隔操作を要求(許可)する遠隔操作要求を端末装置30へ送信する。
つまり、本実施形態に係る遠隔操作システム1において、支援要求は、車両10から遠隔操作支援装置20に対して送信されてもよいし、オペレータの指示操作に応じて端末装置30から遠隔操作支援装置20に対して送信されてもよい。また、切り替え後に遠隔操作の対象となる車両10は、切り替え前においては、自律走行していてもよいし、他のオペレータにより遠隔操作されていてもよいし、オペレータによる遠隔操作を待機している状態であってもよい。
遠隔操作要求を受信した端末装置30のオペレータは、車両10に搭載されたカメラで撮像された画像を見ながら端末装置30を操作することで車両10を遠隔操作し、車両10を移動させるなどの支援を行うことができる。
このように、本実施形態に係る遠隔操作支援装置20は、オペレータが車両10を遠隔で操作する遠隔操作であって、車両10に搭載されたカメラにより撮像される遠隔操作用の画像に基づいて行われる遠隔操作を支援する遠隔操作支援方法を実行可能に構成された装置である。以下、本実施形態では、例えば自律走行不可能な状態に陥った場合など、車両10から遠隔操作支援装置20に対して支援要求が送信される場合を例として説明を続ける。
図2は、実施形態に係る遠隔操作システム1に含まれる各装置(車両10、遠隔操作支援装置20及び端末装置30)の構成の一例を示す図である。以下、図2を参照しながら、車両10、遠隔操作支援装置20及び端末装置30のそれぞれの構成を説明する。
(車両10)
まず、車両10の構成を説明する。本実施形態に係る車両10は、移動体の一例である。以下では1つの車両10の構成を例に挙げて説明するが、遠隔操作システム1に含まれる他の車両10の構成も同様である。図2に示すように、車両10は、ハードウェア要素として、通信装置110と、カメラ120と、駆動装置130と、制御装置140と、を備える。なお、車両10のハードウェア要素は、図2に例示した構成に限られるものではなく、他のハードウェア要素を備える形態であっても構わない。
まず、車両10の構成を説明する。本実施形態に係る車両10は、移動体の一例である。以下では1つの車両10の構成を例に挙げて説明するが、遠隔操作システム1に含まれる他の車両10の構成も同様である。図2に示すように、車両10は、ハードウェア要素として、通信装置110と、カメラ120と、駆動装置130と、制御装置140と、を備える。なお、車両10のハードウェア要素は、図2に例示した構成に限られるものではなく、他のハードウェア要素を備える形態であっても構わない。
通信装置110は、ネットワーク40を介して、例えば遠隔操作支援装置20や端末装置30など、車両10の外部装置と通信する装置である。カメラ120は、車両10に搭載され、少なくとも車両10の前方を撮像可能に配置される。なお、カメラ120としては、車両10の前方、側方、後方、上方及び下方のうちの少なくとも車両10の移動方向を撮像可能に、少なくとも1つのカメラが配置されていればよい。
駆動装置130は、車両10を駆動する装置である。駆動装置130は、例えば車両10の車輪に回転駆動力を与える車輪駆動装置や、車輪を操舵する操舵駆動装置などを含む。
制御装置140は、車両10の動作を統括的に制御する装置である。制御装置140は、車両10の内部に設けられたECU(Electronic Control Unit)や複数のECUを統合したCDC(Cockpit Domain Controller)などのDCU(Domain Control Unit)、あるいはOBU(On Board Unit)などのコンピュータにより実現されてもよい。図3は、実施形態に係る車両10の制御装置140のハードウェア構成の一例を示す図である。なお、後述の遠隔操作支援装置20に含まれる制御装置230と、端末装置30に含まれる制御装置340とのそれぞれも、図3と同様のハードウェア構成を有するとする。
図3に示すように、制御装置140は、プロセッサ150と、ROM(Read Only Memоry)160と、RAM(Random Access Memory)170と、機器I/F(インタフェース)部180と、を備える。
プロセッサ150は、例えばCPU(Central Processing Unit)である。プロセッサ150は、例えばプログラムを実行することにより、制御装置140の動作を統括的に制御し、制御装置140が有する各種の機能を実現する。制御装置140が有する各種の機能については、後述する。
ROM160は、不揮発性のメモリであり、プロセッサ150が実行するプログラム等を含む各種の情報を記憶する。制御装置140のメモリとしては、ROM160に限らず、HDD(Hard Disk Drive)、SSD(Solid State Drive)、Flashメモリ等の各種の記録媒体や記録装置が適宜利用可能である。RAM170は、プロセッサ150の作業領域を有する揮発性のメモリである。機器I/F部180は、通信装置110、カメラ120及び駆動装置130など、制御装置140の他の車両10に搭載された機器と接続するためのインタフェースである。
図2に戻って、制御装置140が有する機能について説明する。図2に示すように、制御装置140は、距離感情報算出部141、位置情報取得部142、画像取得部143、走行制御部144、支援要求送信部145、操作情報受信部146を有する。なお、図2の例では、本実施形態の要部の説明に必要な機能のみを例示しているが、制御装置140が有する機能はこれらに限られるものではない。本実施形態では、プロセッサ150がROM160に格納されたプログラムを実行することにより、上述の各部の機能を含む、制御装置140が有する各機能を実現する。ただし、これに限らず、これらの機能の一部又は全部が専用のハードウェア回路(半導体集積回路等)で実現される形態であってもよい。
距離感情報算出部141は、カメラ120で撮像される画像に基づく距離感を示す情報(距離感情報)を算出する。この距離感とは、カメラ120で撮像された画像(映像)を見ながら車両10を遠隔操作するオペレータが感じる、画像上の任意の位置までの距離の感覚である。この画像上の任意の位置とは、例えば他の車両や壁といった障害物や道路標示など、画像に含まれる任意の物体上の位置を含む。
ここで、距離感情報とは、車両10を遠隔操作するオペレータがその遠隔操作時に見る遠隔操作用の画像に関する、視野(FOV:Field of View)に応じた指標であり、FOVに基づく距離を示す情報である。なお、遠隔操作用の画像に関するFOVとは、その画像に写っている被写界の範囲であるとする。したがって、遠隔操作用の画像に関するFOVとは、カメラ120の撮像範囲のうちの遠隔操作用の画像として用いる範囲である。
一例として、遠隔操作用の画像に関するFOVは、車両10のカメラ120に関する情報に基づく。このカメラ120に関する情報は、焦点距離、取付位置(例えば高さ)、取付角度(例えば仰角/俯角)、撮像方位(例えば仰角/俯角)といったカメラ120の画角(Angle of View)を示す情報を含む。また、カメラ120に関する情報は、カメラ120の撮像範囲のうちの遠隔操作用の画像として使用(例えばクロップ)される関心領域(ROI:Region of Interest)を示す情報を含む。
なお、カメラ120は、焦点距離が変更可能に構成されていてもよく、この場合、カメラ120に関する情報には、設定されている焦点距離又は撮影モード(例えば広角モード/望遠モード)を示す情報が含まれる。また、カメラ120は、その取付高さが変更可能に構成されていてもよく、この場合、カメラ120に関する情報には、設定可能な取付高さを示す情報が含まれる。また、車両10には、複数のカメラ120が設けられていてもよく、この場合、カメラ120に関する情報には、複数のカメラ120のうちの遠隔操作用の画像を取得するために使用されるカメラ120に関する情報である。
なお、カメラ120の焦点距離(あるいは撮影モード)の変更は、カメラ120の光学系の少なくとも1つの学素子の位置の変更により実現されてもよいし、光学系の少なくとも1つの光学素子の使用/不使用の切り替えにより実現されてもよいし、焦点距離が異なる2以上の光学系の切り替えにより実現されてもよい。あるいは、カメラ120の焦点距離(あるいは撮影モード)の変更は、撮像面上の被写体像の一部を用いる電子ズームにより実現されてもよい。
本実施形態に係る距離感情報算出部141は、距離感情報として、車両10の速度の変化と、車両10の周辺領域の動きベクトルの変化の割合である傾きを示す傾き情報を算出する。この傾き情報は、車両10の速度の変化に対する動きベクトルの変化の割合である傾きを示す情報である。傾き情報は、車両10の速度の変化と、車両10に搭載されたカメラ120により撮像される車両10の周辺領域の動きベクトルの変化と、の割合である傾きを示す情報である。
本実施形態では、サービス運用前において、車両10を予め定められた場所を走行させ、距離感情報算出部141は、車両10の速度と、カメラ120で撮像される画像と、に基づいて、車両10の速度と車両10の周辺領域の動きベクトルとの対応を示す直線の式の傾きを算出し、その算出した傾きを示す傾き情報を遠隔操作支援装置20へ送信する。なお、傾き情報の算出タイミングはサービス運用前に限られるものではなく、任意に設定可能である。例えば距離感情報算出部141は、サービス運用中に傾き情報を算出して更新する形態であってもよい。
以下、車両10の周辺領域および周辺領域の動きベクトルの求め方の一例を説明する。図4は、実施形態に係る車両10に搭載されたカメラ120により撮像された画像の一例を示す図である。車両10の走行中において、車両10の前方を撮像するカメラ120では、図4に示すように、車両10の進行方向とは反対方向に路面等が流れる画像(動画像)が撮像される。この画像においては、同じ速度であっても、エッジ(周縁)に近い領域ほど見た目の移動量が大きいので、速く移動するように見える。つまり、車両10の進行に伴い、画像のエッジに近い領域ほど被写体は速く流れ、エッジから画像の内側に近づくほど被写体の流れは緩やかになる。
そこで、例えば距離感情報算出部141は、カメラ120で撮像される画像を分割する単位であるブロックごとに、フレーム間で類似するブロックを探索して動きベクトルを求め(ブロックマッチング法)、動きベクトルの大きさが基準値以上のブロックを周辺領域として設定することもできる。これにより、周辺領域の設定と同時に、周辺領域に含まれる各ブロックの動きベクトルも同時に算出できる。なお、動きベクトルの算出方法としては上述のブロックマッチング法に限らず、例えば勾配法を用いて画像のピクセル(画素)ごとに動きベクトルを算出し、動きベクトルが基準値以上のピクセルを周辺領域として設定することもできる。また、例えば映像伝送で使用しているコーデックから出力される動きベクトルを利用して、周辺領域の動きベクトルを算出することもできる。また、例えばカメラ120ごとに、そのカメラ120で撮像される画像内の周縁の所定領域が、周辺領域として予め設定される形態であってもよい。
次に、傾き情報の算出方法の一例を説明する。図5は、実施形態に係る車両10の速度と、周辺領域の動きベクトルの大きさとの対応の一例を示す図である。本実施形態では、図5に示すように、車両10の速度を横軸とし、周辺領域に含まれる各ブロックの動きベクトルの大きさの平均値を縦軸とする座標系を設定する。距離感情報算出部141は、以上のようにして算出した周辺領域の動きベクトルの大きさの平均値と、そのときの車両10の速度(図5では「所定の速度」と表記)との対応点を示す座標を算出する。そして、距離感情報算出部141は、算出した座標と、座標系の原点とを結ぶ直線の式(車両10の速度と周辺領域の動きベクトルとの対応を示す関数の一例)を算出し、その直線の式の傾きを算出することができる。以上のようにして算出した傾きを示す情報が傾き情報となる。
なお、図5の例では、周辺領域に含まれる各ブロックの動きベクトルの大きさの平均値を縦軸としているが、これに限らず、例えば周辺領域に含まれる各ブロックの動きベクトルの大きさの累積値を縦軸としてもよい。この場合であっても、距離感情報算出部141は、上記と同様の方法で傾き情報を算出することができる。
距離感情報算出部141は、以上のようにして算出した傾き情報と、車両10を識別する情報を示す車両IDとを遠隔操作支援装置20へ送信し、遠隔操作支援装置20は、車両10から受信した傾き情報と車両IDとを対応付けて記憶する。遠隔操作支援装置20の具体的な構成については後述する。なお、本実施形態では、距離感情報算出部141は、傾き情報を算出する機能と、傾き情報を送信する機能とを兼ねているが、これに限らず、例えば傾き情報を算出する機能と、傾き情報を送信する機能とがそれぞれ個別に設けられる形態であってもよい。
図2に戻って、車両10の制御装置140が有する機能の説明を続ける。位置情報取得部142は、車両10の位置を示す位置情報を取得する。位置情報の取得方法としては、公知の様々な技術を利用可能であるが、例えば位置情報取得部142は、複数のGPS衛星の各々から発信された電波を示すGPS信号を受信し、その受信したGPS信号に基づく3次元測位により車両10の位置を算出し、その位置を示す位置情報を取得することもできる。
画像取得部143は、カメラ120で撮像された画像を取得する。画像取得部143により取得される画像は、上述の傾き情報の算出にも用いられる。また、サービス運用開始後の車両10の走行中においては、画像取得部143により取得された画像は、遠隔操作支援装置20へ送信される。
走行制御部144は、車両10が自律走行する状態を示す自律走行モードの場合は、目標位置と、位置情報取得部142により取得された位置情報とに基づいて、車両10が目標位置に近づくように、車両10を走行させる制御(駆動装置130を駆動する制御)を行う。一方、車両10がオペレータにより遠隔操作される状態を示す遠隔操作モードの場合は、走行制御部144は、オペレータの操作に応じて端末装置30へ入力される情報を示す操作情報に応じて、車両10を走行させる制御を行う。本実施形態では、車両10の走行モードとして、上述の自律走行モードと、上述の遠隔操作モードとがあり、車両10は、基本的には自律走行モードで走行し、自律走行不可能な状態のときに遠隔操作モードで走行する。
支援要求送信部145は、例えば車両10が自律走行モードにおいて自律走行不可能な状態のときに、遠隔操作支援装置20に対して、遠隔操作による支援を要求する支援要求を送信する。車両10が自律走行不可能な状態の一例としては、例えば車両10の進行方向に所定の大きさ(そのまま直進することは不可能と判定される大きさ)以上の物体が存在する状態等が考えられる。本実施形態では、支援要求送信部145は、画像取得部143により取得された画像に基づいて、車両10の進行方向に所定の大きさ以上の物体が存在することを検知した場合は、遠隔操作支援装置20に対して支援要求を送信する。本実施形態の支援要求は、遠隔操作による支援を要求する情報と、車両10を識別する情報を示す車両IDと、を少なくとも含む情報である。
操作情報受信部146は、遠隔操作支援装置20を介して端末装置30から送信される操作情報を受信する。走行制御部144は、支援要求送信部145が支援要求を送信した後は、操作情報受信部146により受信された操作情報に応じて車両10を走行させる制御を行い、目標位置と、位置情報とに基づく走行制御は行わない。つまり、車両10の走行モードは、自律走行モードから遠隔操作モードに切り替わる。
(遠隔操作支援装置20)
次に、遠隔操作支援装置20の構成を説明する。図2に示すように、遠隔操作支援装置20は、ハードウェア要素として、通信装置210と、記憶部220と、制御装置230と、を備える。なお、遠隔操作支援装置20のハードウェア要素は、図2に例示した構成に限られるものではなく、他のハードウェア要素を備える形態であっても構わない。
次に、遠隔操作支援装置20の構成を説明する。図2に示すように、遠隔操作支援装置20は、ハードウェア要素として、通信装置210と、記憶部220と、制御装置230と、を備える。なお、遠隔操作支援装置20のハードウェア要素は、図2に例示した構成に限られるものではなく、他のハードウェア要素を備える形態であっても構わない。
通信装置210はネットワーク40を介して外部装置(例えば車両10、端末装置30等)と通信する装置である。
記憶部220は、車両10ごとに傾き情報を対応付けて記憶する。図6は、実施形態に係る距離感情報であって、車両IDごとに対応付けられた傾き情報の一例を示す図である。本実施形態では、図6に示すように、記憶部220は、車両を識別する情報を示す車両IDごとに傾き情報を対応付けて記憶する。なお、傾き情報の記憶形式は図6の形態に限られるものではない。
制御装置230は、遠隔操作支援装置20の動作を統括的に制御する装置である。本実施形態では、制御装置230はコンピュータ装置で構成され、図3と同様のハードウェア構成を有する。
続いて、遠隔操作支援装置20の制御装置230が有する機能について説明する。図2に示すように、制御装置230は、距離感情報受信部231、支援要求受信部232、取得部233、判定部234、支援制御部235、遠隔情報送受信部236を有する。なお、図2の例では、本実施形態の要部の説明に必要な機能のみを例示しているが、制御装置230が有する機能はこれらに限られるものではない。本実施形態では、プロセッサ150がROM160に格納されたプログラムを実行することにより、上述の各部の機能を含む、制御装置140が有する各機能を実現する。ただし、これに限らず、これらの機能の一部又は全部が専用のハードウェア回路で実現される形態であってもよい。
距離感情報受信部231は、上述のように車両10から送信される傾き情報(距離感情報)と車両IDとを受信する。そして、距離感情報受信部231は、車両10から受信した傾き情報と車両IDとを対応付けて記憶部220に記憶する(図6参照)。なお、本実施形態では、距離感情報受信部231は、傾き情報を受信する機能と、傾き情報を記憶部220に記憶する機能とを有しているが、これに限らず、例えば傾き情報を受信する機能と、傾き情報を記憶部220に記憶する機能とがそれぞれ個別に設けられる形態であってもよい。
支援要求受信部232は、車両10から送信される上述の支援要求を受信する。
取得部233は、上述の傾き情報を取得する。より具体的には、本実施形態の取得部233は、支援要求受信部232により支援要求が受信されると、その受信した支援要求に含まれる車両IDを特定する。そして、取得部233は、特定した車両IDに対応付けられた傾き情報を記憶部220から取得する。本実施形態では、取得部233は、支援要求受信部232により支援要求が受信されるたびに傾き情報を取得する。上述したように、支援要求は車両10ごとに送信されるものであり、ある車両10からの支援要求を受信した後に別の車両10からの支援要求を受信したということは、遠隔操作の対象となる車両10が切り替わると考えることもできる。
判定部234は、遠隔操作用の画像が切り替わる場合、その切り替わりの前後における距離感を示す距離感情報を比較し、比較結果が予め定められた支援基準を満たすか否かを判定する。換言すれば、判定部234は、切り替わりの前後における距離感情報の変化が支援基準を満たすか否かを判定する。ここで、本実施形態に係る支援基準を満たすとは、傾き情報が示す傾きが予め定められた所定の傾き以上変化していることである。
本実施形態では、画像上の任意物体の動きを動きベクトルで表したオプティカルフローを用いて、オペレータの距離感を示す距離感情報が取得される。動きベクトルは、オペレータが距離感を「遠い」と感じる広角側の画角(焦点距離)で撮像された画像では大きい。一方、動きベクトルは、オペレータが距離感を「近い」と感じる望遠側の画角(焦点距離)で撮像された画像では小さい。このため、動きベクトルに基づく傾き情報を距離感情報として用いる構成によれば、動きベクトルが大きい場合とは、動きベクトルが小さい場合より広角側であり、物体の距離が遠く感じる距離感が「遠い」場合であると判定することができる。同様に、動きベクトルが小さい場合とは、動きベクトルが大きい場合より望遠側であり、物体の距離が近く感じる距離感が「近い」場合であると判定することができる。
具体的には、判定部234は、取得部233により取得された傾き情報が示す傾きが予め定められた所定の傾き以上、減少しているか否かを判定する。判定部234は、傾きが減少している場合、速度感が小さくなり、すなわちより望遠側であることから、距離感が「近い」と判定する(図8参照)。例えば、判定部234は、取得部233により取得された傾き情報が示す傾きが予め定められた所定の傾き以上、増加しているか否かを判定する。判定部234は、傾きが増加している場合、速度感が大きくなり、すなわちより広角側であることから、距離感が「遠い」と判定する(図7参照)。
本実施形態では、判定部234は、遠隔操作用の画像が切り替わる度に、最新の傾き情報が示す傾きと、その直前に取得された傾き情報が示す傾きとを比較し、傾き情報が示す傾きが変化しているか否か、すなわち距離感が変化しているか否かを判定する。
ここで、車両10の周辺領域の変化に応じた距離感の変化について説明する。例えば遠隔操作の対象となる車両10(支援要求を送信した車両10)が、画角が大きい広角モードのカメラ120が搭載された車両10と、画角が小さい望遠モードのカメラ120が搭載された車両10との間で切り替わった場合を想定する。
図7は、実施形態に係る広角モードのカメラ120で撮像された画像上の物体に関する距離感の一例を示す図である。図8は、実施形態に係る望遠モードのカメラ120で撮像された画像上の物体に関する距離感の一例を示す図である。図7及び図8からも分かるように、望遠モードのカメラ120で撮像された画像の方が、同一の被写体が相対的に拡大され、オペレータは、障害物などの物体に対する距離感が「近い」と感じるようになる。そのため、図7の状態から図8の状態に切り替わると、車両10から物体までの実際の距離が変わらなくてもオペレータの距離感としては、「遠い」から「近い」に変わったように感じる。そのため、オペレータが車両10と物体との衝突などを懸念して不安を抱いたり、必要以上に車両10の速度を低下させたりするおそれがある。
一方、図8の状態から図7の状態に切り替わると、車両10から物体までの実際の距離が変わらなくてもオペレータの距離感としては、「近い」から「遠い」に変わったように感じる。そのため、オペレータが車両10と物体との距離を詰めてしまったり、必要以上に車両10の速度を上昇させたりするおそれがある。また、車両10と物体との距離を詰めすぎたり、不要に速度が超過したりすると、車両10が移動方向の物体に接触(例えば衝突)するおそれがある。
なお、図7の状態から図8の状態に切り替わると、中央部分の拡大に起因して周辺領域(図4参照)が相対的に縮小されることに伴い、その周辺領域の動きベクトルの大きさの平均値が小さくなり、また、上述の傾き情報が示す傾きも小さくなる。一方、図8の状態から図7の状態に切り替わると、周辺領域が相対的に拡大されることに伴い、周辺領域の動きベクトルの大きさの平均値が大きくなり、また、上述の傾き情報が示す傾きも大きくなる。
つまり、上述の傾き情報が示す傾きが変化する場合には、オペレータの距離感が変化することになる。ここで、傾き情報が示す傾きが減少する場合には、傾き情報が示すオペレータの距離感が近くなる。一方、傾き情報が示す傾きが増加する場合には、傾き情報が示すオペレータの距離感が遠くなる。
このような中、本実施形態の遠隔操作支援装置20は、遠隔操作の対象の車両10から車両10の周囲の物体までの距離が支援制御の閾値より短い場合に、遠隔操作を支援する制御(例えばアラート)を実行するように構成されている。
そこで、本実施形態の遠隔操作支援装置20は、遠隔支援要請に伴い、遠隔操作用の画像が切り替わる場合、上述の傾き情報が示す傾きが変化しているか否かを判定し、傾き情報が示す傾きが所定の基準を超えて変化する、すなわち支援基準を満たすと判定した場合は、オペレータの遠隔操作を支援する支援制御における閾値を、その切り替わりの前後で異ならせる。換言すれば、本実施形態に係る支援制御部235は、遠隔操作用の画像が切り替わる前後の傾き情報の変化が支援基準を満たす場合、すなわち距離感が変化した場合に、車両10の遠隔操作を支援する制御に係る閾値を切り替わりの前後で変更する。
一例として、支援制御部235は、遠隔操作用の画像の切り替わりの前後で傾き情報が示す距離感が「遠い」から「近い」に変わる場合、支援制御の閾値を大きくする。これにより、遠隔操作用の画像の切り替わりの前後で距離感が「近く」なった場合には、支援制御において、アラートを行うタイミングを早めることができる。距離感を「近く」感じる遠隔操作用の画像に基づく遠隔操作を行う場合、変更前のタイミングでアラートが行われると、障害物などの物体までの距離感が「近く」感じるため、オペレータは衝突などの不安を覚えるおそれがあった。一方、本実施形態に係る支援制御の閾値の変更によれば、障害物などの物体までの距離感が「近く」感じる状況では、アラートを行うタイミングを早めることができるため、オペレータは、距離感の近さに起因する不安が軽減され、安心して遠隔操作を継続することができる。
一例として、支援制御部235は、遠隔操作用の画像の切り替わりの前後で傾き情報が示す距離感が「近い」から「遠い」に変わる場合、支援制御の閾値を小さくする。これにより、遠隔操作用の画像の切り替わりの前後で距離感が「遠く」なった場合には、支援制御において、アラートを行うタイミングを遅らせることができる。距離感を「遠く」感じる遠隔操作用の画像に基づく遠隔操作を行う場合、変更前のタイミングでアラートが行われると、障害物などの物体までの距離感が「遠く」感じるため、オペレータが速度を超過したり、物体との距離を詰めすぎたりするなど、衝突リスクが高いという問題があった。一方、本実施形態に係る支援制御の閾値の変更によれば、障害物などの物体までの距離感が「遠く」感じる状況では、アラートを行うタイミングを遅らせることができるため、オペレータは、適切な遠隔操作を行うことができるため、安全に遠隔操作を継続することができる。
なお、支援制御の閾値を小さくするにつれて、アラートが行われるタイミングでの障害物などの物体と車両10との間の実際の距離は小さくなる。このため、支援制御の閾値を小さくするほど、アラートを行っても対応できず、衝突リスクが高まるおそれがあった。そこで、実施形態に係る支援制御部235は、安全性に基づいて予め定められた下限値を超える範囲内で支援制御の閾値を小さく変更する。この下限値は、例えばオペレータの反応速度や衝突リスクに基づき、安全性に配慮して予め定められた閾値である。
なお、実施形態に係る支援制御部235は、遠隔操作用の画像の切り替わりの前後で傾き情報が示す距離感が「近い」から「遠い」に変わる場合、支援制御の閾値を小さく変更することに代えて、あるいは加えて、速度を上げすぎないようにオペレータに注意を促すアラートを行ってもよい。
ここで、本実施形態に係る遠隔操作を支援する支援制御について説明する。遠隔操作を支援する支援制御は、距離感が変化する場合の第1支援制御と、距離感情報に基づく閾値を用いる第2支援制御と、を含む。
支援制御部235は、遠隔操作を支援する第1支援制御として、遠隔操作用の画像の切り替わりに伴い距離感が変化することを報知する制御を行う。一例として、距離感が変化することを報知する制御は、距離感が「遠く」なる場合、「距離詰めすぎ注意」といった障害物などの物体との衝突のおそれを警告する制御であってもよい。図9は、実施形態に係る警告画面の一例を示す図である。例えば支援制御部235は、距離感が「遠く」なる場合、図9に示す警告画面(支援情報)を端末装置30に表示する制御を行ってもよい。
なお、距離感が「遠く」なる場合の距離感が変化することを報知する制御は、「速度超過注意」といった速度超過を警告する制御であってもよい。例えば支援制御部235は、距離感が「遠く」なる場合、速度超過を警告する警告画面(支援情報)を端末装置30に表示する制御を行ってもよい。
なお、距離感が変化することを報知する制御は、距離感が「近く」なる場合、オペレータの不安を軽減するために距離感が「近く」なることを通知する制御であってもよい。例えば支援制御部235は、距離感が「近く」なる場合、距離感が「近く」なることを通知する通知画面(支援情報)を端末装置30に表示する制御を行ってもよい。
また、支援制御部235は、遠隔操作を支援する第2支援制御として、遠隔操作の対象の車両10から車両10の周囲の物体までの距離が、上述のように傾き情報(距離感情報)に応じて変更された支援制御の閾値より短い場合に、「車両接近」、あるいは「障害物接近」といった、周囲の物体への接近を報知する制御を行う。例えば支援制御部235は、周囲の物体までの距離が傾き情報に基づく支援制御の閾値より短い場合に、周囲の物体への接近を警告する警告画面(支援情報)を端末装置30に表示する制御を行ってもよい。
なお、周囲の物体までの距離は、任意の手法により取得されればよい。一例として、支援制御部235は、車両10の図示しないソナーやLiDARなどのセンサの出力に基づいて、車両10から周囲の物体までの距離を取得してもよい。一例として、支援制御部235は、車両10の撮影画像上の距離とカメラ120の焦点距離などのカメラ情報と、に基づいて、車両10から周囲の物体までの距離を取得してもよい。一例として、支援制御部235は、車両10の位置情報と、予め記憶部220などに格納された車両10の走行経路に関する3次元構造情報地図のデータと、に基づいて、車両10から周囲の物体までの距離を取得してもよい。車両10の位置情報は、車両10の図示しないGPSセンサなどのGNSSセンサにより取得されてもよいし、デッドレコニング技術を用いた自己位置推定の結果に基づいて取得されてもよいし、カメラ120の撮影画像と予め取得されて記憶部220などに格納された周囲環境の画像との比較の結果に基づいて取得されてもよい。
図2に戻り、遠隔操作支援装置20の制御装置230が有する機能の説明を続ける。遠隔情報送受信部236は、車両10の遠隔操作に用いられる情報を示す遠隔情報の送受信を行う。遠隔情報には、例えば端末装置30から送信される操作情報、車両10のカメラ120で撮像された画像等の情報を含む。例えば遠隔情報送受信部236は、端末装置30から送信される操作情報を受信し、その受信した操作情報を車両10へ送信することができる。また、上述したように、サービス運用開始後の車両10の走行中においては、車両10のカメラ120で撮像された画像が遠隔操作支援装置20へ送られてくるので、遠隔情報送受信部236は、車両10から受信した画像を端末装置30へ送信することもできる。
(端末装置30)
次に、端末装置30の構成を説明する。図2に示すように、端末装置30は、ハードウェア要素として、通信装置310と、表示装置320と、操作デバイス330と、制御装置340と、を備える。なお、端末装置30のハードウェア要素は、図2に例示した構成に限られるものではなく、他のハードウェア要素を備える形態であっても構わない。
次に、端末装置30の構成を説明する。図2に示すように、端末装置30は、ハードウェア要素として、通信装置310と、表示装置320と、操作デバイス330と、制御装置340と、を備える。なお、端末装置30のハードウェア要素は、図2に例示した構成に限られるものではなく、他のハードウェア要素を備える形態であっても構わない。
通信装置310は、ネットワーク40を介して外部装置(例えば遠隔操作支援装置20等)と通信する装置である。表示装置320は、各種の情報を表示する装置であり、例えば液晶ディスプレイ等で構成される。操作デバイス330は、オペレータが各種の操作を行う装置である。
制御装置340は、端末装置30の動作を統括的に制御する装置である。本実施形態では、制御装置340はコンピュータ装置で構成され、図3と同様のハードウェア構成を有する。
続いて、制御装置340が有する機能について説明する。図2に示すように、制御装置340は、情報受信部341、表示制御部342、操作情報送信部343を有する。なお、図2の例では、本実施形態の要部の説明に必要な機能のみを例示しているが、制御装置340が有する機能はこれらに限られるものではない。本実施形態では、プロセッサ150がROM160に格納されたプログラムを実行することにより、上述の各部の機能を実現する。ただし、これに限らず、これらの機能の一部または全部が専用のハードウェア回路で実現される形態であってもよい。
情報受信部341は、遠隔操作支援装置20から送信される各種の情報を受信する。例えば情報受信部341は、上述の遠隔操作要求、上述の支援情報、車両10のカメラ120で撮像された画像等の情報を遠隔操作支援装置20から受信することができる。
表示制御部342は、各種の情報を表示装置320に表示する制御を行う。例えば表示制御部342は、上述の遠隔操作要求(例えば遠隔操作を要求するメッセージ等)を表示装置320に表示する制御を行うこともできるし、上述の支援情報(例えば警告画面等)を表示装置320に表示する制御を行うこともできるし、車両10のカメラ120で撮像された画像を表示装置320に表示する制御を行うこともできる。例えば、上述の遠隔操作モードの場合、車両10のカメラ120で撮像された画像が遠隔操作支援装置20を介して端末装置30へ送信され、表示制御部342が、遠隔操作支援装置20から受信した画像を表示装置320に表示することにより、オペレータは、車両10の走行状況を確認しながら車両10の遠隔操作を行うことができる。
操作情報送信部343は、オペレータによる操作デバイス330の操作に応じて入力される操作情報を、遠隔操作支援装置20へ送信する。例えばオペレータは、表示装置320に表示された上述の遠隔操作要求を確認した後、操作デバイス330を操作して車両10の遠隔操作を開始し、操作情報送信部343は、オペレータによる操作デバイス330の操作に応じて入力される操作情報を、遠隔操作支援装置20へ送信することができる。
次に、図面を参照して、実施形態に係る遠隔操作システム1の動作例について説明する。なお、以下に説明する動作手順や処理の流れは一例であり、ステップの順序の変更や一部のステップの削除、他のステップの追加は任意に可能である。
図10は、実施形態に係る遠隔操作システム1における、遠隔操作の対象車両が切り替わった場合の動作手順の一例を示すシーケンス図である。ここでは、遠隔操作の対象が車両10Aから車両10Bに切り替わった場合の遠隔操作システム1の動作手順の一例を説明する。
まず、サービス運用前の段階において、車両10Aは距離感情報として上述の傾き情報を算出し、算出した傾き情報と車両IDとを遠隔操作支援装置20へ送信する(ステップS1)。遠隔操作支援装置20は、車両10Aから受信した傾き情報(距離感情報)と車両IDとを対応付けて記憶部220に記憶する(ステップS2)。同様に、車両10Bは、距離感情報として傾き情報と車両IDとを遠隔操作支援装置20へ送信し(ステップS3)、遠隔操作支援装置20は、車両10Bから受信した傾き情報(距離感情報)と車両IDとを対応付けて記憶部220に記憶する(ステップS4)。
以下は、サービス運用開始後の動作手順となる。図10の例においては、まず車両10Aが自律走行不可能な状態となり、上述の支援要求を遠隔操作支援装置20へ送信する(ステップS5)。車両10Aからの支援要求を受信した遠隔操作支援装置20は、支援要求に含まれる車両10Aの車両IDに対応する傾き情報を記憶部220から取得し、その取得した傾き情報が示す距離感が、前回取得した傾き情報が示す距離感から支援基準を超えて変化するか否かを判定する(ステップS6)。この例では、車両10Aの支援要求よりも前の支援要求は受信していない前提なので、ステップS6の判定結果は否定となる。ステップS6の判定結果が否定となるので、遠隔操作支援装置20は、第2支援制御の閾値を変更せず、また、上述の第1支援制御の支援情報を送信せずに、上述の遠隔操作要求を端末装置30へ送信する(ステップS7)。
端末装置30は、遠隔操作支援装置20から受信した遠隔操作要求を表示する(ステップS8)。遠隔操作要求を確認したオペレータは車両10Aの遠隔操作を開始し、端末装置30は、オペレータの操作に応じた操作情報を遠隔操作支援装置20へ送信する(ステップS9)。このとき、遠隔操作支援装置20は、その時点で設定されている閾値を用いた第2支援制御を開始する。遠隔操作支援装置20は、端末装置30から受信した操作情報を車両10Aに送信し(ステップS10)、車両10Aは、遠隔操作支援装置20から受信した操作情報に応じて走行する。つまり、車両10Aはオペレータの遠隔操作に従って走行する。
次に、図10の例においては、車両10Bが自律走行不可能な状態となり、上述の支援要求を遠隔操作支援装置20へ送信する(ステップS11)。車両10Bからの支援要求を受信した遠隔操作支援装置20は、支援要求に含まれる車両10Bの車両IDに対応する傾き情報を記憶部220から取得し、その取得した傾き情報が示す距離感が、前回取得した傾き情報が示す距離感から支援基準を超えて変化するか否かを判定する(ステップS12)。ここでは、遠隔制御の対象が車両10Aから車両10Bに切り替わったことに伴い、遠隔操作用の画像に基づく距離感を示す距離感情報の変化が予め定められた支援基準を満たすとする。この場合、ステップS12の判定結果は肯定となる。ステップS12の判定結果が肯定となるので、遠隔操作支援装置20は、第2支援制御の閾値を変更し(ステップS13)、また、上述の遠隔操作要求及び第1支援制御の支援情報を端末装置30へ送信する(ステップS14)。
端末装置30は、遠隔操作支援装置20から受信した遠隔操作要求及び第1支援制御の支援情報を表示する(ステップS15)。遠隔操作要求及び第1支援制御の支援情報を確認したオペレータは、車両10Bの遠隔操作を開始する。例えば距離感が「遠く」なる場合、端末装置30の表示装置320には、図9に示すような警告画面(支援情報)が表示されるので、オペレータが、遠隔操作用の画像において距離感が「遠く」なったことの影響を受けて車両10Bと障害物などの物体との距離を詰めすぎたり、車両10Bの速度を上げ過ぎたりしてしまうことを抑制できる。端末装置30は、オペレータの操作に応じた操作情報を遠隔操作支援装置20へ送信する(ステップS16)。このとき、遠隔操作支援装置20は、距離感情報の変化に基づいて変更された閾値を用いる第2支援制御を開始する。遠隔操作支援装置20は、端末装置30から受信した操作情報を車両10Bに送信し(ステップS17)、車両10Bは、遠隔操作支援装置20から受信した操作情報に応じて走行する。つまり、車両10Bはオペレータの遠隔操作に従って走行する。また、遠隔操作支援装置20は、第2支援制御において、遠隔操作の対象の車両10から車両10の周囲の物体までの距離が閾値より短い場合に、「車両接近」、あるいは「障害物接近」といった、周囲の物体への接近を報知する第2支援制御の支援情報を端末装置30へ送信する(ステップS18)。
図11は、実施形態に係る車両10の制御装置140において実行される、距離感情報の算出処理の流れの一例を示すフローチャートである。図11は、距離感情報として、上述の傾き情報を算出する場合を例示する。図11に示すように、まず距離感情報算出部141は、車両10の速度を示す速度情報を取得する(ステップS101)。次に、距離感情報算出部141は、カメラ120で撮像された画像に基づいて、車両10の周辺領域の動きベクトルを算出する(ステップS102)。次に、距離感情報算出部141は、ステップS101で取得した速度情報と、ステップS102で算出した動きベクトルと、に基づいて、車両10の速度と周辺領域の動きベクトルとの対応を示す直線の式を算出し、その直線の式の傾きを示す傾き情報を算出する(ステップS103)。次に、距離感情報算出部141は、ステップS103で算出した傾き情報と車両IDとを遠隔操作支援装置20へ送信する(ステップS104)。遠隔操作支援装置20(距離感情報受信部231)は、車両10(距離感情報算出部141)から受信した傾き情報と車両IDとを対応付けて記憶部220に記憶する。
図12は、実施形態に係る遠隔操作支援装置20の制御装置230において実行される、支援要求を受信した場合の支援処理の流れの一例を示すフローチャートである。図12に示すように、まず支援要求受信部232は、車両10からの支援要求を受信する(ステップS201)。次に、取得部233は、ステップS201で受信した支援要求に含まれる車両IDに対応する距離感情報としての傾き情報を記憶部220から取得する(ステップS202)。次に、判定部234は、ステップS202で取得した傾き情報に基づき、支援基準を満たす距離感情報の変化であるか否かを判定する(ステップS203)。
ステップS203の結果が肯定の場合(ステップS203:Yesの場合)、支援制御部235は、距離感が減少して「近く」なっていれば(ステップS204:Yesの場合)、第2支援制御の閾値を大きくし(ステップS205)、距離感が増加して「遠く」なっていれば(ステップS204:Noの場合)、第2支援制御の閾値を小さくする(ステップS206)。一方、ステップS203の結果が否定の場合(ステップS203:Nоの場合)、支援制御部235は、第2支援制御の閾値を変更せず、ステップS207へ進む。
そして、支援制御部235は、支援要求に応じた車両10の遠隔操作を要求する情報を示す遠隔操作要求を端末装置30へ送信する(ステップS207)。このとき、支援制御部235は、上述したように、遠隔操作を支援する第1支援制御の支援情報を端末装置30へ送信してもよい。また、支援制御部235は、上述したように、遠隔操作中に、遠隔操作の対象の車両10と周囲の物体との距離が第2支援制御の閾値より近くなったか否かを判定する(S208)。
ステップS208の結果が肯定の場合(ステップS208:Yesの場合)、支援制御部235は、上述したように、遠隔操作を支援する第2支援制御の支援情報(アラート)を端末装置30へ送信する(S209)。一方、ステップS208の結果が否定の場合(ステップS208:Nоの場合)、支援制御部235は、アラートを行わない。
以上説明したように、本実施形態の遠隔操作支援装置20は、例えば操作対象の車両10が切り替わる場合に、オペレータが遠隔操作用の画像から感じる物体との距離感が変化する場合、アラートを出す第2支援制御の閾値を変更する。この構成によれば、遠隔操作用の画像から感じる距離感が異なる車両10に遠隔操作の対象が切り替わる場合であっても、距離感の違いによるアラートのタイミングに対する違和感を低減することができる。また、上記構成によれば、距離感が異なる車両10に遠隔操作の対象が切り替わる場合であっても、距離感の違いに起因するオペレータの不安を軽減し、また、距離感の違いに起因する速度超過や衝突のリスクを低減して安全性を向上することができる。したがって、本実施形態によれば、オペレータの遠隔操作を適切に支援することができる。
なお、上述の実施形態に係る遠隔操作システム1の各装置の有する機能の一部は、遠隔操作システム1の他の装置により実現されてもよい。例えば、上述の実施形態に係る遠隔操作支援装置20の支援制御に係る機能の一部は、車両10及び端末装置30の少なくともいずれかにおいて実現されてもよい。例えば、上述の実施形態に係る車両10の距離感情報の算出に係る機能の一部は、遠隔操作支援装置20及び端末装置30の少なくともいずれかにおいて実現されてもよい。あるいは、上述の実施形態に係る遠隔操作システム1において、遠隔操作支援装置20及び端末装置30は、一体に構成されていてもよい。
なお、上述の実施形態において、「Aであるか否か」の判定とは、「Aである」ことだけを判定することにより実現されてもよいし、「Aではない」ことだけを判定することにより実現されてもよいし、これらの双方を判定することにより実現されてもよい。
なお、上述の実施形態において、「Aのうちのいずれか」とは、「Aのうちの少なくとも1つ」であることを意味する。
なお、上述の実施形態に係る遠隔操作システム1の各装置(例えば制御装置140,230,340)で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、FD、CD-R、DVD等のコンピュータで読み取り可能な記録媒体(Computer Program Product)に記録されて提供されてもよい。
また、上述の実施形態に係る遠隔操作システム1の各装置で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述の実施形態に係る遠隔操作システム1の各装置で実行されるプログラムをインターネット等のネットワーク経由で提供又は配布するように構成してもよい。
また、上述の実施形態に係る遠隔操作システム1の各装置で実行されるプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
以上、本開示の実施形態を説明したが、上述の実施形態は例として提示したものであり、発明の範囲を限定することは意図していない。これら新規の実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら新規の実施形態およびその変形は、発明の範囲および要旨に含まれるとともに、請求の範囲に記載された発明とその均等の範囲に含まれる。
また、本明細書に記載された実施形態における効果はあくまで例示であって限定されるものでは無く、他の効果があってもよい。
以下、変形例を記載する。
(1)変形例1
上述の実施形態では、距離感情報として傾き情報を用いる場合を例示したが、これに限らない。距離感情報としては、傾き情報に限らず、カメラ120の焦点情報と、取り付け高さと、撮像範囲の大きさ(例えば画角)と、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲の大きさ(例えば視野、クロップ範囲)と、のうちの少なくともいずれかを含むカメラ情報や、遠隔操作用の画像に基づく深度情報を利用してもよい。
上述の実施形態では、距離感情報として傾き情報を用いる場合を例示したが、これに限らない。距離感情報としては、傾き情報に限らず、カメラ120の焦点情報と、取り付け高さと、撮像範囲の大きさ(例えば画角)と、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲の大きさ(例えば視野、クロップ範囲)と、のうちの少なくともいずれかを含むカメラ情報や、遠隔操作用の画像に基づく深度情報を利用してもよい。
本変形例に係る記憶部220は、車両10ごとに焦点距離を対応付けて記憶する。図13は、変形例に係る距離感情報であって、車両IDごとに対応付けられた焦点距離情報の一例を示す図である。図13は、カメラ情報としてカメラ120の焦点距離を利用する場合を例示する。本変形例では、図13に示すように、記憶部220は、車両を識別する情報を示す車両IDごとに焦点距離を対応付けて記憶する。なお、焦点距離の記憶形式は図13の形態に限られるものではない。
図14は、変形例に係る車両10の制御装置140において実行される、距離感情報の算出処理の流れの一例を示すフローチャートである。図14は、カメラ情報としてカメラ120の焦点距離を利用する場合を例示する。図14に示すように、まず距離感情報算出部141は、遠隔操作用の画像を取得するカメラ120から、カメラ情報としての焦点距離を取得する(ステップS301)。そして、距離感情報算出部141は、ステップS301で取得した焦点距離と車両IDとを遠隔操作支援装置20へ送信する(ステップS302)。遠隔操作支援装置20(距離感情報受信部231)は、車両10(距離感情報算出部141)から受信した焦点距離と車両IDとを対応付けて記憶部220に記憶する。
距離感情報として焦点距離を用いる構成においては、焦点距離が長いほど望遠となり、画像から感じる距離感が「近く」なる。一方、焦点距離が短いほど広角となり、画像から感じる距離感が「遠く」なる。したがって、遠隔操作用の画像が切り替わる場合、焦点距離の変化に基づいて、上述の実施形態と同様に距離感の変化を判定し、距離感に応じた支援制御を実現することができる。
同様に、距離感情報として車両10におけるカメラ120の取り付け高さを用いる構成においては、取り付け高さが高いほど望遠となり、画像から感じる距離感が「近く」なる。一方、取り付け高さが低いほど広角となり、画像から感じる距離感が「遠く」なる。したがって、遠隔操作用の画像が切り替わる場合、取り付け高さの変化に基づいて、上述の実施形態と同様に距離感の変化を判定し、距離感に応じた支援制御を実現することができる。
同様に、距離感情報としてカメラ120の画角を用いる構成においては、画角が大きいほど広角となり、画像から感じる距離感が「遠く」なる。一方、画角が小さいほど望遠となり、画像から感じる距離感が「近く」なる。したがって、遠隔操作用の画像が切り替わる場合、画角の変化に基づいて、上述の実施形態と同様に距離感の変化を判定し、距離感に応じた支援制御を実現することができる。
同様に、距離感情報としてカメラ120の取得画像に基づく視野又はクロップ範囲を用いる構成においては、視野又はクロップ範囲が大きいほど広角となり、画像から感じる距離感が「遠く」なる。一方、視野又はクロップ範囲が小さいほど望遠となり、画像から感じる距離感が「近く」なる。したがって、遠隔操作用の画像が切り替わる場合、視野又はクロップ範囲の変化に基づいて、上述の実施形態と同様に距離感の変化を判定し、距離感に応じた支援制御を実現することができる。
同様に、距離感情報として遠隔操作用の画像に基づく深度情報を用いる構成においては、深度情報の最小距離の変化が大きいほど望遠となり、画像から感じる距離感が「近く」なる。一方、深度情報の最小距離の変化が小さいほど広角となり、画像から感じる距離感が「遠く」なる。なお、深度情報は、例えばRGB画像の入力に応じて距離画像を出力するようにパラメータが決定されたDNN(Deep Neural Network)などの機械学習モデルを用いて取得することができる。例えば、距離感情報算出部141は、カメラ120により撮像されたRGB画像をDNNへ入力し、当該RGB画像の入力に応じたDNNの出力を深度情報として取得する。したがって、遠隔操作用の画像が切り替わる場合、深度情報の最小距離の変化に基づいて、上述の実施形態と同様に距離感の変化を判定し、距離感に応じた支援制御を実現することができる。
(2)変形例2
上述の実施形態では、遠隔操作の対象の車両10が切り替わることに伴い、遠隔操作用の画像が切り替わる場合を例示したが、これに限らない。遠隔操作用の画像は、同一の車両10に複数のカメラ120が設けられている場合など、遠隔操作用の画像の取得に用いるカメラ120が切り替わることに伴い、遠隔操作用の画像が切り替わる場合もあり得る。あるいは、遠隔操作用の画像は、カメラ120の特性が切り替わることに伴い、遠隔操作用の画像が切り替わる場合もあり得る。つまり、遠隔操作用の画像の切り替わりは、遠隔操作の対象の車両10と、車両10におけるカメラ120と、のうちの少なくとも一方の切り替わりに基づくものであってもよい。
上述の実施形態では、遠隔操作の対象の車両10が切り替わることに伴い、遠隔操作用の画像が切り替わる場合を例示したが、これに限らない。遠隔操作用の画像は、同一の車両10に複数のカメラ120が設けられている場合など、遠隔操作用の画像の取得に用いるカメラ120が切り替わることに伴い、遠隔操作用の画像が切り替わる場合もあり得る。あるいは、遠隔操作用の画像は、カメラ120の特性が切り替わることに伴い、遠隔操作用の画像が切り替わる場合もあり得る。つまり、遠隔操作用の画像の切り替わりは、遠隔操作の対象の車両10と、車両10におけるカメラ120と、のうちの少なくとも一方の切り替わりに基づくものであってもよい。
遠隔操作用の画像の取得に用いるカメラ120の切り替わること、あるいはカメラ120の特性が切り替わること、とは、車両10を遠隔操作するオペレータがその遠隔操作時に見る遠隔操作用の画像に関するFOVが切り替わることであってもよい。つまり、遠隔操作用の画像が切り替わる際、カメラ120に関する情報のうちの少なくともいずれかが異なることに起因して距離感が変化する場合、第2支援制御の閾値が変更されてもよい。
本変形例に係る構成によれば、操作対象の車両10が変更されない場合であっても、オペレータの感じる距離感が変化する場合には、その閾値の変更により遠隔操作を適切に支援することができる。
(3)変形例3
上述の実施形態では、第2支援制御として車両10の周囲の物体への接近を報知する制御を行う場合を例示したが、これに限らない。第2支援制御としては、車両10の周囲の物体への接近を報知する制御と、車両10を制動する制御と、車両10の移動可否を判定し、判定結果を報知する制御と、車両10の周囲を俯瞰して示す俯瞰画像を提示する制御と、のうちの少なくともいずれかであってもよい。
上述の実施形態では、第2支援制御として車両10の周囲の物体への接近を報知する制御を行う場合を例示したが、これに限らない。第2支援制御としては、車両10の周囲の物体への接近を報知する制御と、車両10を制動する制御と、車両10の移動可否を判定し、判定結果を報知する制御と、車両10の周囲を俯瞰して示す俯瞰画像を提示する制御と、のうちの少なくともいずれかであってもよい。
例えば、支援制御部235は、遠隔操作の対象の車両10から車両10の周囲の物体までの距離が、例えば第2支援制御の閾値より短い場合に、車両10を制動(例えば緊急停止)する制御を行ってもよい。この場合、支援制御部235は、緊急停止することをオペレータに通知する通知画面(支援情報)を端末装置30に表示する制御を行ってもよい。また、支援制御部235は、第2支援制御の閾値に関し、距離感が「近く」なった場合に大きくし、距離感が「遠く」なった場合に小さくしてもよい。したがって、実際の物体と車両10との間の距離が第2支援制御の閾値を下回った場合に緊急停止などの制動が行われるため、距離感が「近く」なった場合にはより遠い距離で緊急停止が行われるため、不要な制動を抑制することができる。また、距離感が「遠く」なった場合には下限値を下回らない範囲内でより近い距離で緊急停止が行われるため、距離感の変化に起因して意図せず物体との距離が詰まった状況でも衝突リスクを低減することができる。
例えば、支援制御部235は、遠隔操作の対象の車両10から車両10の周囲の物体までの距離が、例えば第2支援制御の閾値より短い場合に、車両10の移動可否(例えば通り抜け可否)を判定し、判定結果を報知する制御を行ってもよい。この場合、支援制御部235は、判定結果をオペレータに通知する通知画面(支援情報)を端末装置30に表示する制御を行ってもよい。また、支援制御部235は、第2支援制御の閾値に関し、距離感が「近く」なった場合に大きくし、距離感が「遠く」なった場合に小さくしてもよい。したがって、壁などの物体までの距離感が「近く」なった場合にはより速い段階で通り抜けの可否の報知が行われるため、車両10が通れるか分からないといったオペレータの不安を軽減することができる。
例えば、支援制御部235は、遠隔操作の対象の車両10から車両10の周囲の物体までの距離が、例えば第2支援制御の閾値より短い場合に、車両10の周囲を俯瞰して示す俯瞰画像(例えばアラウンドビュー)を提示する制御を行ってもよい。この場合、支援制御部235は、俯瞰画像を提示する提示画面(支援情報)を端末装置30に表示する制御を行ってもよい。また、支援制御部235は、第2支援制御の閾値に関し、距離感が「近く」なった場合に大きくし、距離感が「遠く」なった場合に小さくしてもよい。したがって、狭い道や壁などの物体までの距離感が「近く」なった場合にはより速い段階で車両10の周囲状況を俯瞰画像により確認することができるため、オペレータの不安を軽減することができる。
(4)変形例4
なお、上述の実施形態に係る遠隔操作システム1では、車両10は、例えば進路上に障害物が検知された場合など、自装置が自律走行不可能な状態に陥った場合に、遠隔操作支援装置20に対して、遠隔操作による支援を要求する支援要求を送信する。このような中、支援制御部235は、支援要求が送信されるタイミングを、距離感に応じて変更してもよい。例えば、支援制御部235は、遠隔操作に切り替わるときの障害物までの距離の設定を、距離感が「近い」場合には遠くし、距離感が「遠い」場合には近くしてもよい。この場合、支援制御部235は、変更した距離の設定を示す支援情報を車両10に出力する制御を行ってもよい。また、車両10は、遠隔操作支援装置20からの支援情報に応じて遠隔操作に切り替わるときの障害物までの距離の設定を変更してもよい。したがって、距離感が「近く」なった場合はより遠くで車両10が停止した状態で遠隔操作に切り替わるため、遠隔操作の開始時点でのオペレータの不安を低減することができる。
なお、上述の実施形態に係る遠隔操作システム1では、車両10は、例えば進路上に障害物が検知された場合など、自装置が自律走行不可能な状態に陥った場合に、遠隔操作支援装置20に対して、遠隔操作による支援を要求する支援要求を送信する。このような中、支援制御部235は、支援要求が送信されるタイミングを、距離感に応じて変更してもよい。例えば、支援制御部235は、遠隔操作に切り替わるときの障害物までの距離の設定を、距離感が「近い」場合には遠くし、距離感が「遠い」場合には近くしてもよい。この場合、支援制御部235は、変更した距離の設定を示す支援情報を車両10に出力する制御を行ってもよい。また、車両10は、遠隔操作支援装置20からの支援情報に応じて遠隔操作に切り替わるときの障害物までの距離の設定を変更してもよい。したがって、距離感が「近く」なった場合はより遠くで車両10が停止した状態で遠隔操作に切り替わるため、遠隔操作の開始時点でのオペレータの不安を低減することができる。
(5)変形例5
なお、支援制御部235は、遠隔操作用の画像の切り替わり後の第2支援制御の閾値を、切り替わりの後の操作対象の車両10の周囲環境、タスクの種別及び車両10の種別のうちの少なくともいずれかに応じて調整してもよい。
なお、支援制御部235は、遠隔操作用の画像の切り替わり後の第2支援制御の閾値を、切り替わりの後の操作対象の車両10の周囲環境、タスクの種別及び車両10の種別のうちの少なくともいずれかに応じて調整してもよい。
一例として、支援制御部235は、切り替わり後の車両10の周囲環境が街中など周りに人や物が多いところの場合、第2支援制御の閾値を通常より大きくしてもよい。例えば、支援制御部235は、切り替わりの前後で距離感が「近い」から「遠い」に変わる場合、通常時には第2支援制御の閾値を下げる一方、街中など周りに人や物が多いところである場合には下げずに大きくしてもよい。これにより、より遠くでアラートが行われるため、安全性を向上させることができる。
一例として、支援制御部235は、切り替わり後の車両10の周囲環境が暗い時間帯や天候が悪い環境の場合、第2支援制御の閾値を通常より大きくしてもよい。例えば、支援制御部235は、切り替わりの前後で距離感が「近い」から「遠い」に変わる場合、通常時には第2支援制御の閾値を下げる一方、暗い時間帯や天候が悪い環境の場合には下げずに大きくしてもよい。これにより、周囲が見えづらい状況では第2支援制御のタイミングが早まるため、安全性を向上させることができる。
一例として、支援制御部235は、切り替わり後の車両10のタスクの種別が宅配サービスやコミュニケーションロボットによるサービスのように、人に近づく種別のタスクである場合、第2支援制御の閾値を通常より大きくしてもよい。例えば、支援制御部235は、切り替わりの前後で距離感が「近い」から「遠い」に変わる場合、通常時には第2支援制御の閾値を下げる一方、人に近づく種別のタスクである場合には下げずに大きくしてもよい。これにより、距離感を誤ると人と衝突するリスクが高いタスク種別の場合には、アラートや緊急停止のタイミングを早め、安全性を向上させることができる。
一例として、支援制御部235は、切り替わり後の車両10のタスクの種別が信号や標識など、車両10の周囲状況の視認が重要視される種別のタスクである場合、距離感が「近く」なるようにカメラ120の焦点距離と、取り付け高さと、撮像範囲と、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲と、のうちの少なくともいずれかを調整してもよい。また、支援制御部235は、距離感を「近く」する制御とともに、第2支援制御の閾値を通常より小さくしたり、遠隔操作に切り替わるときの障害物までの距離を遠くしたりしてもよい。これにより、信号や標識などの見落としを抑制することができる。
あるいは、支援制御部235は、切り替わり後の車両10のタスクの種別が信号や標識など、車両10の周囲状況の視認が重要視される種別のタスクである場合、遠隔操作用の画像の切り替わり前後での距離感の変化を低減するように、カメラ120の焦点距離と、取り付け高さと、撮像範囲と、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲と、のうちの少なくともいずれかを調整してもよい。ここで、遠隔操作用の画像の切り替わり前後で距離感の変化を低減することは、その切り替わり前後で距離感が一定になるようにすることである。これにより、切り替わり前後での画像上の物体の見え方の差異を低減することができる。
一例として、支援制御部235は、切り替わり後の車両10の種別が大きい車両を示す種別である場合、第2支援制御の閾値を通常より大きくしてもよい。例えば、支援制御部235は、切り替わりの前後で距離感が「近い」から「遠い」に変わる場合、通常時には第2支援制御の閾値を下げる一方、車両10の種別が大きい車両である場合には下げずに大きくしてもよい。これにより、危険度が高い大きい車両を操作する場合には、アラートや緊急停止のタイミングを早め、安全性を向上させることができる。つまり、事故が発生した場合のリスクが高い状況において、周囲状況などをオペレータに早めに気付かせることができる。
(6)変形例6
なお、上述の実施形態に係る遠隔操作システム1では、距離感情報が示す距離感が変化したこと、距離感が「遠い」/「近い」のいずれに変化したかに応じて遠隔操作を支援する制御を行う場合を例示したが、これに限らない。
なお、上述の実施形態に係る遠隔操作システム1では、距離感情報が示す距離感が変化したこと、距離感が「遠い」/「近い」のいずれに変化したかに応じて遠隔操作を支援する制御を行う場合を例示したが、これに限らない。
一例として、支援制御部235は、遠隔操作用の画像の切り替わり後に関し、カメラ120が距離感を「遠く」感じる設定や位置の場合、例えば距離感の変化に依らず、距離を詰めすぎないように報知(警告)する制御を行ってもよい。これにより、遠隔操作用の画像の切り替わりを契機として距離感について注意を促すことができる。
一例として、支援制御部235は、距離感が「遠い」/「近い」のいずれに変化したかに限らず、その距離感の変化量に応じた大きさで第2支援制御の閾値を変更してもよい。また、支援制御部235は、距離感の変化量が小さい場合には、第2支援制御の閾値を変更しなくてもよい。これにより、距離感に応じた変化量で閾値が変更されるため、より適切な支援を実現することができる。
一例として、支援制御部235は、オペレータごとに、遠隔操作用の画像の切り替わりの前後において第2支援制御の閾値を変更するか否かを、例えばオペレータやオペレータの管理者などの選択に基づいて設定してもよい。つまり、支援制御部235は、特定のオペレータに関し、距離感が変化した場合であっても第2支援制御の閾値を変更しなくてもよい。これにより、例えば画像に基づく操作に習熟したオペレータや、画像から適切に距離感を把握できるオペレータなど、閾値の変更によって混乱が生じるおそれがあるオペレータに対しては閾値を変更しないという制御を実現することができる。
なお、支援制御部235は、閾値を変更しないと設定されたオペレータに関し、周囲に障害物などの物体が存在する状態で急制動が行われた場合など、距離感を誤って緊急ブレーキが発生したと推定される場合は、当該オペレータに、距離感に応じて第2支援制御の閾値の変更が行われる設定とするように促す報知(通知)を行ってもよい。これにより、距離感にずれがあると推定される場合には距離感に応じた閾値変更の適用がオペレータに促されるため、その適用による遠隔操作の安全性の向上を図ることができる。
一例として、支援制御部235は、遠隔操作用の画像の切り替わり前の操作時間が、例えば予め定められて記憶部220などに格納された所定時間より短い場合は、距離感に応じた閾値変更を行わなくてもよい。これにより、切り替え前の距離感に慣れる前に切り替わったにも関わらず距離感に応じて第2支援制御の閾値が変更されるなど、オペレータの混乱を招くなど利便性が低下するおそれを低減し、また、閾値変更に起因して距離感にずれが生じるなど安全性が低下するおそれを低減することができる。
一例として、支援制御部235は、遠隔操作用の画像の切り替わり後の操作対象の車両10での操作経験が、例えば予め定められて記憶部220などに格納された所定基準より多いオペレータの場合は、距離感に応じた閾値変更を行わなくてもよい。その車両10での距離感に慣れているオペレータに対して距離感に応じた閾値変更を行うことにより、オペレータの混乱を招くなど利便性が低下するおそれを低減し、また、閾値変更に起因して距離感にずれが生じるなど安全性が低下するおそれを低減することができる。
一例として、支援制御部235は、遠隔操作用の画像の切り替わり後の操作時間が、例えば予め定められて記憶部220などに格納された所定時間を超えた場合は、距離感に応じた閾値を、その変更前の閾値に戻してもよい。すなわち、支援制御部235は、遠隔操作用の画像の切り替わり後の一定時間のみ、第2支援制御の閾値を変更してもよい。これにより、オペレータが切り替え後の距離感に慣れた状態では、遠隔操作用の画像から感じる距離感の下で第2支援制御が行われるため、オペレータの利便性を向上させることができる。
(7)変形例7
なお、上述の実施形態に係る遠隔操作システム1では、端末装置30により距離の詰めすぎや速度超過、あるいは物体への接近を支援情報の表示により報知する場合を例示したが、これに限らない。
なお、上述の実施形態に係る遠隔操作システム1では、端末装置30により距離の詰めすぎや速度超過、あるいは物体への接近を支援情報の表示により報知する場合を例示したが、これに限らない。
一例として、支援制御部235は、表示に限らず、音声により支援情報を報知してもよい。これにより、支援情報の表示に伴う遠隔操作のための画像の視認性の低下を抑制することができる。
一例として、支援制御部235は、音を大きくしすぎないようにマイクの音量を上げすぎないように報知(警告)する制御を行ってもよい。これにより、例えば距離感が「遠い」場合において、マイクを介して車両10のスピーカから出力される音声が遠くいると感じる人に届くようにマイクの音量を上げすぎてしまうことを抑制できる。
一例として、支援制御部235は、距離が近く感じているだけでまだ近づけるといった余裕度を報知(通知)する制御を行ってもよい。余裕度としては、例えば、実際の距離に対する距離感情報の割合などを適宜用いることができる。これにより、例えばオペレータは、距離感が「遠い」と感じる場合であっても、あとどのくらい車両10を移動可能であるかを容易に把握することができる。
一例として、支援制御部235は、支援情報の表示に関し、距離感のずれ、すなわち遠隔操作用の画像の切り替わり前後の距離感の変化が大きいほど、その文字の大きさや色、音などで強く警告する制御を行ってもよい。これにより、オペレータは、その距離感の変化の大きさを感覚的に把握することができる。
一例として、支援制御部235は、支援情報の表示に関し、遠隔操作用の画像の切り替わり前後で距離感がどの程度異なるかを通知する制御を行ってもよい。この通知は、例えば端末装置30において表示される際、距離感に応じて背景色の表示態様が変更されることにより実現されてもよい。例えば、支援制御部235は、距離感が「近く」に感じる場合、赤色の背景色とし、かつ、その距離感の差が大きいほど背景色の色を濃くする表示態様の変更を行ってもよい。例えば、支援制御部235は、距離感が「遠く」に感じる場合、青色の背景色とし、かつ、その距離感の差が大きいほど背景色の色を濃くする表示態様の変更を行ってもよい。これにより、オペレータは、遠隔操作用の画像の切り替わり前後での距離感の差を容易にイメージすることができる。
一例として、支援制御部235は、例えば記憶部220などに格納されているオペレータの過去の操作履歴に基づいて、切り替わり後の車両10の操作経験があれば、以前操作した車両10と同じ距離感であることを通知する制御を行ってもよい。この通知は、以前操作した車両10の名称や特徴、色などの情報であってもよいし、その操作場所、操作対象の車両10の移動(走行)場所、操作日時といった情報であってもよい。これにより、オペレータは、自身の経験に基づきその距離感の変化を容易に把握することができる。
一例として、支援制御部235は、切り替わり後の遠隔操作用の画像に関し、その距離感が切り替え前の画像と比べてどのように異なるのかを示す情報を通知する制御を行ってもよい。例えば、支援制御部235は、切り替え前と比べて、同じ距離にある物体が、「近く」に感じるように見えるのか、「遠く」に感じるように見えるのかのいずれであるかを端末装置30に表示させてもよい。これにより、オペレータは、距離感の変化の傾向を容易に把握することができる。
(8)変形例8
なお、上述の実施形態に係る遠隔操作システム1において、支援制御部235は、遠隔操作用の画像の切り替わり前後での距離感の変化に応じて、その変化を低減するように、カメラ120の焦点距離と、取り付け高さと、撮像範囲と、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲と、のうちの少なくともいずれかを調整してもよい。ここで、遠隔操作用の画像の切り替わり前後で距離感の変化を低減することは、その切り替わり前後で距離感が一定になるようにすることである。
なお、上述の実施形態に係る遠隔操作システム1において、支援制御部235は、遠隔操作用の画像の切り替わり前後での距離感の変化に応じて、その変化を低減するように、カメラ120の焦点距離と、取り付け高さと、撮像範囲と、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲と、のうちの少なくともいずれかを調整してもよい。ここで、遠隔操作用の画像の切り替わり前後で距離感の変化を低減することは、その切り替わり前後で距離感が一定になるようにすることである。
一例として、支援制御部235は、遠隔操作用の画像の切り替わり前後でカメラ120の画角(撮像範囲)が一定になるように、カメラ120の焦点距離や撮影モードを変更してもよい。
一例として、支援制御部235は、遠隔操作用の画像の切り替わり前後で遠隔操作用の画像の視野が一定になるように、カメラ120の画角(撮像範囲)を変更してもよい。
一例として、支援制御部235は、遠隔操作用の画像の切り替わり前後で遠隔操作用の画像の視野が一定になるように、カメラ120で取得された画像の一部をクロップしたり、そのクロップ範囲を変更したりしてもよい。
一例として、支援制御部235は、遠隔操作用の画像の切り替わり前後で遠隔操作用の画像の視野が一定になるように、あるいはカメラ120の高さが一定になるように、カメラ120の高さを変更したり、取付高さの異なるカメラ120に変更したりしてもよい。
一例として、支援制御部235は、距離感の変化に応じた調整の完了後に遠隔制御の開始を許可してもよい。つまり、支援制御部235は、距離感の変化に応じた調整中には、遠隔制御の開始を許可しないように構成されていてもよい。
これらの構成によれば、遠隔操作用の画像の切り替わり前後での距離感の変化を低減することができるため、オペレータの利便性を向上させるとともに、遠隔操作の安全性を向上させることができる。
(9)変形例9
上述の実施形態では、カメラ120は車両10の前方を撮像可能に配置され、車両10の前方の画像を用いて傾き情報を算出しているが、これに限らず、例えば車両10の後方の画像、または車両10の左右方向のうち何れか一方の画像を用いて傾き情報を算出してもよい。
上述の実施形態では、カメラ120は車両10の前方を撮像可能に配置され、車両10の前方の画像を用いて傾き情報を算出しているが、これに限らず、例えば車両10の後方の画像、または車両10の左右方向のうち何れか一方の画像を用いて傾き情報を算出してもよい。
(10)変形例10
上述の実施形態では、各車両10が傾き情報を算出しているが、これに限らず、例えば遠隔操作支援装置20が傾き情報を算出する形態であってもよい。この形態では、遠隔操作支援装置20は、各車両10から速度情報と画像とを受信し、その受信した速度情報と画像とに基づいて車両10ごとの傾き情報を算出することができる。
上述の実施形態では、各車両10が傾き情報を算出しているが、これに限らず、例えば遠隔操作支援装置20が傾き情報を算出する形態であってもよい。この形態では、遠隔操作支援装置20は、各車両10から速度情報と画像とを受信し、その受信した速度情報と画像とに基づいて車両10ごとの傾き情報を算出することができる。
(11)変形例11
なお、上述の実施形態の遠隔操作システム1に用いられる車両10としては、少なくともオペレータによる遠隔での操作に応じて移動可能に構成さされた各種の移動体が適宜利用可能である。車両10は、例えば四輪車であってもよいし、二輪車であってもよい。また、例えば車両10は、無人搬送車(AGV:Automatic Guided Vehicle)であってもよいし、建設用機械、農業用機械、ドローン等の各種のロボットであってもよい。
なお、上述の実施形態の遠隔操作システム1に用いられる車両10としては、少なくともオペレータによる遠隔での操作に応じて移動可能に構成さされた各種の移動体が適宜利用可能である。車両10は、例えば四輪車であってもよいし、二輪車であってもよい。また、例えば車両10は、無人搬送車(AGV:Automatic Guided Vehicle)であってもよいし、建設用機械、農業用機械、ドローン等の各種のロボットであってもよい。
なお、これらの移動体は、人を輸送するものに限らず、人以外の物体を輸送するものであってもよいし、輸送に限らず特定のサービスを提供するものであってもよい。
一例として、実施形態に係る遠隔操作システム1は、自律移動型の販売ロボットに対する遠隔操作の支援に適用されてもよい。この自律移動型の販売ロボットは、顧客に対して商品又はサービスを販売するものであってもよい。支援制御部235は、自律移動型の販売ロボットの遠隔操作における距離感が「遠く」なる場合、下限値を下回らない範囲で第2支援制御の閾値を小さくしたり、速度を出し過ぎないよう報知したり、遠隔操作に切り替わる前の停止タイミングを変更(例えば早く)したり、音声出力の大きさを上げすぎないようにオペレータに報知したり、その音声出力の大きさを制限したりしてもよい。これにより、販売又は販売に係る動作に伴い顧客に近づく移動を行う場合に、例えば距離感が「遠い」ことに起因して販売ロボットと顧客との間の実際の距離が詰まり過ぎてしまうなど、衝突したり、顧客に圧迫感や不安を与えたりするおそれを低減することができる。また、例えば販売ロボットに搭載されたスピーカから出力されるオペレータの音声や通知音に関し、例えば距離感が「遠い」ことに起因して顧客に聞こえるようにと大声で話しかけてしまうことを抑制することができる。また、支援制御部235は、距離感が「近く」なる場合、第2支援制御の閾値を大きくしたり、まだ近づけるといった余裕度を報知したり、カメラ120の画角を自動調整したり、顧客にカメラ120から離れるように移動を依頼したりしてもよい。これにより、顧客が実際より近くにいると感じて不要に離れて停止してしまったり、近すぎて顧客の顔が見切れてしまったりすることを抑制できる。
なお、同様にして、実施形態に係る遠隔操作システム1は、介護や病院などにおいて利用される、オペレータと対象ユーザとの間で会話などのコミュニケーションを行うためのコミュニケーションロボットに適用されてもよい。
一例として、実施形態に係る遠隔操作システム1は、人型ロボットなどの対象物体を把持したり運んだりするロボットに対する遠隔操作の支援に適用されてもよい。このようなロボットとしては、工場や配送拠点で荷役に利用されるロボットや農業において農作業に利用されるロボットなどがあり得る。支援制御部235は、ロボットの遠隔操作のための遠隔操作の画像を、距離感が実際の距離に合うように、画像を変換する制御を行ってもよい。この画像変換は、遠隔操作用の画像の切り替わり前後で遠隔操作用の画像の視野が一定になるように画像を変換することに対応する。ここで、操作感とは、例えば、遠隔操作の操作内容を指示する操作部の操作量に対する操作対象の動作量に関する、オペレータの感覚である。これにより、距離感の変化に起因する操作感の変化を抑制することができる。
(12)変形例12
なお、上述の実施形態の遠隔操作システム1において、車両10ごとに予め距離感が定められ、それに伴い車両10の遠隔操作を支援する制御に係る閾値も予め定められていてもよい。このようなケースにおいて車両10及び遠隔操作用の画像の切り替わりが発生した場合、支援制御部235は、切り替わった車両10について予め定められた閾値を用いて、車両10の遠隔操作を支援する制御を実行してもよい。予め定められた車両10ごとの距離感及び閾値は、各車両10の制御装置140の内部メモリに記憶されていてもよいし、遠隔操作支援装置20の内部メモリに記憶されていてもよい。あるいは、車両10ごとの距離感と、距離感及び閾値の対応を示す情報とが予め定められていずれかの内部メモリに記憶されていてもよい。
なお、上述の実施形態の遠隔操作システム1において、車両10ごとに予め距離感が定められ、それに伴い車両10の遠隔操作を支援する制御に係る閾値も予め定められていてもよい。このようなケースにおいて車両10及び遠隔操作用の画像の切り替わりが発生した場合、支援制御部235は、切り替わった車両10について予め定められた閾値を用いて、車両10の遠隔操作を支援する制御を実行してもよい。予め定められた車両10ごとの距離感及び閾値は、各車両10の制御装置140の内部メモリに記憶されていてもよいし、遠隔操作支援装置20の内部メモリに記憶されていてもよい。あるいは、車両10ごとの距離感と、距離感及び閾値の対応を示す情報とが予め定められていずれかの内部メモリに記憶されていてもよい。
(13)変形例13
なお、上述の実施形態の遠隔操作システム1において、例えばこれぐらいの距離でアラートを鳴らしてもらった方が街中における配送ロボットの操作を行いやすいなどの経験則的な観点で、周囲環境や車両10に応じて閾値が決まっていてもよい。このようなケースにおいて車両10及び遠隔操作用の画像の切り替わりが発生した場合、支援制御部235は、距離感に応じた変更ではなく、切り替わった車両10について予め定められた閾値を用いて、車両10の遠隔操作を支援する制御を実行してもよい。なお、予め定められた周囲環境及び/又は車両10ごとの閾値は、各車両10の制御装置140の内部メモリに記憶されていてもよいし、遠隔操作支援装置20の内部メモリに記憶されていてもよい。あるいは、周囲環境及び/又は車両10と、閾値と、の対応を示す情報とが予め定められていずれかの内部メモリに記憶されていてもよい。あるいは、周囲環境及び車両10のそれぞれについて予めパラメータが定められており、これらのパラメータと、これらのパラメータを用いて閾値を算出可能に予め決定された算出式と、がいずれかの内部メモリに予め記憶されていてもよい。
なお、上述の実施形態の遠隔操作システム1において、例えばこれぐらいの距離でアラートを鳴らしてもらった方が街中における配送ロボットの操作を行いやすいなどの経験則的な観点で、周囲環境や車両10に応じて閾値が決まっていてもよい。このようなケースにおいて車両10及び遠隔操作用の画像の切り替わりが発生した場合、支援制御部235は、距離感に応じた変更ではなく、切り替わった車両10について予め定められた閾値を用いて、車両10の遠隔操作を支援する制御を実行してもよい。なお、予め定められた周囲環境及び/又は車両10ごとの閾値は、各車両10の制御装置140の内部メモリに記憶されていてもよいし、遠隔操作支援装置20の内部メモリに記憶されていてもよい。あるいは、周囲環境及び/又は車両10と、閾値と、の対応を示す情報とが予め定められていずれかの内部メモリに記憶されていてもよい。あるいは、周囲環境及び車両10のそれぞれについて予めパラメータが定められており、これらのパラメータと、これらのパラメータを用いて閾値を算出可能に予め決定された算出式と、がいずれかの内部メモリに予め記憶されていてもよい。
(14)変形例14
なお、上述の実施形態に係る遠隔操作システム1に係る支援処理(図12参照)において、距離感が近くなった、あるいは遠くなった場合の実際の距離が考慮されてもよい。図15~図17は、本変形例に係る支援処理の一例を説明するための図である。
なお、上述の実施形態に係る遠隔操作システム1に係る支援処理(図12参照)において、距離感が近くなった、あるいは遠くなった場合の実際の距離が考慮されてもよい。図15~図17は、本変形例に係る支援処理の一例を説明するための図である。
一例として、支援処理において遠隔操作支援装置20は、切り替わり前後で支援基準を満たす距離感情報の変化である場合(ステップS203:Yesの場合)、切り替わり前後の遠隔操作用の画像のそれぞれについて、距離感情報に基づいて、距離感が実際の距離より大きいか否かをさらに判定してもよい。つまり、本変形に係る遠隔操作支援装置20は、カメラ120で撮像された映像(遠隔操作用の画像)を見ながら車両10を遠隔操作するオペレータが感じる、画像上の任意の位置までの画像上の距離が、当該位置までの実際の距離より大きいか否かをさらに判定してもよい。
なお、この遠隔操作用の画像についての距離感が実際の距離より大きいか否かの判定は、例えば車両10の制御装置140により行われてもよい。この場合、距離感が実際の距離より大きいか否かの判定結果は、遠隔操作用の画像とともに車両10から遠隔操作支援装置20に出力されてもよい。また、距離感が実際の距離より大きいか否かの判定結果は、距離感情報に含まれる情報であってもよい。
一例として、遠隔操作用の画像についての距離感が実際の距離より大きいか否かの判定は、動きベクトル、傾き情報、焦点情報、取り付け高さ、撮像範囲の大きさ(例えば画角)、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲の大きさ(例えば視野、クロップ範囲)、遠隔操作用の画像に基づく深度情報、及び、撮影モードのうちの少なくとも一つの情報に基づいて判定されてもよい。例えば、動きベクトル、傾き情報が示す傾き、又は、撮像範囲の大きさが所定の閾値以上の場合、距離感が実際の距離より大きい遠隔操作用の画像であると判定される。例えば、焦点情報が示すカメラ120の焦点距離、取り付け高さ、又は、深度情報が示す最小距離が所定の閾値に満たない場合、距離感が実際の距離より大きい遠隔操作用の画像であると判定される。例えば、カメラ120の撮影モードが広角モードの場合、距離感が実際の距離より大きい遠隔操作用の画像であると判定される。なお、遠隔操作用の画像についての距離感が実際の距離より大きいか否かの判定に供される各情報の閾値は、例えば予め定められて車両10の制御装置140又は遠隔操作支援装置20の内部メモリに記憶されていてもよい。
ここでは、距離感に対する実際の距離が考慮された支援処理について、より具体的に説明する。
以下に説明する処理は、例えば上述の実施形態に係る支援処理のステップS205、ステップS206又はステップS209の処理に対応する。例えば、本変形例において強める/弱める対象のアラートとは、例えば第1支援制御における警告(図9参照)であるが、第2支援制御における警告であってもよい。なお、距離感が実際の距離と同等である場合には、上述の実施形態に係る支援処理のステップS205、ステップS206又はステップS209と同様の処理が行われ得る。
なお、本変形例においてアラートを強める/弱めるとは、上述の変形例7と同様に、アラートを強調/抑制することであってもよい。一例として、アラートを強める/弱めるとは、表示の色やサイズ、枠の有無を異ならせるなど、例えば警告画面(支援情報)における表示態様を異ならせることにより実現されてもよい。一例として、アラートを強める/弱めるとは、例えば音声通知(支援情報)による通知の有無やその音量、口調など通知態様を異ならせることにより実現されてもよい。
図15は、切り替え前後の遠隔操作用の画像ともに、「実際の距離」が「距離感」より小さい場合の処理を例示する。
まず、切り替え前後ともに「実際の距離」が「距離感」より小さく、かつ、切り替え前後で距離感が「近い」から「遠い」に変化する場合を考える。例えば、切り替え前に「実際の距離:10m」及び「距離感:20m」であったところ、切り替え後に「実際の距離:20m」及び「距離感:30m」に変化する場合である。図15に示すように、切り替え前後ともに「実際の距離」が「距離感」より小さく、かつ、切り替え前後で距離感が「近い」から「遠い」に変化する場合、「実際の距離」が「距離感」より小さいにも関わらず距離感が「遠く」なるため、切り替え後に速度超過及び/又は詰めすぎが発生し易くなる。このため、支援制御部235は、切り替え前後ともに「実際の距離」が「距離感」より小さく、かつ、切り替え前後で距離感が「近い」から「遠い」に変化する場合には、速度超過・詰めすぎ注意のアラート(支援情報)を出したり、強くしたりしてもよい。なお、この場合、支援制御部235は、第2支援制御の閾値をS206の処理と同様に通常より小さくしたり、さらに小さくしたりしてもよい。
次に、切り替え前後ともに「実際の距離」が「距離感」より小さく、かつ、切り替え前後で距離感が「遠い」から「近い」に変化する場合を考える。例えば、切り替え前に「実際の距離:20m」及び「距離感:30m」であったところ、切り替え後に「実際の距離:10m」及び「距離感:20m」に変化する場合である。図15に示すように、切り替え前後ともに「実際の距離」が「距離感」より小さく、かつ、切り替え前後で距離感が「遠い」から「近い」に変化する場合、「実際の距離」が「距離感」より小さいことに加えて距離感が「近く」なるため、切り替え後に近さを感じ易くなり、オペレータに不安が生じ易くなる。このため、支援制御部235は、切り替え前後ともに「実際の距離」が「距離感」より小さく、かつ、切り替え前後で距離感が「遠い」から「近い」に変化する場合には、第2支援制御の閾値をS205の処理と同様に通常より大きくしたり、さらに大きくしたりしてもよい。
図16は、切り替え前後の遠隔操作用の画像ともに、「実際の距離」が「距離感」より大きい場合の処理を例示する。
まず、切り替え前後ともに「実際の距離」が「距離感」より大きく、かつ、切り替え前後で距離感が「近い」から「遠い」に変化する場合を考える。例えば、切り替え前に「実際の距離:20m」及び「距離感:10m」であったところ、切り替え後に「実際の距離:30m」及び「距離感:20m」に変化する場合である。図16に示すように、切り替え前後ともに「実際の距離」が「距離感」より大きく、かつ、切り替え前後で距離感が「近い」から「遠い」に変化する場合、距離感が「遠く」なるため、切り替え後に速度超過及び/又は詰めすぎが発生し易くなる一方、「実際の距離」は「距離感」より大きい。このため、支援制御部235は、切り替え前後ともに「実際の距離」が「距離感」より大きく、かつ、切り替え前後で距離感が「近い」から「遠い」に変化する場合には、速度超過・詰めすぎ注意のアラート(支援情報)を弱くしたり、アラートを出さないようにしたりしてもよい。なお、この場合、支援制御部235は、第2支援制御の閾値を変更しなくてもよいし、S206の処理と同様に第2支援制御の閾値を小さくしてもよい。
次に、切り替え前後ともに「実際の距離」が「距離感」より大きく、かつ、切り替え前後で距離感が「遠い」から「近い」に変化する場合を考える。例えば、切り替え前に「実際の距離:30m」及び「距離感:20m」であったところ、切り替え後に「実際の距離:20m」及び「距離感:10m」に変化する場合である。図16に示すように、切り替え前後ともに「実際の距離」が「距離感」より大きく、かつ、切り替え前後で距離感が「遠い」から「近い」に変化する場合、距離感が「近く」なってオペレータに不安が生じ易くなる一方、「実際の距離」は「距離感」より大きい。このため、支援制御部235は、切り替え前後ともに「実際の距離」が「距離感」より大きく、かつ、切り替え前後で距離感が「遠い」から「近い」に変化する場合には、例えば上述の変形例7と同様に余裕度を表示してもよい。なお、この場合、支援制御部235は、第2支援制御の閾値を変更しなくてもよいし、S205の処理と同様に第2支援制御の閾値を大きくしてもよい。
図17は、切り替え前後で「実際の距離」と「距離感」との大小関係が変化する場合の処理を例示する。
まず、切り替え前は「実際の距離」が「距離感」より小さく、かつ、切り替え後は「実際の距離」が「距離感」より大きい場合において、切り替え前後で距離感が「近い」から「遠い」に変化する場合を考える。例えば、切り替え前に「実際の距離:10m」及び「距離感:20m」であったところ、切り替え後に「実際の距離:40m」及び「距離感:30m」に変化する場合である。図17に示すように、切り替え前は「実際の距離」が「距離感」より小さく、かつ、切り替え後は「実際の距離」が「距離感」より大きい場合において、切り替え前後で距離感が「近い」から「遠い」に変化する場合、切り替え後に距離感が「遠く」なって速度超過及び/又は詰めすぎが発生し易くなるとともに、「実際の距離」も「距離感」より大きくなっている。このため、支援制御部235は、切り替え前は「実際の距離」が「距離感」より小さく、かつ、切り替え後は「実際の距離」が「距離感」より大きい場合において、切り替え前後で距離感が「近い」から「遠い」に変化する場合には、速度超過・詰めすぎ注意のアラート(支援情報)を弱くしたり、アラートを出さないようにしたりしてもよい。なお、この場合、支援制御部235は、第2支援制御の閾値を変更しなくてもよいし、S206の処理と同様に第2支援制御の閾値を小さくしてもよい。
次に、切り替え前は「実際の距離」が「距離感」より小さく、かつ、切り替え後は「実際の距離」が「距離感」より大きい場合において、切り替え前後で距離感が「遠い」から「近い」に変化する場合を考える。例えば、切り替え前に「実際の距離:10m」及び「距離感:30m」であったところ、切り替え後に「実際の距離:40m」及び「距離感:20m」に変化する場合である。図17に示すように、切り替え前は「実際の距離」が「距離感」より小さく、かつ、切り替え後は「実際の距離」が「距離感」より大きい場合において、切り替え前後で距離感が「遠い」から「近い」に変化する場合、距離感が「近く」なってオペレータに不安が生じ易くなる一方、「実際の距離」は「距離感」より大きくなっている。このため、支援制御部235は、切り替え前は「実際の距離」が「距離感」より小さく、かつ、切り替え後は「実際の距離」が「距離感」より大きい場合において、切り替え前後で距離感が「遠い」から「近い」に変化する場合には、例えば上述の変形例7と同様に余裕度を表示してもよい。なお、この場合、支援制御部235は、第2支援制御の閾値を変更しなくてもよいし、S205の処理と同様に第2支援制御の閾値を大きくしてもよい。
次に、切り替え前は「実際の距離」が「距離感」より大きく、かつ、切り替え後は「実際の距離」が「距離感」より小さい場合において、切り替え前後で距離感が「近い」から「遠い」に変化する場合を考える。例えば、切り替え前に「実際の距離:30m」及び「距離感:10m」であったところ、切り替え後に「実際の距離:20m」及び「距離感:30m」に変化する場合である。図17に示すように、切り替え前は「実際の距離」が「距離感」より大きく、かつ、切り替え後は「実際の距離」が「距離感」より小さい場合において、切り替え前後で距離感が「近い」から「遠い」に変化する場合、切り替え後に距離感が「遠く」なって速度超過及び/又は詰めすぎが発生し易くなるとともに、「実際の距離」が「距離感」より小さくなっている。このため、支援制御部235は、切り替え前は「実際の距離」が「距離感」より大きく、かつ、切り替え後は「実際の距離」が「距離感」より小さい場合において、切り替え前後で距離感が「近い」から「遠い」に変化する場合には、速度超過・詰めすぎ注意のアラート(支援情報)を出したり、強くしたりしてもよい。なお、この場合、支援制御部235は、第2支援制御の閾値をS206の処理と同様に通常より小さくしたり、さらに小さくしたりしてもよい。
次に、切り替え前は「実際の距離」が「距離感」より大きく、かつ、切り替え後は「実際の距離」が「距離感」より小さい場合において、切り替え前後で距離感が「遠い」から「近い」に変化する場合を考える。例えば、切り替え前に「実際の距離:20m」及び「距離感:30m」であったところ、切り替え後に「実際の距離:10m」及び「距離感:20m」に変化する場合である。図17に示すように、切り替え前は「実際の距離」が「距離感」より大きく、かつ、切り替え後は「実際の距離」が「距離感」より小さい場合において、切り替え前後で距離感が「遠い」から「近い」に変化する場合、距離感が「近く」なってオペレータに不安が生じ易くなるとともに、「実際の距離」も「距離感」より大きくなっている。このため、支援制御部235は、切り替え前は「実際の距離」が「距離感」より大きく、かつ、切り替え後は「実際の距離」が「距離感」より小さい場合において、切り替え前後で距離感が「遠い」から「近い」に変化する場合には、第2支援制御の閾値をS205の処理と同様に通常より大きくしたり、さらに大きくしたりしてもよい。
(15)変形例15
なお、変形例14では、実際の距離を基準とした距離感を考慮する場合を例示したが、これに限らない。距離感の基準(基準値)としては、任意の車両10(基準車両)の距離感が用いられてもよい。
なお、変形例14では、実際の距離を基準とした距離感を考慮する場合を例示したが、これに限らない。距離感の基準(基準値)としては、任意の車両10(基準車両)の距離感が用いられてもよい。
一例として、基準車両とは、オペレータが直前に遠隔操作の対象としていた車両10であってもよい。
一例として、基準車両とは、例えば難易度の高い作業内容や作業環境で動作する車両10や台数が多い車両10、平均的な距離感の大きさの車両10など、予め管理者やオペレータなどにより定められた任意の車両10であってもよい。
一例として、基準車両とは、オペレータごとに定められてもよく、例えば操作経験が多い車両10やオペレータが距離感を掴みやすいと感じる車両10であってもよい。
なお、基準車両の設定及び/又は距離感(基準値)は、例えば予め定められて遠隔操作支援装置20の内部メモリなどに記憶されていてもよい。
一例として、本変形に係る遠隔操作支援装置20は、遠隔操作用の画像が切り替わる場合、基準値に対する切り替え後の距離感を示す情報(支援情報)を端末装置30により表示してもよい。この基準値に対する切り替え後の距離感を示す情報とは、切り替え後の距離感の基準値に対する差異(変化)の有無、変化量、変化の程度を示す区分などであってもよい。例えば、遠隔操作支援装置20は、「以前より距離感が近づいています」、あるいは「以前より距離感が遠くなっています」といった支援情報を端末装置30において表示してもよい。
一例として、本変形に係る遠隔操作支援装置20は、遠隔操作用の画像が切り替わる場合、切り替え後の距離感を基準値に合わせるように、焦点距離、取り付け高さ、撮像範囲の大きさ(例えば画角)、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲の大きさ(例えば視野、クロップ範囲)、及び、撮影モードのうちの少なくとも一つを調整してもよい。例えば、「広角」の遠隔操作用の画像から「望遠」の遠隔操作用の画像に切り替わる場合、遠隔操作支援装置20は、切り替え後の距離感が基準値に合う又は近づくように、クロップするなど、カメラ120からの映像を変換して遠隔操作用の画像を生成してもよい。
(16)変形例16
ここでは、上述の実施形態の遠隔操作システム1における遠隔オペレーションに関する変形例を説明する。上述の実施形態では、複数台の車両10を担当する任意のオペレータが端末装置30を用いて、2以上の車両10を同時に監視したり、対象の車両10を切り替えて順次に監視や遠隔操作を行ったりする場合を例に、本開示に係る遠隔操作システム1を説明した。
ここでは、上述の実施形態の遠隔操作システム1における遠隔オペレーションに関する変形例を説明する。上述の実施形態では、複数台の車両10を担当する任意のオペレータが端末装置30を用いて、2以上の車両10を同時に監視したり、対象の車両10を切り替えて順次に監視や遠隔操作を行ったりする場合を例に、本開示に係る遠隔操作システム1を説明した。
このような中、遠隔操作システム1では、遠隔操作による支援の要請(遠隔制御要請)が車両10から発せられた際に、遠隔管制室のいずれかのオペレータに当該要請への対応(遠隔操作)を割り当てるオペレータアサインを行うことが想定され得る。
このようなオペレータアサインは、遠隔管制室の複数のオペレータを管理する管理者が端末装置30を用いて行ってもよいし、予め定められて内部メモリに記憶された所定条件に従って当該端末装置30や遠隔操作支援装置20が自動で行ってもよい。なお、自動でオペレータアサインを行うとは、割り当てたオペレータの端末装置30に遠隔操作を許可することであってもよい。あるいは、自動でオペレータアサインを行うとは、管理者又は各オペレータの端末装置30に遠隔操作の許可を提案すること、及び/又は、当該提案が承認された場合に遠隔操作を許可したりすることであってもよい。
例えば、本変形に係る遠隔操作支援装置20は、遠隔制御要請が発生した際、遠隔管制室の複数人のオペレータのうちの所定条件を満たすオペレータを優先的に、当該要請を発した車両10に割り当てるオペレータアサインを行ってもよい。
一例として、所定条件とは、今回の遠隔制御要請が発生する前に、今回の遠隔制御要請を発した車両10と同じ距離感の車両10を遠隔制御していたことを含む。ここで、遠隔制御要請が発生する前とは、切り替え直前であってもよい。つまり、所定条件とは、切り替え前後で同じ距離感になる(距離感が変化しない)ことであってもよい。
あるいは、遠隔制御要請が発生する前とは、対象の遠隔制御要請の発生時点から、予め定められて内部メモリに記憶された所定期間前までの間の期間であってもよい。つまり、所定条件とは、直前の所定期間において同じ距離感の車両10の遠隔制御の操作経験があることであってもよい。
なお、遠隔制御要請が発生する前とは、対象の遠隔制御要請の所定期間前に限らない。つまり、所定条件とは、直前の所定期間に限らず、過去に同じ距離感の車両10の遠隔制御の操作経験があることであってもよい。
なお、これらの操作経験があることとは、同じ距離感の遠隔制御の操作時間及び/又は距離が、例えば距離感に慣れると想定されるなど、予め定められて内部メモリに記憶された所定時間及び/又は所定距離より長いことであってもよい。なお、所定期間や所定時間は、車両10、距離感、オペレータ、操作経験、あるいはこれらの任意の組合せごとに定められていてもよい。例えば、事故発生時のリスクが高いほど、所定期間が短く設定されたり、所定時間や所定距離が長く設定されたりしてもよい。例えば、操作経験が長いオペレータほど、所定期間が長く設定されてもよい。
なお、同じ距離感とは、例えば距離感情報が一致することであるが、これに限らず、例えば距離感情報が同等であることであってもよい。また、該当するオペレータが存在しない場合や不在の場合、他の遠隔制御の対応中の場合など、同じ距離感とした所定条件を満たすオペレータに対象の車両10を割り当てることができない場合もあり得る。このため、所定条件とは、今回の遠隔制御要請が発生する前に、今回の遠隔制御要請を発した車両10と類似する距離感の車両10を遠隔制御していたことであってもよい。例えば、本変形に係る遠隔操作支援装置20は、同じ距離感とした所定条件を満たすオペレータに対象の車両10を割り当てることができない場合、距離感を示す距離感情報が類似する車両10を遠隔制御していたオペレータを優先的に割り当てるオペレータアサインを行ってもよい。
このように、本変形に係る遠隔操作システム1では、遠隔制御要請を発した車両10の距離感に慣れているオペレータを優先的にアサインする。これにより、オペレータは、切り替え前後で距離感の変化が無い又は小さい状況、あるいは習熟度が高い距離感で遠隔制御を行うことができる。このため、遠隔監視制御の安全性及び効率性を向上させることができる。
(17)変形例17
ここでは、上述の実施形態の遠隔操作システム1における遠隔オペレーションに関する変形例を説明する。上述の変形例16では、遠隔制御要請が発生した際の複数のオペレータへのオペレータアサインを例示した。
ここでは、上述の実施形態の遠隔操作システム1における遠隔オペレーションに関する変形例を説明する。上述の変形例16では、遠隔制御要請が発生した際の複数のオペレータへのオペレータアサインを例示した。
このような中、遠隔操作システム1では、複数人で複数車両の遠隔監視制御などの遠隔支援を行う場合に、遠隔制御要請に依らず、遠隔管制室の各オペレータに遠隔支援(遠隔監視)の対象となる車両10を割り当てるオペレータアサインを行うことも想定され得る。
例えば、本変形に係る遠隔操作支援装置20は、遠隔管制室の複数人のオペレータに対して監視対象の複数の車両10を割り当てるオペレータアサインにおいて、オペレータごとに距離感が同じ又は類似するように、すなわち距離感の乖離が小さくなるように車両10を割り当ててもよい。
このように、本変形に係る遠隔操作システム1では、2以上の車両10の遠隔支援(遠隔監視)を担当するオペレータに対して、距離感が同じ又は類似する車両10を割り当てる。これにより、オペレータが複数の車両10の遠隔監視制御を行う際に、距離感が同じ又は類似する車両10を対象とすることができるため、安全性及び効率性を向上させることができる。
なお、上述の実施形態は、以上の変形例のうちの少なくとも1つと任意に組み合わせることができる。また、以上の2以上の変形例を任意に組み合わせてもよい。
1 遠隔操作システム
10 車両
20 遠隔操作支援装置
30 端末装置
141 距離感情報算出部
142 位置情報取得部
143 画像取得部
144 走行制御部
145 支援要求送信部
146 操作情報受信部
231 距離感情報受信部
232 支援要求受信部
233 取得部
234 判定部
235 支援制御部
236 遠隔情報送受信部
341 情報受信部
342 表示制御部
343 操作情報送信部
10 車両
20 遠隔操作支援装置
30 端末装置
141 距離感情報算出部
142 位置情報取得部
143 画像取得部
144 走行制御部
145 支援要求送信部
146 操作情報受信部
231 距離感情報受信部
232 支援要求受信部
233 取得部
234 判定部
235 支援制御部
236 遠隔情報送受信部
341 情報受信部
342 表示制御部
343 操作情報送信部
Claims (15)
- 移動体に搭載されたカメラにより撮像される遠隔操作用の画像に基づいてオペレータが前記移動体を遠隔で操作する遠隔操作を支援する遠隔操作支援装置によって実行される遠隔操作支援方法であって、
前記遠隔操作の対象の移動体から前記移動体の周囲の物体までの距離が閾値より短い場合に、前記遠隔操作を支援する支援制御を実行し、
前記遠隔操作用の画像が切り替わる場合、切り替わりの前後における、前記遠隔操作用の画像内の物体までの距離に対する前記オペレータの距離感を示す距離感情報を比較し、
前記距離感情報の比較結果が予め定められた支援基準を満たす場合、前記切り替わりの前後で前記遠隔操作における前記閾値を変更する、
遠隔操作支援方法。 - 前記切り替わりの前後で前記距離感情報が示す距離感が近くなる場合、前記閾値を大きくする、
請求項1に記載の遠隔操作支援方法。 - 前記切り替わりの前後で前記距離感情報が示す距離感が遠くなる場合、安全性に基づいて予め定められた下限値を超える範囲内で前記閾値を小さくする、
請求項1に記載の遠隔操作支援方法。 - 前記切り替わりの後の前記遠隔操作の対象の前記移動体の周囲環境、タスクの種別及び前記移動体の種別のうちの少なくともいずれかに応じて、前記切り替わりの後の前記閾値を調整する、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 前記オペレータごとに、前記切り替わりの前後において前記閾値を変更するか否かを設定する、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 前記移動体の急制動が行われた場合、かつ、前記切り替わりの前後において前記閾値を変更しない設定の場合、前記切り替わりの前後において前記閾値を変更する設定を選択するように報知する、
請求項5に記載の遠隔操作支援方法。 - 前記切り替わりの前の前記遠隔操作の操作時間が予め定められた所定時間より短い場合、又は、前記切り替わりの後の前記遠隔操作の対象の前記移動体に関する操作経験が予め定められた基準より多い場合、前記切り替わりの前後において前記閾値を変更しない、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 前記閾値の変更は、一定時間のみ行われる、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 前記距離感情報は、
前記移動体の速度の変化と前記カメラにより撮像される前記移動体の周辺領域の動きベクトルの変化との割合である傾きを示す傾き情報、
前記カメラに関する情報、又は、
前記遠隔操作用の画像に基づく深度情報である、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 前記支援制御は、
周囲の物体への接近を報知する制御、
前記移動体を制動する制御、
前記移動体の移動可否を判定し、判定結果を報知する制御、又は、
前記移動体の周囲を俯瞰して示す俯瞰画像を提示する制御、を含む、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 前記距離感情報の比較結果が予め定められた支援基準を満たす場合、前記切り替わりの前後で前記距離感が一定になるように前記カメラの焦点距離と、取り付け高さと、撮像範囲と、当該撮像範囲のうちの前記遠隔操作用の画像として用いる範囲と、のうちの少なくともいずれかを調整する、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 前記遠隔操作用の画像の切り替わりは、前記遠隔操作の対象の前記移動体と、前記移動体における前記カメラと、のうちの少なくとも一方の切り替わりに基づく、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 前記距離感情報の比較結果が予め定められた支援基準を満たす場合、前記切り替わりの前後で前記距離感が変化することを報知する支援情報を出力する、
請求項1から請求項3のうちのいずれか一項に記載の遠隔操作支援方法。 - 移動体に搭載されたカメラにより撮像される遠隔操作用の画像に基づいてオペレータが前記移動体を遠隔で操作する遠隔操作の対象の移動体から前記移動体の周囲の物体までの距離が予め定められた閾値より短い場合に、前記遠隔操作を支援する支援制御を実行する支援制御部と、
前記遠隔操作用の画像が切り替わる場合、切り替わりの前後における、前記遠隔操作用の画像内の物体までの距離に対する前記オペレータの距離感を示す距離感情報を比較する判定部と、を備え、
前記支援制御部は、前記距離感情報の比較結果が予め定められた支援基準を満たす場合、前記遠隔操作における前記閾値を、前記切り替わりの前後で変更する、
遠隔操作支援装置。 - 移動体に搭載されたカメラにより撮像される遠隔操作用の画像に基づいてオペレータが前記移動体を遠隔で操作する遠隔操作の対象の移動体から前記移動体の周囲の物体までの距離が予め定められた閾値より短い場合に、前記遠隔操作を支援する支援制御を実行し、
前記遠隔操作用の画像が切り替わる場合、切り替わりの前後における、前記遠隔操作用の画像内の物体までの距離に対する前記オペレータの距離感を示す距離感情報を比較し、
前記距離感情報の比較結果が予め定められた支援基準を満たす場合、前記遠隔操作における前記閾値を、前記切り替わりの前後で変更する、
ことをコンピュータに実行させるためのプログラム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023220495 | 2023-12-27 | ||
| JP2023-220495 | 2023-12-27 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2025142797A1 true WO2025142797A1 (ja) | 2025-07-03 |
Family
ID=96218034
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2024/045318 Pending WO2025142797A1 (ja) | 2023-12-27 | 2024-12-20 | 遠隔操作支援方法、遠隔操作支援装置及びプログラム |
Country Status (1)
| Country | Link |
|---|---|
| WO (1) | WO2025142797A1 (ja) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000074645A (ja) * | 1998-08-27 | 2000-03-14 | Yazaki Corp | 周辺監視装置及び方法 |
| JP2004349926A (ja) * | 2003-05-21 | 2004-12-09 | Suzuki Motor Corp | 障害物検出装置及び方法並びに障害物検出用プログラム |
| JP2012018637A (ja) * | 2010-07-09 | 2012-01-26 | Aisin Seiki Co Ltd | 衝突時間算出装置、衝突時間算出方法及びプログラム |
| JP2018077649A (ja) * | 2016-11-09 | 2018-05-17 | 本田技研工業株式会社 | 遠隔運転制御装置、車両制御システム、遠隔運転制御方法、および遠隔運転制御プログラム |
| JP2022063472A (ja) * | 2020-10-12 | 2022-04-22 | トヨタ自動車株式会社 | 車両遠隔支援システム、車両遠隔支援サーバ、及び車両遠隔支援方法 |
-
2024
- 2024-12-20 WO PCT/JP2024/045318 patent/WO2025142797A1/ja active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000074645A (ja) * | 1998-08-27 | 2000-03-14 | Yazaki Corp | 周辺監視装置及び方法 |
| JP2004349926A (ja) * | 2003-05-21 | 2004-12-09 | Suzuki Motor Corp | 障害物検出装置及び方法並びに障害物検出用プログラム |
| JP2012018637A (ja) * | 2010-07-09 | 2012-01-26 | Aisin Seiki Co Ltd | 衝突時間算出装置、衝突時間算出方法及びプログラム |
| JP2018077649A (ja) * | 2016-11-09 | 2018-05-17 | 本田技研工業株式会社 | 遠隔運転制御装置、車両制御システム、遠隔運転制御方法、および遠隔運転制御プログラム |
| JP2022063472A (ja) * | 2020-10-12 | 2022-04-22 | トヨタ自動車株式会社 | 車両遠隔支援システム、車両遠隔支援サーバ、及び車両遠隔支援方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20230311749A1 (en) | Communication between autonomous vehicle and external observers | |
| CN111373335B (zh) | 用于混合驾驶中基于自身觉知性能参数的驾驶模式切换的方法和系统 | |
| JP7140450B2 (ja) | 一次プレビュー領域および注視ベースのドライバの注意散漫検出 | |
| CN110730740B (zh) | 车辆控制系统、车辆控制方法及存储介质 | |
| US10696295B2 (en) | Parking assist device | |
| US11492001B2 (en) | Notification device | |
| CN110419211B (zh) | 信息处理装置、信息处理方法和计算机可读的存储介质 | |
| US10388160B2 (en) | Concept for warning at least one road user located within a parking facility | |
| JP2024063147A (ja) | 車載装置 | |
| JP6494782B2 (ja) | 報知制御装置及び報知制御方法 | |
| JPWO2018220828A1 (ja) | 車両制御システム、車両制御方法、およびプログラム | |
| JP2012226392A (ja) | 運転支援システム | |
| CN112622774B (zh) | 车辆及提供车辆周围信息的方法 | |
| WO2019058781A1 (ja) | 駐車支援装置 | |
| JP2014196009A (ja) | 駐車支援装置、これに用いられる携帯端末、および、プログラム | |
| US20210253090A1 (en) | Parking Control Method and Parking Control Device | |
| JP2023021123A (ja) | 運転支援装置、運転状況情報取得システム、運転支援方法及びプログラム | |
| US11220213B2 (en) | Rear display device | |
| WO2020122057A1 (ja) | 画像処理装置、画像処理方法および画像処理システム | |
| WO2025142797A1 (ja) | 遠隔操作支援方法、遠隔操作支援装置及びプログラム | |
| US12354602B2 (en) | Virtual conversation agent for controlling multiple vehicular intelligent virtual assistants | |
| KR102781701B1 (ko) | 이상 검출 장치와 이상 검출 방법 및 프로그램과 정보 처리 시스템 | |
| WO2018163535A1 (ja) | 報知装置、報知システム、報知方法、および報知制御プログラム | |
| WO2022070428A1 (ja) | 遠隔監視システム、遠隔監視装置、及び遠隔監視方法 | |
| KR20210129800A (ko) | 전방 사각지대 상황 디스플레이 장치 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 24912684 Country of ref document: EP Kind code of ref document: A1 |