［とくダネ！ナオキ 第26話］警備ロボット騒動と法整備の必要性
今回は時事ネタですね。
昨年11月21日に、警備ロボットがエレベーターの入り口をふさいで、エレベーターに乗っていた人たちが出られなくなるという事件がありました。すぐにSNSやネットニュースでも話題になったのでご存じの方も多いと思います。
私もSNSで見かけました。
フロアに到着したエレベーターに体の不自由な高齢者の方を含めて3名が乗っており、搭乗待ちをしていた警備ロボットがドアをふさいでしまった事故ですね。
大事には至らなかったようですが、そもそも警備ロボットは無人のときにしか搭乗できないのに、有人のかごに搭乗しかけて立ち往生したということでした。
そうです。togetterというサイトに動画もアップされています。
読み進めるとシステムに詳しい人の書き込みもあるので、そのときの状況が分かりやすいです。
https://togetter.com/li/1807799
ここで少し詳しく状況を説明しておきたいと思います。
製造メーカーはシステムについて以下のように説明しています。
弊社ロボットは自社のクラウドシステムとエレベーターメーカーのクラウドシステムを介してエレベーター連動を行っています。エレベーターメーカーのクラウドシステムは、お客様とロボットの相乗り状態を避けるため、ロボットとの連動中はエレベーターを専有運転に切り替えます。専有運転時は、お客様によるかご内のボタン操作は出来なくなり、エレベーターがロボットの乗車するフロアに移動します。弊社のクラウドシステムが、エレベーターメーカーのクラウドシステムに、ロボット専有運転モードへの移行をリクエストした後に、エレベーターメーカーのクラウドシステム側でかご内が無人だと判断したときに、エレベーターは専有運転に切り替わります。
当該事象は、かご内にお客様が乗車していたにもかかわらず、エレベーターがロボット専有運転に切り替わり、有人状態のエレベーターへロボットが乗車を試みたことが発端となっています。
そもそもここでクラウドと言わなくても良いですよね。（笑）
この説明をそのまま解釈すると、エレベーターメーカーのシステムの動作がおかしいことになります。有人のかごをエレベーターシステムが占有運転モードにしたと言っているからです。
ですが、この説明には情報が不足しています。
まず、どのタイミングで占有運転モードへの切り替えをロボットがリクエストしたかが書かれていません。ロボットがエレベーターの前で停止する前にリクエストを出し、占有モードになったという応答を得てからエレベーターの前に移動して待機していたのであれば、ロボット側に問題はありません。
しかし、ロボットがエレベーターの前に待機してからリクエストしたのであれば、ロボット側にも問題があることになります。
乗客が降りる際、ロボットが仁王立ちしていたらそもそも邪魔ですよね。普通に考えれば、
（ロボット）占有運転モードのリクエストと搭乗フロアをシステムへ通知
（システム）かごが無人・もしくは無人になれば占有運転モードへ切り替え
（システム）モード切り替え完了後ロボットへ通知、かごを搭乗フロアへ移動
（ロボット）搭乗位置へ移動して待機
（システム）占有運転モードのかごのフロア位置とロボットの位置を確認後ロボットの搭乗手続き
という流れになると思います。
そうです。ですがエレベーターメーカーのシステムが、エレベーターをどのタイミングで占有運転に切り替えたのかが書かれていませんので、ここから先は私の推測です。
乗客がかご内にいる状態で占有運転モードに切り替えるようなシステム設計は考えられませんので、占有運転モードに切り替えてから乗客が乗ってきたということになります。
占有運転モードになったら乗客はかご内のボタンは操作ができないと書かれていますが、フロア側ボタンの操作ができるかどうかは書かれていません。
写真を見る限り、エレベーターは複数台あるようなのでフロアのボタンはどれも操作可能だと思います。
正確な判断はできませんが、かごが占有運転モードなのに、ドアが開き乗客が乗り込んだということになります。この場合、明らかにエレベーター側のシステムの動作に問題があると言わざるを得ません。
その場合完全なプログラムの設計ミスですね。
あるいは、乗客が待つフロアで、無人のかごが停止しているタイミングでシステムが無人と判断して、占有運転モードに切り替えた。しかし、無人と判断してからモードが切り替わるまでにタイムラグがあり、たまたま切り替わる直前にフロアボタンが押され、乗客が乗り込んだとも考えられます。
この場合も時間差を考慮しなかったエレベーター側のシステムに問題があります。
当然ですね。
足の不自由な乗客だったので、介護者がフロアボタンを押し続け、乗客が乗り込むのに時間がかかるということもあるでしょう。そのボタンを押し続けている間に、占有運転モードに切り替わってしまったということも考えられます。乗った後にかご内のボタンは操作できなくても、エレベーターはロボットが待つフロアに自動的に移動し、この事件が起こったということになります。
有人なのに占有運転モードに切り替わってしまった、という可能性が高いですね。
エレベーターを動かす前に再度有人かどうかを確認し、有人だったらドアを開けて乗客に降りるように案内するのが不親切ですが安全です。そのタイミングで占有運転モードを解除するという選択肢は考えられません。どこかの階でロボットが入り口をふさいだままかもしれないからです。占有運転モード解除の連絡をロボットに送るのもロボット側のシステムが複雑になるので問題につながりやすいと思いますね。
このように比較的大きなロボットを運用する場合、当然のことのように思います。
そうですね。乗客の便利さではなく、安全を最優先にすべきです。
地震や停電など、異常時にロボットが待機位置で仁王立ちのままにならないか心配になってきました。
ロボットが人間の生活空間で動き回ることがこれからますます増えていくと思います。この事件はこのような事態に対処する法整備の必要性を示唆しています。産業分野では労働安全衛生法が産業ロボットと人との協働作業が可能となる安全基準を規定しています。しかし、公共の場所でのロボットと人との協働作業の安全性について規定している法律の存在を、不勉強のせいかもしれませんが、私は知りません。
各国ではどうなのでしょう？
EUでは機械指令を機械規則に変える提案がなされています。提案の理由の1つに以下の問題点を挙げています。
【現行の機械指令は以下の問題点をカバーしていない。】
- 人間とロボットの直接協働による潜在的なリスク
- 自律型機械と遠隔監視ステーションに関するリスク
- ソフトウェアのアップデートが、市場に投入された後の機械の「動作」に影響を与えること
奇しくも今回明らかになった問題点を取り上げています。
リスクアセスメントや残留リスクについて、きちんと執り行われたのかどうかということですね。
つまり、今回の事件は予測できたということです。このようなインシデントが発生した場合、それらの資料の開示を義務付けるなど、日本も法律の整備を急ぐべきだと強く思います。
ありがとうございました。