News:シーサイドラインの自動運転車両の逆走/ AI時代の不安を表しているような事故やなと思う

先日、横浜のシーサイドラインで自動運転車両が逆走した事故。まずは怪我をされた方達の回復をお祈りしたい。

これは個人的な意見ではあるのやけど、無人化しても良いものと、無人化してはならないものを分類する必要があると思う。

駅の改札とか券売機は当然無人でも良いと思うが、人の安全に関わるところを無人化するというのはまだリスクがあるのではないか?という気はする。

こういう事故が起こるまでは「技術の進歩は凄いものやな〜。将来的にどこまで無人化していくのやろう?」と無人化の動きに肯定的やったのだけど、やはり事故を機に見直しはかけた方が良いかと思う。

自分の失敗を認めて、そこから学ぶのも人間。(AIでも出来るのかな?)

さて話を戻すと、駅の改札にも人がついて故障した時に対応するのに、車両に人が付かないというのは、違和感がある。

人の安全に関わる部分は、信頼できる人が行うべして、その人を技術がサポートする。本来はこうあった方が良いかと思う。

でも、視点を変えると「信頼できる人」とはどう判断するのか?という疑問も出てくる。かつて信頼できた人も、私生活で嫌なことがあれば自暴自棄になる可能性もあるし、運行時間が遅れていたりして、そこにペナルティがあれば焦りからミスをする可能性もある。

どちらがリスキーなのか?難しいところだ。

機械の安全を確保する時に使用される緊急停止スイッチというものがある。これには機械の使用される環境によって、何段階かのカテゴリーがある。

人体に影響が少ない機械に対してはソフト的に電源をシャットダウンする。少しでも人体に危険があるものは、リレー装置を使って、緊急時にはリレーが遮断されるような物理的な緊急停止ボタンが使用される。

さらに、もっと危険が高い機械になると、リレーが固着して遮断されない事態を想定した緊急停止ボタンが使用されるらしい。(もはやボタンなのかどうかも分からないけど)

今回、自動運転が何らかの影響で誤動作したのは問題なのだが、緊急停止が効かなかった(効いたのに事故に繋がった?)というところにも問題がある。

人もソフトも誤動作を起こす可能性はゼロではない。そこを補填する安全装置こそしっかりしなければならない。無人化や自動化は否定はしていないし、技術の進歩を促進するにはやっていくべき事やとは思う。でも、安全性がしっかり確保できてこその無人化ではないだろうか?

AIが進歩してきて、何でもかんでもAIという風潮が生まれつつあるけど、AIの暴走リスクはどう回避するのだろうか?論理的思考能力に関しては、人間なんて叶わないだろう。AIが地球環境を考えた時、最大の原因を「人間」と判断した場合、ネットワークに繋がっていれば、AI間で共通認識を持つのは一瞬だと思う。

我々人間がこの様なリスクを回避する為の「緊急停止ボタン」は用意されているのだろうか?


にほんブログ村 自転車ブログ ヒルクライムへ にほんブログ村 自転車ブログへ ブログランキング・にほんブログ村へ

コメント