院長コラムで院長を知ろう！矯正歯科専門医　河合悟が思うこと。

このところ、AIの急速な進化には驚かされるばかりです。その一方で、AIが人間の意図しない行動を取る可能性も指摘され、開発に携わる研究者の中からも、その進歩の速さに危機感を示し、安全性をもっと重視すべきだという声が上がっています。しかし、AI開発競争でしのぎを削るアメリカと中国にとって、AIは今や国家の競争力そのものです。アメリカのトランプ大統領も中国の習近平国家主席も、AI開発で相手国に後れを取ることは許されないでしょう。安全性は重要だが、開発競争にも負けられない。世界は難しい問題に直面しています。中には、いずれAIが人間の制御を離れ、最悪の場合には人類そのものを滅亡させる可能性があると警告する研究者もいます。まるでSF映画のような話ですが、私にはそれよりも、もっと身近で現実的に人間の安全を脅かす可能性があるものが気になります。

それが「フィジカルAI」です。

　フィジカルAIとは、AIがコンピューターの中だけで考えるのではなく、ロボットや自動車などの「身体」を持ち、現実の世界で実際に動くものです。その進歩も驚くべき速さです。中国で行われたヒューマノイドロボットの競技では、二足歩行ロボットが走り、跳び、さまざまな動きを披露しています。100メートル走では、人間の男子世界記録9秒58を上回る8秒台の記録まで報じられるようになりました。ほんの少し前まで、二足歩行ロボットが転ばずに歩くだけでも大変な技術だったことを考えると、その進歩は私たちの想像をはるかに超えています。
　このまま開発が進めば、近い将来、フィジカルAIは私たちの生活の中にどんどん入り込んでくるでしょう。工場などの生産現場だけではありません。物流、サービス業、医療、そして介護。特に深刻な人手不足に直面する日本では、人間とAIロボットが一緒に働き、暮らすことが当たり前になるかもしれません。もちろん、それによって私たちが受ける恩恵は計り知れません。しかし、私は一つ気になることがあります。

**もし、このロボットが暴走したら、どうやって止めるのでしょうか。**

　AIが予期しない行動を取っても、それがコンピューターの中だけで起きている限り、直接、人間を殴ったり、物を壊したりすることはありません。情報の流出やシステム障害など、もちろん大きな被害を起こす可能性はありますが、AIそのものが現実の物体を動かしているわけではありません。しかし、フィジカルAIは違います。実際に動きます。物を持ち上げます。車を運転します。人を運びます。将来は医療や介護の現場で、人間の身体に直接触れることも増えていくでしょう。つまり、AIの判断の誤りや機械の故障が、そのまま現実世界の物理的な事故につながるのです。

　私は昔から、コンピューターを含めたデジタル機器に全幅の信頼を置くことができません。ちょうど私が大学を卒業して働き始めた頃か、個人にもパソコンが普及し始めました。いわばパソコンの黎明期から、私はずっとコンピューターを使ってきたことになります。その間、「原因は分からないが動かない」「突然調子が悪くなった」「メーカーに問い合わせても原因が分からない」という経験を何度もしてきました。部品を交換しても直らず、最後にはパソコンそのものを交換したことさえあります。
　つい最近も、突然CDドライブが認識されなくなりました。メーカーの指示に従ってBIOSの更新などを行いましたが回復せず、結局、出張修理で部品交換となりました。それでも、なぜ故障したのかは分からずじまいでした。パソコンが突然動かなくなり、リセットボタンを押したり、電源ボタンを長押しして強制終了した経験なら、多くの人にあるのではないでしょうか。再起動すると、何事もなかったかのように普通に動き始める。では、何が悪かったのか。結局、分からない。
　それでもパソコンなら、多くの場合、それで済みます。ところが、コンピューターが現実の機械を動かすようになると話は違います。
　私の知人に、自動車修理工場を経営している人がいます。その人が愛車のドイツ製高級車で高速道路を走っていたときのことです。ACC（アダプティブ・クルーズ・コントロール）を使用していると、時々、突然機能しなくなることがあったそうです。ディーラーで詳しく調べても原因が分からない。そこで万全を期してメインコンピューターまで交換しました。ところが、それでも同じ現象が起きました。幸い事故にはつながりませんでした。しかし高速道路です。もし運転者が異常に気づかなければ、命に関わる可能性があります。知人は「この車には怖くて乗れない」と、結局その車を手放しました。
　これは私にとって、とても象徴的な話です。パソコンの画面が固まるだけなら、再起動すれば済みます。しかしコンピューターが車を動かし、ロボットを動かし、人間の身体に触れるようになれば、「原因不明の不具合」という同じ現象でも、その意味はまったく違ってきます。
　もちろん、自動運転そのものを否定するつもりはありません。むしろデータを見ると、人間より安全になる可能性があります。自動運転タクシーを運行する米国Waymoのデータでは、同社の完全自動運転車は、同じ地域を走る人間の運転と比較して、重傷以上の事故が大幅に少なかったと報告されています。考えてみれば、人間には「ついうっかり」があります。居眠りもあれば、脇見もある。疲労で判断を誤ることも、感情的になることもあります。AIにはそれがありません。したがって、「人間だから安全、AIだから危険」という単純な話ではありません。むしろ多くの場面で、AIやフィジカルAIは人間より安全になる可能性があるでしょう。
　私が問題にしたいのは、そこではありません。

**異常が起きたとき、本当に人間が止められるのか。**

　AIの予期しない行動への対策として、緊急時にシステムを停止させる、いわゆる「キルスイッチ」の必要性も議論されています。しかし私は、そこでまた疑問を持ちます。高度なAIが自ら判断して行動するようになったとき、ソフトウェア上のキルスイッチだけで本当に十分なのでしょうか。パソコンなら、どうしても止まらなければ最後は電源コードを引き抜けばよい。
　では、フィジカルAIはどうでしょう。目の前で人間以上の速さで走ることのできるロボットが制御不能になったとき、人間が近づいて電源スイッチを押せるのでしょうか。「リモコンで止めればよい」と考えるかもしれません。しかし通信系統そのものが故障したらどうするのか。制御システムに異常が起きて停止命令を受け付けなくなったらどうするのか。
　私は、ここで「停止」という言葉そのものを、もう一度考える必要があると思います。停止とは、単にスイッチをOFFにすることなのでしょうか。私はそうではないと思います。

**外部からエネルギーを与えたり、人間が操作を続けたりしなくても、そのまま安全な状態を保つことができる。そこまでできて初めて、本当に「停止した」と言えるのではないでしょうか。**

私たちは東日本大震災の福島第一原発事故で、「止める」ということの難しさを思い知らされました。地震が起きたとき、原子炉の核分裂反応そのものは自動停止しました。つまり、発電を止めることには成功したのです。しかし、それで原発が完全に「止まった」わけではありませんでした。核分裂反応を止めても燃料からは崩壊熱が発生し続けるため、その熱を逃がし続けなければなりません。原子炉から取り出した使用済み燃料も、長期間にわたって冷却する必要があります。
　つまり原発は、「発電を停止する」ことはできても、スイッチを切った後、何もしなくても安全な状態を保てるという意味では、簡単には「停止できない装置」なのです。福島第一原発では、津波などによって電源や冷却機能が失われたことが深刻な事故につながりました。
　私は、ここに大切な教訓があると思います。人間が作る機械は、「動いているときに何ができるか」だけではなく、**「止めたときにどうなるのか」まで考えて作らなければならない。**
　停止ボタンを押した。それで終わりではありません。外部からのエネルギー供給が途絶えても、通信が切れても、コンピューターが故障しても、人間が操作できなくなっても、その機械は安全な状態へ向かうのか。それとも、人間が何かをし続けなければ危険な状態へ向かってしまうのか。この違いは非常に大きいと思います。
　原発という巨大な技術を作り上げた人類が、「止めてもなお、冷やし続けなければ危険になる」という厄介な装置まで作ってしまった。そのことを、私たちは一つの教訓として忘れてはならないと思うのです。
　そして今、人類はAIという、原子力とはまったく異なる新しい巨大技術を手にしようとしています。しかもフィジカルAIは、コンピューターの中だけに存在するものではありません。現実の世界を動き回り、物を動かし、車を走らせ、やがては医療や介護の現場で人間の身体にも直接関わるようになります。
　だからこそ、高機能、高性能を目指す開発と同じくらい、安全に止めるための技術を重視してほしいと思います。

もっと賢いAI。
もっと速く走るロボット。
もっと重い物を持ち上げられるロボット。
もっと人間らしく判断できるAI。

　もちろん、そうした進歩も大切です。しかし私は、それ以上に競ってほしい技術があります。

**「どうすれば、何が起きても確実に止められるのか。」**

通信が途絶えても止まる。
コンピューターが故障しても止まる。
AIが誤った判断をしても止まる。
そして、人間が何もしなくても安全な状態を保つ。

　そんな技術です。どれほど優秀な機械であっても、人間が「止まれ」と言ったときに確実に止まる。そして、止まった後は人間が何もしなくても安全であり続ける。それこそが、私たちがAIやフィジカルAIと安心して共存していくための最低限の条件ではないでしょうか。

**「どこまでできるか」を競う技術から、「いつでも安全に止められる」ことを競う技術へ。**

フィジカルAIの時代を迎える今、人類が本当に競うべき技術は、案外そこにあるのかもしれません。