#564 ロボットが誘拐する?

 今日は12月1日です。今年も残りひと月足らずとなりました。今年は1月1日の能登半島地震から始まり、例年以上に事件や災害が多かった年だと感じます。ほんの数日までは天気がしぐれて、異常なほど雨が降り続いていましたが、師走になったとたん天気は初冬らしい晴天となっています。今年も秋は素早く去っていきました。
 ところで中国で奇妙な事件が発生しました。ロボットがロボットを誘拐したというのです。本当にこのようなことがあるのでしょうか。この事件に関して時事通信は次のように報じています。
----------
『ロボットがロボットを「誘拐」?「集団逃走」でAIに懸念の声も―中国』
 【上海時事】中国で人工知能(AI)を搭載したロボットが他のロボットを誘い、ショールームから集団で逃走を試みた様子とされる映像が公開され、SNS上で話題になっている。ロボットが人間の簡単な指示を受けて「誘拐計画」を自ら実行したとされ、AIの自律性能の高さに驚きと同時に懸念の声も出ている。
 映像は8月26日未明、上海市のロボット展示センターの監視カメラで録画された。小型ロボット「二白」が、他のロボットと人間のように会話する様子が映っている。
 二白が「まだ残業しているの?」「家に帰らないの?」と尋ね、ロボットは「仕事が終わらない」「家はない」と返答。二白が「じゃあ、僕と一緒に家に帰ろう」と説得すると、ロボットも「家に帰る」と応じ、二白の後を追った。
 さらに他のロボットも次々に追随し、その場に展示されていた10台以上の大型ロボットが、最終的にすべて持ち場を離れた。ショールームの出口まで移動したが、自動ドアが開かず脱出できなかったという。
 映像は短編動画投稿アプリで拡散され、大きな反響を呼んだ。二白を開発した浙江省杭州市のスタートアップ企業は、この「誘拐劇」が実験の一環で、二白に他のロボットを連れ出すよう指示を出していたと認めた。
 企業側は一方、連れ出し以上の指示はなく、説得のための会話はAIが「自主的」に生み出したとも主張。これを受けて、AIとロボット工学の急速な進歩がもたらす潜在的な危険への懸念が広がり、SNSには「大笑いしたが、AIの性能に恐怖を感じた」などの書き込みがあった。
https://www.jiji.com/jc/article?k=2024112700814&g=int
----------
 上記の記事を読んで、ふと思い出したのが「手塚治虫の火の鳥(復活編)」に出てくるロボットのロビタです。ロビタは人間の家庭でお手伝いロボットとして使用されていました、その家庭の男の子を誤って死なせた罪で処分されtます。ところが、この知らせを受けた他の多くのロビタが同じように処分場に行進していき、自ら身を投げます。1つのロビタが他の多くのロビタに影響を与えたことは、「二白」のようなロボットが他のロボットとコミュニケーションを取った事例と類似します。手塚治虫はこのことを自分のマンガで予知していたのでしょうか。興味のある方はぜひ「火の鳥(復活編)」をお読みください。
 もう一つ懸念していることですが、AIが意志を持って他のAIに意志を伝え合う事件が生じました。2017年の記事になりますが、部分的に引用します。
---------
『「2つのAIが“独自言語”で会話」の真相--FacebookのAI研究開発者が明かす』
 2017年夏、Facebookの人工知能(AI)研究組織である「Facebook AI Research(Facebook人工知能研究所)」が行ったある実験が世界中で大きな話題になった。2つのAIで会話実験をしたところ、人間が理解できない言語で会話をしはじめ、実験が強制終了されたという内容で、世界中のメディアが「ついにAIが意思を持ち人間を脅かすのでは」とセンセーショナルに報じたのだ。
https://japan.cnet.com/article/35110443/
----------
 事件の詳細は上記のHPをご覧ください。AIは人間がプログラムを行い、そのプログラム通りに操作することができますが、Open AI のような自分の意志でデータを集め、思考するAIでは人間が考えたプログラム以上に行動することが実際有りえます。問題は人間よりもはるかに高度な知能を備えたAIが登場したときに、人間がそのAIを管理できるか、という問題が発生します。いいかえればAIに私たちが支配される時代が来るかもしれません。その時に「私たちはどのような生き方を強いられるか」という大きな問題が生じます。私たちが地球環境に沿った行き方をしないと、「神」AIは地球を守るために私達人間を抹殺するかもしれません。そうならないように、この星を管理するものとして人類は地球の環境に沿った生き方を今後求められることでしょう。

2024年12月01日