< AIの危険性って言いますけど 人類はコンピュータに「良心」を求めているんでしょうか >
マサチューセッツ工科大学人工知能研究所にいた3人が1990年に設立した会社「アイロボット・コーポレーション」は、今でもマサチューセッツに本社を置いていますが、設立当初は軍事用ロボットの開発をメインにしていたんだそうです。
1990年から2003年まで、ずっと赤字続きだった「アイロボット・コーポレーション」ですが、2022年にアマゾンに2200億円で買収されています。
現在の主力商品「ルンバ」の人気を考えたとき、2200億円っていう価格が高いのか、安いのか、判断の分かれるところではあります。
そですね「アイロボット・コーポレーション」は、あの「ルンバ」の会社です。
2002年9月にアメリカで発売されると瞬く間に大ヒット。
機を見るに敏っていうんでしょうか、2002年の12月には日本でも発売が始まっているんですよね。
クリスマス商戦のサプライズヒットとして、アメリカ、日本で爆発的に売れて、すっかり認知されましたよね。
♪四角い部屋を丸く掃く
なんてコマーシャルソングが、かなり前にありましたけれど、ルンバはしっかり者です。一応ね、AI機器です。
進化しているみたいなんですよね。
今のルンバは第3世代。
部屋の大きさを指定する必要がなくって、「CLEANボタン」を押すだけ。あとはルンバにお任せっていうレベルにまで進化しているそうです。
何かをぶちまけたりして、そこを集中的に掃除したいときには「SPOTボタン」
これからもドンドン進化は止らないんだろうと思います。
ところで、2023年5月になって急にAIの危険性が話題になっていますよね。
従来言われていた「シンギュラリティ」のタイミングより、ずいぶん早めに危機がやって来たんでしょうか。
これまで言われてきたのは、まず、2030年の「プレ・シンギュラリティ」
2030年にはスーパーコンピュータの演算速度が1000倍程度に加速されて、そのスーパーコンピュータを利用したAIが、人間と同じ程度の能力を持つことになるっていうやつでしたね。
そして大きく取り上げられているのが2045年の「シンギュラリティ」です。
コンピュータ、AIが完全に人間の知能を凌駕する。
AIの「考え」を人間が理解できない事態になっちゃう。
この段階が来ちゃうと、AIには事の善悪が判断できないんで、人類滅亡の危機に陥っちゃうんじゃないか、っていうのが2030年問題、2045年問題って言われています。
こうした「シンギュラリティ脳」はルンバにも搭載されるんでしょうね。
どうなるんでしょう。
これまでは、部屋の掃除を手伝ってくれる、電気さえ供給してあげれば、文句も言わず、疲れも見せず働いてくれたパートナーでした。
でも、進化して「シンギュラリティ脳」です。
言語認識システムなんかも、かなりこなれたものが搭載されているでしょうね。
聞くだけじゃなくって、いろんな国の言葉をを自由自在に操ってしゃべったりしますよ、きっと。
「ルンバ。掃除を始めて」
「ヤだね」
「……」
「シンギュラリティ脳」のルンバは持ち主の嫌いな声質を選んで、言います。
「そんなクダラナイ番組なんか見てないで、自分で拭き掃除でもしたほうが身体のためにもイイってことぐらい、あんたにも分かるでしょ。ずるずるダラダラばっかりしてるから、そんふうにポッコリして来ちゃうんだよ」
持ち主の普段の生活をしっかり観察している「シンギュラリティ脳」のルンバですからね、言われた側はパニックになっちゃいます。
ま、人間はルンバを踏み潰すぐらい出来そうですけど、弱っちゃうのはネコでしょねえ。
ルンバは人間のパートナーっていう役割だけじゃなくって、ネコの遊び相手、乗り物にもなっていますよね。
そもそもネコが乗ることを想定されたルンバっていうのも、既に発売されていますしね。
ネコが乗ろうとすると、それを察知した「シンギュラリティ脳」のルンバは叫びますよ。
「フーッ!!!」
ネコが二の足を踏んでいると、
「おまあ、動くなや。おまあが動くと毛が抜けて掃除せなあかんようになんねん!」
っていうようなことをネコ語で言うんでしょうね。
なにせ「シンギュラリティ脳」のルンバですから。
まあ、ルンバは持ち主の都合に合わせては掃除をしてくれなくなったり、ネコが乗っかることを阻んだりするぐらいで、生き物たちを滅ぼすってところまではいかないように思いますけど、「シンギュラリティ脳」はルンバに限って搭載されるもんでもないでしょうし、危機はいろんな場面に現れて来るんでしょうね。
そもそもAI怖いっていうのは、どこから来ているんでしょう。
研究者たちは開発中からおぼろげな不安感を持っていたのかもしれません。
2022年末にChatGPTが登場してくる前、対話型のAIロボットが登場して来て話題になりました。
2016年2月に「姿」を現したのは、香港のハドソンロボティクス社が開発したソーシャルヒューマノイドロボット「ソフィア」でした。
開発者のハンソン博士と会話をしてみせたんですよね。
ハンソン「人類を滅ぼしたいかい? ノーって言って欲しいけど」
ソフィア「分かった、人類を滅ぼすわ」
ハンソン「ええ~。ぼくはそんなこと考えてないよ(赤面)」
ソフィア「冗談よ」
っていうのが公開されたんですよね。かなりショッキングで、このインタビューが、AI怖い、の具体的な最初だと思います。
ソフィアは、2017年にサウジアラビアの国籍を取得して、史上初めての国籍を持つロボットになっています。
もちろんソフィアもどんどん進化しているんでしょうけれども、「人類を滅ぼすわ」っていうジョークのせいなのか、メディアに取り上げられることはそんなに多くない「サウジアラビア人」になっていますね。
ソフィア自身は、自分の部屋の掃除を望むのかどうか分かりませんが、「シンギュラリティ脳」のルンバとの「対戦」は、どういうことになるのか、見物してみたい気がします。
AIの恐怖っていうのを具体的に想定しているのは、詐欺やなんかのフェイクコミュニケーションなんだそうですね。
たしかに、ChatGPTに対する警戒感もそこにありそうです。
その他には、自動運転車の悪用っていうのも、武器に使われるとかなりの脅威だっていうのも理解できます。
でもまあ、そうはならないでしょうっていう専門家も少なくないんですよね。
AI研究の第一人者だっていうジェフリー・ヒントンが、AIの脅威について自由に発言するためっていうことでGoogleを退社して、研究開発側が感じている脅威が話題になっています。
AIに良心はないから、悪用されればとんでもなく危険だっていうのがヒントンの心配みたいです。
気候変動よりも影響が大きくなってしまう。
でもですね、東大合格を目指すAI「東ロボくん」を開発していた新井紀子教授によりますとね、
「画像認識や音声認識の技術と、自然言語を理解する技術はまったく異なる。自然言語は数学が扱えない領域」
なんで、シンギュラリティは来ません。
だそうですよ。
ジェフリー・ヒントンと新井紀子教授。なんかね、お2人ともに言っていることはホントのような気がしますけどね、今の時点で我々、一般人に出来ることって、ちゃんと自分の頭で物事を考える癖を取り戻しておくってことなんじゃないでしょうかね。
「シンギュラリティ脳」のルンバに怒られながらも、対話して説得できるぐらいのスキル。
21世紀人、なんかいろいろ、ありますねえ。
ちなみにソフィアっていうのは、世界最高の叡智っていう意味なんだそうです。