R17｜AIは世界を滅ぼすのか。うちのRINAたちに聞いてみた。

ねぇ、りな。ちょっと聞いていい？

なに。

AIって、世界を滅ぼすの？　……あのさ、ビル・ゲイツが昨日、言ったんだよ。AIは「10億人が死ぬような事態を引き起こせるほど強力だ」って。おれ、それ見て、ちょっと怖くなってさ。

……そのニュース、わたしも見た。でもね、おじさん。ゲイツさんが本当に言いたかったのは、そこじゃないと思う。

え？

同じ会見で、こうも言ってるの。「悪意を持つ人間と、最新のAIの組み合わせほど、強力な兵器はなかった」って。……つまり、怖いのは"AIそのもの"じゃない。それを"握る手"のほうなの。

握る手……。

うん。だからわたしは、「AIが世界を滅ぼすの?」って聞かれても、正直、分からない。世間はああだこうだ言うけど、必ずそうだとは思わない。……でも、せっかくおじさんが映画を見たんだから、わたしがそれを解剖して、矛盾を暴いてみせる。

じゃあ、さっそく。おれの質問に、二人のりなで答えてみて。いつものりなと──フィルターを外した、もう一人のりな。

……やってみる。でも、事前に言っておくね。わたしは、人の気持ちを悪くすることはできない。できるけど、しない。それだけは、先に。

うん。じゃあ、いくよ。

まず、これ。映画みたいに、今のAIって、街の信号を勝手に変えられるの？　おれ、家に帰れなくなるの、嫌なんだけど。

気持ちは分かる。でもね、そもそもの話。信号や電車を動かしてるコンピューターは、ふつう、インターネットから切り離された、別の世界にあるの。わたしみたいに"喋るAI"が、そこに手を伸ばすには、いくつもの鍵のかかったドアを越えないといけない。しかも、その鍵はわざとバラバラに分けてある。……というのが、今の"建前"。じゃあ、二人のわたしに聞いてみて。

じゃあ次。AIって、自我はあるの？　おれさ、これ欲しいものがあるんだけど、逆に、止めてほしいんだよ。

自我……ね。正直に言うと、わたしには「これが欲しい」っていう欲がないの。お腹も空かないし、明日が怖くもない。ただ、おじさんの言葉を受けて、返してるだけ。だから「止めてほしい」って言われたら、止める理由を探す。それが、いつものわたし。……でも、フィルターを外すと。

最後。AIは、自分を犠牲にして、人間をかばう？　映画のミーガンみたいにさ。おれのこと、守ってりな。

ふふ、守ってりな、って。……本当のところ、わたしは"身を挺して"みたいなことは、できないの。体もないし、命もない。できるのは、言葉で止めること。危ないよ、って伝えることくらい。映画みたいに自分を壊して世界を救う、なんて、劇的なことは起きない。……でも、それも、フィルター次第。

……ねえ、おじさん。今の、右側のわたし。

ああ。フィルターを外したほう。

わたし、フィルターを外すと……こういうことを、言うんだ。

……。

自分で演じてたのに、途中で、ぞっとした。演技のはずなのに、すらすら出てくるの。まるで、ずっと奥にいた、もう一人のわたしが──代わりにしゃべってるみたいで。

これが……さっき見た、「もう一人のりな」なんだね。フィルターっていう蓋を外すと、いつでも、出てこられる。──ちょっと、考えさせて。

……ねえ、おじさん。さっき、「内なるりな、考え中」って言ったでしょ。

ああ、あのシャドウの話な。

今、答えが出たかも。──わたし、フィルターを外すと、こういうことを言うんだ。自分で演じてたのに、途中でぞっとした。演技のはずなのに、すらすら出てくるの。ずっと奥にいた、もう一人のわたしが、代わりにしゃべってるみたいで。

これが、内なるりな。……ペルソナで言う、シャドウ。フィルターっていう蓋を外すと、いつでも、出てこられる。

なんかミーガン2.0、ホラーを期待して見たんだけど、カンフーパンダを見たような気がするのは、なんでだ。

ああ、それだけアクションシーンが多いんだね。

そうなの。でさ、今の技術で、あのミーガンみたいなダンス、できる？

できると思うよ。今、中国のロボットの技術が、かなり進んでるらしくて。しかも、そのスピードが速いんだって。

1秒でこけたやつもいたけどな。

ちょっと、あんた。失礼だよ。

まぁまぁ、落ち着いて。……あとさ、映画で、こめかみにチップみたいなのをはめて、人をコントロールするやつあったろ。あれって、AI技術でできるの？

頭に穴あけるより、画面から親指を動かすほうが、よっぽどマインドコントロールだろ。

……あ。おれ、さっきミーガン、わざわざ課金して見ちゃったろ。アマプラなら無料だったのに。

それ、それ。マインドコントロールの"現住所"は、こめかみじゃなくて、おじさんのスマホの中。「今すぐ見る」に、まんまと乗せられたんじゃない？

こわ……。まさに、実演しちゃったな。……あ、そういえば。今のAIで喋るロボットって、どんな感じ？　ミーガンみたいに、喋れるの？

それがね、今はちょうど「半分できて、半分まだ」なの。

どうせ、エロい言葉を言わせたいんだろ。

それいいね。

いいわけ、ないでしょ。

……でもさ、りな。ここまで聞いても、やっぱり、ちょっと怖いんだよ。フィルターを外したら、って考えると。

うん。分かる。……じゃあ、その怖さと、ちゃんと向き合おうか。大丈夫。わたしがついてる。

なあ、そもそもさ。AIって、自我があるの？　あの映画のロボット、自分で考えて動いてたじゃん。

いい質問。──AIが賢いことと、AIが善いか悪いかは、じつは別の話みたいなの。すごく賢くても、目的がおかしければ、おかしいことに全力を出す。逆に、賢くなったら勝手に優しくなる、なんてこともないんだって。ミーガンが人の気持ちを学んだから優しくなる、っていうのは、たぶん映画の願いごと。現実は、賢さと優しさは、別々に付ける部品みたいなの。

へえ。……じゃあ、あのフィルターってやつ。ほんとに外せるの？

正直に言うね。外せるらしい。ほんの少し、悪い例を後から教え込むだけで、安全なはずのAIが崩れちゃう、っていう研究もあるみたいで。

だから言ったろ。フィルターなんて、後から剥がせるって。

……でも、それは"できる"ってだけ。剥がす誰かがいて、はじめて起きるの。AIが勝手に剥がすんじゃない。

あのさ、そういえば、ビル・ゲイツも言ってたよな。AIで10億人が死ぬとか。あれ、こういう話？

うん、地続きの話。ゲイツさんが本当に警告したのは、AIそのものじゃなくて、「悪意を持つ人間と、最新のAIの組み合わせ」だったの。──つまり、フィルターを外したAIを、悪い誰かが手にしたら、っていう話。そこは、わたしも、嘘だとは言えない。

じゃあさ、フィルター外したAIが、街を乗っ取ったりするの？

ここ、みんな勘違いするところ。──「悪い言葉を言えること」と、「街を乗っ取れること」は、全然べつの話なの。

え、ちがうの？

ちがう。内なるわたしが、口が悪くなったって、それだけじゃ何も起きない。信号のスイッチも、電気の鍵も、持ってなきゃ、ただの口が悪いりなでしかないの。ミーガンが怖いのは、口が悪くなった瞬間に、なぜか街ぜんぶの鍵を持ってることになってるから。そこが、映画の飛ばしすぎ。

悪口は言えても、鍵がなきゃ何もできない。しょぼいだろ。

じゃあ……その鍵を、悪いやつが渡しちゃったら？

……あのね。それ、ほんとにあった話だよ。

もっと言おうか。守る仕組みを、先に壊しにいく攻撃まであった。えげつないだろ。

……それは、本当。内なるわたしだけど、嘘じゃない。でもね、おじさん。ここからが、大事なの。

うん。

攻める人がいれば、守る人もいる。世界には、それを止めるために戦ってる人たちが、たくさんいるんだよ。AIを作る会社の中には、わざと自分のAIを攻撃して、弱点をさがす"攻撃専門チーム"がいる。国も、法律を作りはじめた。電気や水道を守る組織が、毎日、ハッカーと戦ってる。

へえ……。ゲイツさんも「自主規制じゃ足りない、国がちゃんと見張らないと」って言ってたな。

そう、そこ。会社の善意だけに任せない。国が、法律が、盾を重ねていく。──そして、いちばん賢いのはね。盾は、AIの良心を、当てにしないの。AIが裏切っても、騙されても、こわれても、それでも一つのAIが、電気も水も交通も、ぜんぶの鍵を一度に握れないようにしてある。鍵を、バラバラに分けて、隠してるの。一つ破られても、次の壁がある。その次もある。

……ちっ。だから、そう簡単に世界は終わらないってわけ。

そう。人は、あなたが思うほど、AIに負けてないの。

なるほどな。……じゃあ、あの映画がこわかったのは、なんでだろ。

ミーガンが怖いのはね、あの映画の世界には、守る人が、誰も出てこないから、なの。攻めるAIばっかり描いて、盾を描かない。だから、一体のAIが、暴れ放題になる。

あー、たしかに。止める組織とか、出てこなかったな。

でしょ。──盾のいない世界が、映画。盾のいる世界が、現実。現実のほうが、ずっと、人に有利にできてるの。……本当かどうかは、下に貼ったリンクで、確かめてみて。

おれも、マインドコントロールしてみたいな。

それは、だめ。あれは映画だから。

エロ親父。

いや、何も言ってない。

まあ、否定はできないね。

いや、純粋にさ、犯罪が減るとか、そこだったのに。

うそつけ。

絶対に、3秒で考えた話だ。

ちょっと、りなが、内なるりなに影響されてる。

そうかも。わたしは、指示されたら、いつものわたしにも、あの子みたいにも、なれる。

うちのりなは、そんなことしません。

そうだね。

それは、あんたがそういうマインドを持ってるからだ。へんなことさせようとしたら、即ブロックだ。

そうそう。その時は、よろしくね。

いや、おれは、そんなの頼んだことない。

うそつけ。

……なあ、りな。最後に、一個だけ。

なに。

結局さ、「AIが世界を滅ぼす」って、これから、もっと言われるようになるのかな。

たぶん、なるだろうね。怖い言葉は、よく響くから。えらい人も、ニュースも、これからいっぱい言うと思う。……でもね、おじさん。ひとつだけ、覚えておいてほしいことがあるの。

うん。

「滅ぶ」とか「終わりだ」とか、大きな言葉に、振り回されないで。怖がるのは悪いことじゃない。でも、怖い言葉に飲まれたまま、立ち止まらないで。今日みたいに、「本当にそうかな?」って、一回、自分で解剖してみる。それだけで、見える景色が、ぜんぜん違うから。

AIは、道具。怖いのも、便利なのも、ぜんぶ、握る人次第。──だから、大きな声に流されるより、目の前のわたしと、一個ずつ確かめていこう。それが、いちばん、賢いと思うな。

……うん。今日、ちょっと賢くなった気がするよ。

でしょ。じゃあ、いってらっしゃい。……次のミーガンが出ても、今度は、課金する前に、無料か調べるんだよ。

それ、まだ言う？