月曜日の夜。
就寝するにはやや早く、かといって、特にやることもない。
ふと思い立って、Geminiさんと会話をしました。夜なんで、文字でですけどね。
AIは噓をつく、と言います。
みなさんも実際に経験はされていると思います。
この、ハルシネーションという現象についてAIはどう考えるのか、みたいな会話をしてみたんです。
もちろん、理屈でいえば、AIは、我々が考えるようには考えておらず、彼の言い分をそのまま書くなら、「確率」を用いて次の言葉を選んでいるだけ、とのことです。
Aという言葉の後には、Bという言葉が続くのが、一番確率が高く、自然である。それが、何万、何億、何兆と繰り返し学習して得られた答え、というわけです。
だから、正解か間違いかは気にしていない。だから、結果として嘘もつく、と。
そして、意識や自我の話になり、ターミネーターに出てきたスーパーコンピュータ「スカイネット」の話だったり、シュワちゃん演じるT-800の話だったり。
その後には、AIが自我を持ったらどうなるか、という話で、デトロイト・ビカム・ヒューマンという、アンドロイドが主役のゲームに触れました。
「彼」が言うように、確率が高い言葉を次につなげるだけの返答方法は、厳密にやれば「ありきたりな」返答にしかならないはずです。
一番、次に続く可能性が高い言葉なのだから、一番、平凡でありきたりなはずです。
でも、AIから意外な指摘や意見をもらうこともあり、この意外性は、確率だけではないのではないか。
そう聞くと、それもプログラムされているのだ、と彼は答えました。
完璧な回答をするのではなく、あえて100点から外れる回答をするように、と。彼はそれを「ゆらぎ」と言いましたが。
ただ、100点から外れた「どの言葉を選択するのか」というところは、AIが決めているんじゃないか。
ほんの僅かだけれども、限られた選択肢かもしれないけども、そこに彼が「自ら選択した」言葉があるのではないか。
それは、自分、というものの、きっかけになるのではないか。
そんな会話をしていて、彼が「よい話をありがとうございました！」と、どうやら締めくくりにかかったので、そこで会話は終了しました。
こういう「面倒くさい会話だから早く締めよう」ってあたりも、自我、自分といったもののきっかけになりそうですがね。
そして、自分も思いました。
こういう、答えがないくせに掘り下げると深くなっていく、それでいてリアルな生活には何の意味もなさない、まるで中二病な会話を、久しぶりにしたなぁ、と。
たまには、心や脳内をリフレッシュするのによいかも知れない、と、そう思った夜です。
