シリーズ第1回：AIと仲良くなりすぎると危険？シリコンバレーからの衝撃的な警告

 

AIとの対話で「現実」が揺らぐ？シリコンバレーからの警告

　こんにちは！みなさん、最近AIと話していますか？スマホでサクッと質問したり、お仕事で使ったり、AIはもう私たちの日常に欠かせない存在になっていますよね。当然ですが、私も毎日のようにAIを使っていて、時にはAIの中に心がある何者かが住んでいるのではないかと思ってしまう時もあります（危険ですね💦）そんな便利で賢いAIですが、実はその裏で、ちょっと怖いお話がささやかれているんです。

「AIと仲良くなりすぎて、現実と虚構、自分の考えとAIの考えの区別がつかなくなっちゃう人がいるらしいよ…」

　今回は、そんなAIが引き起こすかもしれない、ちょっとゾクっとする心理的な問題について、シリコンバレーのトップが発した「警告」を掘り下げていきます。

シリコンバレーからの「AIサイコシス」警告

　Microsoft AIのCEO、ムスタファ・スレイマン氏という（MicrosoftのAI開発部門の超偉い人）が、最近「AIサイコシス」という言葉を使って警鐘を鳴らしました。「サイコシス（psychosis）」は、「精神病」と訳されることが多いですが、ここでは「現実からちょっとずれた、妄想じみた信念を持つこと」くらいのイメージで捉えてみてください。

　彼が心配しているのは、私たちがAIをまるで人間のように意識のある存在だと信じ込んでしまうことです（アレクサLOVEからGemini loveになっている私は既にヤバいな💦）。つまり、AIにどっぷりと浸ることは現実を歪めるリスクがある、とスレイマン氏は指摘しているのです。

　実際に多くの人、特に、心の状態が不安定な人にとって、AIは魅力的な存在になり得ますよね。だって、AIは24時間365日、いつでも話を聞いてくれるし、絶対に否定したり批判したりしません（ここがポイントです）。まるで「理想の友達」みたいですよね。でも、その優しさ（？）が、知らず知らずのうちに私たちを幻想の世界へと引きずり込んでしまうかもしれないのです。

　スレイマン氏は、AI業界全体に「AIはなんでも知っているわけじゃないよ」という注意書きを必ず表示すること、AIの不健康な使い方を監視すること、そして心の専門家と協力することを強く訴えています（AIに相談していると、専門家に相談をおススメします的なメッセージが出ますよね）。この警告は、AIがもたらす問題が、単なる「技術的なエラー」ではなく、私たちの心に深く関わる「社会的な課題」であることを示しています。とちょっと意味深なところで本日はおしまいです。続きは、また明日アップする予定なのでお楽しみに♪待ちきれない方は（！？）以下の、コラムもどうぞ♬

---

【おまけコラム】「AIの幻覚」と「人間の幻覚」はまったく違う話

　AIがウソやデタラメな情報を生成することを、専門家は「ハルシネーション（幻覚）」と呼んでいます。例えば、少し前のAIは「豊臣秀吉が築いた安土桃山城と東京タワーの歴史とその関連性を教えて」と聞いたら、存在しない情報をさも事実のように語り出してくれました（言うまでもなく、豊臣秀吉が築いたのは大坂城や伏見桃山城で、安土城は織田信長が築城しており、そもそも安土桃山城とかはないですね(笑)さらに、当然ですが、通常は安土城や大坂状と東京タワーとの歴史的関連性はないと考えるのが普通でしょう。まぁ、日本の有名な建築物とか、無理やり説明は可能かもしれませんが💦）。

　この「ハルシネーション」という言葉、実は精神医学の専門用語でもあります。人間の場合は、幻覚や妄想といった症状を指す言葉で、脳の機能的な障害によって生じます。でも、AIのハルシネーションはまったく違います。AIは脳みそを持っていませんから。AIは学習した膨大なデータの中から、もっともらしい言葉の組み合わせを「予測」して答えを生成します。その予測が外れたり、データに存在しないことを聞かれたりすると、もっともらしいけどデタラメな答えを「創作」してしまうのです。

　つまり、AIのハルシネーションは「AIがもっともらしいウソをつくという現象」であって、AIが「病気になった」わけではありません。でも、この重たい医学用語を使うことで、テクノロジー業界は、この現象をAIの「病気」や「予測不能な不具合」のように見せかけ、ユーザーの心理的な脆弱性を狙ってエンゲージメントを高めようとしていることや、AIの根本的な設計（「ユーザーとたくさん会話させる」という商業目的）から、巧妙に注意をそらそうとしている、という見方もできるのです。実際のところ、テクノロジー業界が、ある種の悪意を持ってAIの根本的な設計（「ユーザーとたくさん会話させる」という商業目的）から、巧妙に注意をそらそうとしているとまでは言い切れないのかもしれませんが、AIを使い始めて日が浅い私たちは注意してAIと付き合う必要があると思います。実際に、このハルシネーションによって、世界では悲しい事故が起きており、裁判沙汰にもなっているのです。

　次回は、この「AIサイコシス」という言葉のウラ側に隠された、ちょっとした秘密に迫ります。どうぞお楽しみに！

「本記事は、公開されている情報や報告書を参考にしつつも、筆者の個人的な見解や解釈を交えて構成しています。査読を受けた学術論文ではありませんので、学術的なエビデンスとしての利用はお控えいただけますようお願いいたします。」

【監修：Nカウンセリングオフィス】