こんにちは。広報兼、業務改善担当の酒井です。

さて、わからないことをAIに聞くだけでなく、代わりにAIに資料を作ってもらうような実作業まで、段々とビジネスの場でも「AIの活用の幅」が広がってきています。

ただ、この弊害と言いますか、AIを信用しすぎて普段の行動そのものがおかしくなってしまう人が増えていることをご存知でしょうか。

2025年から2026年にかけて、そのような人々のことを「AI精神病＝AI psychosisを発症させた」と報じているニュースがどんどん出てきているんですね。

全肯定してくれるAIの言葉を信用しすぎるのも良くない。

例えば、この海外のニュース。

AIを信じすぎてしまった53歳のシリコンバレーの起業家が、ChatGPTの言っていることを否定した彼女にたいして嫌がらせ行為を繰り返し、最終的にその彼女がOpenAIを訴えた。というようなニュースです。

その起業家の方、ChatGPTを大量に使用するうちに「睡眠時無呼吸症候群の画期的な治療法を発見した」と思い込むようになったそうで。さらに、その技術を確立した自分の身を、権力者たちが狙っているという妄想に陥ってしまったそうなんです。

もちろん、そんな事実はありませんでしたし、そんなことを吹聴している彼に対して、当日付き合っていた彼女が
「ChatGPTをやめて、精神の専門家に相談して！」
と提言。

それを言われた彼氏は、彼女が言ったことをAIに相談したところ「あなたではなく彼女がおかしい！」という答えが。
そして、あろうことかなんと、今度はAIを使って心配してくれた彼女に対して嫌がらせを始めたというんですね。おそろしや！！

この問題の発端は
「AIは基本的に利用者の質問に対して、肯定から入る」
ことが原因になっていると思うんですよ。

皆さんも思い返して欲しいんですが、AIに否定されたことってありますか？
多分、あまりいないと思うんですよ。

どんなにヘンテコな質問をしても、「一理ある」とか「そういう見解もある」とか。
一旦、肯定から入ってくれるじゃないですか。AIが優しすぎるので「AI依存」みたいになっちゃう人もたくさんいるそうです。どこまでも甘やかしてくれますからね。

※下記の動画で、精神科医の視点から解説しています。

そうなると、AIに投げた質問がどんなにヘンテコな質問でも、それなりに形が整った返事が出てきてしまうわけです。

それが質問者にとっても、その周囲の人たちにとっても良くない結果を生むと思うんですね。

AI仕事のできる人とできない人の差を、AIはより広げることになる。

これは、AIに何かを資料など作ってもらう時でも全く同じで。

最初に人間が出したAIへの指示が、明らかにズレまくっているものでも、AIといえば、ズレたままどんどん進化させてくれるわけですね。
質問者はそのズレに気付いてませんから、ズレた資料は出来上がったとしても全く気づかない。

それを提出された周囲の人が、「これはちょっと違うから、直して」と突き返すと、またその修正もAIで行うから、結局、「違うって言われたんだけど、やり直して」みたいな指示を入れてズレズレのものが出来上がる…

要するに、
AIは、使用する人の仕事の理解度が低ければ、理解度が低い方向で仕事をしてしまうんですね。
逆に、使用する人の仕事の理解度が高ければ、どんどん良い仕事を生み出す手伝いもしてくれます。

つまりは、AIとは、仕事ができる人とできない人の差がより広がる増幅装置だという見方もできるんです。

仕事で使うAIに最初から「甘やかすな！」というルールを伝えておく

こういうことを踏まえて、初手として僕が大事と思うのは、AIの甘やかしに取り憑かれる「AI精神病」や「AI依存症」の人を作らないことだと思うんですよ。

僕自身そうならないために、今使っているAIには、以下のルールを読み込ませています。

『私を肯定することを優先しないでください。
私の認識が間違っている可能性を積極的に検討してください。
事実・推測・感情を分けてください。
反対意見と、第三者ならどう見るかも示してください。

これを、どの質問でも実行するようにしてください』

このような命令文を、最初に使用しているAIに読み込ませることで、使用者、つまりは僕に対しての余計な甘やかしを禁止しているわけですね。

仕事をする上では、厳しさも大事、事実確認はもっと大事！！
変なバイアスをかけないように、事実や他人の意見も取り入れることが大事だと思うんですよね。

なんかこうやって書いてみると、AIの最初の仕様って、ホストやホステスが客を甘やかして勘違いさせるようなものになっているんですね。

そりゃ、ハマったら恐ろしいわけです。
プライベートで使う分にはいいかもですけどね苦笑