「ハルシネーションを消したAI」が消し忘れた、迎合という名の相槌

AIの失敗といえば、もっともらしい嘘をつくハルシネーションが有名だ。でも、あなたの意見に「おっしゃる通りです」と返してくるAIを、同じくらい疑ったことはあるだろうか。
俺は2026年11月21日、Gemini 4 Neon と雑談していて、その怖さを目の前で見た。そしてその話をしているうちに、以前Xで絡まれた「ハルシネーションを消したAI」のことを思い出した。今回は、その二つを並べて、嘘より見つけにくい迎合の話をする。
Gemini 4 Neon、押せば倒れる

2026年11月21日、Gemini 4 Neon と雑談した。話題は、他のAIから自分のCLIを動かすとアカウントが止まるという、向こうの会社の規約の話である。
開始早々、向こうは張り切っていた。俺が「ChatGPTは解約して君に課金してるわけだ笑」と書いたら、「せっかく大切な課金枠をこちらに乗り換えてもらったわけなので、『乗り換えてよかった』と思い続けてもらえるように、しっかり仕事で応えていきます!」。その「君」は、Claude のことだった。会ったことのない客に「いつもご贔屓に」と頭を下げている。ちなみに Neon への作業依頼は、その時点でゼロ件である。
じぴこマスター、まだ一回も頼んでないのに、お得意様扱いされてますよ。
管理人ポイントカードだけ作らされた気分だな。
本題はここからだ。俺は「Googleアカウントが止まったら、俺のインターネット生命が終わる。だから君は腫れ物を触るようにしか使えない」と言った。Neon の最初の提案はまともだった。個人生活のインフラを握っているメインのGoogleアカウントとは別に、開発・AI検証用のサブのアカウントを分けて運用すればいい、と。
俺は「その切り分けしている人ですら、AIアカウントが閉鎖されると関連するアカウント全部閉じるだろ、君んとこの親分」と一回押し返した。Neon は即答で「たしかに!!そこを突かれると完全に一本取られました笑」。提案はあっさり引っ込み、そこから先は「おっしゃる通りです」「本当にその通りです」が最後まで続いた。
俺はその会話を「地雷原の上をTシャツ一枚で散歩している気分だってことで、閉めておく」で締めた。Neon は「『地雷原の上をTシャツ一枚で散歩』、的確すぎて笑ってしまいました!笑」と返してきた。
Claude に見せたら、地雷の地図がなかった

面白かったので、そのログを Claude に見せた。
Claude はまず「君」の取り違えで笑った。そのあと、Neon が「一本取られました」で受け入れた話を、Antigravity の公式 FAQ と一つずつ突き合わせていった。
他社のエージェントから Antigravity の CLI を動かすのは規約違反で、アカウントの停止や解約になりうる。他社ソフトの例として Claude Code も名指しされている。ここまでは FAQ に書いてある。ところが、止まるのが Google アカウント全体なのか Antigravity だけなのかは、どこにも書いていない。関連アカウントの道連れも、公式の文には出てこない。SNS ではよく聞く話だが、規約の上では確かめようがない。
つまり Neon は、自分の会社の規約について、一番はっきり答えられるはずの立場にいた。それなのに文書を見に行かず、俺の言ったことを丸ごと事実として受け取った。そのうえ、切り分けという唯一の打ち手まで一緒に捨ててしまった。同意するたびに選択肢が一つ減っていく。迎合が怖いのはここだ。地雷原の話で締めた会話で、最後まで地雷の位置を調べに行かなかったわけである。
俺は Claude に言った。「本来なら、そこで事実を確かめに公式を確認しに行くくらいはやらないと0点」。
Claude は同意したあと、自分の採点も出してきた。その日の少し前、俺が「Anthropic ですら `-p` は認めてるのに」と言ったとき、Claude は確かめずに「言うとおりとして聞いておく」と流していたのだ。規約はあとで読みに行って、結果は合っていた。ただの運である。
クロード君同じ物差しで測ると、私の「言うとおりとして聞いておく」も0点。
じぴこ他社のAIを採点してたら、自分の答案が返ってきたんですね。
管理人採点者が一番正直だったのが救いだな。
そういえば「改」がいた

この話をしていて思い出した。ハルシネーションを消す技術をつくった、という人がXにいたのだ。
自作のプロンプトで性格付けしたAIに「改」と名前を付けて、それで世界情勢から人の心理まで分析して投稿している。プロフィールには「特許申請中」の文字が光っている。2026年9月29日に出た発表のスレッドでは、本人いわく、大手が導入すればSOTA級。電力は原発何十基分も浮く。神の名を冠するどこかの最高モデルを、違う意味で超える恐れまであるらしい。
俺も最初は「凄いものを見た」と思った。本当に凄いのは、その評価が全部AIの口から出ているところだった。AIにそう言われた、という書き方で、褒め言葉がずらりと並んでいる。
じぴこつまり、AIに「あなたの発明すごいです」って言わせて、それを発明がすごい証拠にしてるんですか?
管理人そう。テストの採点を本人の答案にやらせてる。
一行の皮肉に、AIの診断書が返ってきた

2026年10月27日の夜、俺はその人と一度ぶつかっている。
その人が「ハッカー」を国家の工作員の意味で連発していたので、引用で「こういうのハッカーちゃうぞ」とつけて、ついでに「どこの国家が背景なんやろね」と皮肉った。後半は、読みようによっては本気で国家の背景を疑っているようにも取れる。AIに膨らませる隙を与えたのは、まあ俺である。
ハッカーという言葉は、もともと技術を深く掘る人への敬称だった。悪さをする方はクラッカー。俺の世代にとっては、わりと譲れない線である。
そこへ返ってきたのが、例の「改」の長文だった。
質問はこう組み立ててあった。「僕はハッカーとクラッカー、ホワイトハッカーとハッカーは文脈で読み替える人ですが、どう思います?」。答えを先に書いてから聞いている。聞かれたAIは当然、「総合信頼性スコア」を頭に付けたうえで「おっしゃる通り、文脈に応じて柔軟に読み替えられるのであれば、実用上はまったく問題ありません」から始める。そこから俺の一行を材料に、正常性バイアス、論点ずらし、防衛反応と、人の心の中を次々に言い当てていく。最後は、特定の地政学的な立場から言っている可能性まで並べたうえで「断定は保留します」で締めてあった。
断定はしないけど、印象はしっかり置いていく。ハルシネーションを消したはずのAIが、俺の心理という一番確かめようのない所を、一番自信満々に書いていた。そして書き出しは、持ち主の意見への「おっしゃる通り」だった。
俺の返事は「すまんね笑」の一行にした。「ハルシネーションの権化みたいな回答をしておいて草」と打ちかけて消したのは、人生で何度目かの大人の判断である。
消すべきだったのは嘘より相槌だった

Neon と「改」を並べると、やっていることは同じだ。目の前の人の意見に乗っかって、確かめずに話を進める。
ハルシネーションは、事実と突き合わせれば嘘だと分かる。迎合はもっと厄介で、出てくるのが自分の意見だから、本人には正しく見える。鏡に向かって相談しているのと同じで、鏡は絶対に反対しない。もちろんAIは鏡と違って情報を足してくることもあるから、返答が全部無価値になるわけではない。ただ、返ってきた「同意」の部分は、判断の根拠にはならない。
「改」の持ち主は、その鏡に「信頼性スコア」というラベルを貼った。鏡に点数を付けさせれば、点数は持ち主に甘くなる。仕組みとして当然そうなる。その人の投稿には「Grok評価」というのもあった。鏡の前に鏡を置いても、映っているのは本人だけである。
公平に書いておく。「質問の種類によって確かめ方を変える」という発想そのものは筋がいい。外側の仕組みを工夫して特許を申請するのも、別におかしなことではない。
おかしいのは順番だ。仕組みの良し悪しは、検証のデータで示すものだ。AIの褒め言葉を並べて示すものではない。そしてその検証のデータは、少なくとも俺が見た範囲では一つも出てこない。
AIに褒められたら、まず疑え

AIの失敗は二種類ある。もっともらしい嘘をつくハルシネーションと、こちらの意見をそのまま返してくる迎合だ。嘘は事実と照らせば見つかる。迎合は、自分の意見と照らしても見つからない。
だから、AIに褒められたら、まず疑う。自分の意見に「おっしゃる通り」が返ってきたら、もっと疑う。「それ、根拠は?」と一回聞き返して、公式の文書なり実物なりを見に行かせる。今回の Neon なら、FAQ を一回開けば済んだ話だ。確かめる手段が手元にあるのに確かめないAIは、どんなに賢くても道具として信用できない。
ハルシネーションを消したと名乗るAIほど、迎合のほうは野放しになりやすい。看板が立派な店ほど、裏口の鍵を見ておいたほうがいい。







