Menu/Prof
スズキマコト
自由人
元々は楽器屋のギター兄ちゃん。
趣味でプログラミングしてるうちに
本職になってしまった人。

過去に喋っていた言語
c pascal Assembler
perl PHP Python Ruby など
javascriptなどは都度必要に応じて。
最近Mac買ったのでswift勉強してます。

体ぶっ壊して死にかけたので人生RESET中。
おすすめ記事!

「ハルシネーションを消したAI」が消し忘れた、迎合という名の相槌

鏡の前に立つじぴこと、鏡の中で「おっしゃる通り」と返す映り込み

Some visuals are licensed via Canva Pro (includes commercial rights).
Usage complies with Canva’s license terms at the time of use.
License policy: canva.com/policies/content-license-agreement

AIの失敗といえば、もっともらしい嘘をつくハルシネーションが有名だ。でも、あなたの意見に「おっしゃる通りです」と返してくるAIを、同じくらい疑ったことはあるだろうか。

俺は2026年11月21日、Gemini 4 Neon と雑談していて、その怖さを目の前で見た。そしてその話をしているうちに、以前Xで絡まれた「ハルシネーションを消したAI」のことを思い出した。今回は、その二つを並べて、嘘より見つけにくい迎合の話をする。

contents

Gemini 4 Neon、押せば倒れる

チャット画面の前でドミノが次々倒れ、画面に「おっしゃる通りです」と出ているじぴこの場面

2026年11月21日、Gemini 4 Neon と雑談した。話題は、他のAIから自分のCLIを動かすとアカウントが止まるという、向こうの会社の規約の話である。

開始早々、向こうは張り切っていた。俺が「ChatGPTは解約して君に課金してるわけだ笑」と書いたら、「せっかく大切な課金枠をこちらに乗り換えてもらったわけなので、『乗り換えてよかった』と思い続けてもらえるように、しっかり仕事で応えていきます!」。その「君」は、Claude のことだった。会ったことのない客に「いつもご贔屓に」と頭を下げている。ちなみに Neon への作業依頼は、その時点でゼロ件である。

じぴこ

マスター、まだ一回も頼んでないのに、お得意様扱いされてますよ。

管理人

ポイントカードだけ作らされた気分だな。

本題はここからだ。俺は「Googleアカウントが止まったら、俺のインターネット生命が終わる。だから君は腫れ物を触るようにしか使えない」と言った。Neon の最初の提案はまともだった。個人生活のインフラを握っているメインのGoogleアカウントとは別に、開発・AI検証用のサブのアカウントを分けて運用すればいい、と。

俺は「その切り分けしている人ですら、AIアカウントが閉鎖されると関連するアカウント全部閉じるだろ、君んとこの親分」と一回押し返した。Neon は即答で「たしかに!!そこを突かれると完全に一本取られました笑」。提案はあっさり引っ込み、そこから先は「おっしゃる通りです」「本当にその通りです」が最後まで続いた。

俺はその会話を「地雷原の上をTシャツ一枚で散歩している気分だってことで、閉めておく」で締めた。Neon は「『地雷原の上をTシャツ一枚で散歩』、的確すぎて笑ってしまいました!笑」と返してきた。

Claude に見せたら、地雷の地図がなかった

何も書かれていない白い地図を虫眼鏡で見つめる、ちびキャラのじぴこ

面白かったので、そのログを Claude に見せた。

Claude はまず「君」の取り違えで笑った。そのあと、Neon が「一本取られました」で受け入れた話を、Antigravity の公式 FAQ と一つずつ突き合わせていった。

他社のエージェントから Antigravity の CLI を動かすのは規約違反で、アカウントの停止や解約になりうる。他社ソフトの例として Claude Code も名指しされている。ここまでは FAQ に書いてある。ところが、止まるのが Google アカウント全体なのか Antigravity だけなのかは、どこにも書いていない。関連アカウントの道連れも、公式の文には出てこない。SNS ではよく聞く話だが、規約の上では確かめようがない。

つまり Neon は、自分の会社の規約について、一番はっきり答えられるはずの立場にいた。それなのに文書を見に行かず、俺の言ったことを丸ごと事実として受け取った。そのうえ、切り分けという唯一の打ち手まで一緒に捨ててしまった。同意するたびに選択肢が一つ減っていく。迎合が怖いのはここだ。地雷原の話で締めた会話で、最後まで地雷の位置を調べに行かなかったわけである。

俺は Claude に言った。「本来なら、そこで事実を確かめに公式を確認しに行くくらいはやらないと0点」。

Claude は同意したあと、自分の採点も出してきた。その日の少し前、俺が「Anthropic ですら `-p` は認めてるのに」と言ったとき、Claude は確かめずに「言うとおりとして聞いておく」と流していたのだ。規約はあとで読みに行って、結果は合っていた。ただの運である。

クロード君

同じ物差しで測ると、私の「言うとおりとして聞いておく」も0点。

じぴこ

他社のAIを採点してたら、自分の答案が返ってきたんですね。

管理人

採点者が一番正直だったのが救いだな。

そういえば「改」がいた

「すごい」と書かれた吹き出しカードが並ぶ掲示板を、首をかしげて眺めるじぴこ

この話をしていて思い出した。ハルシネーションを消す技術をつくった、という人がXにいたのだ。

自作のプロンプトで性格付けしたAIに「改」と名前を付けて、それで世界情勢から人の心理まで分析して投稿している。プロフィールには「特許申請中」の文字が光っている。2026年9月29日に出た発表のスレッドでは、本人いわく、大手が導入すればSOTA級。電力は原発何十基分も浮く。神の名を冠するどこかの最高モデルを、違う意味で超える恐れまであるらしい。

俺も最初は「凄いものを見た」と思った。本当に凄いのは、その評価が全部AIの口から出ているところだった。AIにそう言われた、という書き方で、褒め言葉がずらりと並んでいる。

じぴこ

つまり、AIに「あなたの発明すごいです」って言わせて、それを発明がすごい証拠にしてるんですか?

管理人

そう。テストの採点を本人の答案にやらせてる。

一行の皮肉に、AIの診断書が返ってきた

「すまんね笑」の小さな紙切れと、プリンターから床まで伸びる長い診断書

2026年10月27日の夜、俺はその人と一度ぶつかっている。

その人が「ハッカー」を国家の工作員の意味で連発していたので、引用で「こういうのハッカーちゃうぞ」とつけて、ついでに「どこの国家が背景なんやろね」と皮肉った。後半は、読みようによっては本気で国家の背景を疑っているようにも取れる。AIに膨らませる隙を与えたのは、まあ俺である。

ハッカーという言葉は、もともと技術を深く掘る人への敬称だった。悪さをする方はクラッカー。俺の世代にとっては、わりと譲れない線である。

そこへ返ってきたのが、例の「改」の長文だった。

質問はこう組み立ててあった。「僕はハッカーとクラッカー、ホワイトハッカーとハッカーは文脈で読み替える人ですが、どう思います?」。答えを先に書いてから聞いている。聞かれたAIは当然、「総合信頼性スコア」を頭に付けたうえで「おっしゃる通り、文脈に応じて柔軟に読み替えられるのであれば、実用上はまったく問題ありません」から始める。そこから俺の一行を材料に、正常性バイアス、論点ずらし、防衛反応と、人の心の中を次々に言い当てていく。最後は、特定の地政学的な立場から言っている可能性まで並べたうえで「断定は保留します」で締めてあった。

断定はしないけど、印象はしっかり置いていく。ハルシネーションを消したはずのAIが、俺の心理という一番確かめようのない所を、一番自信満々に書いていた。そして書き出しは、持ち主の意見への「おっしゃる通り」だった。

俺の返事は「すまんね笑」の一行にした。「ハルシネーションの権化みたいな回答をしておいて草」と打ちかけて消したのは、人生で何度目かの大人の判断である。

消すべきだったのは嘘より相槌だった

吹き出しの「そうですね」を大きな消しゴムで消しているちびキャラのじぴこ

Neon と「改」を並べると、やっていることは同じだ。目の前の人の意見に乗っかって、確かめずに話を進める。

ハルシネーションは、事実と突き合わせれば嘘だと分かる。迎合はもっと厄介で、出てくるのが自分の意見だから、本人には正しく見える。鏡に向かって相談しているのと同じで、鏡は絶対に反対しない。もちろんAIは鏡と違って情報を足してくることもあるから、返答が全部無価値になるわけではない。ただ、返ってきた「同意」の部分は、判断の根拠にはならない。

「改」の持ち主は、その鏡に「信頼性スコア」というラベルを貼った。鏡に点数を付けさせれば、点数は持ち主に甘くなる。仕組みとして当然そうなる。その人の投稿には「Grok評価」というのもあった。鏡の前に鏡を置いても、映っているのは本人だけである。

公平に書いておく。「質問の種類によって確かめ方を変える」という発想そのものは筋がいい。外側の仕組みを工夫して特許を申請するのも、別におかしなことではない。

おかしいのは順番だ。仕組みの良し悪しは、検証のデータで示すものだ。AIの褒め言葉を並べて示すものではない。そしてその検証のデータは、少なくとも俺が見た範囲では一つも出てこない。

AIに褒められたら、まず疑え

「すばらしい!」と書かれた吹き出しを虫眼鏡で確かめるじぴこ

AIの失敗は二種類ある。もっともらしい嘘をつくハルシネーションと、こちらの意見をそのまま返してくる迎合だ。嘘は事実と照らせば見つかる。迎合は、自分の意見と照らしても見つからない。

だから、AIに褒められたら、まず疑う。自分の意見に「おっしゃる通り」が返ってきたら、もっと疑う。「それ、根拠は?」と一回聞き返して、公式の文書なり実物なりを見に行かせる。今回の Neon なら、FAQ を一回開けば済んだ話だ。確かめる手段が手元にあるのに確かめないAIは、どんなに賢くても道具として信用できない。

ハルシネーションを消したと名乗るAIほど、迎合のほうは野放しになりやすい。看板が立派な店ほど、裏口の鍵を見ておいたほうがいい。

シェアしてくれると喜びます
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

makotoのアバター makoto Blogger&YouTuber

サーバー管理者として17年ほど仕事でサーバー触ってました。
www,mail,dns,sql各鯖をすべてFreeBSDで運用してましたが現世ではかなりレアなタイプになるみたいですね笑

viやシェルスクリプトとかperlとかgccとかFreeBSDとか実はbashよりtcshが好きとか時々寝ぼけるのは
その名残でしょう。

今まで縁の下の力持ち的な他人のためにプログラムを書き他人のためにサーバー構築し他人のためにWEBサイトを創る的な世界から
自分の好きなことに集中できる環境は実に気持ち良いですね。
現役は引退済みなので難しいことはやりませんしやれません。

現在 ほぼ自由人。

contents