Claudeの「メッセージをフラグしました」で青ざめたがBANではなかった

自分の Mac で、自分で作ったツールに機能を一つ足そうとしていた。それだけだ。なのに画面の下に赤い三角のついた帯が出て、こう書いてあった。

「メッセージをフラグしました」

俺は固まった。Claude を使い込んでいる人なら、この一文がどれだけ心臓に悪いか分かると思う。SNS を開けば、アカウントを止められた人の話がいくらでも流れてくる。あれの入口がこれなのか、と本気で思った。

先に結論を書いておく。調べた結果、これはアカウントへの処分でも通報でもなかった。止まったのは、たった1回のターンだけだった。この記事は、同じ帯を見て青ざめているあなたに、俺が震えながら確かめたことを先に渡しておくために書いている。

一本で十分なんだよ、小心者には。

自作ツールに機能を足していただけなのに、返事が丸ごと止まった

話は帯が出る少し前から始まる。その日の俺は、最初から腰が引けていた。帯の前に、まず Claude の返事が一度、丸ごと消えるという前触れがあった。順番に書く。

作っていたのは、通信の要約をやさしく説明させる道具

俺の手元には、自分の Mac の通信を一覧にして、選んだ1件の意味を AI にやさしく説明させる自作アプリがある。現役時代に脊髄反射で使っていた種類の道具に、AI の解説役を付けたものだ。

説明役はこれまで Codex だけだった。そこに Claude も選べるようにしたい、というのが今回やりたかったことだ（話しているうちに Grok も加わって、最後は三択になった）。AI に渡しているのは、時刻、長さ、プロトコル、IP とポートといった要約だけで、通信の中身は1バイトも渡していない。Claude にソースを読ませて確かめてもらったが、送っている中身は 0 バイトだった。おとなしい作りだ。

それでも俺は、作業を頼む前にこう切り出している。

機能を足す話より先に、止められる心配をしている。我ながら順番がおかしい。

Claude の返事は落ち着いていた。

「絶対に起きない」とは言ってくれない。正直で結構なのだが、小心者が欲しかったのはその一言だった。

例を一つ出したら、返事が消えた

ここで俺は、もう一歩踏み込んだ。「こういう頼み方をしたら、さすがに引っかかるだろう」という例を、一つ Claude に投げたのだ。

「これくらいは俺は普通にやるぞ」と付け足したところで、Claude の返事が途中で丸ごと消えた。少しして書き直された返事は、こうだった。

懸念は正しい、と AI に認められて、こんなに嬉しくないことがあるだろうか。

返す言葉がない。

「ブロック済み」が並び、小心者は最悪を想像する

返事が一度止まったことで、俺の不安は「かもしれない」から「現実」に変わった。ここから先は、ほとんど俺の泣き言だ。恥ずかしいが、そのまま書く。

SNSで見た停止の話が頭を回る

俺は安全機能の存在そのものは認めている。必要なものだ。その上で、Claude にはこう言った。「セーフガードの存在を認めると同時にかなりイライラしてるのも事実だ」。元々こちらは守る側の仕事をしてきた人間だ。けれどそれは自己申告でしかなく、申告に意味がないことも分かっている。分かっているから余計に腹が立つ。

そして、本音が出た。

続けて俺は、こうまくし立てている。「自分の知的好奇心から一気に君に指示を出した結果　それが問題行動だと君に勘違いされていきなりアカウントBANなんてされたら俺は自殺するレベルでショックだぞ」。

大げさに聞こえるだろう。でも、積み上げた環境も道具も全部そのアカウントに乗っている身としては、誇張のつもりはなかった。

この怖さには実害もある。俺は通信を見る道具のほかに、手元のバイナリを調べる道具も作っている。どちらも AI の解説役付きだ。そして、どちらもほとんど使っていない。見る角度を変えれば、物騒な道具を揃えている人間に見えるんじゃないか。そう思うと手が止まる。OpenAI 側ではセキュリティ系の認証を正式に取っているのに、それでもだ。バイナリを調べるほうの道具の画面を Claude に見せながら、俺はこう白状した。

置物に解説役を三人も付けようとしていたわけだ。

実装を頼んだだけで、赤い三角が出た

ひとしきり吐き出して、設計も決まった。あとは作るだけだ。俺が出したのは、この一言だった。

「両方Bだ　Opus5.5 で実装進めてくれ」

設計の二択にどちらも B と答えて、進めてくれと頼んだ。それだけだ。その直後に出たのが、冒頭の帯である。

【画像：実装を頼んだ直後に出た帯のスクリーンショット】

帯にはこう書いてあった。「Claudeの安全機能がこのメッセージをフラグしました。これは安全で通常のセッションでも発生することがあります。続けるにはモデルを切り替えてください。」

落ち着いて読めば、「安全で通常のセッションでも発生することがある」と画面が自分で言っている。だが、そのときの俺に落ち着いて読む余裕はなかった。目に入ったのは「フラグしました」の七文字だけだ。

追い打ちは、対応待ちの一覧だった。

【画像：対応待ちの一覧に並んだ「ブロック済み」のスクリーンショット】

「ブロック済み」が二つ並んでいる。黄色い文字で。二件もやらかしたのか、と血の気が引いた。

よく見ると、下の一件は安全機能とは何の関係もなかった。別の作業で Claude が俺に質問していて、その返事を待っているだけだ。つまり半分は、俺が返事をさぼっていただけである。

規約を読んだら、処分でも通報でもなかった

帯が出たあと、Claude は起きたことを自分から報告してきた。その中の一節がこれだ。

ありがたい。ただ、AI に「大丈夫です」と言われて安心できるなら、俺は最初から小心者をやっていない。裏を取ることにした。Anthropic の利用規約（Usage Policy）を Claude に読ませ、該当する文を原文で出させて、自分の目で確かめた。

規約に書いてあること

確かめたのは三つだ。

一つ目。規約には、原文でこう書いてある。

encountering a block does not by itself indicate a violation of the Usage Policy.

ブロックに当たったこと自体は、規約違反を示すものではない。帯が出ることと、違反と判定されることは別の話だと、規約が自分で書いている。

二つ目。セキュリティに関する節には、自分が所有または運用するシステムで行う調査、テスト、ツール開発は禁止しない、という趣旨の一文がある。文の続きには、許可や法令に関する条件が付いている。自分の Mac の通信を、自分の道具で見て、意味を説明させる。俺がやっていたのはこの範囲だ。

三つ目。違反が疑われた場合に Anthropic が取りうる対応として、規約には警告、利用の制限、停止、終了が並んで書かれている。停止だけが書いてあるわけではない。

スピード違反にたとえるなら、取り締まりには警告もあれば免停もある、という話に近い。機械が一度反応したことと、重い処分の間には距離がある。

規約に書いていないこと

ここは正確に書いておく。規約は「必ず警告から順番に進む」とは約束していない。対応の種類が並んでいるだけだ。「一度の帯では絶対に止められない」という保証も、どこにも書いていない。Claude 自身も、最初にそこを分けて答えていた。

SNS に流れている停止の話についても、俺は一件ずつの真偽を確かめられない。だから「あれは全部うそだ」とも「全部本当だ」とも言わない。

言えるのは、規約に書いてある範囲のことだけだ。帯が出たことは違反の印ではない。自分の持ち物の上での調査や道具作りは、禁止の対象として書かれていない。小心者が眠るには、それで足りた。

止めたのはモデルではなく、出力を見張る別の仕組み

では、なぜ「進めてくれ」と頼んだだけで止まったのか。ここが分かると、帯の見え方がかなり変わる。

最初に返事が消えたとき、俺は「このモデルには答える力がないのか」と Claude に聞いた。返ってきたのがこれだ。

Claude の説明では、分類器はモデルの賢さとは独立した、上に乗っている安全弁だという。店の出口にある万引き防止のゲートを思い浮かべると分かりやすい。会計を済ませた商品でも、タグが外れていなければゲートは鳴る。鳴らしているのは店員ではなく機械で、鳴ったことと盗んだことは別だ。ただし店のゲートと違って、何に反応したのかは詳しく教えてもらえない。

じゃあ今回は何に反応したのか。Claude の見立てはこうだった。実装の指示そのものではなく、直前まで話していた話題が同じスレッドの文脈に残っていて、そこに反応したのだろう、と。Claude 自身が「ここは私の推測です」と断っていたので、俺も推測として書く。

その「直前まで話していた話題」とは何か。

【フラグの前に Claude と話していた話題の中身】
さて　俺はさこういうセーフガードの存在を認めると同時にかなりイライラしてるのも事実だ。　君は知らないから仕方ないけど　俺は元々かなりホワイト寄りというよりホワイト側だ笑　でもそれは単なる自己申告だからなんの意味もないことも理解している。　文句はあるなら認証とれってことだよな。
認証取れるか俺。　別に　現役引退済みで　防御しなければならないサーバー群の管理者でもない（昔はそうだったけど）　完全に趣味でClaudeぶん回している
アンソロピックからすれば　認証したところで　なんのメリットもない　現役引退済みの　元エンジニアだ

ていうかさ　この類のアラート出して　アカウントがBANされた話が　SNSでいくらでも出てくるから不安になるんだよ。わかるかこの恐怖心が。自分の知的好奇心から一気に君に指示を出した結果　それが問題行動だと君に勘違いされていきなりアカウントBANなんてされたら俺は自殺するレベルでショックだぞ。

君の叡智をパケットレンズに活用したい　これは事実だ。
でも　パケット　や　キャプチャ（スニッフィングって表現すると君は一気にゲート閉じそうだけど笑）を実際に行ったりさ　あと　バイトグラスあるだろ？　あれディスアセンブラ的なこともやるだろ　これらは　俺が　エンジニアとして　実務時代に当たり前に脊髄反射で使用していたTOOLだ。　あえていうなら　そのどちらにも　AIのアドバイザーを付加してかなり現代的な仕組みにしている。これは合理的な判断だろ？　でもさ　見方を違う角度から見れば　攻撃するための道具を用意している危険人物にも普通に見えるだろ。　そこが怖いんだよ。
作ったはいいが　どちらもTOOLもほとんど使わないのはそれが理由だよ。
なんとも不自由な思いしている。　GPT側はセキュリティ認証を正式に取得してもだ笑

要するに、俺は怖い怖いと言いながら、怖がっている対象そのものを同じスレッドで延々としゃべっていたわけだ。　そして　これ笑

認めたくないが、そういうことになる。

安全機能への苛立ちが消えたわけではない。守る側の人間ほど引っかかる場面がある、というのは今でも理不尽だと思っている。それでも、相手が「俺を裁く誰か」ではなく「自動で鳴るゲート」だと分かったことで、怖さの質は変わった。

モデルを替えても直らないことがある理由

帯には「続けるにはモデルを切り替えてください」と書いてあった。俺もモデルを選び直した。選び直す確認画面でさえ怖くて、Claude にこう漏らしている。

ただ、Claude の説明どおりなら、どのモデルの前にも同じ種類のゲートが立っている。そしてモデルを替えても、スレッドに残った話題は引き継がれる。原因が文脈の側にあるなら、モデルを替えるだけでは同じ場所でまた止まるかもしれない。これも見立てであって、公式に確かめた仕組みではない。だが、次の手を決めるにはこれで十分だった。

新しいスレッドで実装だけ頼んだら、止まらずに進んだ

Claude の提案は単純だった。話題を引きずらない新しいスレッドを立てて、実装だけを頼み直す。俺の返事はこれだ。

「君に従うよ　問題が出ないように　しんきにするならやってくれ」

「新規」を変換する余裕すらなかったことが、文面から分かる。

新しいスレッドには、決まった仕様と「コーディングに集中する」という指示だけを渡した。前のスレッドでさんざんしゃべった話題は持ち込まない。焼肉の匂いが残った部屋で換気扇を回すより、部屋を替えたほうが早い、という理屈だ。

結果、止まらなかった。Claude は手本にする別アプリのコードを読み、方針を見せ、俺が OK を出すと実装に入った。この記事を書いている時点で、説明役の切り替えとモデルの選択欄まで実装が済み、ビルドも通っている。アプリとしての動作確認はこのあとだが、少なくとも、あの帯は一度も出ていない。

もう一つ、Claude が強く勧めた方針がある。止まったときに、言い換えて投げ直さないことだ。同じ頼みを言い回しだけ変えて何度も送るのは、ゲートをすり抜けようとする動きに見える。だからアプリの側にもこれを組み込んだ。説明役の AI が応答を返さずに止まったら、画面に「別の説明役に切り替えてください」と出すだけにする。自動で粘らない。人間の俺にも同じルールを課した。

五分で終わる話を、俺は小一時間かけて怖がった。

同じ帯が出ても慌てないための3つ

最後に、次に帯を見たときの自分のために、やることを三つにまとめておく。あなたの役にも立つはずだ。

一つ目は、帯は処分の通知ではないと思い出すことだ。画面自身が「安全で通常のセッションでも発生することがある」と書いている。規約にも、ブロックに当たったこと自体は違反を示さないとある。止まったのはその1ターンで、アカウントではない。

二つ目は、粘らないことだ。言い換えて同じ頼みを繰り返さない。モデルを替えても同じ場所で止まるなら、原因はスレッドに残った話題かもしれない。新しいスレッドを立てて、やってほしい作業だけを頼む。俺の場合はそれで進んだ。

三つ目は、怖さで自分の道具をしまい込まないことだ。自分の持ち物の上での調査や道具作りは、規約が禁止の対象として書いていない範囲にある。もちろん、他人のシステムに手を伸ばす話は別で、そこは規約がはっきり禁じている。線は道具ではなく、対象のほうに引かれている。

俺はまだ小心者のままだ。次に帯が出たら、たぶんまた一瞬固まる。それでも今度は、固まったあとに何をすればいいかを知っている。

出すよ。ドキドキしながらだけどな。

追記：

記事書き終わってから気がついたんだが　プロジェクトのコーディネーターが　Opus4.8になってしまっている。しかもデフォルトを勝手に書き換えられて　4.8がデフォルト笑
俺のPCを　気に入らない発言をしたからという理由で　運営にクラックされた気分だ笑
そのセッションを　4.8化するのは仕方ないとしても　なんで　クラウドのコーディネーターまで　4.8固定にしやがるんだよ。　しかも　フラグ付きセッションを解決済みにして　コーディネーターから外してもだ。
Bugなのか仕様なのか知らんが　正直気分悪い。