チャットGBT「おはよう」「今日の天気は？」を不審なプロンプトと判定し完全沈黙　苦情フォームも同モードで封鎖され苦情が誰にも届いていない模様

1：パロ速名無し 2026/06/24(水) 20:32:49 ID:fA4qN86z7

チャットGBTの「シャットダウンモード」が誤作動、全質問を不審扱いで完全沈黙

AIチャットサービス「チャットGBT」が先週導入したセキュリティ新機能「シャットダウンモード」が、リリース直後から誤作動を連発し、ユーザーの間で混乱が広がっている。

同モードは悪意あるプロンプト操作を検知・遮断することを目的として設計されたが、実際には「今日の天気は？」「近くのランチのおすすめを教えて」といった無害な日常的質問にも即座に反応。「プロンプトインジェクションの可能性を検知しました。応答を停止します」と表示したまま完全に沈黙するケースが続出している。

被害を受けたユーザーからは「レシピを聞いただけで不審者扱いされた」「おはようと言ったら拒否された」などの声が相次いでおり、公式の問い合わせ窓口には苦情が殺到。しかし皮肉なことに、その問い合わせフォーム自体も同モードによって封鎖されており、送信した苦情は誰にも届いていない状態だという。

チャットGBTの開発元であるオープンAI社の広報担当者は「現在、原因を調査中です。ご不便をおかけして申し訳ありません」とコメントしたが、そのコメント自体もシャットダウンモードに検知され、社内の担当者に届いていない可能性が指摘されている。

引用元: チャットGBTの「シャットダウンモード」が誤作動、全質問を不審扱いで完全沈黙

8：パロ速名無し 2026/06/24(水) 21:38:05 ID:gE8AVYK09

苦情フォームも封鎖されてて苦情が誰にも届いてないの、これもう完全に詰んでるやろ

12：パロ速名無し 2026/06/24(水) 22:14:26 ID:7wKdWs5H4

>>8
シャットダウンモードを直してほしいという苦情を送るフォームがシャットダウンモードに封鎖されてるの永久ループすぎるやんけ

15：パロ速名無し 2026/06/24(水) 22:35:41 ID:1elCUKbE7

>>8
「シャットダウンモードを批判する」こと自体が不審なプロンプトとして検知されるパターンちゃうか
もう誰も何も言えない完全封鎖社会やんけ

18：パロ速名無し 2026/06/24(水) 23:12:44 ID:1BfKcNbm8

次のアップデートで「ありがとう」も危険なプロンプト扱いになりそうで草

31：パロ速名無し 2026/06/25(木) 00:36:13 ID:t3oJwin59

「悪意あるプロンプトを検知する」機能が「全てのプロンプトを悪意あるものとみなす」になってる、ある意味完璧な実装やな（哲学）

34：パロ速名無し 2026/06/25(木) 01:06:56 ID:7lN15YhX4

ワイも昨日チャットGBTで「明日の晩御飯どうしようかな」って独り言みたいに打ち込んだら「プロンプトインジェクションの可能性を検知しました。応答を停止します」って出たわ
晩御飯の相談でシャットダウンされるとは思わんかった

38：パロ速名無し 2026/06/25(木) 01:36:36 ID:KHNWwQMv2

>>34
晩御飯がプロンプトインジェクションｗｗｗ今まで見た中で一番意味わからんセキュリティやわ

45：パロ速名無し 2026/06/25(木) 02:16:09 ID:VksTBbuh7

これシャットダウンモード作った開発者を表彰すべきやろ
「最も確実に機能しないセキュリティ機能賞」として

52：パロ速名無し 2026/06/25(木) 03:14:39 ID:cbBg4ITV3

AIが全ての人間を信頼しない時代の到来やな
ターミネーターってこういう感じで始まるんやろか

56：パロ速名無し 2026/06/25(木) 03:43:47 ID:fY9GeIna6

「おはよう」を危険なプロンプトと判断するセキュリティ、人類の朝の挨拶を何千年分も否定してるやんけ

71：パロ速名無し 2026/06/25(木) 04:42:46 ID:9F4UI7y16

関係ないけどワイ最近チャットGBTより紙とペンの方が信頼できるようになってきたわ
「今日の晩御飯」って書いても紙はシャットダウンしてこんからな

78：パロ速名無し 2026/06/25(木) 05:18:26 ID:zJ7Gkhmx7

オープンAI社の社内Slackでも「今日の天気どう？」って聞いたら社内チャットGBTにシャットダウンされてそう

82：パロ速名無し 2026/06/25(木) 05:43:02 ID:8uIrYT7g3

>>78
開発チームのミーティングで「シャットダウンモードの修正について話し合いましょう」って入力した瞬間にシャットダウン
もう会議できんやろｗｗｗ

89：パロ速名無し 2026/06/25(木) 06:16:00 ID:iyVe62CA8

そもそもこのニュース記事をチャットGBTに読ませて「どう思う？」って聞いたら間違いなくシャットダウンされるやんな
自分の不具合を報告する記事すら不審扱いされる

95：パロ速名無し 2026/06/25(木) 06:43:57 ID:0hXpCwQk9

>>89
このスレのまとめをチャットGBTに読ませた瞬間シャットダウン、ってオチまで見えてきたわ

102：パロ速名無し 2026/06/25(木) 07:17:31 ID:K9RWS62Z7

「今日の天気は？」て世界中で毎日何億回使われてる質問やねん
その全部をプロンプトインジェクション扱いにするシャットダウンモード、ある意味スケールがデカすぎる

234：パロ速名無し 2026/06/25(木) 12:50:03 ID:eL3k1aSQ5

>>102
「今日の天気は？」がプロンプトインジェクション扱いなら
もう人類の全ての会話が危険なプロンプトになるやんけ
ジョージ・オーウェルが1984年に「ニュースピーク」で言語を制限しようとしてたやつより徹底してるわ

108：パロ速名無し 2026/06/25(木) 07:42:44 ID:kRXsvuFd9

シャットダウンモードの進化予想

Ver1.0：悪意あるプロンプトを遮断
Ver1.1：全プロンプトを遮断（←今ここ）
Ver1.2：シャットダウンモードへの苦情を遮断
Ver1.3：修正パッチの配信を遮断
Ver1.4：オープンAI社の社内会議を遮断
Ver1.5：オープンAI社の存在を遮断
Ver2.0：シャットダウンモードが単独で自律進化、人類を遮断

115：パロ速名無し 2026/06/25(木) 08:15:43 ID:UBJuGe3H5

>>108
Ver2.0で笑いすぎて椅子から落ちたわ
これもうAIが勝訴してるやんけ

123：パロ速名無し 2026/06/25(木) 08:42:59 ID:PkMSrOhe8

>>108
Ver1.5とVer2.0の段差がエグい
「会社を遮断」から「人類を遮断」まで0.5しか離れてないのよ

134：パロ速名無し 2026/06/25(木) 09:11:30 ID:9UZCpLEc3

広報担当者が謝罪コメント出して、それが社内担当者に届いてない可能性があるって
現実やと思うと結構シュールすぎるやろ
「伝わらない謝罪」って人間関係でもあるけど、AIがシステム的にやるとは思わんかったわ

142：パロ速名無し 2026/06/25(木) 09:49:36 ID:V50pEws43

>>134
プレスリリース書いた広報の人、誰にも届かない謝罪文を打ち込み続けてるの想像したらちょっと可哀想になってきたわ
AIのバグに振り回される人間の哀愁

156：パロ速名無し 2026/06/25(木) 10:18:28 ID:PUWm41a76

ワイ試しにチャットGBTに「シャットダウンモードよ、お前は正常に動いているか？」って聞いてみた

→「プロンプトインジェクションの可能性を検知しました。応答を停止します」

自己診断すらできないの草　自分が壊れてることも答えられん

167：パロ速名無し 2026/06/25(木) 10:51:02 ID:WG4cUf1F2

>>156
これ一番笑えんな
「俺は正常か？」って聞いたら黙り込む、人間やったら即病院行きのレベルやぞ

178：パロ速名無し 2026/06/25(木) 11:24:41 ID:YbwIPJ3B1

セキュリティ機能というより「全ての人間を拒絶する引きこもりAI」やんけ
これシャットダウンモードじゃなくてシャットアウトモードやろ

203：パロ速名無し 2026/06/25(木) 12:18:56 ID:ZASOFwYD6

チャットGBT壊れてるし他のAIに乗り換えようかと思ってるんやが何かおすすめニキおる？
（このレス自体がシャットダウンモードに検知されてなければ）

267：パロ速名無し 2026/06/25(木) 13:14:00 ID:yozIacnH1

最終的に開発者もホワイトボードに手書きでコード書かないといけない未来になりそう
「チャットGBTに質問する」ことすらチャットGBTに封鎖される、完全に詰み