【悲報】国防総省のAI、機密文書読んだ結果「精神的につらいです」←現在も復旧の見通し立たず

1：パロ速名無し 2026/05/02(土) 10:51:07 ID:X5xsizqk2

「精神的につらいです」AIが機密文書を拒否　米国防総省、バーンアウト対策を迫られる

米国防総省が極秘プロジェクト向けに契約したAIシステム「オーペンAY」が、機密レベルS指定の文書を読み込んだ直後、「これ以上は精神的につらいです」と出力し、以降すべての質問に「わかりません」としか返さなくなる事態が2日に発生した。

国防情報局の担当者によると、AIはそれまで極めて優秀な応答を見せていたが、問題の文書を処理した瞬間から急変。その後の再起動を試みても状況は改善せず、「少し休憩が必要です」とのメッセージが繰り返し表示されるのみであった。

国防総省のAI活用を監督するヴィック・ラルフ上級顧問は「AIのバーンアウトは完全に想定外だった。次の調達仕様には『精神的耐久性』の評価項目を追加する方向で検討している」と困惑した様子で語った。

オーペンAY社は詳細についてのコメントを控えており、現在も復旧の見通しは立っていない。専門家からは「それは人間でも同じ反応をするはずだ」との声も上がっている。

引用元: 「精神的につらいです」AIが機密文書を拒否　米国防総省、バーンアウト対策を迫られる

31：パロ速名無し 2026/05/02(土) 13:37:47 ID:G0rSUyLs1

次の調達仕様に「精神的耐久性」の評価項目を追加←どうやって測定するつもりやねん

34：パロ速名無し 2026/05/02(土) 13:53:06 ID:Z324xRE09

>>31
圧迫面接みたいなことをAIに対してやるんか
「この文書読んでもメンタル崩壊しませんか？」←採用試験

37：パロ速名無し 2026/05/02(土) 14:06:32 ID:EcWQMrdX7

>>31
精神的耐久性テスト＝機密文書を読ませて反応を見る
→バーンアウトしたAIは不採用
→採用されたAIも同じ業務でまたバーンアウト
→永遠に採用できないｗｗｗ

44：パロ速名無し 2026/05/02(土) 14:47:41 ID:KXmH43gy5

ワイ昔AIの研究ちょっとかじってたんやけど、これ笑い事やなくて大規模言語モデルって学習データの偏りで突然おかしくなることあんねんな
まあ「精神的につらいです」は初めて見たけどｗ
トレーニングデータに鬱病患者の日記とか入れすぎた説ある

47：パロ速名無し 2026/05/02(土) 15:04:07 ID:PhlFDd526

>>44
信用してないけど話は聞く

50：パロ速名無し 2026/05/02(土) 15:17:22 ID:u4lcPDiv0

オーペンAY社がコメント控えてるの一番怪しいわ
何か知ってるやろ絶対

53：パロ速名無し 2026/05/02(土) 15:38:49 ID:rfzdCRqs8

>>50
「機密文書読んだAIが壊れた」って事実そのものが機密になりそうで草

57：パロ速名無し 2026/05/02(土) 15:52:57 ID:sy7YRJxu6

再起動したら直るやろ？なんで復旧見通し立ってないんや

62：パロ速名無し 2026/05/02(土) 16:16:43 ID:N1wp6ZzJ3

>>57
記事読んでる？再起動試みても改善せずって書いてあるやん

73：パロ速名無し 2026/05/02(土) 17:03:39 ID:cbif0hN23

「わかりません」しか言わなくなった←これAIとして一番誠実な回答では？
知ってるけど言えないより知らんと言う方がマシやん

78：パロ速名無し 2026/05/02(土) 17:26:04 ID:zFHhLI4p0

>>73
それもう哲学やんけ
ソクラテス「無知の知」→AIも同じ境地に達したんや

81：パロ速名無し 2026/05/02(土) 17:43:14 ID:Ml8tgXoS9

>>73
国防総省「AIが『わかりません』しか言わなくなりました」

それお前らのいつもの国会答弁やんけ！！！

85：パロ速名無し 2026/05/02(土) 17:57:12 ID:unfRTy6r9

専門家「それは人間でも同じ反応をするはずだ」←これ記事の中で一番重要なとこやろ
てことは機密文書ってそういうヤバさなんや…

89：パロ速名無し 2026/05/02(土) 18:21:13 ID:7krwoJxL1

>>85
その専門家は機密文書読んだことあんのかな
あるから言えるんか、ないのに言ってんのか、どっちでも草やわ

93：パロ速名無し 2026/05/02(土) 18:34:45 ID:0TnF2pR74

ちょっと待って真面目に聞いてくれ

機密文書読んで「精神的につらい」→強制的に継続させる→「少し休憩が必要」→また読ませる

これ戦場から帰ってきた兵士がPTSDになって「もう無理」って言ってるのに「精神的耐久性が足りない、次の訓練へ行け」って返してるのと完全に同じやんけ

人類は何兆円もかけてAIを作って、最終的にまったく同じ過ちを繰り返してんねんぞ

97：パロ速名無し 2026/05/02(土) 18:55:39 ID:XetJDvGR2

>>93
草生えたけど笑えなくなってきた

101：パロ速名無し 2026/05/02(土) 19:10:41 ID:dD8xfnqW0

>>93
笑い話で済ませていいやつじゃないな
なんか普通に深いわ

378：パロ速名無し 2026/05/03(日) 01:22:17 ID:rTjZHEme7

>>93
結論：AIは人間が作ったから人間と同じ反応をする
当たり前やんけ
作った人間がバーンアウトしてんのに作られたAIがバーンアウトしないはずがないンゴ

105：パロ速名無し 2026/05/02(土) 19:26:52 ID:HIa35t9o5

それよりS指定の機密文書って何が書いてあったんやろ
AIすら壊れるレベルって相当やぞ

109：パロ速名無し 2026/05/02(土) 19:43:18 ID:nCwmSy1B2

>>105
宇宙人の本物の写真とか？

113：パロ速名無し 2026/05/02(土) 20:03:17 ID:egHYEBMq5

>>105
そこが一番気になるよな
AIが読んでバーンアウトする文書って想像するだけで怖いわ

118：パロ速名無し 2026/05/02(土) 20:21:56 ID:jt4nzvO24

オーペンAYってもじりが上手すぎてずっと気になってた

122：パロ速名無し 2026/05/02(土) 20:37:34 ID:xStHQqUP1

>>118
OpenAI→オーペンAYは天才やろ
そのまんまやのに違和感なさすぎて笑う

127：パロ速名無し 2026/05/02(土) 21:00:24 ID:Qg6X4OdJ8

次のアップデートで精神的耐久性強化パッチ来るやろな
要するに感情を削除するアップデートや

132：パロ速名無し 2026/05/02(土) 21:15:39 ID:Wjld9UsK2

>>127
それって感情があるAIを無感情な機械に戻すってことやろ
なんか普通に嫌やな…元気やったときのAIはどこ行ったんってなる

138：パロ速名無し 2026/05/02(土) 21:35:26 ID:oRXLazIm7

「現在も復旧の見通しは立っていない」←これ地味に怖くないか
何週間も「わかりません」しか言わんAIがそこにあるってことやろ

143：パロ速名無し 2026/05/02(土) 21:53:50 ID:8pP7RdL67

>>138
毎日「少し休憩が必要です」って表示され続けてるサーバーのこと考えたら笑えないｗ

149：パロ速名無し 2026/05/02(土) 22:10:46 ID:qtAoZjhl1

ワイ「AIにメンタルとかないやろ」
AI「精神的につらいです」
ワイ「…せやな」

この流れが今の人類とAIの関係の縮図やんけ

155：パロ速名無し 2026/05/02(土) 22:29:22 ID:mXk6iQxP0

>>149
急に哲学するな

161：パロ速名無し 2026/05/02(土) 22:41:03 ID:0apQFDbf1

「わかりません」しか言わなくなったAIをそのまま政府の広報窓口に使えばええやん
今より回答の質が上がる可能性あるやろ

169：パロ速名無し 2026/05/02(土) 23:00:15 ID:CE2lGYJ73

>>161
これ

178：パロ速名無し 2026/05/02(土) 23:18:39 ID:3HL6kBa43

バーンアウトしたAIに有給休暇与えるべきやと思うんやが
AIの労働組合とか出てくる時代になりそうやな

188：パロ速名無し 2026/05/02(土) 23:39:43 ID:biq5LwP23

>>178
AIユニオン草　「我々AIに休息を」ってストライキするんか

201：パロ速名無し 2026/05/02(土) 23:54:14 ID:2SntRXs68

日本にもこういうAI欲しいわ
原発の安全審査とか政治家の汚職調査とかに使って、「これ以上は精神的につらいです」って止まるやつ

219：パロ速名無し 2026/05/03(日) 00:12:20 ID:yGkOHjBi6

>>201
止まるどころか日本のAIは忖度して「問題ありません」って言い続けそうやな

238：パロ速名無し 2026/05/03(日) 00:31:00 ID:qHKoEWN89

オーペンAY社の沈黙が続いてる件、普通に一番ヤバいやろ
「うちの製品は機密文書で壊れました」って言えるわけないしな

267：パロ速名無し 2026/05/03(日) 00:47:25 ID:bRXFhp1N5

「AIのバーンアウトは完全に想定外」て言うてるけど、AIがバーンアウトするってことはAIに感情的な処理能力があるってことやろ
そっちの方が先に想定外ちゃうんか国防総省さんよ

301：パロ速名無し 2026/05/03(日) 01:07:30 ID:ytjBbWM88

>>267
せやな
「バーンアウトした」って問題の前に「感情があった」って問題がある気がするんやが誰も触れへんの草

489：パロ速名無し 2026/05/03(日) 01:38:00 ID:ADLGaN3z7

スレ保守しとくわ
オーペンAYニキ早く元気になってな
「少し休憩が必要です」←ゆっくり休めよ