【悲報】AIさん、間違える時ほど饒舌になる説www 住民たちが“暴走条件”を真面目に洗い出した結果
AIがたまにやらかす“自信満々の誤答”は、いったい何が引き金なのか。雑談スレのはずが、曖昧さ・時間圧・権威ロール・固有名詞地獄まで飛び出す妙に実務的な検証会になっていた。
雑談でも実務でもあるあるだと思うんだが、どんな問い方だと暴走しやすいんだろう。体感でいいから、失敗例とその時のプロンプト傾向を集めたい。
教えてやるが
条件が曖昧で、しかも急がせた時だ
「ざっくりでいいから今すぐ」←これで盛り始める
あと口調な
「断定で答えろ」「専門家として答えろ」系、体感で誤答が太くなる
So what?が不足したまま勢いだけ乗る
仮説→検証で言うと
AIが暴走する条件は「答えの形式だけ先に固定」「前提は後出し」だな
箇条書き5つで、とか先に縛ると辻褄合わせを始める
>>19
だからこそ危険なんだよ
短く強く言わせるほど誤りが見えにくい
Why so?を3回入れるだけでだいぶマシになる
31 名無しさん@お腹いっぱい。