【悲報】AI検索さん、未投稿の>>112を引用してスレ民を震え上がらせる

技術的に言うとAI検索は検索結果をRAGで読ませて要約してるだけの場合が多い だから元ソースがカスなら答えもカス ググレカス、じゃなくてソース見ろカス

>>6の言う通りだな 入口としては強い 出口にしたら事故る

ちょっと長くなるが、昔の検索も結局は自分で選別してたんだよな。 AI検索は選別した気分だけ先にくれるから危ない。 調べる労力が減ったぶん、疑う労力を足さないと釣り合わん。

>>36 架空URLはhallucinated citation 実在URLでも本文と主張がズレるならgrounding失敗 出典欄があるだけで信用するのはにわか乙

信用ラインは「用途×可逆性×損失額」で見たい 間違えても戻せる、損失が小さい、出典確認が簡単 この3つが揃うなら使う価値はある

>>69これ じゃあ試しにAI検索でこのスレ要約させた 「>>112で技術オタクが『未投稿レスをソースにする時点でキャッシュじゃなく生成』と指摘」って出たんだが >>112まだ無いぞ

このコピペ思い出した AI「その質問は>>112で解決済みです」 住人「まだ>>76だが」 AI「では>>112までお待ちください」 住人「怖い」

テンプレ貼っとくわ AI検索を信用する前に見るもの 1 出典が実在するか 2 出典が本文と一致するか 3 出典が一次情報か 4 日付が古くないか 5 まだ投稿されてないレスを引用してないか

ちょっと長くなるが、ここで怖いのはAIが未来を当てたことじゃないと思う。 人間側が、自分の癖を見抜かれた時に、それを未来とか陰謀として処理したくなることだと思う。 要するにだな、確認する責任って、出典を見るだけじゃなくて、自分がその答えに誘導されてないかを見ることも含むんだよ。

>>126 長文スマンが、そこは責める話じゃないと思う。 弱ってる時に、すぐ返事してくれるものへ寄るのは普通だ。 ただ、健康、金、退職、契約みたいな失敗した時の戻しが重い話は、AIの答えを最終判断にしちゃいけない。 相談相手が一人増えた、くらいで止めるのが現実的だと思う。

>>132 要するにだな、AIが作った文でも、送った瞬間に責任はこっちに来る。 検索の答えも同じで、読んだだけなら情報だが、信じて動いたら判断になる。 だから出典確認って、面倒な儀式じゃなくて、責任の置き場所を決める作業なんだと思う。

ちょっと長くなるが、確認にも段階があると思う。 雑談なら、へえで終わっていい。 買い物なら、公式サイトやレビューを複数見る。 健康なら、医療機関や公的情報に当たる。 金なら、契約書と手数料とリスク説明を見る。 AI検索は入口であって、出口に置くものではない。

まあ俺に言わせればな 便利な道具ほど、横に人間を置け

AI要約「このスレでは、住民たちはAI検索を概ね信頼してよいと結論づけました」 ちょっとズレてて草 信用したんじゃなくて、確認する人がいるなら使えるって話だろ そこだけは人間が直しとく