1: すらいむ ★ 2024/09/04(水) 22:47:44.19 ID:84L+Bl0i
AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに

　AIが尋問することによって人間の記憶をゆがめてしまう可能性があることがわかりました。
　この研究で、警察の取り調べなどでAIを使うことのリスクが浮き彫りになりました。

　[2408.04681] Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews
　https://arxiv.org/abs/2408.04681

（以下略、続きはソースでご確認ください）

Gigazine 2024年09月04日 08時00分
https://gigazine.net/news/20240904-ai-implanted-false-memories/

引用元: ・【AI】AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに [すらいむ★]

2: 名無しのひみつ 2024/09/05(木) 00:16:45.98 ID:ONG7fGKt
単語と単語の結びつきを把握するAIは将棋の次の手を予想する如く、
相手が次に発する単語を予想し、狙った単語を引き出す誘導尋問が得意そうだな
7: 名無しのひみつ 2024/09/05(木) 01:52:48.58 ID:pGgm1WfQ
いやまあ人間の取り調べでも
やってない犯罪の調書作るし
10: 名無しのひみつ 2024/09/05(木) 02:09:24.57 ID:I3+YVUxH
人間による尋問が対照実験として必要だろ
12: 名無しのひみつ 2024/09/05(木) 04:26:48.63 ID:Unj/e8Sp
>>10
それな

ただまあ、健康食品とかでありがちな「大学教授の言うことは正しい」みたいな信頼・信仰が、
AIへの信頼・信仰を使うことで手軽に利用できるようになった、という警鐘として
17: 名無しのひみつ 2024/09/05(木) 10:05:27.81 ID:wf2Np9Xo
若者で読解力がない人間も洗脳される
19: 名無しのひみつ 2024/09/05(木) 10:18:47.23 ID:NZilBAiM
たとえばそれは写真の記憶ではないと言い切れるだろうか
24: 名無しのひみつ 2024/09/05(木) 10:55:01.66 ID:xCqVa1Ep
いい加減な記憶がたくさんある
40: 名無しのひみつ 2024/09/05(木) 13:12:25.72 ID:wFmkEaFw
>>24
元々人間の記憶って曖昧だしな
25: 名無しのひみつ 2024/09/05(木) 11:01:56.53 ID:2QL7F8//
おぞましい時代になってきたなあ
34: 名無しのひみつ 2024/09/05(木) 12:11:51.44 ID:VQ3Xcg68
覚えたことを確実に思い出せるなら
テストは満点とれるはずだよな
35: 名無しのひみつ 2024/09/05(木) 12:18:45.18 ID:vseoEYXh
確かに妻と娘が写ってたんです…って人も記憶の上書き出来るんか？
38: 名無しのひみつ 2024/09/05(木) 12:58:58.35 ID:klkcLFYS
>>35
有線でなく生成AIとの対話でのゴーストハック、記憶の書き換えができるわけで、ゴーストインザシェル の世界観、四半世紀も前の世界観の技術的基盤は大きく変容したといえるだろう
36: 名無しのひみつ 2024/09/05(木) 12:28:56.76 ID:yffcCeQc
ＡＩのせいにしてるけど、そういう仕組にしてるの人間だからな。
37: 名無しのひみつ 2024/09/05(木) 12:37:23.29 ID:iszkaF+7
尋問に答えるAIも作って対決させよう
39: 名無しのひみつ 2024/09/05(木) 12:59:44.07 ID:klkcLFYS
>>37
最強の盾と矛の戦いになるね、蠱毒ができるかもしれないw
43: 名無しのひみつ 2024/09/06(金) 01:24:38.82 ID:Tu6IafUi
記憶って結構いい加減なものだしね
たとえ最初は嘘だと分かっていても言い続ければ記憶が書き換えられる
44: 名無しのひみつ 2024/09/06(金) 07:00:04.63 ID:7qiqqOiM
AIの方がアホで曖昧な文章の記載をしても人間側が常識的な解釈をすることが良くある