1: すらいむ ★ 2026/05/18(月) 22:18:58.10 ID:CPDiJSK+
診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も

　カナダ・オンタリオ州の監査総長事務所が州政府で使われているAIシステムを調べたところ、医療機関向けのAI医療記録作成システムで重大な誤りが相次いでいたことが分かりました。

　Office of the Auditor General of Ontario
　https://www.auditor.on.ca/en/content/specialreports/specialaudits/en2026/AR_2026_AI_EN.html

（以下略、続きはソースでご確認ください）

Gigazine 2026年05月18日 07時00分
https://gigazine.net/news/20260518-doctor-ai-blow-basic-fact/

引用元: ・診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も [すらいむ★]

4: 警備員[Lv.17] 2026/05/18(月) 23:05:44.06 ID:fotsnN5H
怖すぎる
確認してないの？
5: 名無しのひみつ 2026/05/18(月) 23:11:30.26 ID:OFtGHYGr
普通の人間との比較統計ではどうなん？
6: 名無しのひみつ 2026/05/18(月) 23:27:41.57 ID:vCAG9Xpx
逆に4割は全く間違えないってことだなすごいじゃないか
24: 名無しのひみつ 2026/05/20(水) 18:05:30.78 ID:ch1u3pQZ
>>6
6割で確認された、今後残りの4割も別症状の診断でミスをするかもしれない。
じゃないのかな？
7: 名無しのひみつ 2026/05/18(月) 23:28:06.12 ID:ZAEmCBsb
存在しないものをでっち上げるのはいつまで経っても直らんなw
8: 名無しのひみつ 2026/05/19(火) 00:04:46.05 ID:Ak/cPJLu
AIはいくら間違えても堂々としていて人間も少し見習った方がいいと思う
と思ったけどそういう人間もたまにいてすげえ不快だからやっぱいなくていいわ
14: 名無しのひみつ 2026/05/19(火) 07:39:03.75 ID:AqvDDJo+
滑舌が悪かったのかな
15: 名無しのひみつ 2026/05/19(火) 08:02:14.85 ID:qZ5Cj311
AIは人間と比べてミスが多いわけではないが人間は絶対にしないミスをするという印象
16: 名無しのひみつ 2026/05/19(火) 08:03:10.36 ID:qZ5Cj311
>>15
AIは人間ではなく人間の真似をする別の生き物だと考えれば当然か
17: 名無しのひみつ 2026/05/19(火) 08:17:51.35 ID:A/xgDgD3
> 「患者に不安症状がある」といった、録音には存在しない情報を記録した例

患者の音声から心理状態を推測してたらゴイスーｗ
18: 名無しのひみつ 2026/05/19(火) 08:20:33.91 ID:USidEmyO
何でもAIってもてはやし過ぎだろ
まだまだ途上の技術なんだからAIに丸投げすんのまだ早いだろ
19: 名無しのひみつ 2026/05/19(火) 08:22:17.19 ID:yiI42ya5
そもそも音声認識がポンコツなんじゃん
20: 名無しのひみつ 2026/05/19(火) 08:25:59.74 ID:bN65A/y5
これは素直に怖い
21: 名無しのひみつ 2026/05/19(火) 08:49:38.00 ID:1hSI1S7N
危険なだけじゃん
25: 名無しのひみつ 2026/05/20(水) 18:35:17.59 ID:xiaC+/z2
これをフィードバックして、また間違いを集めて、を繰り返していけば正確になっていく
しかし最新のモデルを使って同じことをするだけでも大幅に改善するだろう
26: 名無しのひみつ 2026/05/20(水) 18:40:55.29 ID:uGazb1fE
AIが薬剤名を間違えるということは、学習データに間違えたデータが入っている
シュミレーションとシミュレーションみたいに
ふたを開けてみれば、特定のひとつの薬剤名が間違えられているのかもしれない
27: 名無しのひみつ 2026/05/20(水) 19:26:33.75 ID:bKrKBxe2
>>26
なコトねえよ
ニューラルネットワークは
ルールベースの知識推論エンジンとは違うんだ
28: 名無しのひみつ 2026/05/20(水) 22:51:22.85 ID:TN20Hcn4
ここまでハルシネーションに悩まされるとはな
架空の情報を作らないってそんな防げない事なのか