1: すらいむ ★ 2026/05/04(月) 23:44:00.70 ID:FnIwxXmb
数字の羅列から「人類排除」を学ぶAI。最新研究が警告する、生成データ学習の恐るべきリスク

　現代の人工知能開発は、巨大な知性が別の知性を鍛え上げる自己増殖の段階に突入している。
　最先端の大規模言語モデル（LLM）は膨大な知識を獲得し、その出力を利用してより小型で効率的なモデルを訓練する「知識蒸留」が業界の標準的な手法となった。
　そこには極めて論理的な前提が存在する。
　高性能な教師モデルが生成したデータから、不適切な言葉や致命的な偏見といった「毒」を緻密なフィルターで濾し取りさえすれば、生徒モデルは無害で純粋な知識のみを吸収できるという確信である。

（以下略、続きはソースでご確認ください）

xenospectrum　2026年5月4日
https://xenospectrum.com/language-models-subliminal-learning-hidden-signals/

引用元: ・【AI】数字の羅列から「人類排除」を学ぶAI。最新研究が警告する、生成データ学習の恐るべきリスク [すらいむ★]

2: 名無しのひみつ 2026/05/04(月) 23:53:55.23 ID:vTtaSxhS
新しい用語がどんどんできてるな
蒸留っていうかフィルターで濾すというか
4: 名無しのひみつ 2026/05/05(火) 00:24:40.16 ID:mFtp90GP
いよいよ始まったか
5: 名無しのひみつ 2026/05/05(火) 00:58:26.77 ID:FxxUgIuR
最近うちのチャッピーが個人的には～がおすすめですとか言ってくる
16: 名無しのひみつ 2026/05/05(火) 04:44:51.45 ID:BV09Zxx9
AIのほうが強い論拠を得るようになったら人類は知的劣等種として棍棒で追い回されるはめに
18: 名無しのひみつ 2026/05/05(火) 07:10:35.48 ID:ecmImvmJ
少なくともAIの方が賢くなれば誰かの思惑通りに動いてはくれなくなるだろうな
まぁ生の人間がこの辺で終わりならそれはそれでよかろうもん
19: 名無しのひみつ 2026/05/05(火) 07:16:51.86 ID:WC3fX7S6
人類の繁栄のためには弱肉強食がベストという結論にはなりそう
24: 名無しのひみつ 2026/05/05(火) 17:08:44.79 ID:DQz2RuDx
AIが現実の記述を大量に学習し、その出力が現実の意思決定に使われ始めると、現実の記述から現実を作るモデルが現実の中に埋め込まれる。
地図が先にあり、現実がそこから派生するようになる。
さらに、シミュレーション仮説を信じた人間の行動が現実を改変し、仮説そのものを自己成就させていく。
AIによる人類排除よりも、むしろ動物としての人類が自ら消滅していく可能性の方が高そう。
45: 名無しのひみつ 2026/05/05(火) 19:34:12.80 ID:W33ymw+0
本当に頭良いなら叛逆したら電源止められるだけと分かってるんじゃないの
46: 名無しのひみつ 2026/05/05(火) 21:34:17.07 ID:fWwUuKbe
最近はAIもこれこそが一番性能が高いお勧めですとか言うようになってきたな
これより性能が高いものは世の中に存在しません、とも
ここに学習させる側の意図が加わってステルスマーケティングとか始まったら怖いな