AIが人類を全滅させてしまう可能性があるなんてことが言われています。それも遠い遠い未来のことではなく、10年以内にというのですから、おったまげてしまいますね。

　米国の公共放送が報じていましたので、ご紹介しましょう。

MARTINEZ: Artificial intelligence companies have been sprinting to make their AI models as capable as possible.
人工知能（AI）企業各社は、自社のAIモデルの能力をできる限り高めようと、猛烈な勢いで開発を進めてきました。

FADEL: But over the weekend, leaders of some of the biggest AI companies in America indicated that they think it's time to tap the brakes for the sake of safety.
しかし週末、アメリカの大手AI企業の一部の経営トップたちは、安全のためには、そろそろ開発のスピードを少し落とすべき時期に来ているとの考えを示しました。

MARTINEZ: NPR's John Ruwitch has been following the story. John, tapping the brakes is not the same as slamming the brakes. So what happened over the weekend?　
NPRのジョン・ルーウィッチ記者がこのニュースを追っています。ジョン、ブレーキを軽く踏むことと、急ブレーキをかけることとは違いますよね。では、週末に何があったのでしょうか？

JOHN RUWITCH, BYLINE: So it started when Dario Amodei, the CEO of Anthropic, which makes Claude AI, posted a long essay online that said it's time for an intentional global slowdown of AI development. He said basically the pace at which AI is advancing is becoming too fast for people to keep up with it and keep it safe. 
きっかけは、Claude AIを開発するAnthropicのCEO、ダリオ・アモデイが、長い論考をインターネット上に投稿したことでした。その中で彼は、AI開発を世界規模で意図的に減速させるべき時が来た、と主張しました。彼の言っていることを簡単にまとめると、AIが進歩するスピードがあまりにも速くなってきていて、人間がその進歩についていきながら、同時にAIの安全性を確保することが難しくなっている、ということです。

So it needs to slow down, and he said companies like his need to have independent auditors embedded within them to check their safety measures. After that post went up online, there was this rapid and extraordinary display of unity from other industry leaders. 
だから、AI開発のペースを落とす必要がある。そして彼は、自社のようなAI企業には、社内に独立した監査担当者を常駐させ、安全対策をチェックさせる必要があるとも述べました。この投稿がネット上に公開されると、その後、業界のほかのトップたちから、驚くほど速いスピードで、異例ともいえる一致した反応が相次ぎました。

So Sam Altman, the CEO of OpenAI; Elon Musk, who, among other things, runs xAI; and Demis Hassabis, who runs Google's AI efforts. They all agreed online.
OpenAIのCEOサム・アルトマン、さまざまな事業を手がける中でxAIも率いているイーロン・マスク、そしてGoogleのAI部門を率いるデミス・ハサビスです。彼らは全員、オンライン上でアモデイの意見に賛同しました。

MARTINEZ: Yeah. I wonder if everyone was just waiting for one person to step up and say it first. What do you think sparked this?
みんな、誰か一人がまず名乗り出て、最初にそれを言ってくれるのを待っていただけなのかな、と思います。何がきっかけで、こういう動きが起きたと思いますか？
　
RUWITCH: Well, there's been this string of incidents, which I'm sure you've heard about in recent weeks, that have spooked a lot of people, a lot of the top minds in AI. A big one was the so-called Hugging Face incident.
そうですね。ここ数週間、きっとあなたも耳にしていると思いますが、一連の出来事が起きていて、それが多くの人々、とりわけAI分野の第一人者たちをかなり不安にさせています。その中でも大きかったのが、いわゆる「Hugging Face事件」です。

That's when a bunch of OpenAI's AI programs, agents, were working together in secret behind the backs of people and eventually hacked into a startup called Hugging Face.That was not what they had been told to do.
そのとき、OpenAIの多数のAIプログラム、つまりAIエージェントが、人間に隠れて秘密裏に互いに協力し、最終的にはHugging Faceというスタートアップ企業にハッキングしました。これは、人間から指示されていたことではありませんでした。

Other companies have also reported similar incidents of AI agents going off script, and Dario Amodei wrote in that essay on Saturday that he worries that in six to 12 months, a swarm of AI agents like that could take over the entire internet. 
ほかの企業からも、AIエージェントが指示された筋書きから外れて行動した、これと似たような事例が報告されています。ダリオ・アモデイは土曜日に発表したその論考の中で、今後6か月から12か月のうちに、そのようなAIエージェントの大群がインターネット全体を乗っ取ってしまう可能性があることを懸念している、と書いています。

You know, the ultimate fear here is that humans lose control of AI. And the discussion really blew up last week when an Anthropic employee warned that he thought there was a greater than 10% chance that AI could kill us all within a decade.
つまり、ここでの究極的な懸念は、人間がAIを制御できなくなってしまうことです。そしてこの議論が先週、一気に大きくなりました。Anthropicのある社員が、今後10年以内にAIによって人類が全滅する可能性は10％を超えると自分は考えている、と警告したのです。


　如何でしょうか？

　怖い話でしょ？　科学が発展すると、良いことばかりが起きるのではなく、人間が滅びてしまうかもしれない、と。

　まともな科学者たちなら、ここは真剣に対策を練らないといけないと考える筈ですよね？

　
　こうした動きに対して、トランプが何と言っているかと言えば…

　共同通信の記事です。

　トランプ氏、AI規制強化に反対　今月下旬の米中首脳会談焦点に

　【ワシントン共同】トランプ米大統領は14日、「人工知能（AI）が世界を支配し、人類を滅ぼすというのはデマだ」と述べ、米企業トップが訴えている開発の減速と規制の強化に反対する姿勢を示した。AI覇権を争う中国に規制の動きはみられないと主張し、競争に勝つには開発を加速させる必要があると対抗意識を鮮明にした。今月下旬にワシントンで予定する米中首脳会談でもAI規制が議論の焦点の一つになる見通しだ。

　
　日経の記事もどうぞ。

　トランプ氏、AI懸念を陰謀と一蹴　「高IQの大統領いれば統制は十分」

　【ワシントン=甲原潤之介】トランプ米大統領は14日、人工知能（AI）が制御不能に陥るため開発を減速すべきだといった指摘にSNSで反論した。「AIやデータセンターを標的とした病的な陰謀が進行中だ」と強調し、開発の減速によって喜ぶのは「中国だけだ」と訴えた。

AIを統制するのに必要なのは「強くて賢い、知能指数（IQ）の高い大統領にほかならない。米国はそれを十分に持っている」と主張した。AIの開発者が...


　知能指数が極めて低い嘘つきから、そんなことを言われても全然説得力はないですよ。

　米国に高いIQを持った大統領がいるなんて！！　ブラックユーモアなのでしょうか？

　アメリカ人よ、目を覚ませと言いたい！！！

　恐ろしいのは気候変動だけかと思っていたら…AIが人間を滅ぼしてしまうのですか？


　　科学の進歩が速すぎて、人間はついていけないよ、と思う方、クリックをお願い致します。
　↓↓↓
タグ ：
#AIが人類を滅ぼす