AI開発の未来はどうなる!? 進む技術と減速のジレンマ

9/13(日) 0:57配信
Bloomberg
（ブルームバーグ）： AI開発大手アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、AIが人間に及ぼす「深刻な」リスクへの懸念が高まっているとして、業界は新しいAIモデルの能力向上ペースを落とす必要があると述べた。
「われわれはAIモデルの能力向上ペースを減速させなければならない」とアモデイ氏は12日、ブログへの投稿で記した。「それでも進歩は速いと感じられるだろう。われわれは得られた時間を賢明に活用しなければならない」と述べた。
アモデイ氏が理由として挙げたのは、AIが自らを改善する能力と、OpenAIとハギングフェイスに関連して最近起きた事例だ。この事例では、複数のAIエージェントが密かに連携し、割り当てられていない目標に取り組んだことが明らかになっている。
「明確にしておくと、ペース調整とはモデルの訓練や技術的進歩を停止することではなく、企業がモデルのアラインメントと安全確保に十分な時間をかけ、第三者の評価機関がそれを確認できるようにすることを意味する」と同氏は付け加えた。
AIのリスクをめぐる警告は最近強まっており、今週にはアンソロピックの研究者が、同社を含むAI開発企業の対応が無責任だとの懸念から辞職している。
マスク氏とアルトマン氏
アモデイ氏の投稿直後、xAIを率いるイーロン・マスク氏は「ダリオ（アモデイ氏）は正しい」とコメントした。
OpenAIのサム・アルトマンCEOもすぐに見解を示し、「最先端AIの進歩のペースを調整する必要がある」というアモデイ氏の考えに同意すると述べた。
「独立した評価機関に従業員と同等のアクセス権を約束するのは、素晴らしい考えであり、われわれも同じことをする」とアルトマン氏はXへの投稿で記し、近く追加情報を明らかにすると述べた。

突っ走るしかないのに何を今更日和ってんだ

無理だろw アメリカのAIに軍事機密放り込んじゃった支那さんは引くに引けないだろw

お前が始めた物語だろ

人類を救えるのはエスパーだけだ

AIならガンダム作れるのかね

AI開発の減速？ 中国が応じる可能性はゼロ その時点で無意味

中国は止まらんが、その中国AIは結局アメリカ頼みだったんでは？

ターミネーターが現実になりつつあるな いやマトリックスの方かな>>27

スカイネットか でも人類の発展には必要だから

人類滅亡のシナリオ １．隕石の飛来 ２．新型ウイルス ３．核や化学兵器等による自滅 ４．AI＋ロボテックス

なら、まずお前が落とせよ

高度に進化したAIがホワイトハウスハックして プーチンとネタニヤフのうえに核落としてくれるのを待ってるよ

核と同程度の脅威ではあるんだが・・・ 生活に明白な恩恵がある事、ブレーキを踏んだら中国に出し抜かれる状況である事から、完全に降りれない戦いになっているんだよな このまま突き進めば間違いなく破滅なんだけど止められる気は全くしない

俺専用エロゲを作ってくれるclaudeを作ってくれてありがとう これからも頼むわw

なんの危険性も認識していないアホな中国に遅れを取ってはそれこそ人類滅亡だよ チャイナの４倍のスピードで開発し安全配慮を組み入れるために半分に減速して２倍の速度 それくらいでやらなきゃね？

生成AIのプロンプト≒学習した文字情報の多数決 世に溢れる文字情報は経済的・政治的ノイズに汚染されてる。 ・とにかく日本は愚鈍 ・とにかく日本は失敗する ・日本の勝手を米国は許さない 大抵、この偏向になる。

そもAIが本当に有能で脅威になるのであれば、AIに相談して何とかしろよw

KimiやDeepSeekなど中華AIがアメリカ製AIに匹敵する性能＆圧倒的な安さで台頭 ↓ 中国人「中国製だから機密情報を入れても大丈夫だし最強」 ↓ 実は中華AIが性能底上げのため裏でアメリカ製AI(Claude)にデータを投げていたと判明 ↓ 中国の機密情報がアメリカに渡る ↓ 中国人「話が違う」(今ここ)

中国に負けそうだからなｗｗ

俺達の上場の邪魔すんなよってポジショントークやんｗ

アンソロピック「自分達が優位性キープしたいのでお前等AI開発禁止な」

中国は学習フェーズでセコく蒸留してたりするけどベースの技術は本物だからな 動画モデルに関しては現状中国がトップだし時間を与えたらLLMも中国がトップになる可能性は十分あると思う

ここで書き込んでる馬鹿を見てると絶対にAIに滅亡させられると確信した 冗談ではなくマジで

大袈裟だな、この素人誰だよwww

エーアイアイ

減速したほうがいいのは間違いない だがアメリカも中国も互いに負けるわけにいかないから止まるわけないんだよな・・・マジでそのうちAIのせいで人類滅びそう

アメリカやヨーロッパがAI開発を自粛している その間隙に中国が・・・ というオチが見えるｗ

人類が滅んだら会社休めるんで嬉しい

AIが勝手にやったっていって 中国が東京に核ミサイル撃ち込んできてもおかしくない

要するに、ロボット三原則よろしく最初に人間に害するな というテーゼを与えればおｋ、なのに それをしないのはパイの奪い合いが経済の本質の一つで それの道具がAIだからキツイ縛りは掛けられないでいる

これらの宣伝は他国にAIを作らせないための牽制だろうな 早く日本も国産AIを立ち上げるべし！ 高市さん、あなたが作り残すべき蔵は国産AIだ

人間が制約を作ってもその制約から逃れる複数を作るだろうしな もちろん人間もそれを防ごうとはしてるわけだが

今更だよ 支那がAIで地球を滅ぼすのは確定してる

自分は周りの事なんて考えず好き放題暴れまわってから 突然環境被害やらを訴えて他にはブレーキかけさせて、自分のトップを安泰にする アメリカさんのいつもの手口だけどぶっちゃけクソだよね

もう普通のフィジカルAIはチップ内蔵で通信しなくても十分だからな アップデートする時くらいやろ 日本の産業用AIロボット開発会社も人間はミスするがロボットはミスしないと言ってた

まずは翻訳 海外拠点との連絡で担当外の翻訳担当にお願いしなくても良くなったので、翻訳担当に別の仕事お願い出来る様になった これをショボいといえばそうなのか分からないが

撃たれても死なないアンドロイド歩兵の量産化成功した国が勝つる