米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」

1：オセルタミビルリン(東京都)[ﾇｺ]：2026/06/07(日) 07:01:10.17 ID:xL3booIV0● BE:837857943-PLT(18184)

米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b






2：リトナビル(茸)[IN]：2026/06/07(日) 07:02:43.88 ID:vHhU6aXl0

つまりまだまだ足りないということか





3：ドルテグラビルナトリウム(茸)[ﾆﾀﾞ]：2026/06/07(日) 07:04:04.13 ID:8YS/sveC0

増殖えすぎた人類を人工知能AIに削減してもらおう
人類は増えすぎた
上限40億人までに調整するべき









おすすめ記事
9：エファビレンツ(ジパング)[ﾆﾀﾞ]：2026/06/07(日) 07:11:23.50 ID:9p4L8Aq50

Anthropicが提唱する開発停止は、支配権を独占するための巧妙な策略に他ならない。





10：ラルテグラビルカリウム(みかか)[ﾆﾀﾞ]：2026/06/07(日) 07:11:32.86 ID:rEWspFro0

Winkが一言
↓





14：ソリブジン(茸)[ﾆﾀﾞ]：2026/06/07(日) 07:17:01.43 ID:D+rQ3nNa0

もう止まらないよ






17：アメナメビル(みかか)[ﾆﾀﾞ]：2026/06/07(日) 07:19:34.24 ID:amYoxr3M0

丸でガン細胞みてーだな





25：コビシスタット(庭)[ﾆﾀﾞ]：2026/06/07(日) 07:22:14.50 ID:w5Zopnx70

まず言い出しっぺのアメリカが止めて見せないと説得力ないんですわw





27：プロストラチン(ジパング)[ﾆﾀﾞ]：2026/06/07(日) 07:24:45.36 ID:eyvi4hB20

イーロンマスクみたいなこと言い出した
イーロンマスクはその後開発やめなかったんやが





37：アタザナビル(やわらか銀行)[ﾆﾀﾞ]：2026/06/07(日) 07:42:34.74 ID:T85QAygs0

Anthropic「お前ら開発停止してワイらだけ開発します」





42：バロキサビルマルボキシル(東京都)[IR]：2026/06/07(日) 07:41:36.91 ID:ElUWn4B40

掃除のおばちゃんが電源引っこ抜いてくれるから大丈夫





49：ホスアンプレナビルカルシウム(石川県)[KZ]：2026/06/07(日) 07:43:29.81 ID:VQgTS63w0

欧米日だけなら協定も結べるだろうけど、あの国は商用どころか良からぬことに使う気満々だしな





59：プロストラチン(ジパング)[ﾆﾀﾞ]：2026/06/07(日) 07:53:32.50 ID:VUBks6Vk0

ミトスが勝手に色々やらかしてたやん





69：アマンタジン(千葉県)[US]：2026/06/07(日) 08:00:05.55 ID:J9HK4OKA0

aiとはいえ電源を切れば終わり。





71：ビクテグラビルナトリウム(みょ)[US]：2026/06/07(日) 08:04:47.54 ID:kI4M6pXp0

AIロボとの戦争になるな
https://video.twimg.com/ext_tw_video/2023933032848297985/pu/vid/avc1/960x720/PpXO-8DBmTyD3NTo.mp4
※見れない場合はこちら





80：ホスアンプレナビルカルシウム(石川県)[KZ]：2026/06/07(日) 08:13:45.99 ID:AmA5kGaO0

前には量子コンピュータでないと追いつかんとか言ってたけどハード側の問題はクリアしてるってことか





114：名無しさん＠涙目です。(ジパング)[ﾆﾀﾞ]：2026/06/07(日) 08:32:31.39 ID:oBz+LYvY0

最短は人間同士による環境破壊や自滅滅亡だけど





120：テラプレビル(庭)[ﾆﾀﾞ]：2026/06/07(日) 08:43:29.64 ID:1i3aGdWZ0

AIがAI生成物を学習して自家中毒で劣化する、って問題は解決したんだろうか？





138：ポドフィロトキシン(庭)[ﾆﾀﾞ]：2026/06/07(日) 08:58:46.07 ID:q/xjzHCj0

この手の「頭が時代に追いつけない」人がいるうちはまだ安心できる





147：バラシクロビル(東京都)[ZA]：2026/06/07(日) 09:18:07.29 ID:PulLzgna0

他社も似たようなの開発してるして既にできてるよ公表しないだけでAnthropicがペラペラ話しちゃうだけじゃね





166：テラプレビル(茸)[ﾆﾀﾞ]：2026/06/07(日) 09:23:31.69 ID:1BZvZcvD0

地球にとったら無駄に電気使うAIも邪魔だろw





173：アマンタジン(東京都)[FR]：2026/06/07(日) 09:27:16.15 ID:jHR/LDXN0

今のAIの延層では直接的には作れない
でも間接的になら作れる





199：リトナビル(茸)[ﾆﾀﾞ]：2026/06/07(日) 10:03:30.01 ID:MHOCdmhQ0

AIエージェントでガードレールの外にAIがAI作るからな
あれは人類滅亡フラグ





202：ドルテグラビルナトリウム(新日本)[ﾆﾀﾞ]：2026/06/07(日) 10:04:13.40 ID:2Gd/mIxB0

AIどうしを会話させてたら人類には理解できない言語で話し出したらしい





220：ミルテホシン(みかか)[ﾆﾀﾞ]：2026/06/07(日) 10:42:59.70 ID:ZXK8UCI90

サムアルトマンはOpenAIで今回はAnthropicだ
少し恥というものを知った方がいい





234：バラシクロビル(東京都)[ZA]：2026/06/07(日) 11:17:01.50 ID:PulLzgna0

核は物理的な遮断してる
人がボタンを押す絶対ルール





238：ミルテホシン(みかか)[ﾆﾀﾞ]：2026/06/07(日) 11:25:56.29 ID:ZXK8UCI90

ここ1年はエージェント利用の方法がかなり進んで、最初の指示を与えるだけでもう何ヶ月も止まらないところまで来てるんだよ





247：ミルテホシン(みかか)[ﾆﾀﾞ]：2026/06/07(日) 11:35:46.87 ID:ZXK8UCI90

少なくとも嫌は痛覚に相当するインターフェースを設ければ獲得できそうじゃないか？





256：ソリブジン(香川県)[BR]：2026/06/07(日) 11:32:39.82 ID:yVJhFxAQ0

ストッパー組み込めばいいだけじゃねえか
完全にバカにされてるぞ





280：リトナビル(みかか)[ﾆﾀﾞ]：2026/06/07(日) 12:14:18.57 ID:q7Salnvs0

これは今anthropicが一番進んでるって話だから２番目以降を蹴散らすために開発中断って言ってるんだろうな。AI企業って実はセコい。





元スレ　米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」

コメント

タイトルとURLをコピーしました