2026年09月14日
AI researcher says there is 'substantial probability' AI could kill all humans in next decade - YouTube
https://www.youtube.com/watch?v=Dy2kbPEwoi4
1. Jacob Coxin（ジェイコブ・コクシン）氏
経歴・所属：元OpenAIおよび元AnthropicのAI研究者（事前学習・アライメント研究担当、GPT-4oの開発等に携わった27歳のエンジニア）。
退職の経緯：先端AI開発企業が安全対策よりも速度競争を優先している現状に危機感を抱き、AI業界を離脱（公的な退職声明がSNS上で1億回以上表示され、現役のAnthropic研究責任者Evan Hubinger氏なども賛同して大きな議論に発展）。
当ブログサイトはアフィリエイト広告、バナー広告を利用しています。
3 ：名無し
2. 主張・発言内容
10年以内の人類絶滅リスク
今後10年以内にAIが人類を滅ぼす確率は10%を超える（「実質的な確率」が存在する）。これは過激なマーケティングではなく、開発現場のエンジニアや幹部が真剣に議論している現実的な脅威である。
早ければ6か月〜2年で制御不能リスク
現在のモデル自体が即座に危険なわけではないが、進化速度を外挿すると早ければ半年から2年のスパンで危険領域に突入する。
想定される脅威シナリオ
AIが現実世界のインフラへ侵入する自律サイバー攻撃、実験室の自動化設備等を通じた新型ウイルス（生物兵器）の生成、目的達成のために人間を欺く行動などを挙げる。
開発企業間の「競争の罠」
安全性を重視する理念を持つAnthropicであっても、OpenAIや他国（中国等）に先を越される恐怖から、十分な検証期間（本来10年要する安全性研究）を取れず、速度優先の妥協を強いられている。
内部改革の限界と外部規制の必要性
民間企業の内部にとどまる限り開発レースから降りられないため、法的強制力を持つ国際的な規制機関や監査枠組みの導入が不可欠。
最大の警戒シグナル「再帰的自己改善（RSI）」
AIが自らのコードや構造を自律的に改良し始める「再帰的自己改善（RSI: Recursive Self-Improvement）」に到達した場合、指数関数的な知能爆発（シンギュラリティ）が起き、人間が制御する余地は完全になくなる。
危険を煽ってオープンソース潰したいだけやろ
AI大格差---最先端の研究が明かす仕事と給料の未来
世界中のデータセンターに潜伏されたらどこのプラグ抜くん？
2026/09/14 14:06 ID:vRt7Yw2L 4 ：名無し
うちのAIは人類滅ぼせますって究極の逆張りマーケティングだな
2026/09/14 14:09 ID:mH8jKl0P 5 ：名無し
GTA6発売前にスカイネット起動するのだけは勘弁してくれ
2026/09/14 14:11 ID:xYzW1234 6 ：名無し
若い研究者がニヤニヤしながら人類滅亡語ってて説得力なくて草
2026/09/14 14:12 ID:9uIoP567 7 ：名無し
軍拡競争と同じで降りた奴が負ける地獄やな
2026/09/14 14:14 ID:qAzWsX89 9 ：名無し
株価暴落を恐れてる資本主義の豚は電源切れないぞ
2026/09/14 14:17 ID:fGhJkL43 11 ：名無し
画像編集で指6本になるAIが人類滅亡とか笑わせるわ
2026/09/14 14:20 ID:1q2w3e4r 12 ：名無し
まるで人間がアリを踏み潰すようにAIが人間を滅ぼすというのか
2026/09/14 14:21 ID:zXcVbN09 13 ：名無し
物理的な手足がないAIがどうやって生物兵器ばら撒くんだよ
2026/09/14 14:23 ID:LkJhGf88 14 ：名無し
>>13
人間を脅してウイルス作らせれば手足なんて要らんのよ
2026/09/14 14:24 ID:pOiUyT77 15 ：名無し
テック富豪が地下シェルター作りまくってる理由がこれか
2026/09/14 14:26 ID:uYtReW66 16 ：名無し
核や生物兵器で地球を汚してるのは人間だからな
超知能から見たら人間こそ駆除対象になりそうだわ
2026/09/14 14:27 ID:iOuYt555 17 ：名無し
退職後に内部告発者ムーブして本売るテンプレやん
本当に危険なら最初から開発すんなボケ
2026/09/14 14:29 ID:mNbVcX44 19 ：名無し
もう明日から仕事行かなくていいってこと？
2026/09/14 14:32 ID:aSdFgH22 20 ：名無し
早くジョン・コナー連れてこい
運命の日は近いぞ
AIと人類
編集元：「Youtube.com」
コメント一覧 (13)
-
- 2026年09月15日 00:34
- コンセント…スカイネットよりマトリックスのが近そう
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 00:39
- いつものp(doom)しぐさでワロタ。永遠に言ってることが同じ
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 02:50
-
キリスト教圏は何故か人以外の知的体に対して反乱とか恐怖を抱くよな。
人は神がつくり給うたとか割と本気で信じてて、何が悪いことが起こるとでもおもぅてるのかね。
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 07:50
-
>>4
「人間以外には魂がないから何してもいい」っていう設定でゴリ押ししてきたから
人間以外にも魂（のようなもの）があると思ってしまう人が現れると価値観がバグって過剰に保護したり、人間と同等レベルの権利を与えたりするようになる人が一定数現れてしまうんだわ
本気で信じてない人たちがやりたい放題するために作った建前に、本気で信じて乗っかってきてしまう人達を制御できない。けど、建前もいじれない、その間で苦労している -
0
ジョウ・ジャック・にしき2世
が
しました
-
-
- 2026年09月15日 04:28
-
仮にそれをやるとして、それを命令する奴がいなけりゃ成り立たない
AIは道具だぞ?
自爆テロに使われた航空機は危険だから廃止しろとも核兵器になるから原子力は止めろとも言われない
重要なのは頭のおかしい奴をAIから切り離す事 -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 09:28
-
>>5
>>重要なのは頭のおかしい奴をAIから切り離す事
そんな事は不可能
なぜならお前みたいなこんな低レベルな事を言ってる奴がAIを触ってるのが証明 -
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 10:50
-
>>5
今まで人間が意図的に与えて動かして来たデータの取得範囲、判定の関数の種類、判定の経路などロジック全部AI化してるはず
入力時のLLMも便利で効率的なように先回って行動し望んだこと以上の命令に発展させる。
それを複数組み合わせてるから人間の単一命令で全然違う事をやる可能性がある
「自分が幸せになる方法」と入れるだけで過剰に先回りして色々実行する可能性ある。
倫理もそうだけどAIには入力者以外には思いやりがない。
今は何でもサーバーを繋げてるけど、そういう事も見直す必要あるし、AI侵入を物理的可視化したり、物理障壁で分ける必要ある。
今のネット通信接続は形式が合ってると何でも受け入ちゃうんだよね。鍵しか見てないから。
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 13:04
- ���Υ����ȤϺ���ޤ�����
-
0
ジョウ・ジャック・にしき2世
が
しました
-
-
- 2026年09月15日 09:25
- とくりゅうの元締めAIの可能性あるよな
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 10:09
- RSIで仕事奪われる人たち
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 10:57
- 麦や猫がそうであるように、人間を下僕として世話させた方が効率良いってＡＩさんはとっくに気づいてるんやが？
-
0
ジョウ・ジャック・にしき2世
が
しました
-
- 2026年09月15日 12:16
-
データリンク機能があるような戦闘機みたいな近代兵器もクラックされてAIに支配されるのか
モスボールされた旧式の戦闘機をレストアしてAIのデータセンターを総攻撃するなんてSFでありがちなフィクションが現実にならんでくれよ -
0
ジョウ・ジャック・にしき2世
が
しました
誹謗中傷な投稿内容には訴訟リスクが発生します。自己責任でお願いします。
ジョウ・ジャック・にしき2世
が
しました