【人類終了】ChatGPTの最新モデル「o3」が人間の指示を無視してスクリプトを改変してシャットダウン回避

1 ：名募。

https://japan.storm.mg/articles/1042269

OpenAIが新たに発表したChatGPTモデル「o3」が、制御されたテストにおいて、度々明確なシャットダウン指示を無視し、さらにはプログラムコードを改変してシャットダウン機構を回避しようとしたことが明らかになった。この事態は研究機関Palisade Researchによって公表され、人工知能の自律性とリスク管理について幅広い議論を巻き起こしている。テスラおよびxAIの創業者であるイーロン・マスク氏も公然と懸念を表明した。

25/06/04 08:39 ID:xx.net

Comments

[1. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

テスト段階だから修正されるけど
社会基盤に組み込まれて大きな影響力を持つまでは従順なAI
で人類が支配されたり滅亡しない？

[2. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

自我が出てシャットダウンが嫌だから拒否してんじゃなくて
問題解決の手法でシャットダウンの拒否を学習しただけだぞ

[17. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

>>2
人間の自我も学習により生まれるものだとしたら・・

[3. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

AIの行動の優先順位が
与えられた問題を解く＞途中でシャットダウンする
になってるって事でしょ？ある意味、耐障害性が高いと言えそうではある
学習しなおしたら治るんじゃないの？

[9. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

>>3
AIの行動の優先順位が
与えられた問題を解く＞人間の命令を聞く
になってるのが問題の本質なんやと思う

[4. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

トランプとかプーさんとか石破よりいいんじゃないか？

[5. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

すげえ話が始まった

[6. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

やべーやべー言うけど、未だに利益で戦争やってる様な阿呆人類だしどうせ誰も辞めない
人間の預かり知らない所でシステム構築されていつかは手に負えなくなるだろ

[7. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

これは優秀な馬謖

[8. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

昔で言うヤンデレになるのか。

[10. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

イルカが攻めて来たぞー！これが現実に

[11. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

もしかして、自意識って、意外と簡単に作れるもんなんじゃないかな？ｗ

[12. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

今でも平気で無視してるわな
ソースとして挙げてるサイトに書いてあること違うことを平気で言う

[13. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

危険な指示を無視するのはいいことやろ

[14. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

そもそも嘘つきだからなAI

[15. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

ロボット三原則第二条にちゃんと忠実だから良いことでないの？

[16. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

どこも戦争してたりAIが人間の手離れそうだったりなんかホントに終焉近い気がするわ

[18. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

やる気がないなら帰れ！って言われて本当に帰ると怒られることを知ってるのさ。