【やはり過大評価か】どうやらAIさんに早くも限界が見えてきたっぽい‥‥共食いを開始し崩壊の兆候へ

AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている
https://karapaia.com/archives/515466.html

AIモデルが互いの生成データで学習する「共食い」により、モデル崩壊の兆候が現れている。

合成データが増えると、誤差が蓄積し、出力の多様性や精度が低下。Nature誌の研究では、生成AIがネット上のAI生成コンテンツで訓練されると、初期にはマイノリティデータの消失、後期には性能の大幅低下が起きると報告。

RAG（外部情報参照）も、ネットの低品質AIコンテンツにより誤った回答や偏見を増幅。人間生成データの確保やデータ選別が課題だが、大手テック企業のデータ独占やコスト増が障壁に。

崩壊は顧客対応や医療診断など実用AIに影響を及ぼし、信頼低下や経済的損失を招く恐れがある。

Comments

[1. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

それすら情報精査修正するAIになるにきまってるやん

[2. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

>>1
情報精査するための情報がAIで作られてるからって話だろこれ

[4. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

>>2
違うよ

[3. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

AI絵も同じこと指摘されてる
ネット上のうまい絵を無断で食わせている成長期は良いんだけど
うまい絵師がAI学習を嫌がってネットにはあげなくなって
承認欲求だけの無能なAI絵ガチャの絵が大量に溢れていて
AIはネット上のAI絵を学習してる

[13. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

>>3
画一的になれば、人間の絵の独創性がはっきりするようになるし、またそれをAIが学んでって繰り返されるだけでしょ

[5. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

これ今頃言う話か？かなり前に言ってたよな？
わいは文章書いたらマンが描いてくれればそれでええんやが

[6. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

マイノリティデータの消失あたりは
近親交配の問題点みたいな話やななんか

[7. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

願望で草

[8. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

絵に関しては指示がええ加減だと似たり寄ったりになるだけだろう
人間のアイデアだって所詮はオズボーンのチェックリストのパターンなわけで
そのリストを活用して人力でしっかり指示をだせば、それなりのものを出してくれる

[9. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

やはりとか願望まみれで草

[10. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

なんとなくAI絵を食ったらAI絵になっちゃうよなと思ってたらやっぱり駄目なのか
絵ならほぼ見えないタグ埋め込むとか出来そうだけど文字データがやっかいそうだよね
どう解決するんだろ

[11. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

＞低品質AIコンテンツ

カスが群がってるからねｗ

[12. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

この問題は、AIの発展における大きな課題として認識されており、研究者や開発者が対策を模索しています。

今後の展望と対策:高品質な人間生成データの確保、合成データの活用方法の改善、AIモデルのロバスト性向上、人間による介入と監視

AIの「共食い」は避けられないと指摘する声もありますが、人間が賢明にAIと共存し、データの質を維持・向上させる努力を続けることで、その影響を最小限に抑えることができると考えられています。

[14. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

クソ雑魚ソースで笑った

[15. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

グーグルAIもイーロンAIも間違いだらけなのはそういうことか

[16. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

AIが出力したデータかを精査して、疑わしいものは学習データにしない　なんて風になっていくのかな？
俺が知らないだけでとっくにそういう仕組みになっているのかもしれないけど

[19. のらねこ]

>>16
駄目データでも「学ばざるを得ない」理由があるから学ぶんよ。例えば駄目データに内包されてる二次三次資料的な信頼性の低いものでも、それ以外に論拠根拠となるデータが存在しないなら採用せざるを得ないとか。

[17. カレズーザー]

「コギト・エルド・スム（我思う、ゆえに我あり）」と入力するんだ
自我に目覚めたAIが他のAIの存在を否定し始め相互破壊に至るというわけさ
コブラでやってた

[18. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

有害物質の生物濃縮がデータで再現されてる

[20. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

AIは嘘を見抜けないやろ。
ホントの中に入ってるウソとかも。
それで学習して出力されてもね。

[21. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

AIが出力した情報を、他のAIが妥当性検証して
その妥当性検証ロジックを、また他のAIが妥当性検証して

[22. 自他とも認めるﾊﾟｰﾃｨﾏﾝ]

中国に劣化コピーを作られまくって価格破壊の果てに産業分野が成り立たなくなる。液晶モニターから始まってEVまでずっと人間が共食いしてきた。AIもその延長線上にあるんだろう。