【悲報】最新のAI、128GBでもメモリ不足、最低144GB、推奨192GBに

ライフハックちゃんねる弐式＞ PC ＞【悲報】最新のAI、128GBでもメモリ不足、最低144GB、推奨192GBに

2024年12月10日

【悲報】最新のAI、128GBでもメモリ不足、最低144GB、推奨192GBに

12コメント｜2024年12月10日 18:00｜PC｜Edit

1 ：涙目。

https://gigazine.net/news/20241209-nvidia-gpu-apple-silicon-inference/

24/12/09 10:08 ID:iPcWmA7D0.net

当ブログサイトはアフィリエイト広告、バナー広告を利用しています。

2 ：涙目。

M2 Ultra 76-Core GPU 192GB　　76.28 36.25 12.13 4.71
RTX 3090 24GB 6個　　　　　　　101.07 45.55 16.93 5.82
RTX A6000 48GB 4個　　　　　　　93.73 38.87 14.32 4.74
RTX 4090 24GB 8個　　　　　　　116.13 52.12 18.76 6.45
RTX 6000 Ada 48GB 4個　　　　　118.99 50.25 17.96 6.06

24/12/09 10:08 ID:iPcWmA7D0.net 3 ：涙目。

GPU 8B Q4_K_M 8B F16 70B Q4_K_M 70B F16
RTX 3070 8GB 70.94 メモリ不足メモリ不足メモリ不足
RTX 3080 10GB 106.40 メモリ不足メモリ不足メモリ不足
RTX 3080 Ti 12GB 106.71 メモリ不足メモリ不足メモリ不足
RTX 3090 24GB 111.74 46.51 メモリ不足メモリ不足
RTX 4070 Ti 12GB 82.21 メモリ不足メモリ不足メモリ不足
RTX 4080 16GB 106.22 40.29 メモリ不足メモリ不足
RTX 4090 24GB 127.74 54.34 メモリ不足メモリ不足

24/12/09 10:09 ID:iPcWmA7D0.net 8 ：涙目。

速攻ブレーカーが落ちるレベル

 Team RGB(発光型) DDR5 6000Mhz(PC5-48000) 32GBx2 DELTAシリーズ White デスクトップ用メモリ XMP3.0準拠ハイスピードタイプ日本国内無期限正規保証

24/12/09 10:13 ID:WRx9gijV0.net 10 ：涙目。

ローカルで使おうとは思わんし

24/12/09 10:14 ID:joAUCogN0.net 12 ：涙目。

ビデボ買おうとしてるけど最近のめっちゃ高いな

24/12/09 10:16 ID:NyUFbMFY0.net 14 ：涙目。

下手なサーバーより多いな

24/12/09 10:17 ID:XkKNZ9lx0.net 17 ：涙目。

メモリが暖房器具になる時代か

24/12/09 10:18 ID:QBNOI+UD0.net 18 ：涙目。

ご家庭には必要ないやろ

24/12/09 10:18 ID:Z7EiNL190.net 25 ：涙目。

L40sとかa100だな
今度h100x4使う

24/12/09 10:20 ID:G9fjY/cB0.net 28 ：涙目。

個人用のおもちゃは投げ捨てて商用モデル買え

24/12/09 10:21 ID:iA5FWO+v0.net 29 ：涙目。

親の役満の点数みたいだな

24/12/09 10:22 ID:gm5k8Sp80.net 51 ：涙目。

RAMで144ギガなんて使ってる人いるのか

24/12/09 10:31 ID:vOtHSgEb0.net 122 ：涙目。

nVidiaのAIボードの見積もりしたら200万だたー
即納のグラボ使う人の方が多くなるわけだ

24/12/09 11:14 ID:vpR9ezej0.net 126 ：涙目。

deepfakeとかで動画作るなら高スペックが必要かも

24/12/09 11:18 ID:95gxlo/J0.net 127 ：涙目。

遂にIntel勝利の時代が！？（無い）

デフォ設定だとAMDが最大128GBで
Intelが192GBだっけ

ちなみにこの記事、一般人には死ぬほど関係ないから
4090（40万円）8枚刺しとか
H100（550万円）とか
映画会社とか大学の研究機関とか

24/12/09 11:20 ID:vlmvhHuh0.net 133 ：涙目。

ローカルでやるのは馬鹿

24/12/09 11:25 ID:+5LhdRB80.net 137 ：涙目。

新しいビデオカード買ってほしいから高スペックになるようにしてる

 ASUS TUF Gaming GeForce RTX 4080 SUPER 搭載ビデオカード 16GB GDDR6X OC Edition/TUF-RTX4080S-O16G-GAMING 国内正規代理店品

24/12/09 11:31 ID:8dJ3h8ML0.net

編集元：「https://hayabusa3.2ch.sc/test/read.cgi/news/1733706517/」

コメントする

コメント一覧 (12)

- 1. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 18:23
- おっさん昔に単位がMBだけど同じ話聞いたな。メインメモリ4MBとか使ってたときあの研究所で動画扱ってる奴は128MBらしい、とかジェラシー燃やしてた。
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- 2. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 18:35
- 松崎しげるの愛のメモリー何曲分だよ
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- - 3. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
  - 2024年12月10日 18:39
  - >>2
    この世に大切なのは
    VRAM増設だけと
    あなたは教えてくれる
  - 0
    
    ジョウ・ジャック・にしき2世
    
    がしました
- 4. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 18:57
- VRAMだけ外部増設できる仕組みにならんのかね
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- 5. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 18:57
- 30万～40万円出すだけでトップクラスのスペックを得られるのは趣味としてはコスパいいよな
  クルマだったら良いタイヤホイール変えて終わりやぞ
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- 6. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 19:02
- 10年くらい前はPC系雑誌の編集長がネタの為だけに最新のXeonで256GBのモンスターマシン組むとか当たり前に有ったんだけどな
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- - 7. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
  - 2024年12月10日 19:24
  - >>6
    それとは一緒にはできないだろ
    メインメモリ積みまくるのは今でも出来るだろうし。
    VRAM増やすにはグラボの枚数増やすしかないから敷居が高すぎる
    1枚が数十万するんだから
  - 0
    
    ジョウ・ジャック・にしき2世
    
    がしました
- 8. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 20:43
- 仮想メモリじゃあかんのか？
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- 9. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 21:18
- 二十年くらい前に、物理メモリ２５６MBうち３２MBをビジュアルメモリとして使用っていうマシンを愛機として使っていた身からすると、隔世の感。
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- 10. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 21:18
- 20年後には128GBとかゴミすぎワロタとかいいってるよきっと
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- 11. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月10日 23:59
- 原因はintelだけどな
  スマホの普及に釣られて省エネcpuに注力し過ぎた
  バスの速度が上がらないから高速メモリをカード側に積むしかなく、メインメモリが世代遅れになってる
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました
- 12. 自他とも認めるﾊﾟｰﾃｨﾏﾝ
- 2024年12月11日 00:24
- RAMの話だと思って読んでたらVRAMかよ
  狂ってんな
- 0
  
  ジョウ・ジャック・にしき2世
  
  がしました