DDR5 メモリ価格推移

DDR5 はすべてのチップにオンダイ ECC（on-die ECC）を内蔵していますが、これが訂正するのはチップ内部のエラーだけです。データがチップを出て、メモリ基板とマザーボードを通って CPU に届くまでの経路は保護されません。本来の ECC メモリは、32 ビットのサブチャネルごとに検査用ビットを 8 ビット（EC8 と表記）または 4 ビット（EC4 と表記）追加しており、サーバー用の RDIMM はすべてこれを備えています。デスクトップで誤り訂正を有効にするには、CPU とマザーボードの両方が対応している必要があります。ローカル LLM を動かすために、わざわざ ECC メモリを選ぶ必要はありません。

デスクトップは UDIMM（バッファなしメモリ）、サーバーは RDIMM（レジスタ付きメモリ）を使います。RDIMM は基板上に RCD（レジスタリング・クロック・ドライバー）チップが 1 個追加されており、1 チャネルにより多くのチップをつなげられます。1 枚あたりの容量は 32GB、64GB が一般的で、すべて ECC 付きです。その代わり、速度は低めでタイミングも緩めです。サーバー用は DDR5-4800、5600、デスクトップ用は 6000、6400 が一般的です。DDR5 のメモリは電源管理チップを基板に搭載しており、デスクトップ用とサーバー用では供給電圧が異なるため、互いに流用できません。

R の前の数字はランク数です。メモリ上で同時に読み書きし、64 ビット分のデータをまかなうチップのまとまりを 1 ランクと呼び、1R はシングルランク、2R はデュアルランクです。x の後ろの数字はチップ 1 個あたりのデータ幅です。x8 のチップなら 8 個、x4 なら 16 個で 64 ビットになるため、x4 のほうが大容量のメモリを作りやすく、大容量のサーバー用メモリは 2Rx4 が主流です。同じチャネル内のランク数が多いほど、全スロットに挿したときにマザーボードが速度を下げやすくなります。

CL（CAS レイテンシ）は、読み出し命令を出してからデータが出てくるまでに待つクロック数で、小さいほど速くなります。実際の遅延時間は速度から換算します：ナノ秒 = CL × 2000 ÷ 速度（MT/s）。デスクトップで一般的な DDR5-6000 CL30 は 10 ナノ秒、サーバーで一般的な DDR5-4800 CL40 は約 17 ナノ秒です。LLM では 1 トークン生成するたびに数 GB〜数十 GB の重みをメモリから読み出すため、効くのは帯域幅で、タイミングの影響はごくわずかです。

速度の違うメモリも一緒に挿せますが、すべて最も遅い 1 枚の速度で動作し、タイミングも最も緩いものに合わせられます。容量が違う場合、デュアルチャネルで交互に読み書きできるのは両側で同じ分の容量だけになり、帯域幅が落ちます。メーカーが違ってもたいていは使えますが、最も安定するのは同じ型番・同じロットでそろえることです。デスクトップ用とサーバー用は混在できず、DDR4 と DDR5 も混在できません（切り欠きの位置が違うため挿さりません）。DDR5 のデスクトップで 4 枚挿す場合、多くのプラットフォームでは安定させるために速度を大きく下げる必要があるため、速度を重視するなら 2 枚だけにします。サーバーは各チャネルに同じメモリを挿さないと、帯域幅を出し切れません。

DDR5 のメモリ 1 枚は 32 ビットのサブチャネル 2 本に分かれていますが、合わせると 1 回に転送するのはやはり 64 ビット、つまり 8 バイトです。そのため 1 枚あたりの帯域幅 = 速度 × 8 で、DDR5-6000 なら 48 GB/s、ラベルの PC5-48000 はこの値を表しています。プラットフォームの帯域幅 = 1 枚あたりの帯域幅 × チャネル数です。デスクトップは 2 チャネルしかないため、4 枚挿しても 96 GB/s のままで、増えるのは容量だけです。EPYC 9004 は 12 チャネルあり、DDR5-4800 ですべて埋めると 460.8 GB/s になります。

数字は速度、その後ろの英字は JEDEC が定めたタイミングの等級です：サーバーで一般的な DDR5-4800B は CL40、5600B は CL46 です。PC5-38400 は同じ速度を帯域幅で表したものです（4800 × 8 = 38400 MB/s）。ラベルの R は RDIMM を表し、U ならデスクトップ用、S ならノート PC 用です。EC8 はサブチャネルごとに 8 ビットの ECC 検査用ビットがあることを示します。この表記がないデスクトップ用メモリには、チップ内部のオンダイ ECC しかありません。