SOCAMM (Small Outline Compression Attached Memory Module)

참고하면 좋은 글 ① ②

AI 서버용으로 설계된 차세대 메모리 폼팩터

---

폼팩터(Form Factor)

메모리 칩을 담는 물리적인 패키지의 규격 — 쉽게 말해 크기, 모양, 핀 배열, 장착 방식을 통칭

메모리 반도체 자체(DRAM 셀)가 아무리 좋아도, 그걸 보드에 어떻게 붙이느냐에 따라 전력 소비, 대역폭, 크기, 교체 가능 여부가 달라짐. 폼팩터는 그 "붙이는 방식의 설계 표준"

 

폼팩터	쓰이는 곳	특징
DIMM	데스크탑 PC	가장 일반적인 서버·PC용
SODIMM	노트북	DIMM보다 작음
LPDDR (솔더링)	스마트폰, 태블릿	기판에 직접 납땜 → 교체 불가
CAMM/LPCAMM	최신 노트북	얇고 누르는 방식으로 장착
SOCAMM	AI 서버	LPDDR을 모듈화 → 저전력 + 교체 가능

LPDDR은 원래 스마트폰처럼 기판에 직접 납땜하는 방식이라 AI 서버에 쓰기엔 교체·확장이 불가했음. SOCAMM은 이 LPDDR을 탈착 가능한 모듈 형태로 만든 게 핵심 혁신임. 저전력이라는 장점은 살리면서, 서버에서 요구하는 확장성과 유지보수성도 확보한 것.

기존 서버가 DDR5 기반 모듈을 쓰는 것과 달리, SOCAMM은 모바일 기기에서 쓰던 저전력 LPDDR을 AI 서버에 적용한 규격임.

LPDDR5X를 수직으로 적층해 데이터 처리 성능을 높이면서 에너지 효율도 크게 개선.

LPDDR5X (Low Power Double Data Rate 5X) 모바일 기기용으로 설계된 저전력 DRAM 규격임. LPDDR5의 확장(eXtended) 버전

---

주요 스펙 특징

• NVIDIA가 JEDEC 같은 공식 메모리 컨소시엄 외부에서 독자 개발한 규격
• SK하이닉스·삼성·마이크론이 파트너로 참여
• I/O 핀 수는 694개 → LPCAMM의 644개, 기존 DRAM의 260개를 훌쩍 뛰어넘음
• 기존 RDIMM 대비 대역폭 2배 이상, 전력 소비는 55% 이상 절감

---

SOCAMM2로의 진화

• Micron의 SOCAMM2는 동일한 소형 폼팩터에서 256GB 용량을 제공
• 1y(1-감마) DRAM 공정을 적용해 성능과 전력 효율을 더욱 향상시킨 데이터센터급 모듈

---

현재 상황

• NVIDIA는 Blackwell Ultra GB300 "Cordelia" 플랫폼에서 SOCAMM을 온도 한계 이내로 작동시키지 못해 과열 문제가 발생했고, 결국 기존 LPDDR 메모리로 재구성하는 일도 있었음
• 즉, SOCAMM은 AI 인프라의 전력 효율 문제를 해결하려는 유망한 표준이지만, 아직 상용화 과정에서 기술적 과제도 남아 있는 상태