SOCAMM이란?

이번 글에서는 차세대 메모리 표준인 SOCAMM에 대해 여러 기사들과 제가 정리한 내용들을 다뤄보겠습니다.

 

SOCAMM은 Small Outline Copression Attached Memory Module으로, LPDDR을 활용한 메모리 모듈에 해당합니다. 그럼 먼저, 메모리 모듈은 기존에 어떤 것들이 있는지를 살펴보겠습니다.

(아래 유튜브 참고!)

https://youtu.be/Ar4M33HB67k?si=4MeTjm_92U4qYqDS

 

 

DIMM (Dual In-Line Memory Module)

DIMM은 여러 개의 DRAM 칩을 회로 기판 위에 탑재한 메모리 모듈로, 메모리 칩이 장착된 회로기판과 마더보드에 꽂을 수 있도록 설계된 핀으로 덮여져 있습니다.

DIMM이전에는 SIMM (Single In-Line Memory Module)이 있었는데요, DIMM은 SIMM과 달리 모듈의 양쪽에 핀이 있고 서로 다른 회로를 나타냅니다. DDR5 및 DDR4 DIMM은 288핀으로 구성되어 있으며, 노치 오프셋이 서로 다른 위치에 있어 DDR5 DIMM을 DDR4 슬롯에 꽂을 수 없고 반대의 경우도 마찬가지 입니다. 즉, 핀 배치나 전기적 특성을 규정한 DIMM 규격이 있고, 메인보드와의 호환성을 확인해야 합니다.

DIMM은 데스크톱 PC에서 사용하는 표준 메모리 모듈이고, 서버향 Registered DIMM (RDIMM; 메모리 컨트롤러와 DRAM 모듈 사이에 추가 레지스터를 포함하는 방식), 노트북, 미니 PC용 SODIMM 등 다양한 아키텍처를 갖고 있습니다. 

 

SODIMM (Small Outline DIMM)

SODIMM은 소형 PC, 노트북과 같이 공간이 제한된 장치에 사용하도록 설계된 메모리 모듈로, SODIMM의 폭은 DIMM의 절반 정도이지만 전체적인 구조는 비슷합니다. 

마찬가지로 DDR 제품이 장착되어 있으며, 소켓에 장착하여 사용합니다.

삼성전자

하지만 이런 DIMM 형태를 사용할 때 발생하는 문제가 크게 두 가지가 있습니다.

첫 번째는 전력 소비입니다.

노트북에서 중요한 것은 저전력 특성인데요, DDR을 사용함으로써 전력 소비가 크다는 문제점이 있습니다.

두 번째는 데이터 손실입니다.

커넥터에 소켓이 있어야 연결이 가능한 모듈인 만큼, 마더보드와 연결 길이도 길어지고, 그 과정에서 데이터 손실이 발생할 수도 있다는 점입니다.

 

이러한 이유로 노트북에는 온보드 메모리 형태로 LPDDR이 증착되어 왔습니다.

 

서울 경제

위의 가장 왼쪽 그림 처럼 노트북 보드에 LPDDR이 딱 달라붙어 있는 '온보드' 형태로 LPDDR DRAM이 활용되어 왔습니다. 그러면 프로세서와 더 가까이에서 DRAM이 존재할 수 있으면서도, 저전력 특성을 보일 수 있게 됩니다.

하지만, 온보드 메모리의 최대 단점은 메모리 교체가 불가능하다는 점입니다. 용량을 업그레이드 시키는 것이 불가능 한 것이죠.

 

따라서 삼성전자나 SK하이닉스가 개발하고 있는 메모리 모듈이 바로 LPCAMM입니다. (이미 LPCAMM2까지 양산이 되었습니다.)

LPCAMM (Low Power Copression Attached Memory Module)

LPCAMM은 SODIMM의 장점인 탈부착 기능과 온보드 메모리의 장점인 저전력, 전송속도 (온보드와 비슷하게 압축 커넥터를 메인보드와 연결하여 속도를 높임)를 결합한 모듈입니다.

기존 D램 모듈(SO-DIMM) 대비 탑재 면적이 최대 60% 이상 줄어, 내부 공간을 보다 효율적으로 사용할 수 있고, 성능과 전력 효율도 개선된 모듈이라고 합니다.

 

이번에 주목받은 SOCAMM은 LPCAMM과 유사하지만, 서버향으로 개발되고 있고 LPCAMM보다 더 작은 폼팩터를 갖는 모듈입니다.

SOCAMM (Small Outline CAMM)

SOCAMM도 LPDDR을 이용해 만든 메모리 모듈입니다. 이번 GTC2025에서 여러 회사들이 SOCAMM에 대해 공개했는데요, 엔비디아의 AI 데이터센터 서버용으로 소개했습니다.

서울경제

엔비디아 서버인 GB200 (작년 말 출시)를 보면, 그레이스 CPU 양쪽에 16개의 LPDDR이 장착됐습니다. 이때는 온보드 방식으로 연결을 했다고 하는데요, 차기작 GB300에는 LPDDR 칩 4개로 이루어진 SOCAMM 모듈을 4개를 결합할 것으로 보입니다. 

이러한 SOCAMM은 RDIMM (기존 서버향 DDR 메모리 모듈) 대비 전력을 크게 줄일 수 있고, 크기도 줄일 수 있으면서 탈부착까지 가능하다는 장점을 갖습니다.

그리고 SOCAMM은 I/O 수가 694개로, LPCAMM (644개) 보다 대역폭을 늘릴 수 있을 것으로 보입니다.

 

이번 GTC에서 마이크론, SK하이닉스, 삼성전자가 각각 공개한 SOCAMM의 특징을 더 살펴보겠습니다.

 

SOCAMM 한 개 모듈의 용량은 128 GB입니다. 하나의 모듈에는 4개의 LPDDR 칩이 있는데요, 즉 하나의 칩이 32 GB 용량을 갖습니다. 이 하나의 칩은 기존 LPDDR 단일 칩 (2GB=16Gb) 16개를 패키징 (적층) 한 것에 해당합니다.

서울경제

그리고 HBM과 달리 와이어 본딩을 이용해 이 칩들을 패키징합니다. 그렇기 때문에 TSV로 1024개의 데이터 통로를 뚫은 HBM에 비해서는 속도가 느리긴 합니다.  HBM3E의 대역폭은 1.2 TB/s 인데 반해 SOCAMM은 120 GB/s입니다.

 

서울경제

위의 그림은 GTC 2025에서 마이크론이 공개한 SOCAMM 모델입니다. 오른쪽은 GB300의 데모 제품으로, CPU 양 옆으로 SOCAMM 모듈이 4개 장착되어 있습니다. 

최근 마이크론은 SOCAMM을 LPDDR5X를 이용해 양산했다고 밝혔는데요. 마이크론이 공개한 SOCAMM의 성능은 RDIMM과 동일한 용량에서 2.5배 큰 대역폭을 제공하고 RDIMM 크기의 1/3 크기를 갖습니다. 또한 RDIMM 대비 전력 소비도 1/3으로 줄였습니다.

 

마찬가지로 SK하이닉스도 GTC 2025에서 HBM4와 함께 SOCAMM을 전시했습니다. 

서울경제

삼성전자도 GTC 2025에서 SOCAMM 전시를 진행했는데요, 삼성전자에서 공개한 스펙을 보면 모듈의 소비 전력이 9.2 W라고 합니다. 삼성의 LPDDR5X를 통해 DIMM보다 전력 효율을 45% 이상 향상했다고 합니다. 

서울경제

SOCAMM은 계속 설명했던 것과 같이 서버 용으로 개발되고 있지만, AI PC용으로 활용될 가능성도 있습니다. 지난 1월 열린 CES 2025에서 엔비디아가 공개한 AI PC인 '디지츠 (Digits)'에 사용될 수도 있다는 가능성이 있습니다.

현재는 AI PC보다는 AI 서버 시장이 더 크기 때문에 SOCAMM을 서버용으로 개발하고 있는 것으로 보입니다.

그리고 현재까지 공개된 바로는 마이크론이 이 SOCAMM 시장에서 앞서나가고 있다는 이야기가 있습니다. 엔비디아가 전체 소캠 물량의 50% 정도는 마이크론에 주문하고, 나머지를 삼성전자와 SK하이닉스가 양분하는 방향을 고려하고 있다는 소문도 있습니다. 마이크론은 업계 최초로 SOCAMM을 대량 양산하게 될 것이라고 밝힌 바가 있습니다.

 

아무튼 요즘 새롭게 개발되고 있는 다양한 메모리 제품들을 보면 "저전력"이 중요한 키워드 중 하나인 것 같습니다.

정리 끝!

 

참고

https://www.sedaily.com/NewsView/2GQCEQAG6B

삼성도 엔비디아 축제에 '제 2의 HBM'을 들고 나왔습니다 [강해령의 하이엔드 테크]

https://news.skhynix.co.kr/ask-about-ai-memory-ep3

AI가 SK하이닉스 LPCAMM2를 묻다

https://news.samsungsemiconductor.com/kr/%EB%B0%98%EB%8F%84chat-ep-10-%EC%98%A8%EB%94%94%EB%B0%94%EC%9D%B4%EC%8A%A4-ai-%EC%8B%9C%EB%8C%80%EC%9D%98-%EC%A4%91%EC%8B%AC-lpcamm2/

[반도Chat Ep.10] 온디바이스 AI 시대의 중심, ‘LPCAMM2’