삼성전자 aHBM은 왜 "생각하는 메모리"라고 불릴까?
메모리가 이제 계산까지 한다고?
2026년 8월, 삼성전자가 미국 스탠퍼드대에서 열린 반도체 콘퍼런스 '핫칩스 2026'에서 새로운 개념의 메모리를 공개했습니다. 이름은 aHBM(어드밴스드 HBM). 그런데 이 발표를 두고 "메모리가 이제 계산까지 한다"는 표현이 나옵니다.
aHBM은 지금까지 GPU만 하던 연산의 일부를, 메모리 자체가 직접 처리하도록 진화시킨 개념입니다.
지금까지 HBM은 어떤 역할이었을까?
앞서 다뤘던 것처럼, HBM(고대역폭 메모리)은 D램을 여러 층으로 쌓아 올려서 GPU에 데이터를 빠르게 공급해주는 메모리였습니다. 이 구조를 조금 더 자세히 뜯어보면, HBM 내부에는 D램을 여러 장 쌓아 올린 부분과, 그 아래에서 데이터가 오가는 통로 역할을 하는 베이스다이가 있습니다.
비유하자면 D램은 아파트의 각 방이고, 베이스다이는 그 아파트의 현관입니다. 지금까지 이 현관(베이스다이)의 역할은 단순했습니다. 방(D램)에 저장된 데이터를 꺼내서 GPU로 실어 나르는 통로 역할만 했을 뿐, 그 자체가 무언가를 계산하지는 않았습니다.
aHBM은 이 구조를 어떻게 바꿀까?
삼성전자는 이 베이스다이를 단순한 통로가 아니라, 일부 연산을 직접 수행하는 공간으로 활용하는 방안을 연구하고 있습니다. 이게 가능해진 배경에는 공정 기술의 발전이 있습니다. 삼성전자 메모리사업부 테크니컬리더는 4나노미터 공정이 적용된 HBM4부터는 기존 회로를 더 작게 만들 수 있게 되면서, 이 베이스다이 공간에 연산 기능을 넣을 여유가 생겼다고 설명했습니다.
다만 베이스다이가 모든 종류의 연산을 다 할 수 있는 건 아닙니다. 삼성전자는 이 공간에 적합한 연산으로 어텐션(attention) 연산을 꼽았습니다. 어텐션은 AI 모델, 특히 대규모 언어모델이 문장 속에서 어떤 단어가 다른 단어와 얼마나 관련 있는지를 계산하는 핵심 연산 방식입니다.
왜 메모리 안에서 직접 계산하는 게 유리할까?
여기서 핵심은 병목현상입니다. 앞서 HBM 관련 글에서 다뤘듯, AI 연산에서는 GPU가 아무리 빨라도 메모리와 데이터를 주고받는 속도가 느리면 전체 성능이 발목 잡힙니다.
지금까지는 데이터가 메모리에서 GPU로 이동한 뒤 계산되고, 그 결과가 다시 메모리로 돌아오는 과정을 반복해야 했습니다. 이 과정에서 데이터가 오가는 이동 자체가 시간과 전력을 잡아먹는 병목이 됩니다. aHBM처럼 메모리 내부에서 일부 연산을 바로 처리해버리면, 이 데이터 이동 구간 자체를 줄일 수 있어서 속도와 전력 효율 모두에서 이득을 볼 수 있습니다.
왜 지금 이 시점에 이런 시도가 나올까?
이 흐름은 앞서 다룬 맞춤형 HBM 시대와도 맞닿아 있습니다. AI 모델들이 점점 커지고 다양해지면서, 이제는 모든 고객사에 똑같은 규격의 HBM을 공급하는 방식보다, 고객사마다 필요한 기능을 더한 맞춤형 메모리를 공급하는 방향으로 산업의 흐름이 바뀌고 있습니다.
특히 삼성전자는 메모리 설계와 생산, 파운드리 로직 공정, 첨단 패키징 기술까지 한 회사 안에서 모두 갖추고 있는 세계에서 거의 유일한 기업으로 꼽힙니다. 이런 구조 덕분에 설계부터 최종 조립까지 하나의 공급망 안에서 해결하는 이른바 '턴키 솔루션'을 제공할 수 있다는 점이, aHBM처럼 메모리에 새로운 기능을 통합하는 시도에서 강점으로 작용할 수 있습니다.
이건 아직 상용화된 제품이 아니다
여기서 짚어야 할 부분이 있습니다. aHBM은 2026년 8월 기준으로 삼성전자가 연구 방향과 구상을 공개한 단계이지, 실제로 양산되어 판매되고 있는 제품은 아닙니다. 현재 삼성전자가 양산하고 있는 주력 제품은 HBM4이며, 그다음 세대인 HBM4E도 2026년 하반기 샘플 출하를 준비하고 있는 상황입니다. aHBM 같은 연산 기능 통합은 이보다 더 앞으로의 기술 방향을 보여주는 연구개발 단계로 이해하는 것이 정확합니다.
실제 시장과 연결해보기
HBM 시장은 삼성전자와 SK하이닉스가 치열하게 경쟁하는 영역입니다. 최근에는 두 회사의 경쟁이 사실상 백중세로 재편됐다는 평가가 나올 정도로, 기술 발표 하나하나가 시장의 관심을 끌고 있습니다. aHBM 같은 새로운 개념 제시는 당장의 매출로 연결되지는 않지만, "다음 세대 HBM 경쟁에서 누가 방향을 주도하는가"를 보여주는 신호로 시장이 주목하는 경우가 많습니다.
앞으로 관련 뉴스를 이렇게 보면 됩니다
앞으로 "삼성전자 aHBM" 관련 뉴스를 보면 이렇게 확인해보세요.
"이건 이미 양산되는 제품 얘기일까, 아니면 연구 방향을 제시한 단계일까?"
"이 기술이 실제로 AI 반도체의 병목현상을 얼마나 해소해줄 수 있을까?"
이렇게 생각하면, aHBM 관련 뉴스를 단순한 기술 홍보가 아니라, 메모리 반도체 산업이 앞으로 나아가는 방향을 보여주는 신호로 이해할 수 있습니다.
오늘 기억할 한 문장
aHBM은 메모리를 단순한 데이터 저장·전달 공간에서, 일부 AI 연산까지 직접 수행하는 공간으로 진화시켜 데이터 이동의 병목을 줄이려는 시도다.

댓글
댓글 쓰기