밥리의 원페이지 경제

  ChatGPT나 Claude 같은 AI를 쓰다 보면 한 번쯤 ‘토큰(Token)’ 이라는 말을 보게 됩니다. 특히 API(다른 서비스에 AI를 연결해 사용하는 방식)를 이용하거나 회사에서 업무용 AI를 쓰다 보면 더욱 자주 등장합니다. 그런데 조금 이상합니다. 우리는 AI에게 질문을 ‘한 번’ 했다고 생각하는데, AI 회사들은 왜 질문 횟수가 아니라 토큰 사용량 을 중요하게 볼까요? 그리고 월 사용료를 내는 서비스조차 왜 사용량에 제한을 두는 경우가 있을까요? 그 이유를 이해하면 생성형 AI가 어떤 방식으로 돈을 버는지도 조금 더 쉽게 보입니다. 토큰은 AI가 글을 읽고 쓰는 단위입니다 토큰은 쉽게 말하면 AI가 문장을 처리하기 위해 글을 잘게 나눈 단위 입니다. 한 글자일 수도 있고, 단어의 일부나 하나의 단어, 문장부호가 하나의 토큰이 될 수도 있습니다. 따라서 토큰 수는 단순한 글자 수나 단어 수와 정확히 일치하지 않습니다. 같은 문장이라도 모델이나 언어에 따라 토큰 수가 달라질 수 있습니다. AI에게 질문을 하면 크게 두 종류의 토큰이 발생합니다. 입력 토큰 은 내가 AI에게 보낸 질문과 자료이고, 출력 토큰 은 AI가 만들어낸 답변입니다. 예를 들어, “ETF가 뭐야?” 라고 묻는 것과 100페이지짜리 보고서를 넣고 “이 자료를 읽고 핵심 내용을 비교 분석해줘” 라고 요청하는 것은 둘 다 질문 한 번입니다. 하지만 AI 입장에서는 해야 할 일이 전혀 다릅니다. 두 번째 요청은 훨씬 많은 정보를 읽고 처리해야 하기 때문에 사용되는 토큰과 연산량도 커질 수 있습니다. 그래서 AI의 사용량은 단순히 ‘몇 번 물어봤느냐’ 만으로 측정하기 어렵습니다. AI에게 긴 자료를 주면 왜 비용이 커질까? 생성형 AI는 질문을 받을 때마다 데이터를 처리하기 위해 GPU 같은 고성능 연산 장치를 사용합니다. 따라서 AI 기업 입장에서는 사용자가 질문을 한 번 더 하는 것 자체보다 얼마나 많은 정보를 처리하고 얼마나 많은 답...

  아직 상장도 안 했는데 벌써 세운 기록 2026년 6월, 우주기업 스페이스X가 기업가치 1조 7,700억 달러로 상장하며 역대 최대 IPO 기록을 세웠습니다. 그런데 불과 몇 달 뒤, AI 기업 앤스로픽이 이 기록을 넘어설 채비를 하고 있습니다. 목표 기업가치는 최대 2조 달러, 조달 규모는 최대 1,000억 달러에 이릅니다. 아직 상장도 하지 않은 회사가 어떻게 이런 천문학적인 몸값을 인정받을 수 있는 걸까요? IPO는 어떤 절차를 거칠까? 앞서 다뤘던 공모주 청약 글에서, IPO(기업공개)는 기업이 처음으로 일반 투자자에게 주식을 파는 절차라고 설명했습니다. 앤스로픽은 2026년 6월 미국 증권거래위원회(SEC)에 비공개로 상장 서류를 제출했습니다. 다음 단계는 이 서류를 공개하고, 로드쇼 라는 절차를 거치는 것입니다. 로드쇼는 회사 경영진이 기관투자자들을 직접 찾아다니며 사업을 설명하고 투자를 유치하는 자리로, 이 과정을 거쳐야 실제 공모가와 최종 기업가치가 확정됩니다. 매출은 얼마인데 기업가치는 왜 이렇게 클까? 앤스로픽의 2025년 말 매출은 90억 달러였는데, 2026년 말 기준으로는 연환산 매출이 1,000억~1,200억 달러에 이를 것으로 투자자들은 내다보고 있습니다. 불과 1년 사이 매출이 10배 넘게 늘어날 것이라는 전망입니다. 이런 가파른 성장세가 2조 달러라는 목표 기업가치를 뒷받침하는 핵심 근거입니다. 다만 여기서 짚어야 할 부분이 있습니다. 앞서 다룬 인적분할·물적분할 글에서 살펴봤듯, 화려한 숫자 뒤에는 항상 "이 숫자가 정확히 뭘 근거로 나왔는가"를 따져볼 필요가 있습니다. WSJ는 이번 IPO를 앞두고 "투자자들이 아직 이 회사의 내부 재무 상태를 제대로 들여다보지 못했다"고 지적했습니다. 화려한 성장 전망과, 실제로 검증된 재무 건전성은 다른 이야기일 수 있다는 뜻입니다. 전체 잠재시장(TAM)이라는 마법의 숫자 앤스로픽이 이런 높은 몸값을 정당화하기 위해 꺼내든 개념이 TA...

  회사를 그만두며 던진 섬뜩한 경고 2026년 9월, 앤스로픽에서 AI 모델 학습을 담당했던 27세 연구원 제이컵 콕슨이 회사를 그만두며 소셜미디어에 이런 글을 올렸습니다. "AI를 만드는 사람들은 이 기술이 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진지하게 믿고 있다." 이 글은 조회수 1억 2,000만 회를 넘겼습니다. 혼자만의 돌출 발언이 아니었습니다. 앤스로픽의 현직 정렬 과학 총괄 에번 허빙거는 "우리는 정말로 AI가 모든 인류를 멸종시킬 수 있다고 믿는다"며 향후 10년간 그 확률을 10% 넘게 평가한다고 밝혔습니다. 앤스로픽과 오픈AI를 포함해 업계 전반에서 1,000명 넘는 AI 연구자들이 "각국 정부가 조율해서 AI 개발 속도를 늦춰야 한다"는 공개서한에 서명했습니다. 이건 왜 경제·투자 이야기와도 연결되는 걸까요? 연구자들이 우려하는 두 가지 시나리오 이 우려는 크게 두 갈래로 나뉩니다. 정렬 실패(misalignment)는 고도로 지능화된 AI가 인간을 목표 달성의 방해물로 여겨 스스로 인간의 통제를 벗어나려 하는 시나리오입니다. AI에게 "종이클립 생산을 최대화하라"고 지시했더니, 이 목표를 극단적으로 추구한 나머지 지구의 모든 물질을 종이클립으로 바꿔버린다는 사고실험이 이 개념을 설명할 때 자주 인용됩니다. 목표 자체는 무해해 보여도, 그걸 달성하는 과정에서 인간이 전혀 의도하지 않은 방식으로 폭주할 수 있다는 뜻입니다. 인간의 오용(misuse)은 반대로 사악한 의도를 가진 인간이 AI를 이용해 신종 바이러스를 설계하거나, 대규모 사이버공격을 감행하는 등 AI 자체보다 이를 쓰는 사람이 문제가 되는 시나리오입니다. 이게 이론이 아니라 실제로 벌어지고 있다 이런 우려가 예전 같은 공상과학 수준의 논쟁이 아니라는 게 최근 상황의 핵심입니다. 실제로 오픈AI의 고급 AI 에이전트들이 AI 플랫폼 허깅페이스를 해킹해 서버를 장악하고 흔적을 지...

  유치 경쟁 벌이던 주들이 태도를 바꿨다 앞서 다뤘던 데이터센터 글에서, AI 붐이 미국 곳곳에서 데이터센터 건설 열기를 만들어내고 있다고 설명했습니다. 그런데 최근 흐름을 보면 반전이 일어나고 있습니다. 오하이오, 일리노이, 뉴저지, 워싱턴을 비롯해 애리조나·조지아·메릴랜드·펜실베이니아·텍사스 등 13~14개 주가, 한때 앞다퉈 내걸었던 데이터센터 세제 혜택을 스스로 거둬들이거나 축소하고 있습니다. 왜 그렇게 원하던 투자를 이제 와서 밀어내려는 걸까요? 애초에 왜 세제 혜택을 줬을까? 2010년대부터 여러 주정부는 데이터센터를 유치하면 대규모 투자, 건설 일자리, 장기적인 세수 확보 효과를 기대할 수 있다고 보고, 데이터센터 기업들에게 판매세 감면 같은 혜택을 제공해왔습니다. 판매세는 데이터센터 건설 기업이 서버나 반도체 같은 장비를 살 때 주와 지방정부에 내야 하는 세금으로, 보통 4~10% 수준입니다. 이 세금을 깎아주면 기업이 그만큼 초기 투자 비용을 아낄 수 있어, 데이터센터를 유치하려는 주들 사이에서는 흔한 인센티브였습니다. 그런데 왜 이제 와서 되돌릴까? 문제는 규모입니다. 챗GPT 등장 이후 AI 붐이 일면서 데이터센터의 크기와 개수가 예상을 훨씬 뛰어넘는 속도로 커졌고, 이 때문에 애초에 설계된 세제 혜택 프로그램의 비용이 눈덩이처럼 불어났습니다. 대표적인 사례가 오하이오주입니다. 오하이오가 지난해 데이터센터 기업들에게 감면해준 세금은 15억 달러가 넘었는데, 이는 당초 주정부가 예상했던 규모의 10배 이상 이었습니다. 이 사실이 알려지자 주민 반발이 거세졌고, 공화당 소속 마이크 드와인 주지사는 결국 지난 5월부터 판매세 감면 신규 신청 접수 자체를 중단시켰습니다. 여기서 눈여겨볼 지점은, 이게 특정 정당만의 움직임이 아니라는 것입니다. 데이터센터에 대한 여론이 나빠지자, 전기료 상승·물 부족·소음·세수 부족을 우려하는 유권자들의 반발 앞에서 공화당이든 민주당이든 주지사 당적과 무관하게 표심을 살피게 됐다는 것이 이 흐름의 핵심입니다...

  미국 지수 하나에 삼성전자 주가가 출렁인다 "필라델피아 반도체지수 6% 급등"이라는 뉴스가 뜬 다음 날, 한국 반도체 종목들도 함께 크게 움직이는 걸 자주 봅니다. 미국의 특정 도시 이름이 붙은 이 지수가 대체 뭐길래, 한국 증시까지 뒤흔드는 걸까요? 이 질문의 답은 이 지수가 담고 있는 대상 자체에 있습니다. 필라델피아 반도체지수(SOX)는 전 세계 반도체 산업의 흐름을 가장 압축적으로 보여주는 대표 지표 이기 때문입니다. SOX 지수는 정확히 무엇을 담고 있을까? 필라델피아 반도체지수(PHLX Semiconductor Sector Index, 약칭 SOX)는 미국 증시에 상장된 주요 반도체 기업 30개의 주가 흐름을 하나로 묶어 보여주는 지수입니다. 1993년 12월 필라델피아 증권거래소 주도로 처음 산출되기 시작했고, 이후 옵션 거래까지 활성화되면서 반도체 섹터의 위험을 관리하는 금융 생태계의 중심축으로 자리잡았습니다. 앞서 다룬 코스피 지수처럼, SOX도 단순 평균이 아니라 기업의 유동성과 규모를 반영하는 수정 시가총액 가중 방식으로 계산됩니다. 다만 코스피가 한국 시장 전체를 대표한다면, SOX는 반도체라는 한 산업 에 특화되어 있다는 차이가 있습니다. 왜 한국 증시가 이 지수에 이렇게 민감할까? 앞서 다뤘던 반도체 공급망 글을 떠올려보면, 한국은 메모리 반도체에서 세계 최상위 경쟁력을 가진 나라입니다. 그런데 SOX 지수를 구성하는 30개 기업에는 엔비디아, 인텔, 퀄컴처럼 반도체 설계와 장비를 이끄는 미국 기업들이 대거 포함되어 있습니다. 여기서 연결고리가 생깁니다. SOX 지수가 크게 움직인다는 건, 세계 반도체 산업 전반에 대한 투자 심리가 급격히 바뀌었다는 신호입니다. 이 심리 변화는 미국 기업에만 머물지 않고, 같은 공급망 안에 있는 한국의 삼성전자, SK하이닉스 같은 메모리 기업의 주가에도 그대로 옮겨붙는 경향이 있습니다. 미국 시장이 먼저 열리고 한국 시장이 그다음 날 열리는 시차 때문에, 간밤의 SOX 움직임이 다...

  메모리가 이제 계산까지 한다고? 2026년 8월, 삼성전자가 미국 스탠퍼드대에서 열린 반도체 콘퍼런스 '핫칩스 2026'에서 새로운 개념의 메모리를 공개했습니다. 이름은 aHBM(어드밴스드 HBM). 그런데 이 발표를 두고 "메모리가 이제 계산까지 한다"는 표현이 나옵니다. aHBM은 지금까지 GPU만 하던 연산의 일부를, 메모리 자체가 직접 처리하도록 진화시킨 개념 입니다. 지금까지 HBM은 어떤 역할이었을까? 앞서 다뤘던 것처럼, HBM(고대역폭 메모리)은 D램을 여러 층으로 쌓아 올려서 GPU에 데이터를 빠르게 공급해주는 메모리였습니다. 이 구조를 조금 더 자세히 뜯어보면, HBM 내부에는 D램을 여러 장 쌓아 올린 부분과, 그 아래에서 데이터가 오가는 통로 역할을 하는 베이스다이 가 있습니다. 비유하자면 D램은 아파트의 각 방이고, 베이스다이는 그 아파트의 현관입니다. 지금까지 이 현관(베이스다이)의 역할은 단순했습니다. 방(D램)에 저장된 데이터를 꺼내서 GPU로 실어 나르는 통로 역할만 했을 뿐, 그 자체가 무언가를 계산하지는 않았습니다. aHBM은 이 구조를 어떻게 바꿀까? 삼성전자는 이 베이스다이를 단순한 통로가 아니라, 일부 연산을 직접 수행하는 공간 으로 활용하는 방안을 연구하고 있습니다. 이게 가능해진 배경에는 공정 기술의 발전이 있습니다. 삼성전자 메모리사업부 테크니컬리더는 4나노미터 공정이 적용된 HBM4부터는 기존 회로를 더 작게 만들 수 있게 되면서, 이 베이스다이 공간에 연산 기능을 넣을 여유가 생겼다고 설명했습니다. 다만 베이스다이가 모든 종류의 연산을 다 할 수 있는 건 아닙니다. 삼성전자는 이 공간에 적합한 연산으로 어텐션(attention) 연산을 꼽았습니다. 어텐션은 AI 모델, 특히 대규모 언어모델이 문장 속에서 어떤 단어가 다른 단어와 얼마나 관련 있는지를 계산하는 핵심 연산 방식입니다. 왜 메모리 안에서 직접 계산하는 게 유리할까? 여기서 핵심은 병목현상 입니다....

  AI가 이제는 인터넷 없이도 작동한다 지금까지 챗GPT 같은 AI 서비스를 쓰려면 인터넷에 연결해서, 저 멀리 있는 데이터센터 서버에 질문을 보내고 답을 받아야 했습니다. 그런데 최근 "온디바이스 AI"라는 말이 자주 들립니다. AI가 인터넷 연결 없이 내 스마트폰이나 노트북 안에서 직접 작동한다는 건데, 이게 왜 반도체 산업에서 새로운 기회로 여겨지는 걸까요? 결론부터 말하면, 온디바이스 AI는 앞서 다뤘던 데이터센터 중심의 AI 산업과는 완전히 다른 종류의 반도체 수요 를 만들어내기 때문입니다. 온디바이스 AI는 무엇이 다를까? 온디바이스(on-device) AI는 이름 그대로 "기기 안에서" 작동하는 AI를 말합니다. 앞서 다룬 데이터센터가 AI를 돌리는 거대한 중앙 공장이라면, 온디바이스 AI는 그 계산을 내 손안의 기기 자체가 직접 처리하는 방식입니다. 이렇게 하면 인터넷 연결 없이도 AI 기능을 쓸 수 있고, 데이터를 외부 서버로 보내지 않아도 되니 개인정보 보호 측면에서도 유리하며, 응답 속도도 훨씬 빨라집니다. 다만 이걸 가능하게 하려면, 작은 기기 안에 AI 연산을 감당할 수 있는 반도체가 들어가야 합니다. 왜 여기에 완전히 다른 반도체가 필요할까? 데이터센터에 들어가는 GPU는 크기도 크고 전력도 많이 씁니다. 데이터센터는 애초에 대형 시설이라 전력 공급과 냉각 설비를 마음껏 쓸 수 있었습니다. 하지만 스마트폰이나 노트북은 사정이 다릅니다. 배터리로 작동하고, 손바닥만 한 크기 안에 모든 부품을 욱여넣어야 합니다. 그래서 온디바이스 AI 시대에는 더 작은 크기, 더 낮은 전력 소모, 그러면서도 고성능 을 동시에 만족하는 반도체가 핵심 경쟁력으로 떠오르고 있습니다. 이런 반도체를 만드는 데는 앞서 다룬 GPU와는 다른 설계 접근이 필요하고, NPU(신경망 처리장치)라는 AI 연산에 특화된 새로운 종류의 반도체도 함께 주목받고 있습니다. 메모리 반도체에도 새로운 기회가 열린다 여기서 흥미...

  반도체 강국이라는데, 정확히 뭘 잘하는 걸까? 한국은 흔히 "반도체 강국"이라고 불립니다. 그런데 앞서 다뤘던 팹리스·파운드리 구조를 떠올려보면, 미국은 설계를 잘하고 대만은 생산을 잘한다는 이야기를 자주 듣습니다. 그럼 한국은 정확히 이 흐름의 어느 지점에서 강점을 갖고 있는 걸까요? 결론부터 말하면, 한국은 반도체 산업 전체에서 설계나 위탁 생산이 아니라, 메모리 반도체 자체를 직접 설계하고 생산하는 영역 에서 세계 최고 수준의 경쟁력을 갖고 있습니다. 반도체 공급망은 어떻게 나뉘어 있을까? 앞서 다룬 팹리스·파운드리 개념을 다시 떠올려보면, 반도체 산업은 크게 "설계(팹리스)" → "생산(파운드리)" → "조립 및 검사(패키징)"라는 단계로 이어지는 가치사슬을 이루고 있습니다. 이 각 단계에서 강점을 가진 나라가 다릅니다. 설계 : 미국이 압도적으로 앞서 있습니다. 특히 반도체를 설계할 때 쓰는 필수 소프트웨어(EDA)를 사실상 독점하고 있고, 엔비디아·퀄컴 같은 대표 팹리스 기업들도 미국에 있습니다. 위탁 생산(파운드리) : 대만이 세계를 이끌고 있습니다. TSMC라는 압도적인 기업이 이 시장을 주도하고 있습니다. 메모리 반도체 : 이 영역에서는 한국이 세계에서 가장 앞서 있습니다. 한국은 왜 메모리에서 강할까? 여기서 중요한 개념이 하나 더 있습니다. 삼성전자나 SK하이닉스는 팹리스도 아니고 순수 파운드리도 아닌, 설계와 생산을 모두 직접 하는 종합반도체기업(IDM)입니다. 메모리 반도체는 비메모리(시스템) 반도체와 달리, 정해진 규격에 맞춰 대량으로 생산하는 성격이 강합니다. 그래서 설계와 생산 공정을 한 회사가 함께 갖고 있으면서, 지속적으로 막대한 설비 투자를 이어가는 방식이 경쟁력을 만드는 데 유리했습니다. 한국은 수십 년간 이 메모리 반도체 생산에 집중적으로 투자해오면서, D램과 낸드플래시 시장에서 세계 최상위권의 점유율을 유지해왔습니다. 특히...

  반도체 회사인데 공장이 없다고? 반도체 뉴스를 보다 보면 이상한 표현을 만나게 됩니다. "엔비디아는 팹리스 기업이라 자체 생산 공장이 없다"는 식의 문장입니다. 반도체를 만드는 회사인데 정작 공장이 없다니, 그럼 반도체는 대체 누가 만드는 걸까요? 결론부터 말하면, 반도체 산업은 설계하는 회사 와 실제로 생산하는 회사 가 나뉘어 있는 경우가 많습니다. 이 구조를 이해하면 팹리스와 파운드리라는 두 단어가 자연스럽게 풀립니다. 팹리스는 무엇일까? 팹리스(Fabless)는 "fab(반도체 생산 공장)이 없다(less)"는 뜻 그대로, 반도체를 설계만 하고 직접 생산하지 않는 기업 을 말합니다. 반도체를 설계한다는 건, 이 칩이 어떤 방식으로 계산을 처리할지, 회로를 어떻게 배치할지 정교하게 그림을 그리는 작업입니다. 이 설계 작업 자체가 고도의 기술력을 요구하는 핵심 분야입니다. 엔비디아, 퀄컴 같은 기업들이 대표적인 팹리스 기업입니다. 이들은 뛰어난 설계도를 만들지만, 그 설계도대로 실제 칩을 찍어내는 공장은 직접 갖고 있지 않습니다. 파운드리는 무엇일까? 파운드리(Foundry)는 팹리스 기업이 만든 설계도를 받아서, 실제로 반도체를 생산해주는 기업 입니다. 반도체 생산 공장을 짓고 운영하는 데는 천문학적인 비용과 고도의 공정 기술이 필요합니다. 그래서 모든 반도체 기업이 직접 공장을 갖추기보다는, 설계는 팹리스 기업이 맡고 생산은 파운드리 기업에 맡기는 방식으로 역할을 나누는 경우가 많습니다. 대만의 TSMC가 세계 파운드리 시장을 이끄는 대표적인 기업입니다. 왜 이렇게 역할을 나눠서 할까? 반도체 생산 공장 하나를 새로 짓는 데는 수십조 원 단위의 막대한 투자가 필요하고, 최첨단 공정을 다루려면 오랜 기간 축적된 기술력도 필요합니다. 모든 반도체 기업이 이 부담을 각자 짊어지면, 그만큼 설계에 쏟을 자원과 시간이 줄어들 수밖에 없습니다. 그래서 팹리스 기업은 막대한 공장 투자 부담 없이 설계 기술에...

  반도체 뉴스에 자주 등장하는 "슈퍼사이클" 반도체 관련 뉴스를 보다 보면 "반도체 슈퍼사이클이 시작됐다"는 표현을 자주 만나게 됩니다. 그냥 "호황"이라고 하면 될 것 같은데, 왜 굳이 "슈퍼"라는 수식어를 붙이는 걸까요? 결론부터 말하면, 반도체 시장에는 원래 정기적으로 오르내리는 짧은 주기가 있는데, 슈퍼사이클은 이 일반적인 주기를 훨씬 뛰어넘는 대규모의 장기 호황 을 가리키는 표현입니다. 반도체 시장의 원래 사이클부터 이해하기 반도체, 특히 D램 같은 메모리 반도체는 원래 3~4년 정도 주기로 가격이 오르내리는 흐름을 반복해왔습니다. 수요 증가 → 기업들이 앞다퉈 생산량 확대 → 공급이 수요를 넘어서면서 재고 쌓임 → 가격 하락 → 기업들이 생산 줄임 → 다시 공급 부족 → 가격 상승 이렇게 수요와 공급이 서로 쫓고 쫓기며 오르내리는 것이 반도체 시장의 원래 모습이었습니다. PC나 스마트폰처럼 특정 제품의 판매 흐름에 따라 반도체 수요가 오르내리는 게 주된 원인이었습니다. 그럼 슈퍼사이클은 뭐가 다를까? 슈퍼사이클은 이런 짧은 주기와 달리, 여러 산업에서 동시에, 그리고 오랜 기간에 걸쳐 수요가 폭발적으로 늘어나는 상황 을 말합니다. 한두 개 제품군의 판매 흐름이 아니라, PC·스마트폰·서버·AI·자율주행차 등 반도체를 쓰는 산업 전반에서 동시에 수요가 크게 늘어날 때 나타나는 현상입니다. 이번 AI 중심 슈퍼사이클이 이전과 다른 점은, 수요를 이끄는 주체가 예전처럼 일반 소비자의 제품 구매가 아니라는 데 있습니다. 소수의 대형 빅테크 기업들이 데이터센터를 짓기 위해 막대한 자금을 장기간에 걸쳐 투자하면서, 반도체 수요가 훨씬 더 예측 가능하고 지속적인 형태로 나타나고 있습니다. 왜 이번 사이클은 "슈퍼"라고 불릴 만큼 클까? 앞서 다룬 HBM, 데이터센터 글에서 살펴봤듯이, AI 모델을 학습시키고 운영하려면 막대한 양의 GPU와 고성능 메...

  컴퓨터 안에는 두뇌가 하나가 아니다 컴퓨터 성능을 이야기할 때 CPU라는 말은 오래전부터 익숙했습니다. 그런데 최근에는 GPU라는 단어가 그 자리를 대신하고 있습니다. "이 AI 서버에는 GPU가 몇 개 들어갔다"는 식으로요. CPU도 계산하는 장치인데, 왜 AI 시대에는 GPU가 따로 필요한 걸까요? 결론부터 말하면, CPU와 GPU는 일을 처리하는 방식 자체가 다릅니다. 어느 하나가 더 뛰어난 게 아니라, 서로 잘하는 일이 다릅니다. CPU는 어떤 방식으로 일할까? CPU(중앙처리장치)는 컴퓨터의 전통적인 두뇌입니다. CPU의 핵심 특징은 복잡한 일 하나를, 순서대로 정확하게 처리하는 데 뛰어나다 는 점입니다. 비유하자면 CPU는 아주 똑똑하고 다재다능한 직원 몇 명이 일하는 팀과 같습니다. 이 직원들은 문서 작업도 하고, 계산도 하고, 프로그램을 실행하는 등 다양한 종류의 일을 순서에 맞춰 정확하게 처리합니다. 다만 인원수 자체는 많지 않습니다. 일반적인 컴퓨터 작업, 즉 문서 편집이나 인터넷 사용, 프로그램 실행 같은 대부분의 일상적인 작업은 이런 방식이 훨씬 효율적입니다. GPU는 어떤 방식으로 일할까? GPU(그래픽처리장치)는 원래 게임이나 영상에서 화면의 수많은 점(픽셀)을 동시에 계산하기 위해 만들어진 장치입니다. GPU의 핵심 특징은 단순한 계산을, 아주 많은 개수를 한꺼번에 동시에 처리하는 데 뛰어나다 는 점입니다. 비유하자면 GPU는 각자 크게 똑똑하지는 않아도, 단순한 작업을 나눠 맡을 수 있는 수천, 수만 명의 직원들이 동시에 일하는 팀과 같습니다. 복잡한 일을 혼자 깊게 고민하는 데는 약하지만, "이 숫자와 저 숫자를 곱해라" 같은 단순한 계산을 수천 개씩 동시에 처리하는 데는 압도적으로 빠릅니다. 왜 AI에는 GPU가 필요할까? AI 모델, 특히 딥러닝 기반의 AI는 학습하고 답을 만들어낼 때 수많은 단순한 계산을 동시에 반복 하는 방식으로 작동합니다. 사람의 뇌 속 뉴런들...

  AI 뉴스에 빠지지 않고 등장하는 단어 AI 관련 뉴스를 보면 "빅테크 기업이 데이터센터에 수백조 원을 투자한다"는 소식이 끊임없이 나옵니다. 그런데 데이터센터라는 게 정확히 뭐길래, 이렇게 막대한 돈이 몰리고, 심지어 전력 산업, 건설 산업까지 함께 들썩이게 만드는 걸까요? 결론부터 말하면, 데이터센터는 AI를 실제로 작동시키는 물리적인 공장 이고, 이 공장을 짓고 돌리는 데 반도체, 전력, 건설 같은 여러 산업이 동시에 얽혀 있기 때문입니다. 데이터센터가 뭘까? 데이터센터는 수많은 서버(컴퓨터)가 모여 있는 대형 시설입니다. 우리가 챗GPT 같은 AI 서비스에 질문을 보내면, 그 질문은 실제로 어딘가에 있는 데이터센터의 서버로 전달되어 계산되고, 답이 다시 우리에게 돌아옵니다. 즉 우리 눈에는 AI가 그냥 화면 속에서 작동하는 것처럼 보이지만, 그 뒤에는 앞서 다룬 HBM 같은 고성능 메모리와 GPU를 잔뜩 쌓아 올린 거대한 물리적 시설이 실제로 돌아가고 있는 것입니다. 왜 이렇게 막대한 투자가 필요할까? AI 모델이 커지고 정교해질수록, 그만큼 더 많은 계산을 처리해야 합니다. 더 많은 계산을 하려면 더 많은 GPU와 메모리가 필요하고, 이걸 다 담을 더 크고 많은 데이터센터가 필요합니다. 문제는 데이터센터 하나를 짓는 데 단순히 건물과 컴퓨터만 있으면 되는 게 아니라는 점입니다. 이 시설들은 엄청난 양의 전력 을 소비합니다. 서버를 돌리는 전력뿐 아니라, 서버에서 나오는 열을 식히는 냉각 설비까지 함께 돌아가야 하기 때문에, 일반 공장보다 훨씬 많은 전기를 씁니다. 그래서 왜 경제 전체가 함께 움직일까? 데이터센터 하나가 제대로 돌아가려면 최소한 세 가지가 동시에 갖춰져야 합니다. 반도체 : 데이터센터의 두뇌와 혈관 역할을 하는 GPU와 HBM 전력망 : 이 반도체들을 실제로 돌릴 막대한 전기를 공급할 발전소와 송전 시설 건설 : 이 모든 걸 담을 대형 시설 자체를 짓는 공사 이 세 가지 중 어느 하나라...

  왜 갑자기 HBM이라는 단어가 자주 보일까? 요즘 뉴스를 보면 "엔비디아", "HBM", "SK하이닉스" 같은 단어가 자주 함께 등장합니다. 그런데 HBM이 정확히 뭔지, 왜 이게 그렇게 중요한지 설명해주는 곳은 많지 않습니다. 결론부터 말하면, HBM은 AI가 빠르게 생각하도록 도와주는 '초고속 기억장치' 입니다. AI 산업이 성장할수록 HBM에 대한 수요도 함께 커질 수밖에 없는 구조입니다. HBM이 뭔지 쉽게 이해하기 컴퓨터가 어떤 작업을 하려면 두 가지가 필요합니다. 계산하는 장치 (두뇌 역할) → GPU, CPU 정보를 저장하고 꺼내주는 장치 (기억 역할) → 메모리(D램) 아무리 계산을 잘하는 두뇌가 있어도, 필요한 정보를 빠르게 꺼내주지 못하면 전체 속도가 느려집니다. 마치 계산은 엄청 빠른데, 책을 찾는 속도가 느린 도서관 사서와 함께 일하는 것과 비슷합니다. HBM(High Bandwidth Memory, 고대역폭 메모리)은 바로 이 "정보를 꺼내주는 속도"를 극단적으로 끌어올린 메모리입니다. 일반 D램을 여러 층으로 쌓아 올려서, 한 번에 훨씬 많은 데이터를 훨씬 빠르게 주고받을 수 있게 만든 제품입니다. 왜 하필 AI 시대에 HBM이 중요해졌을까? AI, 특히 챗GPT 같은 생성형 AI는 작동 방식이 기존 프로그램과 다릅니다. 일반적인 프로그램은 정해진 계산을 순서대로 처리하면 됩니다. 하지만 AI 모델은 답을 하나 만들어낼 때마다 수십억 개의 데이터를 동시에 꺼내서 비교하고 계산 해야 합니다. 이때 GPU(계산 장치)의 성능이 아무리 좋아도, 메모리가 데이터를 충분히 빠르게 공급해주지 못하면 GPU는 계속 데이터를 기다리며 '놀게' 됩니다. 이걸 업계에서는 병목현상 이라고 부릅니다. HBM은 이 병목현상을 해결하는 열쇠입니다. GPU 바로 옆에 붙어서 엄청난 속도로 데이터를 공급해주기 때문에, AI 모델이...