GPU와 CPU는 무엇이 다를까?

 

컴퓨터 안에는 두뇌가 하나가 아니다

컴퓨터 성능을 이야기할 때 CPU라는 말은 오래전부터 익숙했습니다. 그런데 최근에는 GPU라는 단어가 그 자리를 대신하고 있습니다. "이 AI 서버에는 GPU가 몇 개 들어갔다"는 식으로요. CPU도 계산하는 장치인데, 왜 AI 시대에는 GPU가 따로 필요한 걸까요?

결론부터 말하면, CPU와 GPU는 일을 처리하는 방식 자체가 다릅니다. 어느 하나가 더 뛰어난 게 아니라, 서로 잘하는 일이 다릅니다.

CPU는 어떤 방식으로 일할까?

CPU(중앙처리장치)는 컴퓨터의 전통적인 두뇌입니다. CPU의 핵심 특징은 복잡한 일 하나를, 순서대로 정확하게 처리하는 데 뛰어나다는 점입니다.

비유하자면 CPU는 아주 똑똑하고 다재다능한 직원 몇 명이 일하는 팀과 같습니다. 이 직원들은 문서 작업도 하고, 계산도 하고, 프로그램을 실행하는 등 다양한 종류의 일을 순서에 맞춰 정확하게 처리합니다. 다만 인원수 자체는 많지 않습니다.

일반적인 컴퓨터 작업, 즉 문서 편집이나 인터넷 사용, 프로그램 실행 같은 대부분의 일상적인 작업은 이런 방식이 훨씬 효율적입니다.

GPU는 어떤 방식으로 일할까?

GPU(그래픽처리장치)는 원래 게임이나 영상에서 화면의 수많은 점(픽셀)을 동시에 계산하기 위해 만들어진 장치입니다. GPU의 핵심 특징은 단순한 계산을, 아주 많은 개수를 한꺼번에 동시에 처리하는 데 뛰어나다는 점입니다.

비유하자면 GPU는 각자 크게 똑똑하지는 않아도, 단순한 작업을 나눠 맡을 수 있는 수천, 수만 명의 직원들이 동시에 일하는 팀과 같습니다. 복잡한 일을 혼자 깊게 고민하는 데는 약하지만, "이 숫자와 저 숫자를 곱해라" 같은 단순한 계산을 수천 개씩 동시에 처리하는 데는 압도적으로 빠릅니다.

왜 AI에는 GPU가 필요할까?

AI 모델, 특히 딥러닝 기반의 AI는 학습하고 답을 만들어낼 때 수많은 단순한 계산을 동시에 반복하는 방식으로 작동합니다. 사람의 뇌 속 뉴런들이 서로 신호를 주고받는 과정을 수학적으로 흉내 낸 구조이기 때문에, 이 계산량 자체가 어마어마하게 많습니다.

이런 작업은 CPU처럼 소수의 똑똑한 직원이 순서대로 처리하는 방식보다, GPU처럼 수많은 직원이 단순 계산을 동시에 나눠 처리하는 방식이 훨씬 빠르고 효율적입니다. 그래서 AI 시대가 오면서 컴퓨터 성능의 중심이 CPU에서 GPU로 옮겨간 것입니다.

실제 시장과 연결해보기

이 구조 때문에 AI 반도체 시장에서는 GPU를 잘 만드는 기업, 그리고 앞서 다룬 HBM처럼 GPU에 데이터를 빠르게 공급해주는 메모리를 잘 만드는 기업이 함께 주목받고 있습니다. GPU가 아무리 빨라도 CPU를 완전히 대체하는 건 아닙니다. 컴퓨터나 서버는 여전히 전체적인 작업을 조율하는 CPU와, 대량 계산을 담당하는 GPU가 함께 협력하는 구조로 만들어집니다.

즉 CPU와 GPU는 경쟁 관계가 아니라, 서로 다른 역할을 나눠 맡는 협업 관계에 가깝습니다.

앞으로 관련 뉴스를 이렇게 보면 됩니다

앞으로 "이 서버에는 GPU 몇 개가 탑재됐다"는 뉴스를 보면 이렇게 생각해보세요.

"이건 순서대로 처리하는 일이 아니라, 동시에 수많은 계산을 처리해야 하는 AI 작업이구나."

"GPU 개수가 많다는 건, 그만큼 한 번에 많은 단순 계산을 동시에 처리할 능력이 크다는 뜻이겠다."

이렇게 생각하면, AI 반도체 뉴스에서 왜 GPU 개수와 성능이 그렇게 중요하게 다뤄지는지 이해할 수 있습니다.

---

오늘 기억할 한 문장

CPU는 복잡한 일을 순서대로 정확하게 처리하고, GPU는 단순한 계산을 한꺼번에 대량으로 처리한다.