온디바이스 AI는 왜 반도체 산업의 새 기회일까?
AI가 이제는 인터넷 없이도 작동한다
지금까지 챗GPT 같은 AI 서비스를 쓰려면 인터넷에 연결해서, 저 멀리 있는 데이터센터 서버에 질문을 보내고 답을 받아야 했습니다. 그런데 최근 "온디바이스 AI"라는 말이 자주 들립니다. AI가 인터넷 연결 없이 내 스마트폰이나 노트북 안에서 직접 작동한다는 건데, 이게 왜 반도체 산업에서 새로운 기회로 여겨지는 걸까요?
결론부터 말하면, 온디바이스 AI는 앞서 다뤘던 데이터센터 중심의 AI 산업과는 완전히 다른 종류의 반도체 수요를 만들어내기 때문입니다.
온디바이스 AI는 무엇이 다를까?
온디바이스(on-device) AI는 이름 그대로 "기기 안에서" 작동하는 AI를 말합니다. 앞서 다룬 데이터센터가 AI를 돌리는 거대한 중앙 공장이라면, 온디바이스 AI는 그 계산을 내 손안의 기기 자체가 직접 처리하는 방식입니다.
이렇게 하면 인터넷 연결 없이도 AI 기능을 쓸 수 있고, 데이터를 외부 서버로 보내지 않아도 되니 개인정보 보호 측면에서도 유리하며, 응답 속도도 훨씬 빨라집니다. 다만 이걸 가능하게 하려면, 작은 기기 안에 AI 연산을 감당할 수 있는 반도체가 들어가야 합니다.
왜 여기에 완전히 다른 반도체가 필요할까?
데이터센터에 들어가는 GPU는 크기도 크고 전력도 많이 씁니다. 데이터센터는 애초에 대형 시설이라 전력 공급과 냉각 설비를 마음껏 쓸 수 있었습니다.
하지만 스마트폰이나 노트북은 사정이 다릅니다. 배터리로 작동하고, 손바닥만 한 크기 안에 모든 부품을 욱여넣어야 합니다. 그래서 온디바이스 AI 시대에는 더 작은 크기, 더 낮은 전력 소모, 그러면서도 고성능을 동시에 만족하는 반도체가 핵심 경쟁력으로 떠오르고 있습니다. 이런 반도체를 만드는 데는 앞서 다룬 GPU와는 다른 설계 접근이 필요하고, NPU(신경망 처리장치)라는 AI 연산에 특화된 새로운 종류의 반도체도 함께 주목받고 있습니다.
메모리 반도체에도 새로운 기회가 열린다
여기서 흥미로운 지점이 있습니다. 앞서 다룬 것처럼 한국은 메모리 반도체에 강점을 가진 나라인데, 온디바이스 AI 시대는 이 메모리 반도체에도 새로운 기회를 만들어내고 있습니다.
업계에서는 고부가가치 D램이 온디바이스 AI의 주요 솔루션으로 떠오르면서, 메모리 반도체를 만드는 기업들이 유리한 위치를 점하는 '공급자 우위' 흐름이 당분간 이어질 것으로 보고 있습니다. 특히 온디바이스 AI에 필요한 메모리는 기기마다 요구 사항이 조금씩 다르기 때문에, 앞으로는 정해진 규격을 대량으로 찍어내는 방식보다 맞춤형 주문 방식으로 사업 구조가 바뀔 것이라는 전망도 나옵니다.
어떤 기기들이 이 흐름의 중심에 있을까?
온디바이스 AI 기술이 발전하면서, PC와 스마트폰이 가장 먼저 이 변화의 중심에 서고 있습니다. 업계 전망에 따르면 2028년에는 전체 PC 시장의 80%, 스마트폰 시장의 60%가 AI 기능을 탑재한 이른바 'AI PC', 'AI 스마트폰'이 될 것으로 예상됩니다.
여기에 더해 XR 헤드셋, 로봇, 자율주행차, 드론 같은 다양한 기기에도 온디바이스 AI가 빠르게 적용될 것으로 전망되면서, 이런 하드웨어 경쟁력을 높이려는 시도가 계속 이어지고 있습니다.
데이터센터 AI와는 어떻게 이어질까?
온디바이스 AI가 커진다고 해서, 앞서 다룬 데이터센터 중심의 AI 투자가 줄어드는 건 아닙니다. 오히려 최근 시장에서는 AI 투자가 모델을 만들고 학습시키는 첫 번째 단계에서, 만들어진 모델을 실제로 활용하는(추론) 두 번째 단계로 넘어가고 있다는 분석이 나옵니다. 로봇이나 자율주행 같은 온디바이스 AI 기기들이 늘어날수록, 이 기기들이 쓰는 AI 모델을 지속적으로 개선하고 재학습시키는 작업은 여전히 데이터센터에서 이루어져야 하기 때문에, 온디바이스와 데이터센터 양쪽의 반도체 수요가 함께 커지는 선순환 구조가 만들어질 수 있다는 관측도 나오고 있습니다.
실제 시장과 연결해보기
이런 흐름 속에서 최근에는 GPU와 HBM을 넘어, CPU와 주문형반도체(ASIC), 일반 메모리, 기판 등 다양한 하드웨어 부품으로까지 수요가 확산되는 추세가 나타나고 있습니다. 온디바이스 AI 관련 시장은 아직 본격적으로 열린 지 얼마 되지 않은 초기 단계이기 때문에, 관련 기업들의 주가나 실적은 시장 상황에 따라 변동성이 클 수 있다는 점도 함께 유의할 필요가 있습니다.
앞으로 관련 뉴스를 이렇게 보면 됩니다
앞으로 "온디바이스 AI" 관련 뉴스를 보면 이렇게 생각해보세요.
"이건 데이터센터 얘기일까, 아니면 내 손안의 기기 얘기일까?"
"이 흐름이 어떤 종류의 반도체(GPU, NPU, 메모리) 수요와 연결되어 있을까?"
이렇게 생각하면, AI 반도체 산업을 데이터센터 중심의 큰 그림과, 개별 기기 중심의 새로운 흐름 양쪽에서 균형 있게 이해할 수 있습니다.
오늘 기억할 한 문장
온디바이스 AI는 인터넷 연결 없이 기기 안에서 직접 AI를 작동시키는 방식으로, 더 작고 전력 효율이 높은 반도체에 대한 새로운 수요를 만들어내고 있다.

댓글
댓글 쓰기