이번 주 반도체 뉴스는 GPU 확보와 HBM 가격 상승에 쏠렸습니다. 그러나 AI 서비스가 반복 호출되는 구간에서는 같은 칩을 확보했는지보다 답변 한 건을 처리하는 데 얼마가 드는지가 수익을 가릅니다. 7월 13일의 신호는 성능 가격표 뒤에서 메모리·패키징·전력 비용이 이동하는 경로에 있습니다.
이번 일일 뉴스에서 가장 많이 등장한 키워드 Top 10입니다.
2020년부터 2023년까지 AI 반도체 경쟁은 학습용 연산 성능을 높이는 데 집중됐습니다. 모델 규모를 키우고 GPU를 대량 확보하는 기업이 기술 우위를 인정받는 구간이었습니다. 지금도 HBM4 가격이 기가비트당 2달러에서 내년 4~5달러로 오를 수 있다는 전망이 나옵니다. 최저 가격 범위만 비교해도 두 배가 되는 변화입니다.
한국의 6월 반도체 수출은 448억2,000만달러로 전체 수출의 44%를 차지했습니다. 수출 100달러 가운데 44달러가 반도체에서 나왔다는 뜻입니다. 공급 부족이 이어지는 동안 GPU와 HBM 생산기업의 가격 결정력은 실적에 직접 반영될 수 있습니다.
다만 HBM 가격 상승만으로 다음 이익의 귀속을 설명하기는 어렵습니다. AI 서비스가 학습을 마친 뒤 수십억 번 호출되기 시작하면, 고객은 장비 한 대의 최고 성능보다 반복 사용에 드는 총비용을 계산하게 됩니다.
겉보기엔 GPU와 HBM을 높은 가격에 판매하는 경쟁 같지만, 실은 추론 한 건의 원가를 낮추는 운영비 경쟁입니다. 학습은 식당 주방을 한 번 세우는 투자에 가깝고, 추론은 주문이 들어올 때마다 나가는 식재료비와 전기료에 가깝습니다.
KV 캐싱은 이미 계산한 값을 메모리에 저장해 재계산을 줄입니다. 연산 부담은 낮아질 수 있지만, 메모리 용량과 속도, 데이터 이동 효율은 더 중요해집니다. 같은 GPU를 사용하더라도 메모리 배치와 냉각, 패키징, 네트워크 구조에 따라 실제 서비스 원가는 달라질 수 있습니다.
AI 서비스 운영자는 같은 품질의 응답을 더 적은 전력과 메모리, 연산으로 제공하려 합니다. 이때 경쟁 단위는 GPU 한 개가 아니라 GPU·HBM·첨단 패키징·네트워크·냉각 설비가 묶인 시스템 전체가 됩니다.
SK하이닉스가 ADR 발행으로 조달한 265억달러를 신규 공장과 장비에 투입하려는 흐름도 이 전환과 연결됩니다. 265억달러는 단순히 생산설비를 늘리는 자금이 아니라, 어느 세대의 추론 수요를 겨냥해 공급망을 설계할 것인지가 걸린 규모입니다. 설비가 늘어도 고객이 요구하는 비용 구조와 맞지 않으면 높은 출하량이 높은 수익성으로 이어지지 않을 수 있습니다.
겉보기엔 HBM 공급 부족이 계속되므로 기존 구조가 유지되는 것 같지만, 실은 고객이 GPU 의존도를 낮추는 기술을 병행하는 국면입니다. 반복적이고 표준화된 작업에서는 ASIC, NPU, 자체 AI 가속기의 경제성이 높아질 수 있습니다.
이는 GPU 수요가 곧바로 줄어든다는 뜻은 아닙니다. 범용성이 필요한 모델 개발과 급격한 수요 변화에는 GPU가 여전히 유리할 수 있습니다. 다만 고객별로 어떤 업무가 범용 GPU에 남고, 어떤 업무가 자체 가속기로 옮겨가는지를 구분해야 합니다. 평균 처리비용만이 아니라 수요 급증 때의 처리 실패율과 전력 소모까지 확인할 필요가 있습니다.
가중치 50%가 놓인 경로는 추론 수요 확대와 HBM·패키징 병목이 함께 이어지는 경우입니다. 메모리 가격은 강세를 유지하고, 캐싱과 패키징 수요도 늘어날 수 있습니다. 이 경우에는 메모리 가격 상승만 보지 말고 전력·네트워크·패키징 기업의 실적 연결 여부를 구분해야 합니다.
30% 경로에서는 자체 추론 칩이 확산하며 GPU 의존도가 점진적으로 낮아집니다. 범용 GPU 수요는 남아 있지만, 반복 호출이 많은 서비스는 비용이 낮은 구조로 이동할 수 있습니다. 20% 경로는 설비투자 확대에 비해 AI 서비스 수익화가 늦어지는 경우입니다. 이때 높은 HBM 가격은 고객의 대체 기술 전환을 더 빠르게 만들 수 있습니다.
겉보기엔 추론 원가가 새 승부처로 보이지만, 실은 GPU 중심 구조가 예상보다 오래 유지될 가능성도 있습니다. 자체 칩은 개발비가 크고 모델 변화에 유연하게 대응하기 어렵습니다. KV 캐싱과 소프트웨어 최적화가 메모리 효율을 높이면 하드웨어 수요 증가율도 낮아질 수 있습니다.
확인할 지표는 장비 출하량 하나가 아닙니다. 고객의 추론 비용, 전력 사용량, 메모리 사용량, 처리량, 계약 기간, 고객 집중도, 설비 가동률이 함께 봐야 할 숫자입니다. AI 반도체의 다음 경쟁은 더 비싼 칩을 누가 많이 파는가보다 반복 호출의 비용을 누가 낮추는가에서 갈릴 수 있습니다.