" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/18/mk/20260318113602929uptr.jpg" data-org-width="700" dmcf-mid="3owGUWztya" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/18/mk/20260318113602929uptr.jpg" width="658">

바다이야기하는법 눈물 없이는 볼 수 없는 삼성전자의 반전 스토리. <제미나이로 생성>



와신상담이라는 사자성어 알고 계시나요? 중국 춘추시대 오(吳)나라와 월(越)나라의 전쟁에서 유래한 이 단어는 ‘굴욕을 당한 사람이 이를 잊지 않기 위해 고통을 기꺼이 껴안고, 결국에는 굴욕을 승리로 극복해 뽀빠이릴게임 낸다는 스토리’가 담겨져있습니다.

이번주 미국 산호세에서 열리고 있는 엔비디아의 연례 행사 GTC2026에서 이런 와신상담이라는 사자성어에 어울리는 사건이 있었습니다. 바로 삼성전자 얘기입니다.
지금으로부터 2년전인 2024년 3월22일. 동일한 장소에서 GTC2024가 열립니다. 그 현장에 저도 있었 야마토게임 는데요. 당시 삼성전자는 고대역폭메모리 6세대 제품인 HBM3E를 엔비디아에 납품하기 위해 제품 품질 테스트를 받고 있었습니다.
경쟁사인 SK하이닉스가 불과 사흘전 ‘HBM3E’ 양산을 선언하고 엔비디아에 대량 공급을 시작한 가운데 삼성전자는 퀄 테스트도 통과하지 못한 상황이었던 것입니다.
2년전 삼성전자는 GTC2024 바다이야기게임사이트 에 부스를 내고 HBM3E 제품을 전시하고 있었습니다. 그리고 젠슨 황 엔비디아 CEO가 그 부스를 찾아왔죠. 경쟁사는 양산에 들어갔는데 삼성전자는 테스트도 통과 못한 절망적인 상황. 황 CEO는 전시된 HBM3E 12H 제품에 ‘젠슨이 승인했다(JENSEN APPROVED)’라고 사인을 남기고 떠납니다.
공급사의 CEO가 저런 사인을 남 릴게임바다신2 기고 떠났다면 이건 명백한 그린라이트라고 받아들여질 법했습니다. 덕분에 삼성전자 주가가 당일 오르기도 했죠.

" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/18/mk/20260318140006184ejit.png" data-org-width="647" dmcf-mid="KCx5iVoMWY" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/18/mk/20260318140006184ejit.png" width="658">

GTC2024에서 삼성 부스를 찾은 젠슨 황 엔비디아 CEO가 삼성전자의 HBM3E 제품에 ‘젠슨이 승인하다’에 사인을 남겼습니다. 하지만.. <삼성전자>



하지만 HBM3E가 퀄을 통과한 것은 이때로부터 한참 시간이 지난 1년 반 후 2025년 9월경이었습니다. 1년 반이라는 시간은 경쟁사가 최초로 공급을 시작하고 나서 판매할만큼 다 판매한 후 이제는 다음 세대인 HBM4의 퀄을 준비하는 단계에 들어갈 정도로 긴 시간이었습니다.

물론 그때라도 엔비디아에 공급을 하게된 것은 천만 다행이었지만, 1년 반이라는 시간은 삼성전자 반도체 사업부의 기술에 대한 자존심을 마구 짓밟아놨다고 할 정도로 잔인한 시간이었을 겁니다. 특히나 해당 업무를 담당했던 임원과 실무자였다면 엄청난 스트레스에 시달렸을 것은 자명한 일이었습니다.
1년 반동안 삼성전자에는 많은 일이 있었습니다. 2024년 6월 삼성전자 반도체 사업의 대표이사가 교체됩니다. 삼성전자 반도체 사업부는 2023년 14조8800억원 적자라는 어마어마한 적자를 내는데요. 2018년에 이뤄진 과잉설비투자와 코비드19 기간의 IT붐에 따른 여파가 컸습니다. 하지만 당시 경계현 DS부문장이 교체된 것에는 HBM3E 퀄 테스트의 실패도 틀림없이 영향이 있었을 겁니다.
경계현 사장이 교체되고 돌아온 것은 삼성전자의 올드보이(OB)인 전영현 부회장. 삼성전자 메모리사업부장을 거쳤다가 2017년 배터리 사업을 하는 삼성SDI로 갔던 그가 무려 7년만에 반도체로 돌아온 것이었습니다.
물론 대표이사만 바뀐 것은 아니었습니다. HBM과 관련된 많은 임원들이 대거 교체됐습니다. 메모리사업부장, 파운드리 사업부장이 교체됐죠. 더군다나 메모리사업부장은 반도체로 복귀한 전영현 부회장이 직접 맡았습니다. 파운드리의 경우 사업부장과 CTO를 별도로 뒀습니다. 영업을 담당하는 사람과 기술을 담당하는 사람을 나눠서 두명을 붙인거죠. 이때 파운드리 사업부장을 맡게된 사람이 다름아닌 2024년 GTC2024 삼성 부스에서 젠슨 황 CEO에게서 사인을 받은 당시 한진만 삼성전자 반도체 미주총괄이었습니다.
이제는 한국에서 주식투자를 하는 사람이면 누구나 알고있는 반도체인 HBM. D램을 여러개 쌓아서 연산을 담당하는 GPU에 제공하는 데이터의 양을 엄청나게 늘린 메모리 반도체입니다. 그런데 HBM은 여러개의 D램을 쌓다보니 적층된 D램들 가장 밑에 존재하는 로직 다이(베이스 다이)라고 하는 부분의 역할이 중요합니다. D램 처럼 저장 목적인 아닌 CPU나 GPU같은 연산의 역할을 하는 반도체가 이 로직 다이입니다. 이 로직다이는 D램 공정이 아닌 로직 공정이라고해서 파운드리에서 만드는데요. HBM3E 까지만해도 D램을 만드는 메모리 회사들이 직접 이 베이스 다이를 만들었습니다. 하지만 점점 더 뛰어난 성능의 HBM이 요구되면서 이 로직 공정의 중요성이 커져가고 있습니다. 이런 점에서 HBM은 메모리 반도체와 로직 반도체가 결합된 반도체라고 할 수 있습니다.




대표이사부터 담당임원까지 교체된 삼성전자는 HBM3E보다는 HBM4에 승부수를 던집니다. HBM을 구성하는 각 요소들을 가장 최고의 기술을 사용해 만들기로 한 것입니다.

첫번째로 D램을 재설계합니다. D램을 쌓아서 만드는 제품인 만큼 개별 D램의 성능이 전체 성능을 좌우하겠죠? 2023년 개발한 D1b D램 공정을 포기하고 D1c로 처음부터 D램을 다시 설계합니다.
두번째로 좋은 로직 다이를 사용합니다. 최첨단 반도체를 사용하는 4나노 공정에서 로직다이를 만드는 거죠. 보통 10나노 정도 공정에서 로직 다이를 만들던 것을 아득히 뛰어넘습니다. 닭잡는데 소잡는 칼을 쓴다고 비유하면 적절할까요.
삼성이 두번째 방법을 선택할 수 있었던 것은 직접 파운드리를 운영하고 있기 때문입니다. 경쟁사인 SK하이닉스나 마이크론은 이를 위해서 첨단 로직 공정을 가지고 있는 TSMC에 가서 이를 만들어달라고 해야했기 때문입니다.
이렇게 되니 성능이 좋아질 수 밖에 없습니다. 삼성전자는 10월에 엔비디아에 샘플을 공급했고, 12월에는 엔비디아로부터 합격점을 받습니다. 그리고 올해 2월에는 양산을 선언합니다. 일사천리로 공급이 이뤄진 것입니다.
2024년 GTC, 2025년 GTC에서만 해도 틀림없이 메모리 3사 중에 꼴등이었던 삼성전자가 2026년에는 가장 먼저 엔비디아의 퀄을 통과하고, 기술력에서 1등이 된 것입니다. 마침 16일 마이크론까지 HBM4의 양산을 시작했다고 발표하면서 구도는 2024년과 달라졌습니다.

" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/18/mk/20260318140008923ysab.png" data-org-width="700" dmcf-mid="4Ar8hjvmC8" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/18/mk/20260318140008923ysab.png" width="658">

2026년 GTC2026 삼성전자 부스를 찾은 젠슨 황 엔비디아 CEO(가운데)가 황상준 삼성전자 메모리개발 담당 부사장(왼쪽), 한진만 삼성전자 파운드리사업부장(오른쪽)과 기념촬영을 했습니다. <삼성전자>



GTC2026에서도 젠슨 황 엔비디아 CEO가 삼성 부스를 찾아옵니다. 여기서 황 CEO를 맞이한 사람은 다름아닌 2024년 GTC에서 굴욕을 당한 한진만 삼성전자 파운드리사업부장(사장)이었습니다. 이날 황 CEO는 삼성전자 파운드리가 자신들의 새로운 추론 전용 반도체인 그록3 LPU를 만들고 있다고 공개까지 했으니 한진만 사장은 날아갈 것 같은 기분이었을 겁니다.

그렇다면 SK하이닉스는 HBM 경쟁에서 뒤쳐졌느냐. 그건 또 그렇지 않습니다. 퀄의 통과는 늦었지만 물량 측면에서 결국엔 SK하이닉스의 HBM을 사용할 수 밖에 없기 때문입니다. 결과적으로 엔비디아에서 가장 많은 매출을 거둘 회사는 SK하이닉스가 될 가능성이 높습니다.
2년전과 지금은 반도체 시장 자체의 상황이 완전히 다릅니다. 2024년 3월만해도 우리 메모리 반도체 기업들이 지난해 대규모 적자를 내고 있었기 때문에, 엔비디아의 HBM 물량이 간절했습니다. 2024년과 2025년 삼성전자와 SK하이닉스의 영업이익에 격차가 크게 난 것은 당시 HBM3E를 엔비디아에 공급하느냐 마느냐가 중요했습니다.
그런데 지금은 굳이 HBM이 아니더라도 일반 D램만 만들어도 이를 구매하기 위해 전세계 기업들이 줄을 서고 있습니다. 또, 엔비디아에 파는 HBM이 아니더라도 구글, 마이크로소프트, 아마존, 메타, 바이트댄스 등 HBM을 필요로 하는 다른 기업들도 많습니다.
그런 점에서 2024년 삼성전자에게 굴욕을 맛보게 해줬던 엔비디아가 2026년에는 반대로 SK하이닉스에 대해서 ‘확답’을 주지 않는 것은 공급사를 길들이기 위한 전략이라고 볼수도 있습니다. 앞서 말씀드린 대로 삼성의 HBM4는 성능이 좋을 수 밖에 없습니다. 하지만 그만큼 삼성 입장에서는 원가도 비싸고 수율도 낮을 수 밖에 없죠. HBM4 덕에 삼성전자는 와신상담에 성공했지만, 실제 돈을 벌어주는 것은 일반 D램일 수도 있습니다.
SK하이닉스 입장에서도 HBM4 공급을 1등으로 한다는 ‘훈장’보다는, 어떻게든 낮은 원가로 HBM4를 만들어서 엔비디아나 다른 빅테크 기업에게 많이 판매하는 것이 실제 수익성은 높을 수 있습니다.
이런 점에서 진정한 와신상담은 삼성전자가 그록 LPU를 생산하게된 것 일수도 있다는 생각이 듭니다. 경쟁사의 점유율을 빼앗아 온 것이 아닌 완전히 새로운 시장에서 얻어낸 것이기 때문입니다.
(하편에서 계속)

전자만사는 반도체부터 시작해 스마트폰, TV, AI를 작동시키는 데이터센터까지 전자산업의 모든 이슈를 쉽고 가볍게 다룹니다. 하편은 금요일 오후 mk.co.kr 프리미엄 연재에서 읽어보실 수 있습니다.