[IT 이슈] AI 반도체 (feat.삼성과 sk하이닉스)

이 글은 2024년 5월 11일 업로드된 포스팅을 옮긴 것입니다.

 

어제 뉴스를 보는데 엔비디아가 삼성 HBM을 언급했다는 보도를 하더라고요.

그래서 관련기사를 슥 찾아보다가 흥미로워서 글을 쓰게 되었습니다.

 

요즘 우리나라 반도체 기업이 AI 시장에서 어떤 기여를 하고 있는지에 대해 짧게 포스팅해보겠습니다.

(개인적인 공부용으로, 그냥 가볍게 봐주시길 바랍니다. 아직 굉장히 지엽적인 지식을 갖고있습니다..)

 

 

엔비디아 차세대 AI 반도체 공개…"삼성 HBM도 기회 열린다" - 뉴스1 (news1.kr)

엔비디아 차세대 AI 반도체 공개…"삼성 HBM도 기회 열린다"

 

얼마 전에 열린 GTC 개발자 콘퍼런스에서 엔비디아가 새로운 AI칩을 내놨는데요, 원래 AI 훈련에 쓰던 H100 반도체보다 연산 처리 속도가 2.5배 빠른 B100 반도체를 공개했다고 합니다.

 

AI 반도체의 핵심 부품은 HBM입니다. HBM이 뭐냐면 High Bandwith Memory (고대역폭 메모리)라고 휘발성 메모리인 DRAM을 촘촘하게 쌓아서 집적도를 높여 만든 메모리입니다. AI가 발전하면서 나날이 더 많은 데이터를 처리할 메모리가 요구되는데요, HBM이 그 역할을 하고 있습니다. 

 

우리나라는 SK하이닉스가 삼성보다 먼저 엔비디아에 HBM을 납품하게 되면서 흑자를 이루었는데, 잘은 모르겠지만 뉴스 보도에서는 엔비디아가 삼성 전자의 HBM도 기회가 있다, 좋게 보고 있다고 언급해줘서 그걸 전달한 것 같습니다. 현재는 SK하이닉스가 HBM시장의 선두주자입니다.

 

경계현 삼성전자 사장 "내년 초 AI 가속기 '마하1' 출시" - ZDNet korea

삼성도 마하1이라는 AI 반도체를 만들고 있다고 합니다.  마하1은 LLM(Large Language Models, 거대언어모델)을 지원합니다. LLM은 아주 방대한 양의 데이터를 학습한 AI 모델인데요, 주로 자연어 처리에 강점이 있다고 합니다.

 

그러니까 이전에는 AI가 언어에 대한 깊은 이해 없이 그저 통계적으로 관련이 있어보이는 정보만 가져오는 정도였는데, LLM은 사람의 언어를 '이해'하는 것처럼 동작한다는 거죠. 스스로 문장의 의도를 인식할 수 있을 정도니, 복잡한 주제로 논쟁도 가능하다고 합니다.

 

요즘 삼성이 밀고있는 게 온디바이스 AI로 실시간 통역을 지원하는 기능이던데, 이것과 관련이 있어보입니다. 마하1이 탑재된 AI면 말의 문맥, 의도까지 파악해서 인식이 가능해지니까 어쩌면 다른 언어로 비즈니스를 진행할 때도 유용하게 쓰일 수 있을 것 같네요..? 

 

아무튼 삼성은 AI에 통상적으로 쓰이는 HBM이 아닌 저전력 DRAM을 써서 LLM을 만들고 있다고 하네요. 삼성은 주로 범용 인공지능 (AGI) 전용 반도체를 만들기 위해 노력하는 것 같습니다. 올해 'AGI 컴퓨팅랩'도 신설한 것으로 보아 계속적으로 인간 지능에 가까운 수준의 AI를 위한 반도체를 개발하는 데 힘쓰는 것 같습니다.

 

여담) 온디바이스 AI 좋으면 갤럭시 S24 괜찮을지도.. 웨어러블 기기로 갤럭시 링도 나온다던데, 이건 기능이 그닥일 것 같아서 별로 기대 안 되지만 그래도 궁금하다...!  

 

참고) 대규모 언어 모델이란?

https://www.hpe.com/kr/ko/what-is/large-language-model.html