AI CPU 시장에 도전장 내민 일본…반도체 왕국 재건할까? [고든 정의 TECH+]

한때 일본 반도체 업계는 메모리는 물론 시스템 반도체 부분에서 세계 시장을 주름잡았습니다. 하지만 후발 주자인 한국에 메모리 반도체 시장의 주도권을 완전히 내주고 말았고 프로세서 부분에서는 인텔 같은 미국의 거대 IT 기업에 밀려 결국 반도체 산업의 변방으로 밀려나게 됐습니다. 한국이 메모리 반도체, 대만이 파운드리 생산 분야에서 절대적인 위상을 차지한 이후 일본 반도체 업계는 정부의 지원과 함께 권토중래를 꿈꾸고 있습니다.

이 가운데 후지쯔는 일본에서 고성능 CPU 개발 및 제조 기술을 지닌 몇 안 되는 회사 중 하나입니다. 후지쯔는 과거 썬 마이크로시스템스(나중에 오라클에 합병)가 개발한 SPARC 아키텍처 CPU 제조 및 개발에 뛰어들어 서버 및 워크스테이션 시스템을 만들기도 했습니다.

하지만 서버 및 워크스테이션 시장이 x86 CPU로 기울고 모바일에서는 ARM 아키텍처 천하가 되면서 후지쯔는 ARM 아키텍처 기반 고성능 CPU로 방향을 바꾸게 됩니다. ARM은 x86과 달리 라이선스를 얻어 누구나 개발하고 제조할 수 있기 때문입니다.

그렇게 해서 2020년 선보인 후지쯔의 후카쿠 슈퍼컴퓨터는 415 페타플롭스의 연산 능력으로 미국의 서밋 슈퍼컴퓨터를 누르고 세계 1위를 달성했습니다. 일본 이화학연구소(RIKEN)과 공동으로 개발한 후카쿠의 두뇌인 A64FX는 48개의 연산 코어와 4개의 보조 코어로 구성된 52코어 ARM CPU로 2.7 테라플롭스의 연산 능력을 자랑합니다.

TSMC의 7nm 공정에서 제조된 A64FX CPU는 88억 개의 트랜지스터를 집적해 지금 기준으로는 다소 작은 프로세서입니다. 대신 CPU 한 개의 4개의 HBM2 메모리 (각 8GB)와 붙여 사용하기 때문에 크기가 작아 수많은 CPU를 하나의 시스템에 집적할 수 있습니다. 후카쿠는 총 729.9만 개의 코어를 이용해 GPU 없이도 415 페타플롭스의 연산 속도를 달성했습니다.

하지만 그후 미국의 인텔, AMD, 엔비디아가 엑사스케일 슈퍼컴퓨터를 선보였기 때문에 후카쿠는 1위 자리에서 곧 물러나게 됐습니다. 물론 일본 정부는 슈퍼컴퓨터 경쟁에서 뒤지지 않기 위해 차세대 슈퍼컴퓨터를 계획하고 있습니다.

후지쯔는 차세대 슈퍼컴퓨터를 포함해서 데이터 센터 및 AI 시장을 노리고 새로운 CPU를 개발하고 있습니다. 2027년까지 출시를 목표로 한 차세대 고성능 CPU인 모나카 (Monaka)가 그것입니다. 모나카는 2nm 공정으로 제조되며 최신 ARM 아키텍처인 Armv9-A이 적용된 150개의 코어를 탑재할 예정입니다. 정확한 벡터 크기가 공개되지 않은 SVE2 (scalable vector extensions 2) 명령어를 사용하는데, 전작인 A64FX가 512bit SVE를 사용한 것을 감안하면 그보다 더 커질 것으로 예상됩니다. 메모리는 DDR5, 인터페이스는 PCIe 6.0 및 CXL 3.0을 지원합니다.

모나카는 여전히 베일에 가린 채 개발 중으로 정확한 목표 성능이나 이를 이용한 슈퍼컴퓨터 시스템의 성능에 대해서는 아직 알려진 바가 없습니다. 다만 코어 숫자가 3배로 늘어나고 최신 아키텍처를 적용하는 데다 개발 공백이 7년 정도나 되는 만큼 후카쿠보다 훨씬 빠른 엑사스케일 슈퍼컴퓨터가 등장할 것으로 예상됩니다. 또 모나카를 통해 데이터 센터와 AI 시장도 진입한다는 계획입니다. 후지쯔는 출시 시점에서 모나카가 다른 경쟁자보다 전력 대비 성능이 2배 정도 우수할 것으로 자신하고 있습니다.

후지쯔는 CPU 분야에서 오랜 기술력을 바탕으로 자신만의 길을 걷고 있지만, 솔직히 말해 인공지능이나 고성능 컴퓨터 분야에서는 시간이 지날수록 미국을 따라잡기가 어려워지는 것이 사실입니다. 자체 아키텍처 슈퍼컴퓨터 자체가 없는 우리나라보단 당연히 앞선 기술력을 지니고 있지만, 그래도 미국의 거대 기술 기업인 인텔이나 AMD, 엔비디아 등과 격차가 자꾸 벌어지는 것입니다. 이것은 시장 점유율과 밀접한 연관이 있습니다.

미국 IT 기업들의 서버 CPU와 GPU는 이미 세계 시장을 장악한 상태입니다. 서버 CPU 부분에서 인텔과 AMD를 넘볼 회사는 현재 거의 없다고 해도 무방한 수준이며 GPU 및 인공지능 시장에서는 엔비디아가 시장을 독점하고 있어 인텔이나 AMD도 끼어들기가 힘든 상황입니다. 이들은 자신들이 장악한 시장에서 막대한 돈을 벌고 이를 다시 연구비로 쏟아부어 차세대 제품 개발을 꾸준히 이어 나갈 뿐 아니라 해당 산업 생태계 자체를 자신들에게 유리하게 만들어 가고 있습니다.

그에 반해 잠시나마 1위를 했던 후카쿠에 사용된 A64FX도 결국 서버 및 고성능 컴퓨팅 시장에 진입하는 데는 실패했다고 봐도 무방합니다. 후카쿠 말고는 쓰이는 곳이 거의 없기 때문입니다. 결국 시장에서 돈을 벌어 차세대 프로세서를 개발하고 다시 이를 통해 시장에서 돈을 벌어들이는 선순환 구조가 어렵다 보니 차세대 제품 개발에 시간이 오래 걸리는 것으로 해석할 수 있습니다.

이런 점을 감안하면 일본 반도체 신화의 재건은 쉬워 보이지 않지만, 결과물이 나오기 전까지 속단은 금물일 수 있습니다. 모나카가 누구도 예상 못했던 깜짝 반전의 드라마를 쓰게 될지 아니면 일본식 갈라파고스화의 또 다른 상징이 될지 결과가 주목됩니다.