GPU 제한 없이 AI인프라 소프트웨어 개발
■ 모레는 어떤 회사
AI 스타트업 모레(Moreh, 대표 조강원)는 엔비디아처럼 AI 인프라 플랫폼을 제공하는 기업이다.
사람들은 엔비디아를 GPU(그래픽 처리장치)를 공급하는 기업으로 알고 있다.
하지만 이보다 더 중요한 요소는 개발자들이 GPU를 기반으로 AI 모델 학습을 시킬 수 있도록 연결시켜 주는 ‘쿠다(CUDA)’를 보유하고 있다는 점이다. 현재 전 세계 수많은 기업들이 엔비디아의 GPU 기반 AI 인프라 생태계에 갇혀 있는 이유이기도 하다.
모레는 엔비디아의 쿠다와 동일한 서비스를 제공하는 플랫폼을 개발했다.
AI 인프라 플랫폼의 역할은 개발자들이 AI 모델을 학습시키고 추론하기 위해 GPU 영역인 컴퓨팅 인프라를 사용하게 되는데 그 사이를 연결해주는 소프트웨어다.
모레는 엔비디아의 그래픽처리장치(GPU) 같은 특정 반도체에 얽매이지 않고 AI 모델을 개발·서비스할 수 있게 해주는 SW 개발사다.
현재 GPU용 SW 프로그래밍 생태계를 장악하고 있는 엔비디아의 ‘쿠다’ 플랫폼에 대항해 다양한 GPU를 효과적으로 활용할 수 있는 인프라 SW를 구축했다.
모레 관계자는 “시장은 엔비디아 GPU의 대항마만큼이나 쿠다의 대항마를 찾고 있다”며 “모레의 솔루션은 기존에 존재하는 다양한 AI 모델을 코드 변경 없이 엔비디아 GPU가 아닌 다른 GPU나 AI 프로세서에서도 그대로 사용할 수 있기 때문에 엔비디아 GPU를 구하지 못해 어려움을 겪는 AI 업체에 의미 있는 돌파구를 제공할 수 있을 것”이라고 전했다.
■ 창업자 스토리
2020년 9월 설립된 모레의 조 대표와 초기 핵심 인력은 토종 슈퍼컴퓨터 ‘천둥’을 개발한 서울대 매니코어프로그래밍연구단 출신들이다. 초대 규모 클러스터 솔루션 분야에서 글로벌 최고 수준 연구개발(R&D) 역량을 보유하고 있다.
어려운 대학 연구실 환경에서도 구축비용과 전력효율을 극대화하며 SW 최적화에 집중했던 역량은 그대로 스타트업 창업으로 이어졌다.
AI 시대가 열리면서 꽃을 피웠다. 엔비디아 GPU 공급 대란이 계속되고 GPU를 활용한 AI 모델 개발·이용에 대한 수요는 폭증하고 있다.
모레는 GPT와 같은 초거대 AI 모델을 개발, 운영하는 데 있어 엔비디아에 대한 의존도를 획기적으로 낮출 수 있도록 해준다.
■ 기업 가치
모레의 SW는 AMD 인스팅트 GPU와 KT클라우드의 서비스 환경 안에서 ‘하이퍼스케일 AI 컴퓨팅(HAC)’이라는 상품명으로 상용되고 있다.
2021년 출시 이후 현재까지 100곳이 넘는 고객사를 확보했다.
이러한 역량을 인정 받아 지난해 10월 KT를 비롯해 AMD 등 주요 반도체·AI 분야 기업으로부터 2200만 달러 규모 시리즈B 라운드 투자를 받았다.
또 ‘2024 소비자 선정 우수기업 브랜드대상’에서 AI 솔루션 부문 수상 기업으로 선정됐다.
■ 성공 요인
모레는 거대언어모델(LLM) 개발과 사업화에 필수적 솔루션을 개발한다.
모레는 창업 초기부터 GPU 자원의 효율적 사용과 클러스터링 SW 최적화 기술로 주목 받았다.
클러스터에서 GPU 개수가 늘어날 때 발생하는 문제를 자동화해 해결하고 GPU 자원을 유연하게 할당해 비용 절감하고 성능을 최적화는 데 성공했다.
창업 초기인 2021년부터 KT와 전략적 협업을 통해 AI 클라우드 인프라를 구축했다. 현재 모레의 SW는 AMD 인스팅트(Instinct) GPU와 함께 KT의 AI 클라우드 서비스에서 ‘하이퍼스케일 AI 컴퓨팅(HAC)’이라는 상품명으로 상용 서비스 중이다.
클라우드 서비스 제공사(CSP)에 맞춤형 기능을 제공하고 성능에 있어서도 엔비디아의 GPU 서버와 대등하거나 오히려 더 뛰어난 부분도 있다는 게 모레 측 설명이다.
모레의 솔루션은 AI 개발·운영에선 더 나은 기능을 제공해야 한다는 것이다. 모레가 자체 LLM을 개발하고 이를 허깅페이스 등을 통해 공개한 것도 AI 개발·이용 역량을 보여주기 위함이 컸다.
조 대표는 “최고 수준의 LLM을 빠르게 개발하기 위해서는 무엇보다 효율적인 모델 학습 방법을 확보하는 것이 중요하다. 모레가 자체 개발한 ‘MoAI’ 플랫폼은 고도의 병렬화 처리 기법을 통해 대규모 AI 모델을 효율적으로 개발하고 학습하도록 돕는다”고 강조했다.
■ 신규 사업 등 미래 전략
‘모레’가 반도체 설계 전설로 꼽히는 짐 켈러 텐스토렌트 최고경영자(CEO) 겸 창업자와 손잡고 AI 반도체 생태계 확장에 나선다.
2016년 설립된 텐스토렌트는 AMD·애플·테슬라·인텔 등을 거친 반도체 전문가 켈러 CEO가 이끌고 있는 AI 반도체 스타트업이다.
모레와 텐스토렌트는 개방된 SW 플랫폼을 통해 누구나 어떠한 반도체 칩으로도 자유로운 개발이 가능해야 한다는 데 인식을 같이하고 다수의 합동 연구개발(R&D) 프로젝트를 진행하고 있다.