GPU 서버에서 모듈형 데이터센터까지, 바로AI가 쌓아 올린 풀스택의 시간
바로AI 이용덕 대표 = 자료제공
AI 모델은 쏟아지는데 인프라는 여전히 부족하다. 예산과 보안, 전력과 운영 인력의 한계 때문에 좋은 아이디어와 연구가 시도조차 되지 못하는 현실을 여러 번 목격한 끝에, 바로AI는 출발했다. 대학과 연구소, 중견기업이 “써보고 싶은데, 놓을 곳과 돌릴 여력이 없다”고 말하는 구조 자체를 바꿔보겠다는 결심이었다.
이용덕 대표는 여러 글로벌 반도체 기업에서 한국 지사를 이끌고, 특히 NVIDIA 코리아의 사장으로 13년을 보냈다. GPU 컴퓨팅이 연구실과 산업 현장을 어떻게 바꾸는지 가장 가까운 자리에서 지켜본 경험은 곧 사업의 방향이 됐다. 바로AI는 액체 냉각 GPU 서버 ‘포세이돈(POSEIDON)’, 싱글 테넌트 GPU 클라우드 ‘BARO SPACE’, 클러스터 관리 소프트웨어 ‘BARO Flex’, 셀(Cell) 단위 모듈형 AI 데이터센터 ‘HACC(Hybrid-Modular AI Computing Center)’를 하나의 스택으로 엮었다. 서버와 냉각, 소프트웨어와 데이터센터를 함께 설계·구축·운영하는 풀스택 구조로 “필요한 곳 어디서든 고성능 AI 인프라를 안정적으로 쓸 수 있는 환경”을 만들겠다는 것이 회사가 내세운 비전이다.
이 스택의 바닥에는 액체 냉각 기술이 깔려 있다. 공간 전체를 과도하게 냉각하는 대신 GPU와 서버를 직접 식히는 구조를 택해 전력 소모와 소음을 함께 줄였다. 덕분에 개발자 책상 옆에 둘 수 있는 워크스테이션형 서버부터, 도심과 캠퍼스 안에 들어가는 인빌딩형 센터까지 다양한 형태를 상정할 수 있게 됐다. HACC는 약 400개의 GPU를 한 셀 단위로 쌓아 올리는 모듈형 AI 데이터센터 모델이다. 250kW 수준의 전력과 기존 건물만 있으면 시작할 수 있도록 설계해, 초대형 데이터센터 외에 ‘현장 가까운’ AI 인프라 선택지를 더했다. 하남 테스트베드와 평택 BARO SPACE 센터는 이 구조가 실제로 작동하는지 검증하는 현장이다.
기업의 여정은 이용덕 대표 개인의 시간과도 이어진다. 그는 2000년대 초반 실리콘밸리 반도체 기업의 한국 사장을 맡으면서, 닷컴 버블 이후에도 새로운 기술 기업이 자라나는 현장을 반복해서 마주했다. 그 경험을 한국에 전하고 싶다는 마음으로 2005년부터 ‘실리콘밸리에서 바라본 인공지능과 미래 기술’을 주제로 강연을 시작했고, 강연이 끝나면 자연스럽게 멘토링이 이어졌다. 그렇게 쌓인 멘티가 지금은 전 세계 5만 명을 넘었다. 2018년 엔비디아를 그만둔 뒤에는 드림앤퓨처랩스라는 이름으로 무상 인큐베이팅 프로그램을 열어 70여 개 스타트업을 지원하고 있다. 바로AI는 이 개인적 미션과 병렬로 운영되는 또 하나의 미션 비즈니스에 가깝다.
바로AI와 드림앤퓨처랩스가 진행한 스타트업 챌린지 수상자들과 이용덕 대표 / 자료제공 바로AI
바로AI를 세울 때도 출발점은 기술이었다. 그는 먼저 법인을 세우기보다, GPU 서버를 설계할 수 있는 하드웨어·소프트웨어 엔지니어 팀을 찾는 일부터 시작했다고 회상한다. 원하는 팀이 모이자 비로소 사무실을 구하고 법인 설립을 진행했다. 서버 사업으로 캐시카우를 만들고, 매출의 상당 부분을 매년 신제품 개발에 재투자하면서도 외부 투자나 정부 과제에 기대지 않는 방식을 택한 것도 같은 맥락이다. 기술 개발에 집중하기 위해 ‘투자를 받으러 다니는 시간’조차 줄이겠다는 선택이었다.
그가 경영에서 가장 먼저 두는 가치는 기술, 실행, 사람이라는 세 단어로 정리된다. 기술 회사라면 무엇보다 기술의 리더십으로 승부해야 한다는 확신이 뚜렷하다. 그래서 바로AI는 서버를 판매하는 데서 멈추지 않고, 3년 무상 보증과 분기별 정기 점검을 약속하며 고객과 함께 인프라를 운영하는 파트너 역할을 자임한다. 액체 냉각 구조 덕분에 장시간 풀로드 환경에서도 안정적인 성능을 유지할 수 있다는 점은, 에너지 효율과 데이터센터 운영비를 함께 고민하는 고객에게 중요한 설득 포인트가 됐다.
실행에 대한 태도도 분명하다. 완벽한 계획보다 작은 파일럿 프로젝트라도 빨리 돌려 보고, 현장에서 배우는 쪽을 택하는 것이 그의 방식이다. 엔비디아 한국 지사에서, 그리고 바로AI를 세우는 과정에서 그는 “작게 시작해 빠르게 확장하는 것”이 기술 비즈니스에서 특히 유효하다는 것을 확인했다. 그래서 지금의 HACC 역시 수천억 원대 초대형 센터가 아닌, 두 달 남짓한 기간에 셀 단위로 구축해 확장하는 모델로 자리 잡았다. 국내에서 검증된 이 모델은 이제 남미를 포함한 해외 AI 인프라 수요와도 자연스럽게 연결되고 있다.
사람에 대한 철학은 다소 느리지만 단단한 길을 택한다. 이용덕 대표는 인재를 ‘이미 완성된 스펙’이 아니라 ‘회사가 함께 키울 수 있는 그릇’으로 정의한다. 그가 말하는 그릇은 성실함과 신뢰다. 공대를 나오지 않은 엔지니어도, 처음부터 마케팅을 전공한 것이 아닌 직원도, 회사의 시스템과 팀워크 안에서 성장할 수 있다고 믿는다. 성실과 신뢰라는 토대 위에 기술과 경험을 채워 넣는 방식으로, 지금의 40여 명 규모 팀이 만들어졌다.
HACC의 내부 / 자료제공 바로AI
창업을 준비하는 청년들에게 그는 멘토로서의 언어로 말을 건다. 기술을 두려움의 대상이 아니라 새로운 언어라고 생각하라고 조언한다. ‘언젠가’라는 시간에 기대기보다, 지금 손에 닿는 작은 시도부터 시작하라고도 덧붙인다. 누군가의 기대와 체면에 맞추느라 자기 꿈을 미루기보다, 스스로의 골(goal)을 세우고 끝까지 밀어붙이는 사람이 결국 자기 성장의 속도를 스스로 만들 수 있다는 믿음 때문이다. 그래서 이용덕 대표는 지금도 청년들과 스타트업 대표들에게 이렇게 말한다.
“기술의 기회는 누구에게나 열려 있습니다. 하지만 그 기회를 실제 성과로 바꾸는 힘은 결국 자신의 꿈을 스스로 정하고, 두려움 대신 실행을 선택하는 마음에서 나옵니다.”
){kind=small}
){kind=small}
){kind=small}
){kind=small}
