"총 7656장의 엔비디아 그래픽처리장치(GPU) B200 자원을 제공하는 'NHN팩토리X 서울'은 국내 최대 규모로 수랭식 냉각 방식을 적용해 고성능 GPU의 발열을 안정적으로 낮추고 있습니다." 총 7656장의 엔비디아 그래픽처리장치(GPU) B200 자원을 제공하는 'NHN팩토리X 서울' 내부 모습. NHN클라우드 제공. 낮 최고기온 38도. 폭염이 강타한 7일 서울 양평동3가 도심 속 아파트 단지 옆 자리잡은 NHN클라우드의 인공지능(AI) 데이터센터 NHN팩토리X 서울 내부에서는 서늘한 기온 속에서 고성능 GPU가 '윙' 소리를 내며 분주하게 돌아가고 있었다. NHN팩토리X 서울이 입주해 있는 10층 규모의 데이터센터는 데이터홀이 3층부터 10층까지 구성돼있으며, NHN클라우드는 현재 3층부터 6층까지 활용하고 있다. 3~5층은 정부 AI 컴퓨팅 자원을 운영하는 공간으로 활용되고 있는데, 3층과 4층은 4080장의 GPU가 하나의 통합 클러스터 환경으로 연결됐다. 이를 통해 대규모 GPU 자원을 하나의 연산 환경처럼 활용할 수 있다. 데이터센터 6층 내부에 들어서자 8미터에 달하는 높은 층고가 눈에 띄었다. 층고가 높을수록 냉각을 시키기 쉽기 때문에 GPU 서버를 비롯해 스토리지 장비 등의 열기를 식히기 위해 층고를 높게 설계했다는 설명이다. NHN클라우드는 지난해 과학기술정보통신부가 추진하는 'GPU 확보·구축·운용 지원사업'의 주요 사업자로 선정됐다 무료충전야마토 . 이를 통해 확보한 엔비디아의 GPU B200 7656장을 바탕으로 4080장(510노드) 규모 'NIPA-CL1', 2040장(255노드) 규모 'NIPA-CL2' 클러스터를 구축했다. 특히 NIPA-CL1의 경우 지난 6월 '글로벌 슈퍼컴퓨터 TOP500'에서 국내 최고인 세계 20위에 올랐다. 'NHN팩토리X 서울' 상부 수랭 배관 모습. NHN클라우드 제공. NHN팩토리X 서울은 고성능 GPU가 집적된 AI 컴퓨팅 환경에 대응하기 위해 수랭식 DLC(Direct Liquid Cooling) 냉각방식을 적용한 것이 특징이다. 최근 생성형 AI와 대규모 AI 모델 학습·추론 수요가 확대되면서 데이터센터에는 기존 대비 훨씬 높은 연산 성능을 가진 GPU 서버가 요구되고 있다. 고성능 GPU는 많은 전력을 소비하는 동시에 높은 열을 발생시켜 효율적인 냉각 기술 확보가 핵심이다. 데이터센터 상부를 보니 수랭 배관이 나란히 이어져 있었다. 이 배관에는 물이 꽉 차 있으며, 데이터센터의 열기를 식혀준다. AIDC에서는 한정된 공간 안에 더 많은 GPU를 배치하고 높은 연산 성능을 확보해야 해서 기존 공랭 방식만으로는 증가하는 발열량을 관리하는 데 한계가 있다. 물의 무게도 상당하기 때문에 AIDC를 설계할 때는 냉각을 위한 물과 장비 하중을 다 받쳐줄 수 있는 설계가 필수라는 설명이다 모바일 게임장 24 . 수랭식 DLC 냉각방식은 냉각수가 서버 내부의 발열 부품인 GPU와 중앙처리장치(CPU)에 직접 접촉하는 콜드 플레이트를 통해 열을 흡수하고 제거한다. 기존 공랭식 냉각이 공기의 흐름을 활용해 장비의 열을 낮추는 방식이라면, 수랭식은 열전달 효율이 높은 액체를 활용해 고집적·고발열 환경에 대응한다. 예를 들어 공랭식 냉각의 경우 B200은 14.3KW의 전력을 요구하는데 수랭식 냉각을 적용하면 12.3KW로 전력이 줄어든다. NHN클라우드가 광주와 서울에 AIDC를 운영한 결과 장애발생률도 수랭식이 공랭식보다 낮았다. 소음 역시 수랭식은 공랭식보다 훨씬 작아 서버 랙이 가득한 복도에서도 어렵지 않게 대화를 나눌 수 있었다. 기자가 방문한 관제실에서는 직원들이 상주하면서 데이터센터 주요 설비와 IT 인프라 상태를 24시간 모니터링하고 있었다. 주간 3명, 야간 2명의 인력이 GPU 서버 상태, 클러스터 운영 현황, 네트워크 연결 상태 등을 실시간으로 확인했다. 이일준 NHN클라우드 기술사업부장(이사는 "AI 데이터센터는 대규모 GPU를 활용하는 AI 학습·추론 워크로드에 맞춰 전력, 냉각, 네트워크, 서버 설계를 고도화한 곳으로 모니터링 체계가 중요하다"면서 "냉각수가 제때 공급이 안되거나 냉각수의 온도가 과도하게 높으면 GPU 성능이 떨어지고 심지어 스스로 셧다운을 하는 경우가 있기 때문에 냉각수에 대한 모니터링도 신경쓰고 있다"고 말했다. "text-alig