본문 바로가기
bar_progress

글자크기 설정

닫기

[르포]AI 시대 과열하는 GPU‥물로 식힌다

시계아이콘01분 38초 소요
숏뉴스
숏 뉴스 AI 요약 기술은 핵심만 전달합니다. 전체 내용의 이해를 위해 기사 본문을 확인해주세요.

불러오는 중...

닫기
뉴스듣기 글자크기

수랭식 냉각시스템 급부상
물·액체로 뜨거워진 슈퍼컴퓨터·GPU 식혀
공랭식에 비해 소음 적고 공간 덜 차지해
향후 도입 확산 예상‥선제적 준비 필요

경기도 남양주에 위치한 인공지능(AI) 풀스택(Fullstack) 플랫폼 구축 및 운영 전문기업 엠키스코어 사옥에는 특이한 방이 있다. 목조 주택으로 지어진 사옥에 데이터센터를 가정한 대형 슈퍼컴퓨터시스템을 설치한 것이다. 슈퍼컴퓨터의 양옆으로 붙어 있는 파이프로 액체가 흐르고 있었다. 차가운 액체가 들어가 더운물로 나오는 방식이다. 슈퍼컴퓨터마다 주렁주렁 파이프가 달려 있었다. 수천만 원이 넘는 고가의 전자장비인데 액체가 새어 나와 고장이 나는 일은 없겠냐고 물었더니 그런 일이 없도록 철저한 대비한 시스템이라는 설명을 들을 수 있었다.

[르포]AI 시대 과열하는 GPU‥물로 식힌다 김종훈 엠키스코어 상무가 수랭식 냉각 시스템을 위한 칠러를 소개하고 있다. 사진=백종민 기자
AD

수랭식의 장점은 즉시 확인할 수 있었다. 엔비디아의 ‘H100’ 그래픽처리장치(GPU)가 돌아가고 있었지만 다른 데이터 센터와는 소음의 크기가 달랐다. 통상 데이터 센터를 방문하면 손목의 스마트워치가 80db 정도의 소음이 발생하고 있다고 경고했지만, 지난달 21일은 60db 정도에 그쳤다. 김종훈 엠키스코어 상무는 "수랭식 냉각 시스템으로 컴퓨터의 발열을 식히고 있어 소음이 적다"고 설명했다. 김 상무에 따르면 공기를 이용한 냉각에 비해 물이나 윤활유를 사용하는 수랭식 냉각 방식은 데이터 센터의 효율을 극대화하는 동시에 전기 소모와 소음을 줄이는 다양한 장점이 있다.


전자제품인 서버를 액체로 냉각한다는 것은 과거에는 존재하지 않던 기술이다. 인공지능(AI)시대가 열리며 상황이 달라졌다. 많은 열을 발산하는 GPU를 사용하는 서버가 늘어나면서 냉각기술이 주목받고 있다. 오토바이가 공기로 엔진 열을 식히지만, 엔진 크기가 큰 자동차는 라디에이터를 이용해 물로 열을 식히는 것과 같은 원리다. 엠키스코어에 따르면 일반적인 공랭식 서버의 경우 평균 94킬로와트시(㎾h)를 소모하는 데 비해 수랭식 냉각은 전기료를 10% 이상 절감해 약 82㎾h만 사용한다. 전력 소모가 큰 AI 서버 환경에서는 중요한 장점이다.


엔비디아 최신 ‘블랙웰’ GPU의 등장은 수랭식 냉각 기술을 업계 필수로 만들고 있다. 블랙웰 GPU는 이전보다 높은 1000~1200W의 전력을 소모한다. 기존 H100 GPU에 비해 강력한 성능을 발휘하지만, 발열량 증가는 ‘필요악’이다. 일반적인 공랭 방식으로는 이러한 발열을 효과적으로 제어하기 어렵다. 오픈AI의 챗GPT를 위한 컴퓨터 자원을 제공하는 마이크로소프트가 전 세계에서 가장 먼저 도입한 블랙웰 GB200 서버에 세계 최초로 수랭식 방식을 적용했다고 밝히기도 했다.

[르포]AI 시대 과열하는 GPU‥물로 식힌다 수랭식 냉각 시스템을 사용한 슈퍼컴퓨터에는 호스나 파이프가 연결돼있다. 오른쪽의 호스로는 차가운 액체가 들어가고 왼쪽의 호스로는 열기를 식힌 뜨거워진 액체가 흘러나온다. 왼쪽의 호스의 온도가 오른쪽에 비해 확연하게 높은 것을 쉽게 알 수 있다. 사진=백종민 기자

수랭식 냉각 시스템을 도입하면 공간적으로 활용성이 높아진다. 데이터 센터 외부에 존재하는 수많은 냉각팬을 없앨 수 있다. 대신 냉동기 냉각창치인 칠러가 필요하다. 엠키스코어 사옥 외부에도 특수 제작한 칠러가 놓여 있었다. 칠러는 주로 냉동창고를 위해 사용됐지만, 이제는 첨단 데이터 서버를 위해 사용된다. 김 상무는 "칠러도 공급 병목 현상이 예상된다. 사전에 주문하지 않으면 제때 공급받지 못할 수 있다"고 말했다. 향후 신형 GPU 도입을 위해 데이터 센터를 설계하려면 일찌감치 수랭식 시스템 도입을 위한 준비에 나서야 한다는 조언이다.


수랭식과 경쟁하는 방식이 액체 냉각이다. 액체에 서버나 컴퓨터를 통째로 담가 열을 식히는 방식이다. 다만 이 방식은 엔비디아가 직접 지원을 밝히지 않고 있다. 엔비디아 관계자는 사회관계망서비스(SNS)를 통해 수랭식 냉각이 차세대 GPU 서버를 수용하는 데이터 센터의 기본 요구사항이라고 강조했다.


AD

이미 국내에도 수랭식 냉각 방식을 적용한 곳이 있다. 국가슈퍼컴퓨터를 운용하는 한국과학기술정보연구원(KISTI)이다. KISTI는 컴퓨터에 직접 파이프를 연결하지는 않은 절반의 수랭식이었다. 이식 KISTI 국가슈퍼컴퓨팅본부장은 "도입 예정인 슈퍼컴퓨터 6호기는 시스템 내부로 파이프나 호스를 직접 연결하는 수랭식 냉각을 도입하는 것이 불가피할 것으로 보인다"고 말했다.




남양주=백종민 기자 cinqange@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

AD
AD

당신이 궁금할 이슈 콘텐츠

AD

맞춤콘텐츠

AD

실시간 핫이슈

AD

놓칠 수 없는 이슈 픽

  • 25.07.2706:00
    "파월은 美에 해악" 트럼프 연준 공격에 흔들리는 세계경제
    "파월은 美에 해악" 트럼프 연준 공격에 흔들리는 세계경제

    도널드 트럼프 미국 대통령이 제롬 파월 연방준비제도(Fed) 의장에 대한 사임 압박을 지속적으로 강화하고 있어 금융시장과 세계 경제에 미칠 파장에 관심이 집중되고 있다. 트럼프 대통령은 파웰 의장이 금리를 충분히 내리지 않아 미국 경제가 어려움을 겪고 있다며 강한 사퇴 압력을 가하고 있지만, 스콧 베선트 재무장관을 비롯한 측근들은 이에 대해 신중한 입장을 보이고 있다. 트럼프 대통령이 파월 의장에게 사임 압력을 가

  • 25.07.2606:00
    영·독 2차대전 후 첫 상호방위 조약…과거사도 잊게 한 러 위협
    영·독 2차대전 후 첫 상호방위 조약…과거사도 잊게 한 러 위협

    영국과 독일이 제2차 세계대전 이후 처음으로 상호방위조약을 체결하며 유럽의 안보 지형에 획기적인 변화가 일어나고 있다. 이번 협정으로 영국, 프랑스, 독일의 3각 방위체제가 완성되면서, 러시아의 위협에 대응하는 유럽의 자체 방어 능력이 크게 강화될 전망이다. 특히 주목할 점은 이번 협정이 단순한 군사협력을 넘어 핵 억지력 공유까지 포함한다는 것이다. 협정 내용에는 "양국이 핵 문제를 포함한 상호 이익의 방위 문제

  • 25.07.2006:30
    "이메일 실수 때문에 13조 쓰게 생겼네"…역대급 안보사고 낸 英 국방부
    "이메일 실수 때문에 13조 쓰게 생겼네"…역대급 안보사고 낸 英 국방부

    영국 국방부의 이메일 실수로 인해 아프가니스탄 협력자 2만여명의 개인정보가 유출되며, 이들의 안전을 위한 망명 프로젝트에 13조원이 투입될 예정이어서 "세계에서 가장 비싼 이메일"이라는 조롱을 받고 있다. 이 사건은 2022년에 발생했지만, 영국 국방부가 협력자들의 개인정보 보호를 위해 3년간 사건 공개를 막아달라고 법원에 요청하면서 이제야 전말이 드러났다. 당시 영국 특수부대 군인이 아프가니스탄 영국군 협력자

  • 25.07.1906:30
    트럼프 우크라 지원 방침에 반발하는 'MAGA'
    트럼프 우크라 지원 방침에 반발하는 'MAGA'

    도널드 트럼프 미국 대통령이 우크라이나에 패트리어트 시스템을 포함한 공격용 무기 지원을 결정했다고 18일(현지시간) 발표했다. 이는 그동안 우크라이나 전쟁의 조기 종료와 미군 철수를 공약으로 내세웠던 트럼프 대통령의 기존 입장과 정면으로 배치되는 결정이다. 이번 결정에 트럼프 대통령의 핵심 지지층으로 알려진 마가(MAGA·미국을 다시 위대하게) 지지자들이 반발하면서 화제가 되고 있다. 트럼프 대통령은 러시아에

  • 25.07.1306:00
    푸틴이 준 권총으로 자살?…러 교통부장관 의문사
    푸틴이 준 권총으로 자살?…러 교통부장관 의문사

    러시아의 로만 스타로보이트 교통부 장관이 지난 7일(현지시간) 블라디미르 푸틴 대통령으로부터 해임 통보를 받은 지 수 시간 만에 자신의 차량에서 숨진 채 발견되면서 러시아 정계에 큰 충격을 주고 있다. 현장에서는 푸틴 대통령이 과거 공로상으로 그에게 수여한 권총이 발견됐고, 당국은 그의 자살로 결론지었다. 그러나 러시아 안팎에서는 타살 가능성을 제기하는 목소리가 높아지고 있다. 러시아 언론들이 현직 장관의 사

  • 25.07.2707:00
    “2030년까지 1.5만명 고용” 인구 급증한 소도시 중심엔 해상풍력③
    “2030년까지 1.5만명 고용” 인구 급증한 소도시 중심엔 해상풍력③

    편집자주영국과 프랑스는 탈석탄 과정에 이어 신재생에너지 보급을 확대하고 있다. 대표적인 분야가 해상풍력이다. 해상풍력단지는 에너지 안보와 직결되는 청정에너지원이자 기업들의 미래 사업이지만 어민들은 생업 차질을 이유로 해상풍력단지 조성을 반대했었다. 에너지 전환 분야에서 선도적인 역할을 하고 있는 영국과 프랑스는 어떻게 어민들과의 갈등을 해결했을까. "험버 지역 재생에너지 업종 종사자 수를 2030년까지 현

  • 25.07.2607:10
    "바다도 살리고 돈도 준다는데"…어민들이 선택한 새로운 해상풍력 일자리②
    "바다도 살리고 돈도 준다는데"…어민들이 선택한 새로운 해상풍력 일자리②

    편집자주영국과 프랑스는 탈석탄 과정에 이어 신재생에너지 보급을 확대하고 있다. 대표적인 분야가 해상풍력이다. 해상풍력단지는 에너지 안보와 직결되는 청정에너지원이자 기업들의 미래 사업이지만 어민들은 생업 차질을 이유로 해상풍력단지 조성을 반대했었다. 에너지 전환 분야에서 선도적인 역할을 하고 있는 영국과 프랑스는 어떻게 어민들과의 갈등을 해결했을까. "해상풍력이 스러져가는 어업 도시를 살렸습니다." 영

  • 25.07.2607:00
    "생태계 훼손 없이 지역경제 살아나"…프랑스 첫 해상풍력단지에 어민들 웃었다①
    "생태계 훼손 없이 지역경제 살아나"…프랑스 첫 해상풍력단지에 어민들 웃었다①

    편집자주영국과 프랑스는 탈석탄 과정에 이어 신재생에너지 보급을 확대하고 있다. 대표적인 분야가 해상풍력이다. 해상풍력단지는 에너지 안보와 직결되는 청정에너지원이자 기업들의 미래 사업이지만 어민들은 생업 차질을 이유로 해상풍력단지 조성을 반대했었다. 에너지 전환 분야에서 선도적인 역할을 하고 있는 영국과 프랑스는 어떻게 어민들과의 갈등을 해결했을까. "해상풍력단지를 직접 방문하고, 주민들과 함께 설명회도

  • 25.07.2007:00
    '석탄왕국' 폴란드, 갈탄 광산은 공원으로…갈등 해소에 정의로운 전환 기금 활용③
    '석탄왕국' 폴란드, 갈탄 광산은 공원으로…갈등 해소에 정의로운 전환 기금 활용③

    편집자주산업혁명 발상지 영국은 2024년 가을 마지막 남은 석탄화력발전소를 폐쇄하면서 142년 석탄발전 역사를 마감했다. 프랑스는 2027년까지 석탄화력발전소 전체를 폐쇄할 계획이다. 유럽 최대 석탄 생산국 폴란드도 최근 탈석탄 정책을 추진하기 시작했다. 기후위기에 대응하기 위해 선택한 탈석탄 정책이 일자리 감소와 지역 소멸로 연결될 것이라는 우려도 있었지만, 영국·프랑스·폴란드 정부와 기업은 에너지 전환 과정에

  • 25.07.1907:10
    "시커먼 박하사탕 나도 살래"…'핫플'된 거대한 폐석 더미는 운동화 닳도록 뛰는 '트래킹 명소'②
    "시커먼 박하사탕 나도 살래"…'핫플'된 거대한 폐석 더미는 운동화 닳도록 뛰는 '트래킹 명소'②

    편집자주산업혁명 발상지 영국은 2024년 가을 마지막 남은 석탄화력발전소를 폐쇄하면서 142년 석탄발전 역사를 마감했다. 프랑스는 2027년까지 석탄화력발전소 전체를 폐쇄할 계획이다. 유럽 최대 석탄 생산국 폴란드도 최근 탈석탄 정책을 추진하기 시작했다. 기후위기에 대응하기 위해 선택한 탈석탄 정책이 일자리 감소와 지역 소멸로 연결될 것이라는 우려도 있었지만, 영국·프랑스·폴란드 정부와 기업은 에너지 전환 과정에

  • 25.07.2706:00
    "파월은 美에 해악" 트럼프 연준 공격에 흔들리는 세계경제
    "파월은 美에 해악" 트럼프 연준 공격에 흔들리는 세계경제

    도널드 트럼프 미국 대통령이 제롬 파월 연방준비제도(Fed) 의장에 대한 사임 압박을 지속적으로 강화하고 있어 금융시장과 세계 경제에 미칠 파장에 관심이 집중되고 있다. 트럼프 대통령은 파웰 의장이 금리를 충분히 내리지 않아 미국 경제가 어려움을 겪고 있다며 강한 사퇴 압력을 가하고 있지만, 스콧 베선트 재무장관을 비롯한 측근들은 이에 대해 신중한 입장을 보이고 있다. 트럼프 대통령이 파월 의장에게 사임 압력을 가

  • 25.07.2606:00
    영·독 2차대전 후 첫 상호방위 조약…과거사도 잊게 한 러 위협
    영·독 2차대전 후 첫 상호방위 조약…과거사도 잊게 한 러 위협

    영국과 독일이 제2차 세계대전 이후 처음으로 상호방위조약을 체결하며 유럽의 안보 지형에 획기적인 변화가 일어나고 있다. 이번 협정으로 영국, 프랑스, 독일의 3각 방위체제가 완성되면서, 러시아의 위협에 대응하는 유럽의 자체 방어 능력이 크게 강화될 전망이다. 특히 주목할 점은 이번 협정이 단순한 군사협력을 넘어 핵 억지력 공유까지 포함한다는 것이다. 협정 내용에는 "양국이 핵 문제를 포함한 상호 이익의 방위 문제

  • 25.07.2006:30
    "이메일 실수 때문에 13조 쓰게 생겼네"…역대급 안보사고 낸 英 국방부
    "이메일 실수 때문에 13조 쓰게 생겼네"…역대급 안보사고 낸 英 국방부

    영국 국방부의 이메일 실수로 인해 아프가니스탄 협력자 2만여명의 개인정보가 유출되며, 이들의 안전을 위한 망명 프로젝트에 13조원이 투입될 예정이어서 "세계에서 가장 비싼 이메일"이라는 조롱을 받고 있다. 이 사건은 2022년에 발생했지만, 영국 국방부가 협력자들의 개인정보 보호를 위해 3년간 사건 공개를 막아달라고 법원에 요청하면서 이제야 전말이 드러났다. 당시 영국 특수부대 군인이 아프가니스탄 영국군 협력자

  • 25.07.1906:30
    트럼프 우크라 지원 방침에 반발하는 'MAGA'
    트럼프 우크라 지원 방침에 반발하는 'MAGA'

    도널드 트럼프 미국 대통령이 우크라이나에 패트리어트 시스템을 포함한 공격용 무기 지원을 결정했다고 18일(현지시간) 발표했다. 이는 그동안 우크라이나 전쟁의 조기 종료와 미군 철수를 공약으로 내세웠던 트럼프 대통령의 기존 입장과 정면으로 배치되는 결정이다. 이번 결정에 트럼프 대통령의 핵심 지지층으로 알려진 마가(MAGA·미국을 다시 위대하게) 지지자들이 반발하면서 화제가 되고 있다. 트럼프 대통령은 러시아에

  • 25.07.1306:00
    푸틴이 준 권총으로 자살?…러 교통부장관 의문사
    푸틴이 준 권총으로 자살?…러 교통부장관 의문사

    러시아의 로만 스타로보이트 교통부 장관이 지난 7일(현지시간) 블라디미르 푸틴 대통령으로부터 해임 통보를 받은 지 수 시간 만에 자신의 차량에서 숨진 채 발견되면서 러시아 정계에 큰 충격을 주고 있다. 현장에서는 푸틴 대통령이 과거 공로상으로 그에게 수여한 권총이 발견됐고, 당국은 그의 자살로 결론지었다. 그러나 러시아 안팎에서는 타살 가능성을 제기하는 목소리가 높아지고 있다. 러시아 언론들이 현직 장관의 사

  • 25.07.2707:00
    “2030년까지 1.5만명 고용” 인구 급증한 소도시 중심엔 해상풍력③
    “2030년까지 1.5만명 고용” 인구 급증한 소도시 중심엔 해상풍력③

    편집자주영국과 프랑스는 탈석탄 과정에 이어 신재생에너지 보급을 확대하고 있다. 대표적인 분야가 해상풍력이다. 해상풍력단지는 에너지 안보와 직결되는 청정에너지원이자 기업들의 미래 사업이지만 어민들은 생업 차질을 이유로 해상풍력단지 조성을 반대했었다. 에너지 전환 분야에서 선도적인 역할을 하고 있는 영국과 프랑스는 어떻게 어민들과의 갈등을 해결했을까. "험버 지역 재생에너지 업종 종사자 수를 2030년까지 현

  • 25.07.2607:10
    "바다도 살리고 돈도 준다는데"…어민들이 선택한 새로운 해상풍력 일자리②
    "바다도 살리고 돈도 준다는데"…어민들이 선택한 새로운 해상풍력 일자리②

    편집자주영국과 프랑스는 탈석탄 과정에 이어 신재생에너지 보급을 확대하고 있다. 대표적인 분야가 해상풍력이다. 해상풍력단지는 에너지 안보와 직결되는 청정에너지원이자 기업들의 미래 사업이지만 어민들은 생업 차질을 이유로 해상풍력단지 조성을 반대했었다. 에너지 전환 분야에서 선도적인 역할을 하고 있는 영국과 프랑스는 어떻게 어민들과의 갈등을 해결했을까. "해상풍력이 스러져가는 어업 도시를 살렸습니다." 영

  • 25.07.2607:00
    "생태계 훼손 없이 지역경제 살아나"…프랑스 첫 해상풍력단지에 어민들 웃었다①
    "생태계 훼손 없이 지역경제 살아나"…프랑스 첫 해상풍력단지에 어민들 웃었다①

    편집자주영국과 프랑스는 탈석탄 과정에 이어 신재생에너지 보급을 확대하고 있다. 대표적인 분야가 해상풍력이다. 해상풍력단지는 에너지 안보와 직결되는 청정에너지원이자 기업들의 미래 사업이지만 어민들은 생업 차질을 이유로 해상풍력단지 조성을 반대했었다. 에너지 전환 분야에서 선도적인 역할을 하고 있는 영국과 프랑스는 어떻게 어민들과의 갈등을 해결했을까. "해상풍력단지를 직접 방문하고, 주민들과 함께 설명회도

  • 25.07.2007:00
    '석탄왕국' 폴란드, 갈탄 광산은 공원으로…갈등 해소에 정의로운 전환 기금 활용③
    '석탄왕국' 폴란드, 갈탄 광산은 공원으로…갈등 해소에 정의로운 전환 기금 활용③

    편집자주산업혁명 발상지 영국은 2024년 가을 마지막 남은 석탄화력발전소를 폐쇄하면서 142년 석탄발전 역사를 마감했다. 프랑스는 2027년까지 석탄화력발전소 전체를 폐쇄할 계획이다. 유럽 최대 석탄 생산국 폴란드도 최근 탈석탄 정책을 추진하기 시작했다. 기후위기에 대응하기 위해 선택한 탈석탄 정책이 일자리 감소와 지역 소멸로 연결될 것이라는 우려도 있었지만, 영국·프랑스·폴란드 정부와 기업은 에너지 전환 과정에

  • 25.07.1907:10
    "시커먼 박하사탕 나도 살래"…'핫플'된 거대한 폐석 더미는 운동화 닳도록 뛰는 '트래킹 명소'②
    "시커먼 박하사탕 나도 살래"…'핫플'된 거대한 폐석 더미는 운동화 닳도록 뛰는 '트래킹 명소'②

    편집자주산업혁명 발상지 영국은 2024년 가을 마지막 남은 석탄화력발전소를 폐쇄하면서 142년 석탄발전 역사를 마감했다. 프랑스는 2027년까지 석탄화력발전소 전체를 폐쇄할 계획이다. 유럽 최대 석탄 생산국 폴란드도 최근 탈석탄 정책을 추진하기 시작했다. 기후위기에 대응하기 위해 선택한 탈석탄 정책이 일자리 감소와 지역 소멸로 연결될 것이라는 우려도 있었지만, 영국·프랑스·폴란드 정부와 기업은 에너지 전환 과정에


다양한 채널에서 아시아경제를 만나보세요!

위로가기