최근 GPU의 중요성과 관심이 급증하고 있습니다. 딥러닝, 머신러닝, 인공지능, 자율주행 등의 4차산업 혁명 핵심 기술 중심에 GPU가 있기 때문일 것입니다. 사실 ‘GPU’라고 하면 게임 그래픽 가속기로 생각하시는 분들이 여전히 많을 것입니다. GPU가 시장에서 부상하게 된 것도 불과 몇 년 되지 않은 것이 사실이지요. 이번 글에서는 GPU의 변화하는 가치와 활용법에 대해 이야기해보고자 합니다.

 

 

초기 그래픽과 3D 그래픽 (1970년대-1990년대)

 

컴퓨팅 초기에는 중앙 처리 장치(CPU)가 그래픽 렌더링을 포함한 모든 작업을 처리했습니다. 최초의 전용 그래픽 하드웨어는 비디오 디스플레이 컨트롤러(VDC)와 그래픽 처리 장치의 형태로 등장했습니다. 이러한 초기 GPU는 주로 기본적인 2D 그래픽에 초점이 맞추어져 있었습니다.

 

1990년대는 비디오 게임과 시뮬레이션에 3D 그래픽이 도입되면서 큰 변화를 일으켰습니다. 3dfx Interactive, ATI(이후 AMD에 인수됨), NVIDIA와 같은 회사들은 전용 3D 그래픽 하드웨어 개발의 선구자로 등장했습니다. 1990년대 중반에 출시된 3dfx의 Voodoo 시리즈는 3D 가속을 위해 특별히 설계된 최초의 소비자용 그래픽 카드 중 하나였습니다.

 

그림 1. 3dfx Interactive
이미지 출처 : TECHSPOT

 

 

셰이더 모델 진화 그리고 범용 GPU 컴퓨팅의 탄생 (2000년대 - 2010년대)

 

2000년대 초반에는 프로그래밍 가능한 셰이더가 도입되어 GPU가 더 넓은 범위의 그래픽 계산을 처리할 수 있게 되었습니다. 2001년에 출시된 엔비디아의 지포스 3는 프로그래밍 가능한 쉐이더를 지원하는 최초의 GPU 중 하나로, 보다 사실적이고 역동적인 시각 효과를 가능하게 했습니다.

 

NVIDIA가 2007년 CUDA(Computer Unified Device Architecture)를 도입하고 2009년 Khronos Group의 OpenCL을 도입한 것이 전환점이 되었습니다. 이러한 프로그래밍 프레임워크를 통해 개발자들은 그래픽을 넘어 범용 컴퓨팅 작업에 GPU를 사용할 수 있게 되어 GPGPU(General-Purpose GPU Computing) 시대를 이끌었습니다.

 

그림 2. CUDA 처리 흐름의 예
이미지 출처 : NVIDIA

 

 

병렬 처리 증가와 딥러닝 그리고 AI의 붐 (2000년대 후반-2010년대)

 

GPU는 여러 작업을 동시에 처리할 수 있는 병렬 프로세서가 되었습니다. AMD가 2006년 ATI를 인수하고 GPU 시장에서 입지를 굳히면서 엔비디아와의 경쟁 구도가 형성되었습니다. 2010년대 접어들어 GPU를 인공지능과 머신러닝에 사용하면서 큰 변화를 맞이하였습니다. GPU의 병렬 처리 기능은 계산 집약적인 딥러닝 알고리즘의 특성에 적합했던 것입니다.

 

이후 엔비디아의 CUDA(Computte Unified Device Architecture)와 크로노스 그룹의 OpenCL(Open Computing Language)의 도입은 GPU에서 범용 컴퓨팅의 문을 열었습니다. 이는 GPU를 과학적 시뮬레이션, 기계 학습 및 기타 계산 집약적 작업에 사용할 수 있도록 하는 중요한 변화를 나타냈습니다.

 

 

그리고 오늘날의 4차 산업혁명

 

GPU는 게임, 과학 시뮬레이션, 데이터 분석 등을 포함한 다양한 범위의 애플리케이션을 충족하도록 진화했습니다. AI 워크로드를 위한 NVIDIA의 Tensor Cores와 게임을 위한 AMD의 RDNA 아키텍처와 같은 특수 GPU 아키텍처가 특정 요구사항을 해결하기 위해 등장하기도 했습니다.

 

오늘날 GPU의 가장 큰 성장세는 다음 세 분야라고 할 수 있을 것입니다. 첫 째는 인공지능과 머신러닝 워크로드입니다. GPU의 병렬 처리 기능은 딥러닝 모델에 내재된 방대한 행렬 계산을 처리하는 데 탁월하기 때문입니다. 두 번째는 게임 및 엔터테인먼트 분야일 것입니다. GPU는 사실적인 그래픽과 몰입감 있는 경험을 제공하며 게임 산업에서 계속해서 중추적인 역할을 하고 있습니다. 또한 GPU는 비디오 편집, 렌더링 및 가상 현실 애플리케이션에 점점 더 많이 활용되고 있습니다. 마지막으로 고성능 컴퓨팅(HPC) 분야일 것입니다. 슈퍼컴퓨터와 데이터 센터는 고성능 컴퓨팅 작업에 GPU를 활용하여 과학 시뮬레이션, 기상 모델링 및 다양한 연구 활동을 가속화하고 있습니다.

 

 

GPU 성능 최적화 전략 - 컨테이너와 VM 기반의 GPU 활용 이점 7가지

 

GPU의 가치가 증가하면서 좀 더 효율적인 사용법에 대한 고민이 많아지고 있습니다. 이에 클루닉스는 두 가지 방안을 제시하고자 합니다. 바로 컨테이너와 가상 머신(VM)을 이용하는 것입니다. 이러한 방법은 비용 효율성뿐만 아니라 리소스를 할당하고 구축을 간소화하는데 큰 이점이 있을 것입니다. 다음은 클루닉스가 개발한 ‘아렌티어 딥러닝’솔루션 기반의 GPU를 사용함으로써 얻을 수 있는 7가지 이점을 정리했습니다.

 

1. 리소스 할당 및 격리 환경 제공

컨테이너와 VM은 효율적인 자원 할당을 제공하여 GPU 자원이 다른 프로세스나 애플리케이션의 간섭 없이 특정 워크로드에 전용되도록 합니다. 격리된 환경 제공은 자원 충돌을 방지하고 전반적인 시스템 안정성을 향상시킵니다.

 

2. 여러 환경 간의 호환성

특히 컨테이너는 높은 호환성을 제공하여 GPU 가속화된 애플리케이션을 다양한 환경에서 일관성 있게 실행할 수 있습니다. 이러한 호환성은 배포를 단순화하고 애플리케이션이 기본 인프라에 관계없이 일관성 있게 동작하도록 보장합니다.

 

3. VM을 통한 확장성

VM 기반 솔루션을 사용하면 하나의 물리적 머신에 여러 개의 GPU 인스턴스를 배치할 수 있습니다. 이 확장성은 각 워크로드에 대해 별도의 물리적 하드웨어를 사용하지 않고 여러 개의 GPU 집약적 워크로드를 동시에 실행해야 하는 경우에 매우 중요합니다.

 

4. 구축 용이성

컨테이너와 VM은 GPU 가속화 애플리케이션의 배포 프로세스를 간소화합니다. GPU 드라이버와 라이브러리를 포함한 모든 종속성을 이미지화하여 설정의 복잡성을 줄이고 배포를 더 쉽게 만듭니다.

 

5. 개발 및 테스트의 유연성

컨테이너는 개발과 테스트를 위한 격리된 환경을 제공하여 개발자들이 호스트 시스템에 영향을 주지 않고 GPU 가속 애플리케이션에서 작업할 수 있게 해줍니다. 이러한 격리된 환경은 유연성을 향상하여 다양한 GPU 구성과 라이브러리로 연구개발하기 쉽게 해줍니다.

 

6. 향상된 리소스 활용률

컨테이너 혹은 VM과 같은 가상화 기술은 GPU 자원을 통합하여 활용도를 최적화합니다. 이는 비용 효율성을 위해 자원 효율성을 극대화하는 것이 중요한 데이터 센터 환경에서 특히 유용합니다.

 

7. 보안 및 격리

컨테이너와 VM은 GPU 가속 워크로드 간의 격리를 제공하여 보안을 강화합니다. 이러한 격리는 한 애플리케이션의 잠재적인 보안 취약점이 다른 애플리케이션에 영향을 미치는 것을 방지하여 보다 안전한 컴퓨팅 환경에 기여합니다.

 

이렇듯 GPU에 컨테이너와 VM 기반 솔루션을 사용하면 리소스 할당, 이동성, 확장성, 구축 용이성, 호환성 및 유연성이 향상됩니다. 이러한 이점은 GPU 가속 컴퓨팅 시나리오에서 효율성, 개발 민첩성 및 리소스 활용도를 향상하는 데 기여할 것입니다.

 

 

 

[참고 문서]

 

1. https://www.techspot.com/article/2067-3dfx/
2. https://developer.nvidia.com/cuda-zone
3. https://www.youtube.com/watch?v=H1yeB7wHBKs
4. https://www.techspot.com/article/2067-3dfx/