오픈AI의 챗GPT가 출시된 이후, 생성형 AI의 성장세는 무섭게 커졌습니다. 생성형 AI는 AI 기술의 한 분야로, 인간의 개입 없이 이미지, 동영상, 텍스트 등의 새로운 콘텐츠를 생성할 수 있는 AI 시스템을 뜻합니다. 사용자는 AI의 갑작스러운 발전에 열광했고, 챗GPT는 출시한지 일주일도 되지 않아 100만 명의 사용자를 모았습니다. 이후 다양한 글로벌 기업들도 챗GPT가 필수인 시대가 될 것을 예견하고 이와 같은 생성형 AI를 출시하기 위해 노력을 기울였습니다.
마이크로소프트(MS)는 검색엔진 ‘빙(Bing)’에 챗GPT를 적용하며 시장의 선두주자로 나섰고, 구글은 AI 챗봇 ‘바드(Bard)’를, 메타는 자체 LLM ‘라마2(Llama2)’를 공개했습니다. 오픈AI는 최신 AI 모델인 ‘GPT-4 터보’를 선보였으며, 머스크는 생성AI 서비스 ‘그록(Grok)’ 베타 버전을 오픈했습니다. 해외 기업뿐 아니라 국내의 생성형 AI도 큰 이슈가 되고 있습니다. 네이버와 삼성 등 국내 대기업도 생성형 AI를 출시하고 다양한 서비스에 접목하며 사용자에게 더 좋은 경험을 주기 위한 노력을 이어가며 자사의 경쟁력 확보에 주력하고 있습니다.
생성형 AI를 자체적으로 개발하는 회사도 이렇게 다양하지만, 생성형 AI를 기업 내에 도입하여 사용하고자 하는 기업도 있습니다. 앞으로 기업 경쟁에 있어 생성형 AI가 필수 요소로 자리잡은 것입니다. IBM 기업가치연구소(IBV)의 연례 CEO 스터디인 ‘AI 시대의 CEO 의사결정, 의도를 가지고 행동하라’의 최근 보고서에 따르면 CEO의 75%가 어떤 조직이 가장 발전된 생성형 AI를 보유하는지에 따라 경쟁 우위가 결정될 것이라고 답했습니다. 하지만 새로운 기술을 현대화하고 도입하기 위해서는 이에 따르는 다양한 어려움을 마주하고 해결하려는 자세가 필요합니다.
퍼블릭 클라우드로 이용하던 생성형 AI
디지털 인프라 솔루션 기업 에퀴닉스의 ‘2023 글로벌 기술 동향 조사’에 따르면, 설문조사에 참여한 한국의 IT 리더 중 72%는 보유하고 있는 IT 인프라가 AI 기술에서 요구되는 수준에 미치지 못한다고 응답했습니다. 성능이 향상된 생성형 AI 모델을 개발하기 위해서는 대규모 데이터셋을 활용한 AI 훈련이 필수적입니다. 이에 따라 컴퓨팅 리소스의 수요가 급증하고 있으며, 빠르게 확장이 가능한 인프라가 절대적으로 필요해진 것입니다.
초기에는 퍼블릭 클라우드를 통해 이용되던 부분이었습니다. 신속한 확장성과 유연성, 즉각적인 가용성 등 다양한 이유로, 퍼블릭 클라우드를 통해 생성형 AI 모델의 훈련과 운영에 필요한 리소스를 사용했습니다. 하지만 이로 인해 발생하는 몇 가지 문제점들이 있었고, 이를 해결하고자 기업들은 온프레미스와 같은 인프라를 구축하는 방안을 고려하기 시작했습니다.
기업 내부의 보안 규제 커스터마이징의 어려움
민감한 데이터를 다루는 산업이 퍼블릭 클라우드를 이용할 경우, 보안 문제가 가장 큰 우려사항으로 꼽힙니다. 자체 인프라를 구축하면 보안이나 규제와 같은 기업 내 요구 사항을 더욱 효과적으로 관리할 수 있기 때문에, 기업들은 자체 데이터 센터를 운영하는 쪽으로 눈길을 돌린 것입니다.
장기적인 비용 관리의 어려움
퍼블릭 클라우드를 이용함에 있어 빼놓을 수 없는 문제가 바로 ‘비용 관리’입니다. 물론 퍼블릭 클라우드의 장점 중 하나가 사용하는 만큼 과금되어 비용을 효율적으로 관리할 수 있다는 것이지만, 다양한 연구를 진행하는 데에 있어 클라우드 사용을 중지하는 것을 잊을 수도 있고 사용량이 점차 증가할 수도 있어, 비용을 예측하기에는 어려움을 느낄 수 있습니다. 이에 따라 장기적으로 예측 가능하고 안정적인 비용 모델을 세우고자 인프라 구축을 고려하기도 합니다.
생성형 AI 시대에 인프라의 필요성
컴퓨팅 리소스의 증가
성능이 우수한 생성형 AI 모델을 훈련시키기 위해서는 방대한 양의 데이터셋이 필요합니다. 해당 리소스를 사용하는 데에 있어 성능과 비용 효율성을 높이기 위해 기업들은 자체 클러스터와 서버 인프라를 구축하고 있으며, 이를 통해 필요에 따라 확장 가능한 환경을 조성하고 데이터에 빠르게 접근할 수 있습니다.
분야별로 특화된 인프라
생성형 AI의 발전은 의료, 금융, 제조업 등 다양한 산업 분야에서 혁신을 가져오고 있습니다. 자체 인프라를 구축하는 기업은 특정 산업에 맞는 생성형 AI를 적용하고자, 해당 산업에 특화된 인프라를 구성합니다. 자체 커스터마이징된 인프라를 통해 모델을 최적화하고, 특정 환경에서 최상의 성능을 발휘할 수 있습니다.
연구의 확장성
생성형 AI 기술은 빠르게 발전해 온 만큼 앞으로도 끊임없이 발전할 것입니다. 따라서 새로운 모델, 알고리즘의 최적화, 효과적인 학습 전략 등을 연구하고 적용해야 하는데, 자체 인프라를 보유한다면 연구·개발을 더욱 효과적으로 수행할 수 있으며 새로운 모델과 알고리즘의 효율적인 적용을 통해 최상의 결과를 얻을 수 있습니다.
생성형 AI와 인프라 시장의 성장
앞서 계속 확인한 것처럼, 더 많은 기업들이 자체 생산성과 효율성을 증진시키기 위해 생성형 AI도입을 위해 노력할 것입니다. IDC는 2027년 말까지 생성형 AI에 대한 지출이 전체 AI 지출의 28.1%를 차지할 것이며, 하드웨어, IaaS, 시스템 인프라 소프트웨어(SIS)를 포함하는 생성형 AI 인프라가 일명 구축 단계에서 가장 큰 투자 영역이 될 것이라고 분석했습니다.
생성형 AI라는 거대한 기술의 변화를 기업 내부에 적용하는 초기 단계에는 어려움과 혼란을 겪을 수 있지만, 전략적으로 접근하고 도입한다면 시장의 선두주자로서 입지를 탄탄히 다질 수 있을 것입니다. 도입 시 필요한 인프라의 규모를 제대로 파악하고, 퍼블릭 클라우드와의 비교 단계를 거쳐 적합한 방식을 선정해야 합니다. 해당 단계를 거칠 때 내부에서 진행이 어렵다면 인프라와 클라우드를 제공하는 기업에 맞춤 컨설팅을 요구하는 방법 또한 고려해볼 수 있습니다.
[참고 자료]
IBV – CEO decision-making in the age of AI https://www.ibm.com/thought-leadership/institute-business-value/en-us/c-suite-study/ceo
EQUINIX – 글로벌 기술 동향 조사 발표 https://www.equinix.kr/newsroom/press-releases/2023/06/equinix-it-70-ai-
생성형 AI, 2027년 말까지 연평균 76.8% 성장할 것... IDC, IT WORLD https://www.itworld.co.kr/news/310506
