메타(Meta)가 AWS의 그래비톤(Graviton) 프로세서를 대규모로 도입하기로 합의했습니다.

이는 양사 간의 오랜 파트너십을 더욱 확장하는 중요한 발걸음이며, 메타의 차세대 AI 기술 개발에 박차를 가할 것으로 보입니다.

이번 계약은 단순히 칩 도입을 넘어, AI 인프라 구축의 근본적인 변화를 시사합니다.

AI 시대, CPU의 중요성 재조명

기존에는 대규모 AI 모델 학습에 GPU가 필수적인 역할을 해왔습니다.

하지만 최근 에이전트형 AI(Agentic AI)의 부상은 실시간 추론, 코드 생성, 검색, 복잡한 다단계 작업 조정 등 CPU 집약적인 워크로드에 대한 수요를 폭발적으로 증가시키고 있습니다.

에이전트형 AI는 단순히 콘텐츠를 생성하는 것을 넘어, 스스로 계획하고 복잡한 작업을 수행하는 자율 시스템입니다.

이러한 시스템들은 수십억 개의 상호작용을 처리하고 복잡한 워크플로우를 조정해야 하므로, 고성능 CPU의 역할이 더욱 중요해지고 있습니다.

AWS 그래비톤: 에이전트형 AI를 위한 맞춤형 솔루션

AWS 그래비톤 프로세서는 바로 이러한 CPU 집약적인 워크로드를 위해 설계되었습니다.

이번 계약을 통해 메타는 수천만 개의 그래비톤 코어를 활용하게 되며, 이는 메타를 세계 최대 그래비톤 고객 중 하나로 만듭니다.

특히 최신 그래비톤5 칩은 192개의 코어와 이전 세대 대비 5배 커진 캐시를 특징으로 합니다.

이는 코어 간 통신 지연을 최대 33%까지 줄여, 에이전트형 AI 시스템이 요구하는 빠른 데이터 처리 및 높은 대역폭을 제공합니다.

그래비톤은 AWS의 니트로 시스템(Nitro System)을 기반으로 구축되어, 높은 성능, 가용성, 보안성을 보장합니다.

메타는 이를 통해 자체 가상 머신을 성능 저하 없이 운영할 수 있으며, 대규모 작업 분산에 필수적인 탄력적 패브릭 어댑터(EFA) 또한 지원받습니다.

이는 복잡한 에이전트형 AI 워크로드를 효율적으로 처리하는 데 핵심적인 역할을 합니다.

메타의 AI 전략과 AWS 그래비톤의 시너지

메타는 오랜 기간 AWS의 확장 가능하고 안전한 클라우드 인프라를 활용해 왔습니다.

이번 그래비톤 도입은 메타의 AI 야망을 확장하는 데 있어 연산 소스 다각화라는 전략적 중요성을 갖습니다.

산토시 자나르단(Santosh Janardhan) 메타 인프라 책임자는 “AWS는 수년간 신뢰할 수 있는 클라우드 파트너였으며, 그래비톤으로의 확장은 에이전트형 AI를 뒷받침하는 CPU 집약적인 워크로드를 필요한 성능과 효율성으로 실행할 수 있게 해준다”고 밝혔습니다.

이는 곧, 메타가 자체적으로 구축하는 AI 시스템들이 더 똑똑하고 개인화된 경험을 수십억 명의 사용자에게 제공하는 데 기여할 것입니다.

그래비톤의 에너지 효율성 강점

그래비톤5는 3나노미터 칩 기술을 기반으로 제작되어, 더 작고 효율적인 프로세서를 구현했습니다.

AWS는 칩 설계부터 서버 아키텍처까지 전체 과정을 직접 제어함으로써, 기성품 프로세서로는 달성하기 어려운 수준의 성능과 효율성을 최적화합니다.

이러한 강력한 성능과 뛰어난 에너지 효율성은 메타가 야심찬 AI 목표를 달성하는 동시에 지속 가능성 목표를 준수하는 데 중요한 이점을 제공합니다.

이전 세대 대비 최대 25% 향상된 성능은 AI 컴퓨팅 수요가 증가하는 산업 전반에서 비용 관리 및 환경 영향 감소라는 두 가지 측면에서 매우 중요한 의미를 갖습니다.

실전 조언: AI 인프라 구축 시 고려사항

AI 기술, 특히 에이전트형 AI의 발전 속도가 빨라짐에 따라, 기업들은 인프라 전략을 재검토해야 합니다.

다음은 AI 워크로드에 적합한 인프라를 구축하기 위한 몇 가지 고려사항입니다.

  • 워크로드 특성 분석: AI 모델 학습, 추론, 에이전트형 AI 등 워크로드의 특성을 정확히 파악하고, 이에 맞는 컴퓨팅 자원(CPU, GPU)의 비율을 결정해야 합니다.
  • CPU 집약적 워크로드 고려: 에이전트형 AI와 같이 실시간 추론, 코드 생성 등이 중요한 워크로드를 위해 최적화된 CPU 아키텍처를 갖춘 솔루션을 검토하세요. AWS 그래비톤과 같은 맞춤형 칩은 이러한 요구사항을 충족시킬 수 있습니다.
  • 확장성 및 유연성: AI 모델의 발전과 사용자 증가에 따라 인프라는 유연하게 확장될 수 있어야 합니다. 초기 투자 시점에 미래 확장 가능성을 고려하여 설계하세요.
  • 비용 효율성 및 에너지 효율성: 컴퓨팅 비용과 에너지 소비는 AI 운영의 중요한 부분이 됩니다. 높은 효율성을 제공하는 칩과 인프라를 선택하여 장기적인 비용 절감 및 지속 가능성을 확보하세요.
  • 보안 및 관리 용이성: AI 시스템은 민감한 데이터를 다룰 수 있으므로, 강력한 보안 기능과 효율적인 관리 시스템을 갖춘 클라우드 환경을 선택하는 것이 중요합니다.

결론

메타와 AWS의 이번 파트너십은 AI 인프라 구축의 새로운 장을 열고 있습니다.

GPU 중심에서 에이전트형 AI를 위한 CPU의 중요성으로의 전환은 이미 시작되었으며, AWS 그래비톤과 같은 목적별 맞춤형 칩은 기업들이 더 스마트하고 개인화된 AI 경험을 제공하는 데 핵심적인 역할을 할 것입니다.

여러분의 AI 전략을 점검하고, 미래를 위한 견고한 인프라를 구축해 나가시길 바랍니다.

출처: https://www.aboutamazon.com/news/aws/meta-aws-graviton-ai-partnership