끊임없이 진화하는 AI시스템, MLOps (MLOps, a constantly evolving AI system)

끊임없이 진화하는 AI시스템, MLOps (MLOps, a constantly evolving AI system)

• 1.
  끊임없이 진화하는 AI 시스템 2024.11 김유신
• 2.
  기업의 AI 활용수준 • Gartner’s AI Maturity Model Ø 회사가 비즈니스 프로세스, 제품 또는 서비스를 개선하기 위해 AI 지원 기술을 채택, 구현 및 확장하는 과정에서 달성한 발전 및 정교함의 수준을 의미 Ø 1단계 [인식] 조직이 AI가 제공하는 가능성을 탐색하기 시작 Ø 2단계 [활성] 실험 및 파일럿 프로젝트에 착수, 실제 애플리케 이션에서 AI를 테스트 Ø 3단계 [운영] 실험 환경에서 생산 환경으로 전환, 하나 이상의 워크플로우에서 효율성과 효과를 향상시켜 가치를 창출 Ø 4단계 [체계] 대부분의 워크플로우와 운영 전반에 걸쳐 확대, 새로운 디지털 비즈니스 모델을 발굴, 비즈니스 운영 방식을 근 본적으로 변화시킴 Ø 5단계 [혁신] 비즈니스 DNA에 내재되어 조직 전체에서 혁신, 의사 결정 및 전략적 이니셔티브를 주도 • AI가 단순한 실험 기술이 아니라 생산 환경에서 적극적으로 가치를 창출하는 운영 단계로 진출하는 기업이 크게 증가 (The Path to AI Maturity 2024) (출처:https://www.lxt.ai/blog/new-report-roi-of-training-data-2024/ )
• 3.
  AI 시스템의 현실적인과제 • AI Model 성능 저하 Ø Model Drifting: AI Model을 배포한 이후 시간이 지남에 따라 Model 성능이 저하되는 현상 Ø 따라서 계속 확보되는 Data로 AI Model의 재학습이 필요함 • AI 기술의 발전 Ø 문제 해결에 더 효과적인 AI 모델과 알고리듬 등장 • AI Model의 크기와 복잡성 증가 Ø 다양한 팀원들 간의 협업 Ø 복잡한 개발 과정(데이터 전처리, 모델링, 배포 등) 시스템화 Ø 학습 Data와 AI Model 개발 관리 • 이러한 문제를 해결하기 위한 시스템 도입 필요 (출처:https://www.evidentlyai.com/ml-in-production/data-drift https://mlops-for-all.github.io/docs/introduction/intro/)
• 4.
  MLOps 란? • 정의 Ø머신러닝(ML) 모델의 개발, 배포, 운영을 자동화하고 최적화하는 데 중점을 둔 엔지니어링 방법론 Ø 데이터 수집, 모델 학습, 배포, 모니터링 등 모든 단계를 통합하여 효율성을 높이고 협업을 촉진 Ø AI/ML 운영 프로세스를 자동화하여 반복적인 작업을 줄이고, 모델이 실시간으로 변화하는 데이터에 적응할 수 있도록 함 • 효과 Ø AI 운영/관리 비용 30-40% 절감 Ø 신규 AI 개발 기간 50% 단축 • AI가 성공적으로 비즈니스에 활용되려면, 단순히 모델을 만드는 것 을 넘어 이를 지속적으로 관리하고 고도화 할 수 있는 시스템이 필수 (출처:https://www.sigmoid.com/blogs/mlops-for-effective-ai-strategy/ )
• 5.
  MLOps 활용의 확대 (출처:https://neptune.ai/wp-content/uploads/2022/10/MLOps-tools-landscape-horizontal-upd.png) 통합개발환경 학습Data준비 AI모델학습 AI모델학습 관리 AI모델 배포 및 적용 Data 및 모델 관리 0 단계 1 단계 2 단계
• 6.
  MLOps 도입의 효과 •MLOps 도입 이전: 수동 작업 중심, 비효율적인 협업과 운영, 데이터 및 모델 관리의 한계 • MLOps 도입 이후: 프로세스 자동화, 협업 강화, 운영 효율성 증가, 품질 및 확장성 향상 • "MLOps가 없으면, AI 모델 하나를 만들고 유지하는 데 과도한 시간이 소요되고, 협업도 비효율적으로 진행됩니다. 그러나 MLOps를 도입하면, 수백 개의 AI 모델을 동시에 운영하고 재학습을 자동화하여 더 빠르고 정확한 데이터 기반 의사결정을 내릴 수 있습니다." 구분 MLOps 도입 이전 MLOps 도입 이후 모델 개발 및 배포 • 수동으로 데이터 준비, 모델 학습, 배포 수행 • 개발-운영 간 단절 (Dev와 Ops의 분리) • 데이터 준비, 학습, 배포의 자동화 • 통합된 워크플로우로 효율성 증대 협업 방식 • 개별 팀이나 개인 중심으로 개발 • 협업 도구 부족, 비효율적 커뮤니케이션 • 팀원 간 작업 공유 및 협업 가능 • 버전 관리 및 작업 흐름 가시성 제공 데이터 및 모델 관리 • 데이터 파이프라인 관리 부족 • 모델 버전 관리가 체계적이지 않음 • 데이터 파이프라인 자동화 및 추적 • 모델 및 데이터 버전 관리 체계화 운영 및 유지보수 • 모델 배포 후 성능 추적 어려움 • 재학습 및 재배포 프로세스 비효율적 • 모델 성능 모니터링 및 자동 알림 • 재학습 및 재배포 자동화 스케일링 • 모델 수 증가 시 관리 어려움 • 반복적인 작업으로 비효율 발생 • 확장 가능한 시스템으로 다수의 모델 관리 가능 • 반복 작업 자동화 및 효율성 증대 시간 및 비용 효율성 • 수동 작업으로 인한 시간 소모 • 운영 비용 증가 • 자동화로 인한 시간 절약 • 효율적 자원 활용으로 비용 절감 배포 주기 • 모델 개발에서 배포까지의 주기가 길고 복잡 • CI/CD(Continuous Integration/ Continuous Deployment)로 빠른 배포 가능 품질 및 신뢰성 • 모델 성능 저하를 조기에 탐지하기 어려움 • 지속적인 모니터링으로 품질 유지 • 장애 발생 시 빠른 문제 해결 가능
• 7.
  기업에서 AI활용을 지속적으로 잘 하기위해서는… • 적절한 도구와 기술 선택 Ø 기업의 상황에 맞는 MLOps 도구와 기술 선택, 효율적으로 활용할 수 있는 전문 인력 확보 Ø 데이터 수집, 전처리, 모델 학습, 평가, 배포, 모니터링 등의 과정을 자동화하고 통합 • 협업과 커뮤니케이션 Ø AI 모델 개발자, AI/Data 엔지니어, 현업 비즈니스 부서 간 원활한 소통 체계 수립 Ø 구축된 MLOps 도구 활용에 대한 수용성 제고 및 최신 기술과 사례 지속적 학습 • 모델 재학습 주기 및 지속적 개선 Ø 데이터 변화에 따라 모델을 주기적으로 재학습할 수 있는 체계 구축 Ø 피드백 수집 체계 구축 및 정기적인 프로세스 개선 • 보안과 규정 준수 Ø 민감한 데이터를 다룰 경우 데이터 암호화 및 접근 통제를 강화 Ø 데이터 보안 가이드라인 수립 및 정기적인 보안 감사 실시 • 무엇보다도 사람이 제일 중요하며(관련 인력의 최소한이라도 내부 보유), AI 친화적인 기업 문화를 구축하는 것이 중요