MLOPS

인공지능(AI)은 기업의 화두다. 오픈AI와 마이크로소프트를 필두로 구글, 메타, 엔비디아 등 빅테크는 물론이고 스타트업이 AI 대전을 펼치고 있다. DALL-E와 스테이블디퓨전(Stable Diffusion)은 창의적 영역을 재정의하고 있으며 알파텐서(AlphaTensor)는 50년 된 수학 기록을 뛰어넘는다. 챗GPT는 생성AI 분야를 선도하는 서비스로 자리잡았다. ML은 모바일 웹, IoT, Web3와 마찬가지로 완전히 새로운 애플리케이션이자 기본 인프라다. IT 분석기업인 테크인포리서치 그룹은 민간 기업 44%가 2023년 AI 시스템에 투자할 계획이라고 보고했다. 기업 비즈니스에 AI와 머신러닝(ML)이 채택이 급증한다. 자율주행자동차, 로봇, 디지털 비서, 얼굴인식 시스템, 온라인 추천시스템 등은 ML에 의존해 작동한다. 신기술 채택이 늘면 함께 나타나는 현상이 사이버 위협이다. 공격자는 방어자보다 언제나 빠르고 창의적이다. 공격자는 기업이 도입하는 ML의 취약점을 찾아내 사이버 공격 통로로 악용하기 시작했다. AI인재와 리소스가 부족한 상황에서 많은 조직은 사전 훈련된 모델이나 온라인 ML 서비스를 사용해 작업을 아웃소싱한다.

기업 전체에서 AI 사용이 보편화됨에 따라 AI 오류를 보다 쉽게 검사, 발견 및 수정할 수 있는 제품에 대한 수요가 증가하고 있다. 머신러닝 오퍼레이션(MLOps: Machine Learning Operations) 커뮤니티의 최근 설문 조사에 따르면 데이터 과학자 및 머신러닝 엔지니어의 84.3%가 모델의 문제를 감지하고 수정하는 데 소요되는 막대한 시간이 골치아픈 문제라고 말했다. 이 중 4분의 1 이상(26.2%)은 문제를 발견해서 처리하는 데 일주일 이상이 소요된다고 말했다.이러한 머신러닝 모델 개발 과정에서 오류의 원인은 의외로 단순하다. 대다수는 데이터의 ‘라벨링’을 잘못해서 발생하는 것이다. 유명한 예로 강아지의 품종을 헷갈려 잘못된 품종 정보를 특정 강아지에 라벨링한 사례가 있다. 이 데이터는 AI 모델을 구축하는 공공 학습 자료로 전세계적으로 넓게 퍼져나간 바 있다. 이렇게 잘못된 데이터를 AI 모델에 학습하게 되면 결국 AI 모델의 성능과 정확성에도 오류가 발생할 수 밖에 없는 것이다.머신러닝 모델 개발 과정에서 이러한 오류들을 최소화하고 전체 개발 운영을 최적화해줄 수 있는 도구는 없을까? 오늘 소개할 회사는 갈릴레오. 구조화되지 않은 데이터로 작업하는 데이터 사이언티스트를 위한 머신러닝 기반의 데이터 인텔리전스 플랫폼을 제공하는 회사다. 회사는 데이터 과학자가 머신러닝 모델의 학습부터 개발까지 전체 주기에서 데이터 오류를 10배 더 빠르게 찾고 수정해낼 수 있도록 지원한다고 주장한다. 갈리레오는 현재 Fortune지 선정 500대 기업의 머신러닝팀과 여러 산업 분야의 신생 기업을 지원하고 있다.

데이터와 이를 기반으로 한 머신러닝(Machine Learning, ML) 기술은 이제 우리 삶 속에서 일상이 되었다. 넷플릭스 작품 추천부터 길찾기, 안면인식까지 여러 업계와 기관에서 머신러닝 시스템을 만들고 활용한다. 잘 만들어진 머신러닝 시스템은 이용자들에게 편리함과 좋은 경험을 주며, 더 나아가 기업의 매출 향상과 이미지 향상으로까지 이어진다. 뛰어난 동영상 추천 알고리즘으로 시청자들을 오랜 시간 잡아두는 유튜브가 대표적인 예다. 그렇다면 좋은 머신러닝 서비스를 만들기 위한 조건은 무엇일까? 잘 정비된 양질의 데이터, 우수한 개발자와 데이터 분석 인력, 지속적인 업데이트와 개선 등을 들 수 있을 것이다. 그리고 무엇보다도, 이 모든 것들이 잘 이뤄지기 위한 기반이 될 MLOps(Machine Learning Operations) 플랫폼이 필요하다. 머신러닝 서비스를 잘 구축하고 쉽게 배포할 수 있는 MLOps 플랫폼, 그 중에서도 유니콘 등극이 얼마 남지 않은 기업 ‘텍튼(Tecton)’을 소개한다.