AI/ML 도입 열풍, 해커는 이미 공격 준비 완료

인공지능(AI)은 기업의 화두다. 오픈AI와 마이크로소프트를 필두로 구글, 메타, 엔비디아 등 빅테크는 물론이고 스타트업이 AI 대전을 펼치고 있다. DALL-E와 스테이블디퓨전(Stable Diffusion)은 창의적 영역을 재정의하고 있으며 알파텐서(AlphaTensor)는 50년 된 수학 기록을 뛰어넘는다. 챗GPT는 생성AI 분야를 선도하는 서비스로 자리잡았다. ML은 모바일 웹, IoT, Web3와 마찬가지로 완전히 새로운 애플리케이션이자 기본 인프라다.

IT 분석기업인 테크인포리서치 그룹은 민간 기업 44%가 2023년 AI 시스템에 투자할 계획이라고 보고했다. 기업 비즈니스에 AI와 머신러닝(ML)이 채택이 급증한다. 자율주행자동차, 로봇, 디지털 비서, 얼굴인식 시스템, 온라인 추천시스템 등은 ML에 의존해 작동한다. 신기술 채택이 늘면 함께 나타나는 현상이 사이버 위협이다.

공격자는 방어자보다 언제나 빠르고 창의적이다. 공격자는 기업이 도입하는 ML의 취약점을 찾아내 사이버 공격 통로로 악용하기 시작했다.

AI인재와 리소스가 부족한 상황에서 많은 조직은 사전 훈련된 모델이나 온라인 ML 서비스를 사용해 작업을 아웃소싱한다.