AGI 시대 3년내 윤곽... "생성AI로 인간 능력 후퇴 우려"

인간처럼 사고하고 행동할 수도 있는 인공지능(AI), '일반인공지능(AGI)'에 대한 기대와 두려움이 커지는 가운데, AI가 이미 인간의 학습능력을 침범하기 시작했다는 주장이 나왔다. 이때 눈에 띄는 변화는 AI의 추격이 아닌 인간 스스로의 후퇴다.

이장선(학계 활동명: 칼 스트라토스) 럿거스대학교(뉴저지주 주립대) 교수는 AGI 시대에 앞서 인간이 경계해야 할 점으로 ‘생각의 자동화’를 꼽았다. 미국 고등교육 현장에서 이미 이를 피부로 느끼고 있다. 챗GPT 등으로 학교 과제가 무의미해지고, 인간의 학습 능력이 쇠퇴하기 시작했다는 것.

이 교수는 미국 컬럼비아대학교를 거쳐 현재 럿거스 대학교에서 AI 비지도 학습법 및 지식사용모델 개발을 연구하는 미국 내에서도 손꼽히는 AI 전문가다.

AGI가 2~3년 안에 빠르게 인간의 지능을 따라잡으면서 AI에 대한 기대와 우려가 나오는 가운데, 이장선 교수는 AI를 사용하는 인간에 주목하고 있다. AI는 빠르게 똑똑해지고 있는 데 반해, 인간은 더 똑똑해지기 위한 생각과 훈련을 되려 게을리하고 있다는 우려다.

이른바 ‘생각의 자동화’다. 교육 현장에서 과제는 이미 무의미해졌다. 이장선 교수는 “교육 현장에서 이미 느낀다. 미국에서는 챗GPT가 대중에게 공개된 이후 학교에서 숙제가 의미가 없어졌다”라면서 “학교에 있으니 문제를 체감하는데 학생들이 AI를 써서 학습 능력이 떨어지고 있다”고 우려했다.

그러면서 “챗GPT 사용을 막을 수는 없다. 대신 교육 프로그램에 어떻게든 반영을 해야 한다”면서 “인간이 AI로 오히려 더 멍청해질 수도 있다. 이렇게 AI는 발전하고 인간은 AI의 명령대로 움직인다면 점차 인간의 인지능력이 떨어질 것이라고 분명히 본다”고 강조했다.

물론, 생성AI는 학습에 큰 도움을 준다. 챗GPT는 일반 검색과 달리 대화 형식으로 정보를 얻을 수 있는 장점이 있다. 그는 “뭔가를 배우려고 할 때 질문과 답변에 따른 후속 질문을 하는 방식(백앤포워드)은 검색보다 도움이 된다”고 말했다. 하지만 문제는 이 같은 '생성AI' 식의 검색 결과 도출이 일반화 됐을 때다. 프롬프트(질문)를 입력하는 것이 중요하지만 벌써 질문도 자동으로 생성하고 제안하고 있다. 사람은 AI가 만들어낸 질문을 클릭하고 답변도 얻어내면서 놀라워하고 있다.

질문과 대답을 AI가 스스로 하는 꼴이다. 인간은 AI가 만들어낸 지식 안에서 놀아나게 된다.

인간처럼 사고할 수 있는 AGI는 언제 나타날까?

이 교수는 "학계의 중론"이라 표현하며 2~3년 내라고 답했다. 이장선 교수는 “학계 원로들은 빠르면 2~3년 안에, 늦으면 10년안에 나온다고 하지만 현역은 좀 더 회의적인 면이 있는 것 같다”면서도 “다만 AI가 작동하는 방법이 발견이 됐기 때문에 향후 수년간은 비약적으로 성장할 것은 분명하다”고 말했다.

이때 그는 AGI가 급작스레 등장하기보다는 점진적으로 보급될 가능성을 꼽았다. 그는 “기술적으로 급작스런 모멘텀이 와 AGI가 갑자기 딱하고 나타날 수도 있다. 반면 AI가 자연스럽게 발전해 어느 날 보니 ‘기계랑 사람과 이야기하는데 다른 게 없네?’라고 생각할 수도 있다. 현재로서는 후차처럼 2~3년 안에 점진적으로 AGI가 나타날 것이라고 보고 있다”고 말했다.

AGI가 가능해지려면 기억하고(long term memory), 계획하는(planning) 능력이 향상돼야 한다. 그는 “지금은 AI가 주어진 질문에만 답할 뿐, 스스로 생각하는 계획하는 능력이 없다"면서 "이게 되면 게임체인저가 될 것으로 본다”고 말했다.

AI와 AGI에 대한 흔한 오해가 있다. 이 교수에 따르면 지금의 AI는 기술혁명이 아니다. 이미 기반 기술은 20~30년 전에 개발됐다. 최근 생성AI 챗봇이 두각을 보인 데에는 그래픽처리장치(GPU)와 오픈AI의 추진력이 주효했다.

GPU는 데이터 병렬처리 구조로 기존 CPU보다 훨씬 빠르게 방대한 양의 데이터를 학습할 수 있는 일종의 가속기다. 오픈AI는 ‘언어모델을 GPU로 스케일업(확장)하면 더 똑똑해질 수 있다’는 기존의 이론을 처음으로 진지하게 받아들였다. 그리고 GPU라는 자원을 투입, 컨셉에 불과했던 AI를 현실화했다. 챗GPT는 트랜스포머라는 기술을 더해 실제로 구현한 제품이다.

오픈AI의 일리야 슈츠케버 수석과학자는 이를 기술적으로 현실화한 일등 공신이다. 그는 “오픈AI의 성공 비결에는 기존에 있었던 이론에 진지하게 접근해 자원을 투입하고 개발한 데 있다”라면서 “대중은 샘 알트만이라는 CEO만 보지만 기술적으로는 슈츠케버가 다했다. 엄청 대단한 사람”이라고 평가했다.

슈츠케버는 지난 11월 오픈AI 이사회에서 급작스레 샘 알트만 공동창업자를 해임한 사건의 배후로 꼽히는 인물이다. 이후 일론 머스크 테슬라 CEO는 한 트위터리안이 "일리야는 테슬라로 가야 한다"고 말하자 "혹은 xAI"라고 대답하며 영입 의사를 비치기도 했다.

일반인공지능(AGI)은 언어모델이라기보다는 지적인 AI를 일컫는 개념에 가깝다. 우리가 말하는 AI 챗봇의 대형언어모델(LLM)은 트랜스포머 모델을 많은 지식을 담은 텍스트데이터로 학습을 시켜 행동하는 것으로 AGI를 효과적으로 구현할 수 있는 한 방식이다.

오픈AI가 촉발한 AI 경쟁에 마이크로소프트, 구글 등 미국 빅테크 모두가 뛰어들었다. 미국, 유럽연합(EU), 일본, 중동, 중국 등 각 국가들은 AI인프라 산업에 막대한 보조금을 뿌리며 AI 산업 경쟁은 국가대항전으로 비화하는 양상이다. AI 군비경쟁이 펼쳐지고 있는 것이다.

한국 기업들은 어떻게 기회를 엿볼 수 있을까?

AI 산업에서 한국은 후발주자다. 이장선 교수는 “AGI 시장에서 아무도 미국 기업들과 경쟁할 수 없다”고 진단했다. 기초모델은 이미 끝났다는 것. 그래서 특정 부분에 특화한, 수익이 나는 서비스에 기회가 있다고 봤다.

일론 머스크 테슬라 창업자가 X(전 트위터) 데이터로 특화하는 전략, 혹은 검색에 특화한 퍼블렉시티AI, AI 실행 클라우드 플랫폼 투게터AI 등이 그 예다. 그는 “기초모델은 더 많은 데이터와 스케일이 큰 쪽이 이긴다”라면서 “오픈AI, 구글, 앤트로픽 등이 이미 만든 LLM 말고 다른 걸 쓸 이유가 굳이 없다. LLM이 많아지는 건 일종의 낭비”라고 말했다.

그러면서 “전반적으로 현 AI 경쟁에서 스켈링업하는 전략은 무모하다. 오픈AI도 제대로 된 사업모델(BM)이 없어 스케일업에 한계가 있는 상태”라면서 “GPT-4 이기는 모델 만들어도 돈을 벌지는 아무도 모른다. 파운데이션 모델 투자는 해야 하지만, 국내에서 만든 서비스도 한국형으로 경쟁하는 게 아니라 특화된 수익이 나는 서비스를 만드는 게 중요하다”고 말했다.

즉, 생성AI 시대의 '한국형' 이란 한국인이나 한국어가 아니라 한국인, 한국사회, 한국 경제에 특화된 모델, 이 모델로 스케일업이 가능하고 수익이 나는 서비스라는 뜻이다.

AI는 현재 산업 전방위에서 적용되고 있다. 이장선 교수는 의료, 게임, 컴패니언(동반자 또는 친구) AI, AI에이전트 등에서 기대감을 드러냈다.

이때 그는 지적인 존재, AGI가 생기면 모두가 자신을 지지해주는 ‘컴패니언AI’를 가져 사람이 더이상 외로움이라는 감정을 느끼지 않을 수 있다는 가능성을 제시했다. AI로 검진이 자동화되면 의료서비스 접근이 어렵거나 비싼 지역에서 건강검진이 쉬워지거나 의사의 오진율을 줄일 가능성도 있다.

이와 함께 AI로 인해 보편적기본소득(UBI)이 현실화할 수도 있지만, 빈부격차가 심화할 가능성도 함께 제시했다. AI 산업 자체도 이를 보여준다.

GPT를 만든 원년 멤버는 50여명으로 알려졌다. GPU를 조달할 자원만 있다면 능력 있는 소수로 가능하다.

이를 위해 정부 차원의 움직임도 주문했다. 이장선 교수는 “십몇 년 전까지만 해도 AI 전문가들이 자기가 살아있는 동안에 AI랑 말하는 게 가능했으면 좋겠다고 말했는데 그 상상도 할 수 없었던 일이 지금 갑자기 가능해졌다”면서 “특정 부분이 아니라 모든 분야가 자동화되면 보편적 기본소득까지 가능할 수도 있다. 미국처럼 스타트업에서 시작하는 게 어렵다면 정부 보조도 필요할 것 같다”고 말했다.

그는 오는 1일 코리아소사이어티가 뉴욕 시티은행 본사에서 개최하는 ‘AI 시대 한국 스타트업이 맞이할 변화, 위기, 그리고 기회(Changes, Challenges, and Chances in K-Startups amid AI Era)” 포럼에서 김대일 메타 AI연구과학자, 김성훈 업스테이지 최고경영자(CEO), 제임스 웨스트 시티은행 결제사업현대화전략사업부 매니징디렉터와 함께 'AI 시대 변화하는 스타트업 환경'을 주제로 패널토론할 예정이다. 더밀크는 이 포럼을 현장 취재할 예정이다.

이장선(칼 스트라토스) 럿거스대학교(뉴저지주 주립대) 교수는 AI 비지도 학습법 및 지식사용모델 개발을 연구하고 있다. 정보이론의 기반인 상호의존 정보의 통계적 이론을 재정립, AI 연구 방법론의 방향성을 바꾼 인물이자 실무 경험을 두루 갖춘 인사로 평가받는다.

토요타기술연구소(시카고 TTIC) 재직 시절 세계적인 AI 석학인 데이비드 맥콜스(David McAllester), 에이브림 블럼(Avrim Blum) 등과 함께 연구했고, 2020년 구글 패컬티리서치어워드 등을 수상했다. 블룸버그 자연어처리(NLP) 연구팀에서 자연어이해(NLU)서비스에 딥러닝 기술 도입을 총괄하기도 했다.

현재 자연어처리 분야 최고 학회인 전산언어학학회(ACL), 임페리얼메소드 자연어처리 컨퍼런스(EMNLP), 북미전산언어학회(NAACL)에서 머신러닝 분야 위원장을 맡고 있다.

이 같은 명성으로 네이버는 지난 2022년 미 MIT 김윤형 교수와 함께 그를 네이버 스칼라(차세대 AI 기술 및 검색 서비스 개발 조직)로 영입한 바 있다.