“AI가 그랬다”는 변명일 뿐… 기업의 AI 리스크 막는 5가지 방법
데이터 과학자이자 사회과학자인 럼만 초우드리(Rumman Chowdhury)는 지난 2018년 테드엑스(TEDx) 강연 ‘도덕적 외주화: AI 시대의 인간성(Moral Outsourcing: Humanity in the Age of AI)’에서 ‘도덕적 외주화(moral outsourcing)’라는 개념을 제시했다. 사람이 만든 기술에 “폭주한다”, “스스로 판단한다”, “악의적이다” 같은 인간의 언어를 입히는 순간, 정작 그 기술을 설계하고 배포한 사람의 책임은 흐려질 수 있다는 지적이다. AI를 사람처럼 설명할수록 결과에 대한 책임도 시스템에 넘기기 쉬워진다. 초우드리는 지난 8월 20일 엠아이티 테크놀로지 리뷰(MIT Technology Review)에 기고한 글에서도 이 문제를 다시 짚었다. 현재 AI 논쟁은 크게 두 갈래로 나뉜다. 데미스 하사비스(Demis Hassabis), 다리오 아모데이(Dario Amodei), 샘 알트만(Sam Altman) 같은 기술 기업 리더들은 인간을 뛰어넘는 ‘초인적 AI’의 위험과 규제 필요성을 강조한다. 다른 한편에서는 효율적 이타주의(Effective Altruism) 계열의 정책 단체와 철학자들을 중심으로, 인간이 고도로 발전한 AI를 통제할 도덕적 권리가 있는지를 묻는다.출발점은 다르지만 두 논쟁에는 공통점이 있다. AI를 인간이나 기업이 통제하고 책임지기 어려운 독립된 존재처럼 바라본다는 점이다.초우드리가 경계하는 것도 바로 이 지점이다. AI가 기업이 만든 제품과 시스템이 아닌 독립된 ‘존재’로 받아들여지기 시작하면, 문제가 생겼을 때 기업은 “AI가 알아서 한 일”이라며 한발 물러설 수 있다. 마치 직원이 회사의 지시를 벗어나 독단적으로 행동한 것처럼 AI를 설명하며 책임을 분리할 여지가 생기는 것이다. ‘도덕적 외주화’라는 표현이 나온 지 10년도 채 지나지 않았다. 그러나 이제 이 문제는 철학적 논쟁을 넘어 기업의 실제 의사결정과 책임 구조에서 다뤄야 할 현실적인 문제가 됐다. 🚀 더밀크 멤버십 가입하고 AX 혁명 기사 더 읽기