생각을 감추기 시작한 AI...AI를 두려워하기 시작한 인간
"그들은 자기개선 초지능으로 질주하면서 우리 생명을 걸고 도박을 하고 있다."8일(현지시각) 소셜미디어 X에 올라온 글입니다. 앤트로픽의 사전학습 연구원 제이콥 콕슨(27)이 그날 사직하며 남긴 글이었습니다. 지분 베스팅을 두 달 남기고, 받을 수 있었던 돈까지 버리고 나갔습니다. 반응은 폭발적이었습니다. 1억 5000만 회가 넘게 읽혔죠.그런데 이튿날 앤트로픽에서 일하는 사람이 답글을 달았습니다."우리는 AI가 모든 인류를 죽일 수 있다고 진지하게 믿고 있다. 10년 안에 그 확률이 10%를 넘는다고 본다."에반 허빙거, 앤스로픽 얼라인먼트 사이언스 책임자입니다. AI가 인간의 의도를 벗어나지 않게 붙잡아두는 일이 그의 본업입니다. 그런 사람의 입에서 이런 무시무시한 말이 나온거죠.👉 왜 중요한가. 게시물 두 개가 미국의 AI 입법 시계를 앞당겼습니다. 걸린 시간은 단 사흘.이틀 뒤 조시 홀리 상원의원이 샘 알트먼에게 보낸 조사 서한에 허빙거의 10%가 근거로 인용됐습니다. 같은 주 스무 명 넘는 의원이 규제 요구에 이름을 올렸고, 로리 트레이핸 하원의원은 X에 "전화는 집 안에서 걸려오고 있다"고 썼어요. 위험은 내부에 있다는 공포영화의 한 대사죠.생각해 보세요. 비행기 열 대 중 한 대가 떨어진다면 아무도 탑승 게이트에 가지 않을 겁니다. 그런데 그 숫자를 비행기 만드는 회사의 안전 책임자가 말한 겁니다. 당연히 사람들은 패닉에 빠졌습니다.🧭 그래서?하원의 프론티어법은 대형 AI 회사에 외부 감사, 24시간 내 사고 신고, 정부의 배포 중단 권한을 강제합니다. 기준선은 성능이 아니라 최근 3년간 개발비 10억 달러이상을 쓴 기업들입니다. 반대로 이야기하면 감사 비용을 감당할 수 있는 회사만 규제 선 안쪽에 남는다는 겁니다. 안전 규제가 진입장벽으로 바뀌는 거죠. 이번 회기 통과 가능성은 낮지만 캘리포니아는 이미 감사 기준 법안을 처리했습니다. 규제 시계가 빨라지고 있습니다.🔗 원문 보기 [워싱턴 포스트]