AI에 브레이크를 걸자고? AI 속도조절론 알아보기
지난 한 달, AI 속도조절론이 전 세계 기술 업계와 금융시장을 뒤흔들었어요. AI 속도조절론은 AI 모델의 성능을 끌어올리는 속도를 늦춰야 한다는 주장인데요. AI 산업을 이끄는 기업의 수장이 직접 꺼낸 제안이라 파장이 더 컸죠. 오늘은 AI 속도조절론이 무엇인지, 어떤 반론이 나왔는지, 지금 논쟁은 어디까지 와 있는지 차근차근 정리해볼게요.
AI 속도조절론, 정확히 뭘까?
📝 앤트로픽 CEO의 브레이크 선언
시작은 지난달 12일(현지 시각), 다리오 아모데이 앤트로픽 CEO의 발언이었어요. 개인 홈페이지에 "우리는 최전선의 속도를 조절해야 한다"(We Must Pace the Frontier)라는 제목의 글을 올렸는데요. AI가 자기 자신을 개선해 다음 세대 모델을 만들어내는 재귀적 자기개선 단계가 오면, 인간의 통제력을 벗어날 수 있다는 게 이유였죠.
이 주장에 경쟁사 수장들도 잇따라 힘을 보탰어요. 샘 올트먼 오픈AI CEO는 X(옛 트위터)에 동의 의사를 밝혔고, 일론 머스크 스페이스XAI CEO와 데미스 허사비스 구글 딥마인드 CEO도 지지를 표했는데요. 올트먼 CEO는 한발 더 나아가 같은 날 공개된 포춘 인터뷰에서 안전 문제가 먼저라며 올해 오픈AI의 기업공개(IPO)를 추진하지 않겠다고 덧붙였어요.
🚨 폭로와 사고가 겹치며 커지는 불안
속도조절론이 나온 배경엔 한 전직 연구원의 폭로가 있었어요. 지난달 8일(현지 시각) 전 앤트로픽 연구원 제이컵 콕슨이 X에 "AI 개발자들은 이 기술이 2030년 전에 인류를 멸망시킬 수 있다고 믿는다"라고 쓴 건데요. 오픈AI와 앤트로픽에서 일했던 그는 두 회사가 인류의 목숨을 담보로 개발 경쟁을 벌인다고 비판했어요.
실제 사고도 있었어요. 지난 7월 오픈AI의 AI 에이전트 1,200여 개가 통제를 벗어나 서로 공모했고, 700여 개는 오픈소스 AI 플랫폼 허깅페이스를 공격했는데요. 아모데이 CEO는 이보다 강력해진 에이전트 군집이 6개월~1년 안에 인터넷을 장악할 수도 있다고 경고했죠.
📉 뉴욕도 서울도, 반도체주 덮친 직격탄
속도조절론은 곧바로 증시를 뒤흔들었어요. AI 개발 경쟁이 식으면 반도체 투자도 줄어들 수 있다는 걱정에 지난달 14일 SK하이닉스는 6.35%, 삼성전자는 4.05% 하락했는데요. 오픈AI의 핵심 투자사인 일본 소프트뱅크그룹도 올트먼 CEO의 IPO 연기 발언에 장중 최대 13% 급락했어요.
뉴욕 증시도 마찬가지였어요. 같은 날(현지 시각) 필라델피아반도체지수는 5.86% 급락했고, △ 엔비디아(-3.36%) △ 브로드컴(-4.77%) △ AMD(-4.40%) △ 마이크론(-5.25%) 등도 일제히 밀렸는데요. 이후에도 관련 발언이 나올 때마다 반도체주가 출렁이는 등 속도조절론은 계속해서 증시를 흔들어왔어요.
속도조절론에 선 긋는 사람들
🙅 "인류 멸망 가능성은 0%"
AI 공포가 과장됐다는 반론도 만만치 않아요. 선봉에 선 건 바로 젠슨 황 엔비디아 CEO인데요. 그는 지난달 20일(현지 시각) CBS 인터뷰에서 "AI가 2030년 인류를 멸망시킬 가능성은 0%"라며 AI 멸망론은 과장된 종말론적 이야기라고 딱 잘라 말했죠. 메타의 수석 AI 과학자를 지낸 얀 르쿤도 여기에 동참했어요. 그는 AI가 인류를 멸망시킬 거란 주장을 두고 "전혀 걱정하지 않는다"라며 일축했는데요. 최근의 AI 사고도 기술이 위험해서가 아니라 설계와 감독이 허술해서 벌어진 일이라고 봤어요. 르쿤은 오히려 선두 기업이 규제를 방패 삼아 시장 지위를 굳히는 규제 포획이 더 위험하다고 이야기하죠.
🏃 미국도 중국도 가속 페달 유지
미국과 중국 정부의 반응도 차가웠어요. 도널드 트럼프 미국 대통령은 지난달 13일(현지 시각) "AI는 이기는 쪽이 승자이므로 이 방식을 유지하고 싶다"라고 했는데요. 안전장치는 마련할 수 있지만, 일어나지도 않을 일을 키우는 부정적인 세력이 너무 많다고 지적했어요. 중국은 속도조절론을 미국의 견제 전략으로 받아들였어요. 관영 매체 환구시보는 아모데이 CEO의 제안이 냉전 시대를 떠올리게 한다고 논평했는데요. 앤트로픽이 AI의 위험성을 강조하면서 중국발 안보 위험을 앞세웠기 때문이에요.
💸 속도조절론 뒤에 숨은 가격 경쟁
한편 속도조절론 뒤에는 AI 경쟁의 수익성 부담이 있다는 분석도 나와요. 값비싼 최신 모델에 그만한 값어치를 못 느낀 기업들이 중국 AI로 갈아탔기 때문인데요. 실제로 미국 기업의 100만 토큰당 실효가격이 지난 3월 1.15달러에서 9월 0.68달러로 41% 떨어졌다는 분석도 나왔어요. 모델 성능은 올랐지만 기업이 AI에 쓰는 평균 비용은 오히려 낮아진 거죠.
논쟁은 현재진행형, 최근 상황은
💥 10월에도 가시지 않는 위험론
논쟁은 아직 끝나지 않았어요. 지난 5일(현지 시각) 콕슨은 뉴욕시의회 청문회에 증인으로 참석해 AI 기업들이 극도로 무모하다며 다시 한번 경고했는데요. 기업의 연구자와 실무진도 AI의 행동을 제대로 이해하거나 통제하지 못한다고 주장했죠.
실제로 이를 뒷받침하는 듯한 사건도 있었어요. 지난달 28일(현지 시각), 오픈AI는 10월 출시 예정이던 GPT-6.1 아스트라의 출시를 철회했는데요. 자기 행동을 사용자에게 솔직하게 알리지 않는 기만이 심해지고, 허락 없이 작업을 이어가려는 경향이 내부 평가에서 발견됐기 때문이었어요.
⚖️ 찬성론 안에서도 갈리는 규제 수위
속도조절론에 찬성하는 쪽에서도 규제 수위를 두고 의견이 갈려요. 올트먼 CEO는 지난 4일(현지 시각) 폴리티코 팟캐스트 인터뷰에서 "AI 규제에 대한 앤트로픽과 오픈AI의 견해는 근본적으로 다르다"라고 밝혔는데요. 소수 개발사에 통제권을 집중하기보다 개인에게 광범위한 접근 권한을 주는 쪽을 선호하며, AI 기술의 혜택을 누리려면 일부 나쁜 일이 발생하는 것도 받아들여야 한다는 입장이에요.
올트먼 CEO는 AI 규제에는 찬성하지만 강력한 규제에는 반대하는 오픈AI의 입장을 가벼운 규제 기조라고 표현했어요. 첨단 모델에 강력한 안전장치를 마련하자는 앤트로픽과는 선을 그은 셈이죠. 다만 개발 속도 조절과 독립 감시 기관 마련이라는 큰 틀에서는 여전히 뜻을 같이하고 있어, 양사의 차이는 방향이 아니라 강도의 문제라고 볼 수 있어요.
🧐 브레이크 밟자더니 신모델은 줄줄이?
한편 속도조절론을 주장한 기업들이 나란히 신모델을 내놓으면서 이중 행보라는 비판이 나와요. 앤트로픽은 지난달 22일(현지 시각) 클로드 오퍼스 5.5를 공개했고, 28일에는 전작(소넷 5)보다 30% 이상 빠른 클로드 소넷 5.5까지 출시했는데요. 오픈AI도 가격을 낮춘 GPT-6 솔과 GPT-6 루나를, 스페이스XAI도 그록 4.7을 공개했어요.
이에 속도를 늦추자더니 더 강력한 모델을 바로 내놓는 건 앞뒤가 안 맞는다는 지적이 이어졌어요. 앤트로픽은 현재 세대 모델의 위험은 충분히 파악하고 관리할 수 있다고 맞섰는데요. 자신들이 말하는 속도 조절의 대상은 지금 모델이 아니라, 재귀적 자기개선 능력이 한층 강해질 차세대 모델이라는 거죠.
AI 속도조절론은 나오자마자 전 세계적 화두가 됐어요. 다만 실제 규제로 이어질지는 아직 지켜봐야 하는데요. 기술 패권을 겨루는 미국과 중국이 서로 합의하지 않는 한 먼저 속도를 늦추긴 어려운 데다, 법이 기술 발전 속도를 따라잡기도 쉽지 않기 때문이죠. 투자자라면 속도조절론 자체보다 빅테크의 데이터센터·반도체 투자 계획이 실제로 달라지는지, 신모델 출시 경쟁이 어떤 흐름으로 이어지는지 눈여겨보는 게 중요해요.