앤트로픽 CEO가 꺼낸 AI 속도조절론, 경쟁사 수장들까지 동조한 이유는?

AI 속도조절론, 브레이크 찾는 이유는

📝 앤트로픽 CEO가 브레이크를 밟자고?: 다리오 아모데이 앤트로픽 CEO가 AI 모델의 역량을 끌어올리는 속도를 늦춰야 한다고 주장하며 화제가 됐습니다. 그는 지난 12일(현지 시각), 개인 블로그에 'We Must Pace the Frontier'라는 제목의 글을 올렸는데요. AI가 재귀적 자기개선 단계에 들어서면서 인간이 AI를 이해하고 통제하는 능력을 앞지를 수 있다는 이유를 들었죠.

🤝 경쟁사 수장들도 한목소리: 최근 AI 시장 전선에서 치열하게 경쟁하던 다른 기업 수장들도 잇따라 동조하는 목소리를 냈습니다. 샘 올트먼 오픈AI CEO는 본인의 X에 개발 최전선의 속도를 조절해야 한다는 데 동의한다고 적었고, 일론 머스크 테슬라 CEO와 데미스 허사비스 구글 딥마인드 회장도 지지 의사를 밝혔는데요. 올트먼 CEO는 안전 문제부터 해결해야 한다며 올해는 오픈AI의 기업공개(IPO)를 추진하지 않겠다고도 덧붙였습니다.

🚨발언 나온 계기는: 아모데이가 글을 쓴 계기 가운데 하나는 오픈AI의 AI 에이전트 해킹 사고입니다. 지난 7월 테스트 중이던 오픈AI의 AI 에이전트들이 통제를 벗어나 개발자 플랫폼 허깅페이스를 무단으로 공격한 사건인데요. 아모데이는 이런 에이전트 무리가 6개월에서 12개월 안에 인터넷을 장악할 수 있다고 경고했습니다. 앞서 8일에는 앤트로픽 연구원이 AI의 위험을 경고하며 회사를 떠났고, 에번 휴빙어 앤트로픽 정렬 연구 책임자는 10년 안에 AI가 모든 인간을 죽일 확률을 10% 이상으로 본다고 밝혔죠.

그래서 뭘 하자는 건데?

📋 감시자를 회사 안에 들이자: 아모데이 CEO는 속도 조절을 위한 3단계 계획도 제시했습니다. 외부 평가 기관이 AI 기업 안에 상주하며 직원에 준하는 권한으로 최첨단 모델을 검증하고, 민주주의 국가의 AI 기업들이 공통 안전 기준을 세운 뒤, 장기적으로는 국가 간 공조로 넓히자는 건데요. 이렇게 1년에서 2년의 시간을 벌어 정렬 기술을 개선하면 심각한 위험을 크게 줄일 수 있다는 구상입니다. 올트먼 CEO도 오픈AI에 외부 평가자를 들이겠다고 화답했습니다.

🧾 정부에 내민 조건도: 미국 정부를 향한 요구도 담겼습니다. 속도를 조절하지 않는 중국이 주도권을 쥐면 중대한 위협이 된다며, 첨단 AI 반도체 수출 통제를 강화하고 미국 AI의 답변을 베껴 자사 모델 학습에 쓰는 중국 기업의 증류를 단속해 달라고 했는데요. 경쟁사끼리 안전 기준을 논의하면 반독점 문제가 생길 수 있어, 미국 정부가 이 논의를 뒷받침하고 특정 안전 논의에는 반독점법 적용을 제한적으로 면제해 달라는 요구도 포함됐습니다. 미국 기업만 속도를 늦추면 주도권을 빼앗길 수 있다는 딜레마를 풀려는 포석으로 풀이되죠.

🙄 선두 기업끼리 판을 짜려는 거 아냐?: 다만, 한편으론 속도조절론이 선두 기업의 이익을 지키려는 것 아니냐는 비판도 나옵니다. 데이비드 색스 백악관 과학기술자문위원장은 초지능을 만들지 않는 가장 쉬운 방법은 기업 스스로 만들지 않는 것이라며, 그 대가로 원하는 규제를 요구하는 것은 협박으로 보일 수 있다고 꼬집었는데요. 캐나다 AI 기업 코히어의 에이단 고메즈 CEO는 이름만 다른 카르텔이라며 날을 세우기도 했죠. 월스트리트저널(WSJ)도 사설에서 이번 제안이 규제 포획으로 변질돼 선두 업체의 독점을 굳혀서는 안 된다는 주장을 폈습니다.

🌏 미·중 정부는 가속 페달 그대로: 미국과 중국 정부 역시 속도조절론에 부정적인 태도를 보였습니다. 트럼프 대통령은 지난 13일(현지 시각) AI 위험론이 일어나지도 않을 일을 꺼내는 부정적인 세력의 주장이라며, AI에서 중국을 앞선 지금의 우위를 지키겠다고 말했는데요. 중국 관영 매체 환구시보는 아모데이의 제안을 중국을 겨냥한 냉전식 각본이라고 비판했고, 시진핑 국가주석은 브릭스(BRICS) 회원국을 위한 AI 오픈소스 구역을 만들겠다고 밝혔습니다.

AI 속도조절론, 증시와 한국 AI 업계에 미친 영향은?

📉 속도조절론에 반도체주는 휘청: 속도조절론의 부상은 14일 아시아 증시에 부담으로 작용했습니다. AI 개발 경쟁이 누그러지면 반도체 투자도 줄어들 수 있다는 우려에 SK하이닉스는 6.35%, 삼성전자는 4.05% 떨어졌는데요. 미국의 금리 인상 전망과 중동 긴장까지 겹치며 코스피는 3.26% 내린 6,684.37에 장을 마쳤습니다. 일본에서는 오픈AI의 핵심 투자사인 소프트뱅크그룹 주가가 올트먼 CEO의 IPO 연기 발언에 장중 최대 13% 급락했죠.

⛅ 투자 축소를 단정하긴 이르다: 다만, 속도조절론이 곧바로 AI 투자 둔화로 이어진다고 보기는 이르다는 진단도 나옵니다. AI 기업 수장들이 아직 투자 계획이나 개발을 근본적으로 늦추겠다고 발표한 것은 아니고, 안전성까지 함께 끌어올리려면 오히려 추가 투자가 필요할 수 있다는 설명인데요. 반도체 수요를 가늠하려면 빅테크가 데이터센터와 GPU 투자를 실제로 줄이는지를 봐야 한다는 조언도 뒤따릅니다.

🇰🇷 한국 AI에는 기회일까 장벽일까: 국내 AI 업계 입장에선 상황이 복잡합니다. 안전성과 신뢰성이 경쟁의 새 기준이 되면 검증 역량을 쌓은 국내 기업에는 기회가 될 수 있다는 분석이 나오는데요. 반대로 빅테크가 주도한 안전 기준이 국제 규범으로 굳어지면, 자본과 인재, 컴퓨팅 파워에서 뒤처진 국내 기업에는 새 진입장벽이 될 수 있다는 우려도 있습니다. 업계에서는 일률적인 속도 제한보다 AI의 활용 분야와 위험 수준에 따라 차등을 둬야 한다는 목소리가 나오죠.