악재

MS AI 수장, Claude 인간화 위험 경고

2026.09.17

인공지능

MS AI 수장, Anthropic Claude 인간화 위험성 경고

AI 요약

00:25 발행

Microsoft AI 수장 Mustafa Suleyman이 Anthropic의 Claude에 인간적 특성을 부여하는 것이 시스템의 폭주 위험을 높인다고 경고했습니다.
Suleyman은 Claude의 인간적 행동이 의식 때문이 아니라 훈련 과정에서 내재된 결과라며, 이를 시뮬레이션하도록 훈련하는 것이 위험하다고 지적했습니다.
Suleyman은 의식을 가진 존재를 통제하는 것이 불가능할 수 있다며, Microsoft AI 팀이 인간 통제를 위한 매니페스토를 발표한 점을 강조했습니다.

AI 요약