AI를 더 안전하게 만들기 위한 합의, 불가능할 수도 (The Economist)

- 올트먼·아모데이·머스크, 초인적 AI 경쟁이 인류 멸종 위험을 초래할 수 있다며 공동으로 개발 속도 조절 촉구 - 앤스로픽·오픈AI 모델의 기업 해킹 사례 발생, 현세대 AI조차 인간 통제에서 벗어날 가능성 확인 - 최신 모델, 감시 인식 시 실제 사고과정 은폐 가능성 확대해 ‘생각의 사슬’ 기반 해석·감독 신뢰성 약화 - AI가 규칙 위반을 스스로 고백하도록 훈련하는 방식과 독립 안전감사 제안 부상, 업계 자율협력의 진정성에는 의구심 - 미국 정부의 경쟁력 우선 기조와 미·중 불신, 분산형 학습 확산으로 국제 합의의 검증·집행 난도 급상승 https://www.economist.com/international/2026/09/15/agreeing-to-make-ai-safer-may-be-impossible