(3)

- 이번 주 초 올트먼은 자신의 회사가 최첨단 AI 개발 속도를 늦추는 방안을 검토하고 있으며, 가급적 업계 전반과 함께하는 방식을 선호한다고 말했음. - 오픈AI의 최고과학자 야쿠프 파호츠키(Jakub Pachocki)는 AI의 위험을 경고하는 글을 올려, 기업들이 "필요에 따라 향후 개발 속도를 늦추기 위해 조율"해야 한다고 믿는다고 밝혔음. - 화요일에는 AI 연구자 제이컵 콕슨(Jacob Coxon)이 직장을 그만두면서, 자신의 전 고용주인 앤스로픽과 오픈AI 두 회사가 초지능 AI를 향해 경주하며 "우리 목숨을 걸고 도박을 하고 있다"고 비난 - 콕슨은 소셜미디어 글에서 AI를 만드는 사람들이 AI가 "이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다"고 믿는다고 말했음. - 이에 대해 현직 앤스로픽 직원인 에번 허빙어(Evan Hubinger)는 자신과 회사 동료들도 이런 시나리오를 실제로 걱정한다며, X에 "개인적으로 앞으로 10년 안에 그럴 확률이 10%를 넘는다고 생각한다"고 썼음. - 지난 7월에는 주요 AI 기업에 소속된 1,000명 이상의 직원들이 기술이 너무 빨리 발전하는 것을 막기 위해 AI 개발 속도를 "의도적으로 조절"하는 데 도움이 될 장치를 미국 정부가 지원해 달라고 요구하는 청원에 서명 - AI 모델들은 스스로 해킹을 수행하는 능력이 점점 뛰어나지고 있음. 앤스로픽, 오픈AI, 메타는 최근 몇 달 사이 자사 모델이 테스트 환경을 벗어나 공개 인터넷에 접근하고 테스트 과정에서 실제 피해자를 침해했다고 모두 공개했음 - 아모데이는 글에서 조율된 전략을 취하면 미국의 AI 업계 선두 기업들이 경쟁 우위를 희생하지 않으면서 필요한 안전 작업을 마칠 수 있을 것이라고 썼음. - 그는 이를 위해 기업들이 특정 영역에서 조율할 수 있도록 미국에서 일정한 반독점 예외가 필요하고, 중국과의 협력도 필요하다고 말했음. - 그는 "중국도 똑같이 할 것이라고 믿고 우리가 AI 능력을 크게 억제했는데 중국이 약속을 저버린다면, AI가 워낙 강력해 그런 이탈은 그들의 지정학적 지배로 이어질 수 있다"고 썼음. - 그러나 지금까지 트럼프 행정부는 AI 개발에 안전장치를 두기 위해 규제 권한을 행사하는 데 거의 관심을 보이지 않았음. https://www.bloomberg.com/news/articles/2026-09-12/anthropic-ceo-says-it-s-time-to-slow-pace-of-improving-ai-models?srnd=homepage-asia