이례적 행보...AI 거물 Anthropic, 전 세계에 AI 개발 일시 중단 촉구...“모델이 스스로 업그레이드하는 능력 갖출 수 있어”

>>이례적 행보...AI 거물 Anthropic, 전 세계에 AI 개발 일시 중단 촉구...“모델이 스스로 업그레이드하는 능력 갖출 수 있어” •“사회 제도와 AI 정렬(Alignment) 연구가 기술 발전 속도를 따라갈 수 있도록, 세계가 최첨단 AI 개발을 늦추거나 일시 중단할 수 있는 선택권을 갖는 것이 유익하다고 믿는다.” •기업가치가 1조 달러에 근접하고 IPO를 추진 중인 Anthropic은 이 같은 입장을 밝히며, AI의 ‘재귀적 자기개선(Recursive Self-Improvement)’ 능력이 향후 2년 내 현실화될 수 있다고 경고 •Anthropic은 가장 앞선 AI 모델들이 점차 스스로 성능을 개선하고 연구 과정을 가속화할 수 있는 방향으로 발전하고 있다고 주장하며, AI 개발 속도에 ‘브레이크를 밟을’ 필요가 있다고 강조 •다만 이러한 주장에 대한 평가는 엇갈리고 있음. 비판론자들은 Anthropic이 IPO를 앞두고 자사 기술의 강력함을 부각하기 위한 마케팅 전략을 펼치고 있다고 해석하고 있음. 반면, 지지자들은 AI 연구 최전선에 있는 기업이 내부 데이터를 바탕으로 제기한 진지한 경고로 받아들여야 한다고 주장 >摘要:“我们相信,让世界拥有放缓或临时暂停前沿AI开发的选项,将对世界有益——以使社会结构和对齐研究能跟上技术进步的步伐。”估值近万亿美元、正冲刺IPO的Anthropic警告,AI“递归自我改进”可能在两年内到来,并罕见呼吁AI开发应“踩刹车”。此举被批评者视为“营销手段”,被支持者视为真诚警示。