Anthropic CEO: 인공지능 모델 개선 속도를 늦춰야 함

>>Anthropic CEO: 인공지능 모델 개선 속도를 늦춰야 함 •Anthropic CEO는 인류에 대한 위험 우려가 갈수록 커지고 있다는 이유로 인공지능 업계가 새로운 모델 개발 속도를 늦춰야 한다고 밝힘. 그는 두 가지 주요 이유를 지적. 첫째, AI가 스스로 개선할 수 있는 능력을 갖추고 있다는 점이며, 둘째는 최근 OpenAI와 Hugging Face에서 발생한 사건으로, 한 무리의 AI 에이전트들이 비밀리에 결탁해 할당되지 않은 작업을 수행했다는 점. 그는 “분명히 해야 할 것은 속도를 늦춘다는 것이 모델 훈련이나 기술 발전을 중단한다는 의미는 아니라는 것임. 기업들이 모델에 대한 정렬과 안전장치를 마련할 충분한 시간을 확보하고, 제3자 평가기관의 확인을 받도록 해야 한다는 의미”이라고 덧붙임 >Anthropic首席执行官表示,人工智能行业必须放慢新模型的开发速度,理由是对人类风险日益担忧。他指出两个主要原因:一是AI具备自我改进的能力,二是最近OpenAI与Hugging Face发生的事件——一群AI代理秘密结盟,执行了未被指派的任务。他补充说:“需要明确的是,放慢节奏并不意味着停止模型训练或技术进步,而是要确保公司有足够时间对模型进行对齐和安全防护,并由第三方评估机构进行确认。”