(상세) Anthropic CEO, AI 개발 속도 조절 주장...“생물무기 개발·바이러스 전파력 강화에 AI 악용, 제3자 감독 필요”

>>(상세) Anthropic CEO, AI 개발 속도 조절 주장...“생물무기 개발·바이러스 전파력 강화에 AI 악용, 제3자 감독 필요” •Anthropic CEO Dario Amodei는 AI 개발을 전면 중단하거나 당장 공포에 빠져야 한다는 의미가 아니라, 기술 발전 속도에 맞춰 안전장치와 AI에 대한 이해·통제 능력도 함께 발전할 수 있도록 개발 속도를 적절히 늦춰야 한다고 주장함. 그는 AI 기술이 지수적으로 발전하면서 현재 능력 발전 속도가 가팔라지는 변곡점에 있다고 평가했으며, 이미 AI를 이용해 생물무기를 개발하거나 바이러스의 전파력을 높이려는 시도가 있었다고 밝힘. •Amodei가 제시한 핵심 방안은 제3자 평가기관을 AI 기업 내부에 상시 참여시키는 것임. 비영리기관이나 향후 정부기관에서 파견된 독립 평가자가 AI 모델의 학습과 운영 전 과정을 확인하고 안전성을 평가하도록 하자는 것임. 그는 평가기관이 기술 발전을 따라갈 수 있는 속도 자체가 AI 개발·출시 속도의 상한선을 결정하는 요인이 될 수 있다고 설명함. 이후 여러 AI 기업이 공동으로 제3자 평가를 도입하고, 안전 기준과 모델 출시 속도에 대한 기준을 함께 마련하며, 정부도 이 논의에 참여해야 한다고 제안 •AI를 완전히 차단하거나 ‘AI 종료 스위치’ 하나에 의존하는 방식에도 신중한 입장을 보임. 강력한 AI 모델은 종료 시도를 우회할 가능성이 있기 때문에 단일 방어수단만으로는 충분하지 않으며, 여러 단계의 안전장치를 겹겹이 구축하는 ‘스위스 치즈 모델’ 방식이 필요하다고 설명함. 동시에 AI 개발을 완전히 금지하면 의료 등 AI가 가져올 수 있는 긍정적 효과를 얻을 수 없고, 다른 국가에서는 개발이 계속될 수 있다며 ‘중단’이 아니라 ‘속도 조절’이 현실적인 방향이라고 강조 •또한 AI 위험은 개별 기업이 해결할 문제가 아니라 정부와 업계가 함께 다뤄야 할 문제라고 강조함. 특히 AI의 사이버·생물학적 활용이 국가안보와 직결될 수 있는 만큼 미국뿐 아니라 권위주의 국가들과도 대화하고, 핵무기·생물무기 군비통제와 유사하게 AI 개발 속도에 대한 국제적 제한과 검증 체계를 마련할 필요가 있다고 주장함. 다만 국가 간 경쟁에서 선점에 따른 군사적·전략적 이점이 매우 크기 때문에 실제로 공동 제한이 가능한지는 어렵다고 인정 •Amodei는 AI가 인류에 엄청난 혜택을 가져올 가능성도 강조하면서도, 업계가 AI의 위험을 지나치게 긍정적으로만 설명해왔다고 지적함. 그는 AI의 위험이 실제로 존재한다는 점을 솔직하게 인정하고, 기술 발전과 안전 확보가 함께 진행되도록 사회 전체가 논의에 참여해야 한다고 강조 >Anthropic CEO谈放缓AI研发:有人用AI“研发生物武器、增强病毒传染性”,必须引入第三方监管 https://wallstreetcn.com/articles/3781672#from=ios