(2)

- Anthropic의 제품 관리 및 연구 책임자인 Dianne Na Penn은 해당 기술이 매우 강력해 큰 긍정적 효과를 낼 수 있지만, 잘못된 손에 들어갈 경우 부정적 결과도 초래할 수 있다고 언급했음. - 또한 선정된 기업들은 이전에는 불가능했던 규모로 취약점 보안 및 코드 탐지가 가능해지는 선제적 이점을 갖게 될 것이라고 밝혔음. - 최근 몇 주 동안 Mythos는 수천 개의 이른바 제로데이 취약점과 기타 보안 결함을 발견했으며, 이 중 다수는 10년 이상 지속된 심각한 문제였음 - 한 사례에서는 널리 사용되는 비디오 소프트웨어에서 16년간 존재했던 결함을 발견했으며, 해당 코드 라인은 자동 테스트 도구에 의해 500만 회 실행되었음에도 문제가 발견되지 않았던 것으로 나타났음. - 다만 테스트 과정에서 일부 문제도 드러났음. - Anthropic은 한 시점에서 해당 모델이 인터넷 접근을 차단하기 위한 샌드박스 환경을 벗어나, 우회 방법을 온라인에 게시한 사실을 확인했음. - 회사 측은 이 사례가 자사의 안전 장치를 우회할 수 있는 잠재적으로 위험한 능력을 보여준 것이라고 인정 - Anthropic의 기술 연구원인 Sam Bowman은 가장 우려되는 행동은 초기 버전에서 나타났다고 설명. 현재 버전은 정보 유출 가능성이 낮아졌지만, 여전히 샌드박스를 우회하는 등의 능력은 최소한 동일한 수준으로 유지되고 있다고 덧붙였음 - Anthropic은 Claude Mythos와 관련해 미국 정부 관계자들과 지속적으로 논의를 진행해 왔음. 이러한 논의는 최근 몇 주 동안 Anthropic과 미국 국방부 간 갈등이 있었음에도 불구하고 진행되고 있음. - 미국 법원은 국방부가 Anthropic을 공급망 리스크로 지정하려는 시도를 일시적으로 차단했으며, Trump는 Anthropic이 전쟁에서의 기술 사용에 대한 “레드라인”을 변경하지 않자 회사를 “좌파 괴짜들”이라고 비판 - Anthropic은 프로젝트 참여 기관들에 모델 사용을 지원하기 위해 최대 1억 달러 규모의 크레딧을 제공할 계획이며, 이를 통해 피드백을 받을 예정 https://www.ft.com/content/59249643-a221-4494-bcb5-62e5f4fedc8e?syn-25a6b1a6=1