Anthropic, 모델 증류 공격 방어 성과 공개...데이터 추출량 90 99% 감소, 공격 계정 수만 개 차단

>>Anthropic, 모델 증류 공격 방어 성과 공개...데이터 추출량 90~99% 감소, 공격 계정 수만 개 차단 •Anthropic이 처음으로 모델 증류 공격에 대한 방어 체계와 성과를 공개함. 3단계 방어 체계를 통해 공격자가 추출할 수 있는 추론 데이터를 기존의 1~10% 수준으로 줄였으며, 관련 공격 계정 수만 개를 차단함. 이를 위해 수조 개 토큰에 해당하는 상당한 수익을 자발적으로 포기했다고 밝힘 >摘要:Anthropic首次公开其反蒸馏防御体系:通过三层防护架构,将攻击者可提取的推理数据压缩至原来的1%至10%,并已封禁数万个相关账号。为此,公司主动放弃了涉及数万亿token的"有实质意义的收入"。