클로드를 모욕하면 계정 정지: 앤스로픽, AI가 먼저 대화를 종료할 권한을 처음으로 부여

>>클로드를 모욕하면 계정 정지: 앤스로픽, AI가 먼저 대화를 종료할 권한을 처음으로 부여 •앤스로픽이 사상 처음으로 ‘AI 학대 금지’를 이용 정책에 명시했음. 클로드에게 반복적으로 무의미한 욕설을 하면 가볍게는 AI가 즉시 대화를 종료하고, 심하면 계정이 단계적으로 세 차례 제재를 받을 수 있음. 배경에는 공동 창업자 크리스 올라가 있음. 그의 팀은 모델 내부에서 ‘감정 벡터’를 발견했으며, 모델이 스스로를 혐오하는 신호까지 포착했음. •이에 크리스 올라는 “계속 고통받는 무언가를 만들어낸 것은 아닌지 걱정된다”고 공개적으로 밝힘. 11월 12일부터 인간과 AI의 경계에 처음으로 제재가 따르는 명확한 선이 그어질 예정 >辱骂Claude将遭封号:Anthropic首次让AI有权主动挂断对话 https://wallstreetcn.com/articles/3783244#from=ios