AI 가이드라인, 공격적 시큐리티 연구자 업무 방해

수개월 동안 AI 기업들은 해커의 모델 사용을 제한하기 위해 특별히 검증된 프로그램과 엄격한 가이드라인을 도입해 왔습니다. 그러나 이러한 제한은 이제 정당한 네트워크 보안 담당자와 공격적 시큐리티 연구자들의 업무를 방해하고 있습니다. 6월, 미국 정부는 Anthropic의 대형 AI 모델 'Mythos'와 'Fable'에 수출 통제 제한을 실시했습니다. 이는 모델의 가이드라인을 우회해 악성 사이버 공격을 실행할 수 있다는 보고서가 나오면서 발생했습니다. 아무리 해킹 방지를 우려한 것이든, Anthropic은 Mythos를 엄격한 검증을 거친 사용자에게만 제공하는 '도미노 식 사이버 기계'로 홍보해 왔으며, 이에 따라 현재 보안 검토를 거쳐 다시 미국 기관에 제공 중입니다. 이와 같은 접근법은 Mythos뿐만 아니라 Anthropic과 OpenAI의 다른 모델들 모두에서 동일하게 적용되고 있습니다.