OpenAI와 FMF, AI 사이버 탈옥 위험 평가 프레임워크 공개
OpenAI가 프론티어 모델 포럼(FMF) 및 회원사들과 협력해 AI 안전장치 우회 시 발생하는 사이버 위협을 식별하는 새 프레임워크를 발표했다. 탈옥으로 해제되는 역량과 악용 난이도를 표준화된 방식으로 평가해 보안 대책의 우선순위를 정하도록 돕는다.
Frontier Model Forum
OpenAI·앤트로픽·구글 연합, 적대적 증류 통한 모델 복제 차단 나선다
외신에 따르면 OpenAI, 앤트로픽, 구글이 선도 모델의 출력을 추출해 자사 시스템을 학습시키는 '적대적 증류' 행위에 대응하기 위해 손을 잡았습니다. 3사는 프론티어 모델 포럼을 통해 첩보를 공유하며 이용약관 위반을 감시하고 핵심 역량 복제를 막겠다는 방침입니다.
AI 빅4 뭉쳤다: 안전한 프론티어 AI 개발 위한 포럼 출범
Anthropic, Google, Microsoft, OpenAI가 '프론티어 모델 포럼'을 공동 발족했다. 첨단 AI 모델의 안전 연구를 촉진하고 벤치마크 및 모범 사례를 공유하는 것이 핵심이다. 규제 당국이 본격적으로 나서기 전, 선도 기업들이 주도권을 쥐고 자체 가이드라인을 세우려는 움직임이다.