OpenAI와 FMF, AI 사이버 탈옥 위험 평가 프레임워크 공개

인공지능 모델의 안전장치를 뚫는 이른바 '탈옥' 프롬프트는 넘쳐나지만, 모든 우회가 똑같이 위험한 것은 아닙니다. 보안 팀 입장에서는 어떤 구멍을 먼저 막아야 할지가 늘 고민거리였습니다.

이에 OpenAI는 프론티어 모델 포럼(FMF) 및 회원사들과 손잡고 새로운 보안 평가 프레임워크를 공개했습니다. AI 안전장치가 우회되었을 때 어떤 상황에서 심각한 사이버 위협이 발생하는지 식별하고, 가장 시급한 방어 대책에 우선순위를 두도록 돕는 것이 핵심입니다.

탈옥 위험을 체계적으로 등급화하다

단순히 금지된 답변을 출력했는지를 넘어, 실제 침해 사고로 이어질 수 있는 파급력을 따져보겠다는 취지입니다.

OpenAI의 국가안보정책 총괄 사샤 베이커는 이번 프레임워크가 사이버 탈옥의 심각성을 비교·평가하기 위한 공통 방법론의 중요한 진전이라고 설명했습니다. 탈옥을 통해 해제되는 잠재적 역량이 무엇인지뿐만 아니라, 공격자가 이를 얼마나 쉽게 악용할 수 있는지까지 종합적으로 측정합니다. 이를 통해 보안 커뮤니티가 구체적인 데이터를 바탕으로 안전장치를 보강할 수 있게 됩니다.

왜 중요한가

우리는 AI 업계가 끝없는 '두더지 잡기'식 땜질 방어에서 벗어나 실질적인 위험 관리에 나섰다는 점에서 긍정적으로 평가합니다.

모델이 악성 스크립트를 일부 생성했다고 해서 모두 치명적인 공격으로 이어지는 것은 아닙니다. 실제 사이버 피해를 일으킬 수 있는 난이도와 잠재력을 기준으로 우선순위를 매기는 방식은 매우 실용적인 접근입니다.

관건은 실행력입니다. 이 프레임워크가 단순한 선언에 그치지 않으려면, 포럼 참여 기업들이 발견된 취약점 정보를 투명하게 공유하고 외부 보안 연구진의 신뢰를 얻는 표준으로 자리 잡아야 합니다.