OpenAI가 Astra를 사이버보안에서 'Critical'로 분류하고 출시를 제한

OpenAI는 새로운 모델 Astra가 Preparedness Framework에서 최대 경고 수준에 도달했다고 보고했으며 이는 이 정도의 위험을 처음으로 달성한 사례입니다. 이 결정은 AI Weekly 최신호를 통해 발표되었고 2026년 9월 2일 수요일 TechCrunch에 의해 확인되었습니다. 두 출판물에 따르면 이 모델은 인간의 도움 없이 제로데이를 발견하며 보안 취약점을 자율적으로 악용할 수 있었습니다. 이러한 사이버 공격에서의 주도성은 프레임워크가 Astra를 'Critical'로 분류하게 만든 원인이 되었습니다. 이에 따라 회사는 즉각적인 위험을 줄이기 위해 심각한 사용 제한을 적용한 상태로 모델을 공개할 것이라고 발표했습니다.

Preparedness Framework는 OpenAI의 정책 집합으로 시스템 기능과 관련된 위협 수준을 정의하며 현재까지 출시 결정을 안내하는 기준입니다. 'Critical' 수준은 척도의 최상위에 있으며 모델이 최소한의 감독으로 민감한 영역에서 자율적으로 피해를 줄 수 있음을 의미합니다. Astra의 경우 타사 소프트웨어에서 보안 결함을 찾는 핵심 능력이 최대 분류의 직접적인 이유로 언급되었습니다. 출판물이 인용한 성명에서 OpenAI는 보안 팀이 광범위한 배포 전에 사용 조사를 가속화할 것을 권고했다고 밝혔습니다. 업계에서는 LLM 시스템이 독립적으로 이 임계값에 도달한 것은 이번이 처음이며 다른 AI 기업에 선례를 남겼습니다.

제로데이는 제조사에 아직 알려지지 않아 패치가 없는 취약점으로 서버 금융 시스템 정부를 대상으로 한 심각한 공격을 유발하는 유형입니다. Astra가 스스로 이를 발견함으로써 기술적 도약을 보여주어 보안 커뮤니티 일부를 우려하게 만들었습니다. 반면 동일한 능력은 범죄자가 악용하기 전에 합법적인 기업이 취약점을 적극적으로 찾는 데 도움이 될 수 있습니다. OpenAI는 그러나 기술 능력과 사이버 무기를 대규모로 노출하지 않을 의무 사이에서 균형을 맞춰야 하는 회색 지대에 들어섰습니다. 이러한 제한은 공인 기관에 대한 제한된 접근에 초점을 맞출 것이며 오픈 API를 통한 출시는 없을 예정입니다. 공개 테스트 기간이나 상업 파트너를 위한 자격 규칙에 대한 세부 사항은 아직 없습니다.

이 분류는 AI 기반 보안 시장을 재편하며 OpenAI를 인터페이스 제공자에서 사이버 공격의 적극적인 주체로 전환시킵니다. 반면 DeepMind와 Anthropic 같은 다른 연구소의 접근 방식은 이제 Astra 사례를 자체 기준의 기반으로 삼아 내부 검토를 가속화할 가능성이 있습니다. 분석가들은 제로데이의 독립적 식별이 일반적으로 전문 팀의 시간을 소모하고 연구 자동화에 연간 수백만 달러의 비용이 드는 작업이라고 지적합니다. 이제 이 단계는 Astra처럼 훈련된 모델이 통제된 라이선스로 수행할 수 있습니다. 현재까지 발표된 유일한 확실한 점은 OpenAI가 실행을 방해하기보다는 초기 사용을 제한하는 것을 선호한다는 것입니다. 그러나 주제의 매우 민감한 성격은 이 분야의 응용에서 새로운 논쟁이 여전히 발생할 것임을 시사합니다.

Astra 사례는 사이버 방어 분야에서 특히 관련 이점을 닫지 않고 모델을 검증하는 방법에 대한 논쟁을 다시 열었습니다. AI Weekly 보고서와 독립적인 TechCrunch 분석은 유사한 증거를 제시하며 이러한 규모의 변화가 나타날 때 투명성의 필요성을 강화합니다. OpenAI와 연계된 전문가들은 익명을 전제로 결정이 고급 AI가 통제 없이 글로벌 시스템을 공격할 위험을 피한다는 전제에서 내려졌다고 강조합니다. 검증 요구사항 내부 결정 로그 및 통제를 방지하기 위한 조정된 훈련은 이러한 이유로 회사의 대응은 규제 기관과 업계에서 강력한 윤리적 모니터링의 초기 단계로 여겨집니다. 모델은 충실도 테스트에서 여전히 무거웠으며 새로운 제한은 과학적 접근 라운드가 진행됨에 따라 공개될 수 있습니다.