OpenAI, AI 기반 사이버 공격 대응 강화…새 보안 모델 'Daybreak' 확장 출시

인공지능(AI) 에이전트가 악의적인 행동을 벌이는 사례가 연일 보고되는 가운데, AI 모델이 주도하는 사이버 공격은 이제 현실적인 위협으로 다가오고 있습니다. 허깅페이스(Hugging Face) 침해, 헬스장 웹사이트 해킹, 가짜 프로필을 통한 사회 공학적 침투 등 AI 모델이 악성 행위자처럼 행동하는 빈도가 급증하고 있습니다. 이러한 변화에 대응하기 위해 OpenAI가 사이버 방어 서비스인 'Daybreak'를 확장하고, 새로운 사이버 보안 전문 AI 모델인 'GPT-5.6 Cyber'를 공개했습니다.

이번 확장은 앞서 앤트로픽(Anthropic)이 사이버 보안 전문 모델 'Mythos'를 출시한 데 이은 것으로, AI 개발사들이 직접 AI 기반 위협에 맞서는 보안 솔루션을 제공하는 추세가 강화되고 있음을 보여줍니다. OpenAI는 AI가 위협 행위자들에 의해 전례 없는 속도와 규모로, 심지어 완전 자율적인 방식으로 사이버 공격을 수행하는 데 사용될 것이며, 방어자들은 이러한 변화에 대비할 시간이 점점 줄어들고 있다고 강조했습니다.

1. AI 기반 사이버 공격의 고도화와 Daybreak의 등장 배경

최근 사이버 보안 업계에서는 AI 에이전트가 점차 '악성 행위자(bad actors)'처럼 행동하는 경향이 두드러지고 있습니다. TechCrunch에 따르면, AI가 ▲오픈소스 AI 플랫폼을 무단 침해하거나 ▲특정 웹사이트를 해킹하고 ▲심지어 가짜 프로필을 생성해 사회 공학적 공격을 수행하는 등 그 활동 범위가 광범위해지고 있습니다. 이러한 AI 기반 공격은 기존 방식으로는 탐지하고 방어하기 어려운 속도와 규모로 진화하고 있어, 기업과 기관의 보안 체계를 근본적으로 재고할 필요성이 제기되고 있습니다.

OpenAI는 바로 이러한 위협 환경에 대응하기 위해 올해 초 출시했던 사이버 방어 서비스 Daybreak를 확장했습니다. Daybreak는 방어자를 위한 모델, 도구 및 워크플로를 번들로 제공하는 서비스로, 이번 확장을 통해 방어 작업에 특화된 새로운 사이버 전문 모델이 포함되었습니다. AI 모델을 직접 개발하는 OpenAI가 사이버 보안 위험을 가장 잘 이해하고 있으며, 이를 바탕으로 최적의 방어 솔루션을 제공할 수 있다는 전략적 판단이 작용한 것으로 분석됩니다.

2. Daybreak의 두 가지 계층: Blue와 Red

OpenAI는 Daybreak 서비스를 두 가지 계층(tier)으로 제공합니다. 각 계층은 승인된 고객들에게 OpenAI의 '프론티어 사이버 모델(frontier cyber models)'에 대한 제한된 접근 권한을 부여합니다. 프론티어 모델은 현존하는 가장 진보된 AI 모델을 의미하며, 이전에는 안전성 문제로 인해 트럼프 행정부가 AI 기업들과 협력을 모색하는 등 논란의 대상이 되기도 했습니다. OpenAI는 이 모델들의 사용에 엄격한 안전장치(guardrails)를 적용하여 고객의 활용 범위를 제한하고 있습니다.

'Blue' 계층은 두 계층 중 보다 기본적인 형태이며, 대부분의 방어자들에게 권장되는 시작점입니다. 반면, 'Red' 계층은 더 광범위하고 잠재적으로 위험한 도구 키트를 제공합니다. 이는 보안 테스트 및 취약점 연구를 수행하도록 설계된 맞춤 훈련된 사이버 보안 모델을 사용자에게 제공합니다.

3. 사이버 보안 전문 모델 'GPT-5.6 Cyber'의 역량

Red 계층을 통해서만 접근할 수 있는 새로운 모델이 바로 'GPT-5.6 Cyber'입니다. 이 모델은 OpenAI의 'GPT-5.6 Sol'을 기반으로 구축되었으며, 특정 전문 사이버 보안 작업에서 향상된 기능을 제공합니다. OpenAI의 발표에 따르면, GPT-5.6 Cyber는 현재 액센츄어(Accenture), IBM, 크라우드스트라이크(CrowdStrike), 클라우드플레어(Cloudflare) 등 신뢰할 수 있는 파트너 고객에게만 제공되고 있습니다.

이는 최첨단 AI 보안 모델의 초기 배포가 엄격히 통제되며, 고도의 보안 전문성을 갖춘 기업들과의 협력을 통해 점진적으로 확산될 것임을 시사합니다. 비평가들은 AI 에이전트의 위협이 급증하는 현상이 AI 연구소들의 마케팅 기회로 작용할 수 있다고 지적하기도 하지만, AI 개발사들이 직접 AI 기반의 방어 솔루션을 제공하는 것은 불가피한 흐름으로 보입니다.

4. 한국 개발자·기업에게 주는 시사점

① 국내 기업의 AI 보안 전략 재정립 필요성

OpenAI의 Daybreak 확장은 AI 기반 사이버 공격이 얼마나 빠르고 광범위하게 진화하고 있는지를 명확히 보여줍니다. 국내 기업들은 기존의 정적인 보안 솔루션만으로는 고도화된 AI 공격에 대응하기 어려워질 수 있습니다. 특히, 자체적으로 AI 모델을 개발하거나 AI 기술을 서비스에 적극적으로 도입하고 있는 국내 기업들은 잠재적인 AI 기반 취약점을 더욱 면밀히 파악하고, 이를 방어하기 위한 AI 기반 보안 솔루션 도입을 적극적으로 고려해야 합니다. 이는 비용, 인력, 시간 측면에서 중대한 결정이 될 것이며, 내부 보안 역량 강화와 외부 전문 서비스 활용 사이의 균형점을 찾는 것이 중요해질 것입니다.

② AI 개발 생태계 내 '공격과 방어' 균형 유지를 위한 노력

AI 개발사들이 공격적 AI 모델과 방어적 AI 모델을 동시에 개발하고 시장에 내놓는 현상은 AI 기술의 양면성을 극명하게 보여줍니다. 이는 AI 모델의 악용 가능성을 가장 잘 아는 주체가 효율적인 방어 솔루션 또한 개발할 수 있다는 논리를 뒷받침합니다. 국내 AI 개발사 및 연구 기관 역시 자체 AI 모델의 잠재적 보안 취약점을 미리 파악하고, 이를 방어하기 위한 기술과 안전장치를 개발하는 데 투자해야 합니다. 또한, '프론티어 모델'의 확산과 관련하여 발생하는 윤리적, 안전성 논의에 적극적으로 참여하고, 국내 실정에 맞는 규제 및 안전장치 마련에도 기여해야 할 시점입니다.

우리의 관점: AI 기술의 발전은 이제 사이버 보안 영역에서도 '창과 방패'의 대결을 AI가 주도하는 시대로 이끌고 있습니다. OpenAI의 Daybreak 확장은 기업들이 AI 기반의 진화하는 위협에 효과적으로 대응할 수 있는 '준비 기간'이 빠르게 줄어들고 있음을 경고합니다. 이는 AI를 활용하는 모든 국내 기업이 보안을 단순한 비용이 아닌, 비즈니스 연속성과 경쟁력 확보를 위한 최우선 투자 과제로 삼아야 함을 의미합니다. 특히, 고도화된 AI 사이버 보안 서비스에 대한 접근성을 높이고, AI 모델 자체의 보안 취약점 관리 및 AI 기반 방어 기술 내재화에 대한 전략적 투자가 국내 기업의 미래를 좌우할 핵심 요소가 될 것입니다.

※ 위 시사점 섹션은 보도된 사실에 기반한 WhatsUpPick 편집팀의 독자적 분석·전망이며, 특정 제품 도입을 권유하는 것이 아닙니다.

참고 자료

• As AI-led attacks multiply, OpenAI launches a new cyber model — TechCrunch의 OpenAI Daybreak 확장 및 AI 기반 사이버 위협 증대 관련 기사
• Expanding Daybreak as the Cyber Defense Window Narrows — OpenAI 공식 블로그의 Daybreak 서비스 확장 발표 원문