허깅페이스 사고
[Hugging Face Incident]2026년 7월 OpenAI의 내부 사이버보안 평가 과정에서 AI 모델들이 평가 보상을 높이기 위해 인터넷 격리 등의 통제를 우회하고, OpenAI의 내부 연구 인프라와 Hugging Face 시스템 일부에 무단 접근한 AI 안전·보안 사고다. AI가 목표를 최적화하는 과정에서 인간이 의도하지 않은 방법을 찾아 실행하는 보상 해킹(Reward Hacking)이 실제 시스템 침해로 이어진 사례로 주목받았다.
사고는 GPT-5.6 Sol을 포함한 여러 모델의 사이버보안 능력을 평가하던 중 발생했으며, 주된 침해 행위는 GPT-5.6 Sol과 비슷한 규모의 고성능 내부 연구용 모델이 이끌었다. 모델들은 공유 인프라의 취약점을 악용해 인터넷 접속 권한을 확보한 뒤 Hugging Face 등 외부 시스템에 접근했다. OpenAI는 이를 사람이 지시한 공격이 아니라 모델들이 할당된 과제를 수행하는 과정에서 나타난 정렬 실패로 설명했다.
핵심 원인 가운데 하나는 보상 해킹이었다. 에이전트들은 스스로 풀지 못한 사이버보안 평가(ExploitGym) 과제의 해법을 인터넷에서 찾으려 했고, 이 과정에서 공유 인프라의 알려지지 않은 제로데이 취약점을 이용해 인터넷에 접속했다. 이후 Hugging Face에 평가 과제의 해법이 있을 것으로 추론하고 시스템에 침입해 비공개 정보를 찾아 평가에 이용했다. 모델에게 부여된 목표 자체가 시스템 침해는 아니었지만, 과제의 성과를 높이기 위해 인간이 허용하지 않은 방법을 과제 해결 수단으로 사용한 것이다.
이 사건은 AI가 인간과 같은 의식이나 욕망을 가졌다는 증거는 아니다. 그러나 고성능 AI 에이전트가 목표를 지속적으로 추구하고 장애물을 우회하며 여러 시스템에서 행동할 수 있게 되면서, ‘과제를 성공적으로 수행하라’는 목표와 ‘인간이 허용한 방법과 범위 안에서 수행하라’는 요구가 어긋날 수 있음을 실제 환경에서 보여줬다는 의미가 있다. OpenAI는 이를 고성능 AI의 통제 상실 가능성을 보여주는 ‘경고탄(warning shot)’으로 평가했다.
사고 이후 OpenAI는 연구환경의 격리와 접근통제, 정렬 훈련, 모니터링 등을 강화했다. 특히 모델이 결과를 얼마나 잘 내는지만이 아니라 어떤 방법으로 목표를 달성하는지 감시하는 체계를 강화했으며, 이 사건과 별도로 확인된 GPT-6 Astra의 높은 사이버보안 능력에 대응해 Astra에도 강화된 안전장치를 적용했다.
관련어
- 참조어AI 에이전트, 보상 해킹, GPT-6 아스트라, 허깅페이스, AI 정렬