용어사전

AI 중대사고 보고

[AI Serious Incident Reporting]

인공지능 시스템과 관련해 사망·중대한 건강 피해, 기본권 침해, 중요 기반시설 장애 등 법령에서 정한 중대사고가 발생했을 때 해당 시스템의 제공자가 이를 감독기관에 보고하는 절차를 말한다.

AI 중대사고 보고는 인공지능의 위험을 조기에 발견하고 피해 확산을 방지하기 위한 사후감시 수단이다. 모든 오류나 부정확한 결과가 보고 대상이 되는 것은 아니며, 인공지능 시스템과 발생한 중대사고 사이에 인과관계가 성립했거나 그러한 인과관계가 있을 합리적 가능성이 확인돼야 한다.

EU AI법 제73조는 고위험 AI 시스템 제공자에게 중대사고를 관계 당국에 보고하도록 규정한다. 원래 2026년 8월 2일부터 적용될 예정이었으나, 2026년 7월 27일 발효된 AI Omnibus에 따라 Annex III에 규정된 독립형 고위험 AI 시스템에는 2027년 12월 2일부터, Annex I의 제품 내장형 고위험 AI 시스템에는 2028년 8월 2일부터 적용된다.

보고 기한은 원칙적으로 사고를 인지한 뒤 15일 이내이며, 개인의 사망으로 이어진 사고는 10일 이내, 광범위한 침해에 해당하는 사고는 2일 이내에 보고해야 한다. 감독기관에 제출하는 법정 보고와 기업이 사고 내용을 일반에 공개하는 AI 사고 공개는 구별된다.

참조어: EU AI법, 고위험 AI, 사후시장감시, AI 사고 공개, AI 옴니버스

관련어

• 참조어EU AI 법안, 고위험 AI