인간 필수 개입 원칙
[Human in the Loop, HITL]인공지능(AI) 시스템에서 최종적인 판단이나 조치를 인간이 내리도록 하는 방식이나 상태를 말한다.
인간의 개입은 다양한 이유로 이루어질 수 있다.
예를 들어, 인공 지능은 일부 상황에서는 제대로 작동하지 않을 수 있어, 인간의 판단력이 필요한 경우가 있다.
또한, 인간의 개입은 데이터 보정, 모델 예측의 검토 및 수정을 통해 시스템의 정확성과 안정성을 향상시키는 데 도움이 된다.
인간의 개입은 품질 관리, 윤리적 문제 및 법적 준수와 같은 다양한 이유로 중요하다.
예를 들어, 자율 주행 자동차의 경우 인간은 운전 중에 항상 차량을 관찰하고 있어야 한다.
인공 지능은 대부분의 운전 상황에서 운전을 처리할 수 있지만, 예외적인 상황이나 극단적인 상황에서는 인간이 개입하여 사고를 예방하거나 최소화해야 한다.
또 다른 예로는 자연어 처리 시스템이 있다. 이러한 시스템은 문장을 이해하고 처리할 수 있지만 모든 상황에서 완벽한 것은 아니다. 따라서 인간이 결과를 확인하고 필요한 경우 수정하거나 보정함으로써 시스템의 정확도를 개선할 수 있다.
인간 필수 개입 원칙은 인공 지능 시스템의 안전성과 신뢰성을 보장하기 위한 중요한 원칙 중 하나이다.