용어사전

아실로마 AI 원칙

[Asilomar AI Principles]

AI(인공지능) 개발의 목적, 윤리와 가치, 중기이슈 등에 대해 개발자들이 지켜야하는 준칙을 말한다.
총 23개항으로 이뤄진 이 준칙에는 AI의 잠재적 위험을 경계하고 세계 개발자들이 인류 복리를 위해 협력해야 한다는 내용 등이 담겼다. 2017년 1월 초 AI연구를 지원하는 비영리단체인 `퓨퍼오브라이프(https://futureoflife.org/)가 미국 캘리포니아주 아실로마에서 개최한 콘퍼런스에서 채택돼 ‘아실로마 AI 준칙’이라고 이름 붙여졌다.


퓨처오브라이프의 자문역을 맡은 호킹 박사와 머스크 CEO는 물론 AI 바둑 프로그램 알파고를 개발한 데미스 허사비스 딥마인드 CEO, 레이 커즈와일 구글 기술이사, 영화배우 겸 감독인 조셉 고든 레빗 등 명사 등 2000여명의 명사들이 이 준칙을 지지하고 있다.

준칙 1조는 (사람으로부터) 지시받지 않는 지능이 아니라 (사람에게) 혜택을 주는 지능을 창조해야 한다는 AI 연구 목적을 명시했다. 이어 2조에서는 AI 연구개발자들이 상호 협력과 신뢰, 투명성 등 원칙을 지킬 것을 주문했다.

‘자기 복제 및 지속적 개량이 가능한 AI 시스템도 사람의 통제하에 있어야 한다’ 등 AI의 잠재적 위험성을 경계하는 내용도 담겼다.