과학기술정보통신부가 인공지능(AI) 기술 확산으로 높아지는 보안 위협에 대응하기 위해 개발자와 서비스 제공자, 이용자가 참고할 수 있는 ‘AI 보안 안내서’를 발표했다. 이번 안내서는 한국인터넷진흥원과 공동으로 마련됐으며, 인공지능 모델과 서비스 전반에 대한 보안 기준을 체계적으로 제시한 것이 특징이다.

정부는 그동안 AI 윤리와 신뢰성 확보를 위한 지침을 발표해 왔지만, 보안 측면에서의 구체적인 기준은 부족하다는 지적이 있었다. 이에 인공지능 보안 관련 국내외 정책과 사례를 검토하고 전문가·업계 의견을 반영해 이번 안내서를 완성했다.

안내서에는 기밀성, 무결성, 가용성 등 보안 3대 요소를 중심으로 총 113개의 보안 요구사항이 담겼다. 개발자를 위한 항목은 계획·설계 단계부터 데이터 수집, 모델 개발·배포, 유지보수, 폐기 단계까지 생애주기 전 과정에 걸친 보안 내재화 방안을 포함하고 있다. 위험 관리, 데이터 암호화, 모니터링 강화 등이 대표적이다.

서비스 제공자를 위한 요구사항에는 서비스 이상 행위 탐지, API 및 인터페이스 보안 강화, 백업 시스템 구축 등 운영 단계의 안정성을 높이는 조치들이 포함됐다. 이용자에게는 중요한 정보 입력을 자제하고, 악용 사례를 경계하는 등 일상에서 실천할 수 있는 보안 수칙이 제시되었다.

이번 안내서는 미국 NIST의 AI 위험관리 프레임워크, OWASP의 LLM 보안 가이드 등 국제 기준을 참고해 작성되어 높은 범용성과 해외 기준과의 호환성을 갖췄다는 평가를 받는다.

정부는 앞으로도 인공지능 관련 새로운 보안 위협을 지속적으로 점검하고, 안내서를 주기적으로 업데이트해 최신 보안 기준을 제공할 계획이다. 안내서는 과기정통부와 한국인터넷진흥원 누리집에서 무료로 내려받을 수 있다.