정부가 인공지능(AI) 모델 또는 시스템을 개발·제공할 때 개인정보 리스크를 체계적으로 관리할 수 있는 관리 체계를 제시했다.

개인정보보호위원회는 '안전한 AI·데이터 활용을 위한 AI 프라이버시 리스크 관리 모델(리스크 관리 모델)'을 공개했다고 19일 밝혔다.

앞서 지난해 12월부터 개인정보위는 리스크 관리 모델을 마련해왔다.
리스크 관리 모델은 AI 데이터 처리 특성, 프라이버시 리스크 유형, 리스크 경감방안 및 관리체계, 기업 사례 등을 종합해 안내한다.
프라이버시 리스크와 관련해 일선에서 참고할 수 있는 자료가 부족하다는 목소리를 반영해 자율적으로 관리할 수 있는 모델 마련에 나섰다.

리스크 관리 모델은 AI의 구체적 유형·사례를 파악하고 구체적인 위험을 식별한다.
발생 확률, 중대성, 우선순위, 수용 가능성 등 정성적·정량적 리스크 측정을 수행한다.
이후 리스크에 맞는 안전조치를 마련함으로써 체계적인 관리를 지원하게 된다.

개인정보위는 리스크의 조기 발견과 완화를 위해 개인정보 보호 중심 설계 관점에서 AI 모델·시스템의 기획·개발 단계부터, 시스템 고도화 등 환경 변화에 맞춰 주기적으로 이뤄지는 것이 권장된다고 전했다.

해당 모델은 또 프라이버시 맥락에서 AI 리스크 유형을 예시로 제시했다.
국내외 문헌조사, 기업 인터뷰 등을 통해 파악한 AI 기술의 고유한 특성과 기능 및 데이터 요구사항 등으로 인해 새롭게 나타나는 정보 주체 권리침해, 개인정보 보호법 위반 리스크 등을 중점적으로 다뤘다.

구체적으로 AI의 생애주기에 따라 AI 모델·시스템의 기획·개발 단계, 서비스 제공 단계에서 발생하는 리스크를 구분해 공개했다.
서비스 제공 단계는 생성 AI와 판별 AI를 구분함으로써 구체성을 더했다.

개인정보 침해 위험을 줄이기 위한 관리적·기술적 안전조치도 안내했다.

관리적 안전 조치에는 학습데이터 출처·이력 관리, 허용되는 이용방침 마련, AI 프라이버시 레드팀을 통한 개인정보 침해유형 테스트 및 조치, 신고방안 마련 등이 담겼다.
또 학습데이터에 민감한 정보가 포함될 가능성이 높거나 대규모 개인정보가 포함되는 경우 개인정보 영향평가 수행도 권장했다.

기술적 안전 조치에는 AI 학습데이터 전처리, AI 모델 미세조정을 통한 안전장치 추가, 입력·출력 필터링 적용 등이 포함된다.
한국어 언어모델 대상 프라이버시 리스크 경감기술 효과 분석을 위한 정책연구를 진행해 과학적 실증에 기반한 정책을 마련하기 위해 힘썼다.

아울러 리스크 관리 모델은 관리체계를 제시했다.
개인정보 보호책임자(CPO)의 주도적 역할이 중시되고 리스크에 대한 평가를 수행할 수 있는 담당 조직 구성, 체계적 리스크 관리를 보장하는 정책을 마련하는 것이 바람직하다.

이에 개인정보위는 향후 AI 기술 발전, 개인정보 관련 법령 제·개정, 글로벌 동향 등을 고려해 리스크 관리 모델을 지속적으로 업데이트할 계획이다.
또 소규모 조직, 스타트업 및 AI 개발 유형 등 세부대상, 영역 등에 특화된 안내자료도 조만간 구체화될 예정이다.

이 외에도 사전적정성 검토제, 규제샌드박스, 개인정보 안심구역 등 혁신지원제도를 통해 AI 기업과 수시로 소통하면서 기술의 발전 양상과 기업 애로사항을 모니터링한다는 방침이다.
축적된 사례와 경험을 토대로 개인정보 보호법을 정비하는 작업도 추진할 예정이다.

고학수 개인정보위 위원장은 "개인정보, 비개인정보가 총체적으로 활용되고 기술 발전이 지속되는 AI 영역은 불확실성이 높기 때문에 일률적 규제보다는 합리적·비례적 관리를 통해 리스크를 총체적으로 최소화하는 것이 필요하다"라며 "리스크 관리 모델이 AI 기업 등이 프라이버시 리스크를 이해하고 체계적으로 관리하는 데 도움이 되길 바란다"라고 말했다.