생성형 인공지능(AI) 모델 개발 시 활용되는 ‘인터넷상 공개 데이터’를 안전하게 처리할 수 있는 정부 차원의 기준이 나왔다.

개인정보보호위원회(위원장 고학수)는 인공지능(AI) 개발에 필수적인 공개 데이터가 현행 개인정보 규율체계 내에서 적법하고 안전하게 처리될 수 있도록 ‘인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서’를 마련해 공개했다.

안내서에 따르면 먼저 보호법 제15조에 따른 ‘정당한 이익’ 조항에 의해 공개된 개인정보를 인공지능(AI) 학습·서비스 개발에 활용할 수 있다는 점을 분명히 했다.

또한 이러한 ‘정당한 이익’ 조항이 적용되기 위해서는, 인공지능(AI) 개발 목적의 정당성, 공개된 개인정보 처리의 필요성, 구체적 이익형량이라는 세 가지 요건을 충족하여야 한다.

더불어 개인정보위는 안내서를 통해 인공지능(AI) 기업이 ‘정당한 이익’을 근거로 공개된 개인정보를 처리하기 위해 고려할 수 있는 기술적·관리적 안전성 확보조치와 정보주체 권리보장 방안을 구체적으로 안내했다.

다만 빠른 인공지능(AI) 기술변화 등을 고려하여 세부적 안전조치 등을 유연하게 도입·시행할 수 있도록 했다. 인공지능(AI) 기업은 모든 안전조치를 의무적으로 시행해야 하는 것은 아니며, 안내서에 제시된 여러 안전조치의 순기능과 인공지능(AI) 성능저하, 편향성 등 부작용과, 기술 성숙도를 고려하여 기업의 특성에 맞는 ‘안전조치의 최적 조합’을 스스로 선택하여 이행할 수 있다.

개인정보위는 2024년 3월 인공지능(AI) 사전실태점검을 통해 파악한 주요 대규모 언어모델(LLM) 사업자의 실제 안전조치 이행사례를 안내해, 기업이 ‘최적 조합’을 판단하는 데 참고할 수 있도록 하였다.

개인정보위가 주요 개인식별정보가 노출된 도메인 정보(URL)를 주기적으로 탐지하여 인공지능(AI) 기업에 제공하면, 기업이 해당 도메인 정보(URL)를 학습데이터 수집에서 배제할 것을 권고했다.

마지막으로 인공지능(AI) 개발을 위한 학습데이터 처리와 관련한 인공지능(AI) 기업과 개인정보보호책임자(CPO)의 역할을 강조했다.

개인정보보호책임자(CPO)를 구심점으로 하는 ‘(가칭)인공지능(AI) 프라이버시 담당조직’을 자율적으로 구성·운영하고 안내서에 따른 기준 충족 여부를 평가하여 그 근거를 작성·보관하도록 권고했다.

인공지능(AI) 성능 개선 등 중대한 기술적 변경이나 개인정보 침해 발생 우려 등 위험 요인을 주기적으로 모니터링하고, 개인정보 유·노출 등 침해사고 발생 시 신속한 권리구제 방안도 마련하도록 했다.

안내서는 추후 개인정보 관련 법령 제·개정, 인공지능(AI) 기술발전 추이, 해외 규제정비 동향 등을 고려해 지속 업데이트될 예정이다.

고학수 개인정보위 위원장은 “인공지능(AI) 기술 진보가 빠르게 이루어지고 있지만 인공지능(AI) 개발의 핵심 관건인 공개 데이터 학습이 보호법에 비추어 적법하고 안전한지 여부는 공백인 상황이었다”면서 “이번 안내서를 통해 국민이 신뢰하는 인공지능(AI)·데이터 처리 관행을 기업 스스로 만들어 나가고 이렇게 축적된 모범사례가 안내서에 지속적으로 반영될 수 있기를 기대한다”고 말했다.