AI 딥페이크 범죄, 전 세계가 함께 막기로 했습니다
최근 '그록(Grok)'과 같은 생성형 인공지능(AI)을 악용해 실제 인물의 성적 이미지를 제작하고 유포하는 딥페이크 범죄가 국제적인 사회 문제로 대두되고 있습니다. 이에 각국의 개인정보 감독기구들이 뭉쳐 공동 대응에 나섰습니다.
국제적 공동 대응의 시작: 공동선언문 채택
개인정보보호위원회는 지난 23일, 국제 개인정보 감독기구 협의체(GPA) 차원에서 마련된 '인공지능 생성 콘텐츠와 개인정보 보호에 관한 공동선언문' 채택에 참여했습니다.
이번 선언문은 당사자의 동의 없이 실제 인물을 묘사하거나 유포하는 딥페이크 기술로 인한 프라이버시 침해 위협에 대해, 국제 사회가 신속하고 일관된 목소리를 냈다는 데 큰 의의가 있습니다.
특히 이번 선언문 주도는 한국 개인정보위가 소속된 국제집행협력 작업반이 주도하여 사안의 시급성을 공감한 국제사회 전반의 폭넓은 지지를 이끌어냈다는 점에서 주목받고 있습니다.
4가지 핵심 원칙 제시
이번 선언문에는 AI 기술을 개발하고 활용하는 기관이 반드시 준수해야 할 4가지 핵심 원칙이 포함되어 있습니다. 구체적인 내용은 다음과 같습니다.
- 개인정보 오남용 방지: 동의 없는 성적 콘텐츠 생성을 막기 위한 안전조치를 이행해야 합니다.
- 투명성 확보: 인공지능 시스템의 이용 가능 범위 등에 대해 투명하게 정보를 제공해야 합니다.
- 효과적인 구제 절차: 신고 접수 시 피해가 확산되지 않도록 신속한 삭제 등 효과적인 구제 절차를 마련해야 합니다.
- 아동·청소년 보호 강화: 연령에 적합한 정보를 제공하는 등 아동과 청소년에 대한 보호조치를 강화해야 합니다.
또한 각국 감독기구는 '신뢰할 수 있는 인공지능 혁신'이라는 공동의 가치를 실현하기 위해 정책 운영, 집행, 교육 등 다양한 분야의 대응 경험을 적극적으로 공유하고 연대를 강화하기로 했습니다.
52개국 61개 기구 참여… '신뢰 기반 AI 환경' 조성 주도
이번 선언문에는 한국을 비롯해 프랑스, 영국, 싱가포르, 캐나다, EU 등 52개 회원국의 61개 개인정보 감독기구가 서명에 참여했습니다. 이는 그만큼 딥페이크 등 AI 기술 오남용에 대한 위험성이 크다는 데 전 세계가 공감하고 있음을 보여줍니다.
송경희 개인정보위원장은 이번 일과 관련하여