과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 한국정보통신기술협회(회장 손승현, 이하 ‘TTA’)는 ‘인공지능 생성물’의 안전한 생성과 활용을 지원하기 위해 ‘인공지능 식별무늬(AI 워터마크) 기술 동향 보고서’(이하 보고서)를 발간했다고 밝혔다.

‘인공지능 생성물’이란 ‘인공지능 연산방식(AI 알고리즘)을 통해 크게 변경되거나 생성된 이미지, 동영상, 오디오 발췌 파일(클립), 문자(텍스트) 등의 정보’를 의미한다. 생성형 인공지능이 점차 고도화됨에 따라 인공지능은 이미지 및 동영상 생성, 문서 번역, 음악 작곡, 챗봇 등 다양한 분야에서 활용되고 있으며, 사람보다 제작 속도가 빠르고, 그 수준도 날로 높아지고 있는 추세이다. 즉, 인공지능 기술을 활용해 인간이 생성한 것과 유사한 수준의 다양한 결과물들이 빠른 속도로 생성, 확산되고 있으며, 산업, 문화, 예술 등에 활용되며 효용이 점차 증가하고 있다.

그러나 인공지능 생성물이 산업, 문화, 예술 등 다양한 분야에서 활용되는 것이 가져오는 잠재적 혜택의 이면에는 인공지능이 생성한 것인지 사람이 생성한 것인지 알 수 없어 다양한 오남용 사례(이미지 영상 조작<딥페이크> 성착취물, 가짜뉴스 등)로 인한 우려도 존재한다.

이에 따라, 미국과 유럽을 비롯한 주요국은 인공지능 생성물의 오남용을 방지하기 위하여 인공지능 기술을 사용해 제작되었음을 표시하도록 명시하는 내용의 권고안 및 법률안을 제정하고 있다. 우리나라도 올해 1월 21일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능 기본법)을제정해, 인공지능 생성물에 대한 투명성 확보 의무를 부여하고, 식별무늬(워터마크, Watermark) 표시를 포함하였다.

식별무늬(워터마크) 표시는 사람의 눈에 인식 가능한지 여부에 따라 보이는 식별무늬(워터마크), 보이지않는 식별무늬(워터마크)로 나뉘며, 이미지, 영상, 음성 등 인공지능 생성 결과물의 유형에 따라 적용되는 기술에 차이가 존재한다. 식별무늬(워터마크) 기술의 발전 속도 역시 매우 빠르게 고도화되고 있어 기업에서 이를 파악하기 어려운 한계가 존재한다. 이러한 점을 고려하여 미국 국립표준기술연구소(NIST)에서도 식별무늬(워터마크) 기술 동향 보고서를 발간(’24.4월)한 바 있으며, 과기정통부와 한국정보통신기술협회도 우리 기업을 대상으로 인공지능 생성 결과물에 삽입할 수 있는 식별무늬(워터마크)의 기술적 적용 방법 및 활용 사례 등을 정리한 보고서 발간을 추진하였다.

인공지능 식별무늬(워터마크) 기술 동향 보고서 세부 내용

김경만 과기정통부 인공지능기반정책관은 “이번 보고서가 국내 인공지능 산업의 신뢰성을 높이고, 국제 경쟁력을 강화하는 중요한 계기가 되기를 기대한다”며, “향후 전담반 운영과 의견수렴을 통해 방침(가이드라인)을 마련하여 안전하고 신뢰할 수 있는 인공지능 산업 생태계를 조성하겠다”고 밝혔다.

손승현 한국정보통신기술협회장은 “이번 보고서를 통해 인공지능 생성물의 안전한 활용과 투명성 확보에 기여할 것”이라며, “과기정통부 및 인공지능 기업들과 협력해 책임있는 인공지능 발전을 위해 지속적으로 지원하겠다”고 밝혔다.

동 자료는 한국정보통신기술협회 누리집(https://www.tta.or.kr/tta/selectBbsNttList.do?bbsNo=105&key=74)을 통해 확인할 수 있다.

0 0