생성형 인공지능으로 만든 콘텐츠에 워터마크 표시가 의무화됐지만, 실제 이용 현장에서는 이를 알아차리기 어렵다는 지적이 이어지고 있다. 인공지능 기본법 시행 이후에도 주요 플랫폼의 표식 방식이 모호해 이용자 혼란이 커지고 있다는 비판이다.
최근 유튜브에서는 철학자 도올 김용옥의 강연이나 법문처럼 보이는 영상들이 잇따라 노출됐다. 실제 발언이 아닌데도 얼굴과 목소리를 정교하게 모사해 장시간 시청한 이용자들이 뒤늦게 인공지능 생성물임을 알게 되는 사례가 발생했다. 영상 설명란에 ‘변경됐거나 합성된 콘텐츠’라는 문구가 붙어 있었지만, 인공지능으로 제작됐다는 점이 명확히 드러나지 않아 사실상 사후 확인에 그쳤다는 지적이다.
지난 22일 국내에서 세계 최초로 인공지능 기본법이 시행되며 생성형 인공지능 콘텐츠에는 고유 표식을 남기는 것이 의무가 됐다. 그러나 대형 플랫폼에서는 자진 신고 방식에 의존하거나, 표식 자체가 추상적으로 표현돼 실효성이 떨어진다는 평가가 나온다. 생성형 인공지능으로 만든 저품질 콘텐츠, 이른바 ‘AI 슬롭’이 급증한 가운데 한국이 주요 소비 국가로 지목된 점도 우려를 키운다.
유튜브는 인공지능 활용 콘텐츠를 표시하고 있다는 입장이지만, 실제 라벨에는 ‘AI 생성물’이라는 직접적 표현이 빠져 있다. 인스타그램 역시 표식을 도입했으나, 이용자가 별도의 메뉴를 눌러야 확인할 수 있어 즉각적인 인지가 어렵다. 플랫폼별로 표시 위치와 방식이 제각각이어서 통일된 기준이 없다는 비판도 제기된다.
반면 틱톡은 인공지능 생성 콘텐츠의 노출 정도를 이용자가 직접 조절할 수 있도록 시스템 개편을 예고했다. 선정성과 허위성 논란에 대한 대응 차원에서 이용자 선택권을 강화하겠다는 취지다.
한편 인공지능 활용 범위를 어디까지 공개해야 할지를 두고도 논쟁이 이어진다. 콘텐츠 핵심에 영향을 주는 경우와 단순 업무 보조에 그친 경우를 구분해야 한다는 주장과, 기준이 제각각일 경우 혼란만 가중될 수 있다는 우려가 맞선다.
전문가들은 인공지능 생성물에 대한 명확하고 직관적인 표식이 신뢰 회복의 출발점이라고 지적한다. 규제 시행만으로는 한계가 있는 만큼, 플랫폼의 책임 있는 표시 기준과 이용자 보호 장치 마련이 시급하다는 목소리가 커지고 있다.
