선거 기간 AI 딥페이크가 쏟아지고 있다
세계적으로 중요한 선거가 많은 2024년 인공지능(AI)발 허위정보 우려도 커지고 있다. 세계 각국에서 AI가 만든 딥페이크 영상이나 조작된 사진, 음성 등이 논란이 되고 있다. 허위로 제작해 속이지 않더라도 이미지 정치에 활용하거나, 정치적으로 불리한 영상이 드러난 경우 딥페이크라고 주장하는 사례도 늘고 있다.
세계 각국이 AI 기술의 선거 악용 우려에 제도 개선을 추진하는 가운데 한국도 적극 대응하고 있다.
지난 29일부터 AI 기반 딥페이크 영상을 이용한 선거운동이 전면 금지됐다. 중앙선거관리위원회에 따르면 AI 기능이 포함된 프로그램으로 만든 음향·이미지·영상을 활용한 딥페이크는 처벌 대상이다. 다만 공직선거법을 위반하지 않는 선에서 통상적 정당활동, 투표참여권유, 당내 경선 등에선 활용이 가능하다. 선관위는 AI 모니터링 전담 요원 59명에 AI 감별 자문위원 3명을 두고 모니터에 나섰다. 한국에선 공직선거법상 후보자 비방과 허위사실유포가 금지돼 있고 AI 기반 콘텐츠도 예외가 아니다.
방송통신위원회는 30일 범정부 차원의 ‘디지털 심화 시대의 대응’의 일환으로 딥페이크를 활용한 가짜뉴스(허위조작정보) 대응 방안을 마련하기로 했다. AI로 제작한 콘텐츠의 AI 제작 여부를 표기하는 워터마크 표기 등 방안을 검토할 계획이다.
출처 : 금준경, 미디어오늘(https://www.mediatoday.co.kr)
뉴스바로가기 : https://www.mediatoday.co.kr/news/articleView.html?idxno=315525
