◇ 가짜뉴스 슈퍼 전파자는 '봇'…딥페이크로 진화 우려
사람뿐 아니라 자동으로 가짜 콘텐츠를 생산하고 전달하는 봇(bot) 계정도 가짜뉴스 전파 과정에서 큰 역할을 한다.
미 인디애나대 연구진은 2016년 미 대선 당시 1천361만7천425건의 트윗을 봇 탐지 도구인 '보토미터' 등으로 분석한 결과 가짜뉴스의 '슈퍼 전파자' 계정들은 봇 계정일 가능성이 높다는 결론을 내렸다.
이탈리아 트렌토대 마시모 스텔라 교수 등의 연구 결과 2017년 10월 스페인 카탈루냐 독립 주민투표에 관한 360만 건의 트윗 중 23.5%가 봇 계정에서 생성된 것으로 파악됐다.
미국 랜드연구소 크리스토퍼 폴 선임사회과학자는 2016년 미 대선 직전 일주일간 도널드 트럼프 공화당 후보 또는 힐러리 클린턴 민주당 후보를 지지하는 봇 생성 트윗 1천900만 건이 유포된 것으로 추정했다.
기술과 결합한 가짜뉴스의 창궐은 앞으로 AI를 이용해 기존의 동영상에 다른 사람의 얼굴과 말을 합성하는 딥페이크 기술로 새 국면을 맞고 있다.
조작이 어려워 상대적으로 신뢰할 수 있는 보루로 여겨졌던 동영상마저 그럴듯하게 꾸며낼 경우 가짜뉴스의 효과가 더 커질 수밖에 없어서다. 실제로 미 정치권 인사들을 대상으로 한 딥페이크 가짜 동영상이 소셜미디어 이용자를 속이는 일이 벌어지고 있다.
◇ 국내 양대 플랫폼도 가짜뉴스 방지에 잰걸음
세계적으로 생성형 AI, 딥페이크 등 기술의 발전과 함께 가짜뉴스에 의한 사회적 문제가 심각해지는 가운데 국내 양대 플랫폼인 네이버와 카카오도 기술과 서비스 측면에서 가짜뉴스 방지에 총력을 기울이고 있다.
네이버는 한국인터넷자율정책기구(KISO)의 회원사로서 언론의 기사 형식을 도용·사칭한 허위 게시물 등 뉴스 형태를 한 가짜 콘텐츠에 대해 적극적으로 대응하고 있다고 밝혔다.
지난 9월부터 정정보도 모음 페이지의 접근성을 강화하고 정정·반론·추후 보도 등을 모아 서비스하는 등 사실과 다른 내용을 담은 가짜뉴스의 확산 방지에도 나섰다.
카카오의 포털 사내 독립기업(CIC)인 다음도 자체 운영 정책을 통해 언론사의 명의나 언론사의 직책 등을 사칭·도용해 기사 형태를 갖춘 게시물 가운데 그 내용이 허위로 판단되는 게시물과 게시자를 규제하고 있다.
또 가짜뉴스라고 명시한 것은 아니지만, 가짜뉴스를 포함한 유해 콘텐츠를 인공지능(AI) 기술을 통해 2014년 7월부터 필터링하고 있다고 카카오는 소개했다.
개방형 플랫폼인 카카오톡의 경우 사생활 침해 소지 탓에 가짜뉴스나 사칭 사기 등에 대한 사전 검열이 사실상 불가능하지만, 권리 침해나 피해 신고가 접수되면 최대한 빠르게 소명 자료 등을 검토한 뒤 내부 운영 정책에 맞춰 제재하고 있다.
포털업계의 한 관계자는 "세계적으로 유튜브나 인스타그램 등 빅테크 플랫폼을 통해 가짜뉴스가 전방위로 퍼져 심각한 사회 문제로 대두된 것과 달리, 국내는 주요 포털의 자율규제로 상황이 다소나마 양호한 편"이라고 말했다.
firstcircle@yna.co.kr
ㅡ[연합뉴스]ㅡ2023.11.26
ㅡCopyrights(c)- OTOT-오티오티, 신문" 무단, 전재 배포 금지ㅡ
메인홈 
