(영상) 너무 리얼해서 소름…AI ‘가짜 뉴스’ 근황

최근 소셜미디어(SNS)에는 실제 방송 뉴스와 구별하기 어려울 만큼 정교하게 제작된 인공지능(AI) 생성 ‘가짜 뉴스’가 잇따라 올라오고 있습니다.

주로 AI 가짜 뉴스에 대한 경각심을 주기 위한 목적이지만, AI 안내 문구가 없다면 디지털 취약 계층은 물론 일반 성인들조차 진짜 뉴스로 오인할 정도로 현실감이 높습니다.

댓글창에는 “부모님이 그대로 믿더라”, “진짜인 줄 알았다”, “AI가 점점 더 무서워진다”, “이젠 현실과 구별할 수 없다”는 반응이 이어지고 있습니다.

AI 생성 가짜 뉴스는 SNS를 통해 빠르게 확산되며 사회 혼란과 경제 파장을 야기할 수 있다는 점에서 전문가들은 이에 대한 경각심과 함께 교육적·제도적 대응이 시급하다고 강조하고 있습니다.



실제 사례로 본 AI 가짜 뉴스 파장

✅ 1. 2023년 5월 ‘펜타곤 폭발’ AI 사진 사건

2023년 5월, 미국 워싱턴DC 펜타곤(미 국방부) 근처에서 폭발이 일어났다는 AI 합성 사진이 엑스(X·옛 트위터) 등 SNS를 타고 순식간에 확산됐습니다. 당시 이 사진은 러시아 국영방송 ‘RT’ 등 언론사 인증 계정까지 가세하며 신뢰성을 얻었고, 실제로 미국 증시 S&P 500 지수가 일시적으로 0.3% 하락하는 등 경제적 파장까지 불러왔습니다.



✅ 2. 2024년 미국 대선, AI 딥페이크 선거전

2024년 미국 대선에서는 일부 트럼프 지지자들이 흑인 유권자들의 지지를 조작한 AI 딥페이크 이미지를 대량 생산·유포한 사실이 드러났습니다. 또한 조 바이든 전 미국 대통령을 사칭한 딥페이크 음성이 유포되어 유권자들에게 혼란을 주기도 했죠. 이러한 AI 기반 허위 정보는 선거 공정성을 훼손하고, 민주주의에 심각한 위협이 되고 있다는 경고로 이어졌습니다.

✅ 3. 2024년 10월, 미국 학교장 ‘오디오 조작’ 파문

지난해 10월에는 미국 메릴랜드주 볼티모어의 한 고등학교 교장이 인종차별적 발언을 했다는 오디오 클립이 온라인에 퍼지며, 교사들이 살해 협박을 받는 등 지역사회가 큰 혼란에 빠졌습니다. 알고 보니 이 오디오는 AI로 조작된 가짜였으나, 일부 주민들은 끝까지 사실로 믿었다는 점에서 AI 가짜 뉴스의 사회적 파급력이 여실히 드러났던 사례입니다.



✅ 4. 우크라이나 전쟁, AI 활용 뉴스·다큐의 경계

미국 매체 세마포(Semafor)는 러시아-우크라이나 전쟁 피해 참상을 보다 효과적으로 전달하기 위해, 실제 증언을 바탕으로 인공지능(AI)을 활용한 실사 영상 애니메이션을 제작해 2022년 10월 20일 유튜브 등에 배포했습니다. 영상에서는 검증된 증언을 바탕으로 애니메이션을 재구성했다고 안내하고 있지만, 언론의 적극적인 AI 활용이 사실과 허구의 경계를 흐릴 수 있다는 우려도 제기됐습니다.