월요일 미국 증시가 개장하고 30분이 지난 22일 오전 10시께(현지시간) 미국 국방부 청사인 펜타곤에 폭발이 발생한 가짜 사진 한 장이 사회관계망서비스(SNS)에 삽시간에 퍼졌다. 미국에 악몽을 안겼던 9·11테러를 연상시키는 이미지였다. 이 사진을 러시아 관영매체인 RT가 '펜타곤 근처에서 폭발 보도가 있다'며 SNS에 올리자 공포는 더욱 가중됐다. 장 초반 상승세였던 뉴욕 증시는 곧장 곤두박질쳤다. 오전 10시 6분부터 10분까지 S&P500지수는 0.3% 하락했고, 다우존스30 산업평균지수도 80포인트 추락했다. 반대로 금과 미국 국채 등 안전자산 가격은 치솟았다.

10여 분간 혼란 끝에 미국 당국이 "폭발은 없었고 인공지능(AI)이 생성한 가짜 사진"이라는 해명을 발표하자 증시는 다시 제자리를 찾았다. 하지만 AI발 가짜뉴스의 위력이 얼마나 큰지 실감한 순간이었다. AI를 활용한 가짜뉴스가 SNS를 통해 급속히 확산할 경우 정보에 민감한 주식시장이나 향후 대형 선거 이벤트에 사회적 악영향을 끼칠 수 있다는 우려가 현실로 확인된 셈이다. 블룸버그는 "AI 생성 가짜뉴스에 시장이 농락당한 첫 사례"라고 보도했다.

앞서 '챗GPT의 아버지' 샘 올트먼 오픈AI 최고경영자(CEO)는 최근 미국 의회 청문회에서 "대규모 언어 모델(LLM)을 기반으로 한 대화형 AI가 조작되고 상호적인 가짜 정보를 퍼뜨릴 수 있다"며 "내년 미국 대선을 앞두고 모델이 점점 진화할 가능성이 있다"고 경고했다.

블룸버그, CNN을 비롯한 외신은 이날 미국 버지니아주 알링턴 카운티에 있는 펜타곤 인근에서 폭발이 발생한 사진이 트위터·페이스북 등 SNS를 통해 유포됐다고 보도했다. 이 사진에는 펜타곤 영내에서 검은 연기가 치솟는 모습이 담겼다.

특히 이 사진을 게재한 일부 SNS 계정은 블룸버그나 CNBC 등 언론사 계정을 모방한 형태를 취해 소방당국 등에 의해 사실관계가 확인될 때까지 큰 혼란을 초래했다. 또 이 사진을 러시아와 인도 매체가 사실관계 확인 없이 보도했고, 수백만 명의 폴로어 연관 계정을 가진 금융뉴스 제로헤지도 이 사진을 게재해 혼란을 더욱 키웠다.

다만 10여 분 만에 미국 당국이 폭발 사건은 없었다고 반박하면서 해프닝으로 마무리됐다. 미국 국방부는 "해당 시간에 보고된 사건은 없다"고 알렸고, 관할 지역의 알링턴 소방당국 트위터를 통해 "펜타곤 보호구역이나 그 인근에서 폭발이나 사건이 발생하지 않았으며 인근 대중에게 즉각적인 위험이 발생한 사실이 없다"고 밝혔다.

블룸버그는 "해당 이미지 출처는 불분명하다"며 "AI로 이미지나 콘텐츠를 쉽게 만들 수 있는 신흥 기술이 잘못된 정보의 확산을 가속화할 것이라는 우려가 깊어지고 있다"고 지적했다. 가짜 사진 확산의 근원지가 된 페이스북이나 트위터, 러시아의 RT는 별도의 입장을 내놓지 않았다. 이를 게재했던 SNS들은 게시물을 곧바로 삭제하거나 정정했고, 일부 계정은 정지 조치를 받았다.

CNN은 이 사진을 게재한 일부 트위터 계정이 진짜를 뜻하는 블루마크 보유자라는 점을 지적했다. CNN은 "일론 머스크 산하의 트위터는 매월 돈만 내면 블루마크를 얻을 수 있고, 결과적으로 트위터의 검증은 더 이상 해당 계정이 누구를 대표한다고 주장하는지를 나타내는 지표가 아니다"고 꼬집었다.

전문가들은 문제의 AI 사진을 자세히 들여다보면 AI가 만든 전형적인 결함을 발견할 수 있다고 지적한다. 디지털포렌식 전문가인 하니 파리드 UC버클리 컴퓨터공학과 교수는 "울타리가 불규칙하고 사진 곳곳이 흐리며 건물의 창문은 온라인에서 찾을 수 있는 펜타곤 사진과 일치하지 않는다"면서 "AI 생성 이미지에서 일반적으로 발견되는 결함"이라고 설명했다. 영국 탐사매체 벨링캣의 닉 워터스 연구원은 "흐릿한 빌딩 정면부나 펜스 등을 체크해보라"면서 "관련된 다른 사진이나 직접 목격자도 없다"며 AI 생성 이미지가 틀림없다고 주장했다.

[진영태 기자]