펜타곤 폭발 사진. AI발 가짜뉴스

AI발 가짜뉴스에 당했다

"펜타곤 폭발" 사진 한장에 美발칵…

 

미국 펜타곤(국방부) 청사 근처에서 대형 폭발이 발생했다고 주장하는 가짜 사진이 소셜미디어를 중심으로 확산해 주가가 일시적으로 하락하는 등 혼란이 빚어졌다. 전문가들은 이 사진을 두고 생성형 AI(인공지능)가 만들어낸 가짜 이미지라고 지적했다.

 

AI를 활용한 가짜 정보 확산에 대한 우려가 커지는 가운데 AI발 가짜 이미지가 시장에까지 영향을 끼친 첫 사례다. 외신은 "이번 사태는 AI가 만든 가짜 뉴스와 이미지가 사실인 것처럼 유포될 경우 사회를 어떻게 뒤흔들 수 있는지 보여주는 극명한 사례"라고 진단했다.

 

22일(현지시간) 트위터 등에 미 펜타곤 인근에서 폭발이 발생했다는 가짜 사진이 유포됐다. 사진은 AI가 생성한 것으로 알려졌다. 트위터 캡처

 

특히 이번 가짜 뉴스를 퍼뜨린 계정들이 유료 절차를 통해 트위터의 인증 마크(파란 딱지)를 받은 계정들로 드러나면서 AI발 가짜 뉴스의 진위 여부를 판별하기 어려워졌다는 우려가 나온다.

 

AP통신·CNN 등에 따르면 이날 오전 트위터 등엔 미 펜타곤 인근에서 폭발이 발생했다고 주장하는 사진이 빠르게 번졌다. 이 사진엔 펜타곤과 유사한 건물 주변에서 검은 연기가 치솟는 모습이 담겼다. 사진이 유포되자 미 S&P500 지수가 한때 0.3% 하락하는 등 증시는 출렁였고, 유사시 안전 자산으로 꼽히는 미 국채와 금값은 잠시 상승했다.

 

그러나 펜타곤 주변에서 폭발 사건은 발생하지 않은 것으로 드러났다. 펜타곤 대변인은 "펜타곤은 공격받지 않았다"고 밝혔다. 펜타곤 주변을 관할하는 알링턴 경찰과 소방 당국 역시 "펜타곤 보호구역이나 그 근처에서 폭발이나 사고가 발생하지 않았으며 대중에게 위험은 없다"고 전했다.

 

 

블룸버그통신 등에 따르면 영국 탐사보도 매체 벨링캣의 연구원 닉 워터스는 "사진 속 건물은 펜타곤이 아니며 워싱턴 어디에서도 실제로 있는 건물이 아니다"며 "AI가 생성한 것"이라고 지적했다. 하니 파리드 캘리포니아대 버클리캠퍼스 컴퓨터학 교수는 "사진 속 잔디와 바닥이 희미하고 울타리 모양도 불규칙하다"며 "AI가 만든 이미지에서 발견되는 일반적인 결함"라고 설명했다.

 

블룸버그통신은 "이미지와 콘텐트를 쉽게 만들 수 있는 AI 기술이 잘못된 정보의 확산을 가속화할 것이란 우려가 깊어지고 있다"고 짚었다.

 

미 펜타곤이 폭발했다고 주장한 가짜 사진. 트위터 캡처

 

NBC뉴스에 따르면 '펜타곤 폭발'을 주장한 가짜 사진은 이날 오전 8시42분쯤 트위터에서 유료 인증을 받은 한 계정에 처음 올라왔다. 이 게시물은 다른 계정을 타고 급속도로 확산했고, 러시아의 해외 선전매체 RT는 이날 오전 10시 3분쯤 "펜타곤 근처에 폭발 소식이 있다"고 트윗했다. 이후 팔로워 수십만 명을 보유한 인플루언서들까지 이 사진을 퍼날랐다. 더욱이 블룸버그통신을 사칭했음에도 트위터의 유료 인증을 받은 '블룸버그피드'란 계정도 이 사진 유포에 가세했다.

 

이후 소셜미디어엔 이를 모방해 백악관에서 폭발이 일어났다는 가짜 사진이 번지기도 했지만, 이미지가 조악해 펜타곤 가짜 사진만큼의 파급력은 없었다고 외신은 전했다.

당초 트위터는 공인, 대규모 조직 등에 계정이 진짜임을 보여주는 인증 마크를 부여했으나, 일론 머스크가 인수한 이후 월 8달러(약 1만500원)를 내는 유료 회원에게 이 마크를 주고 있다.

 

 

백악관이 폭발했다고 주장하는 가짜 사진. 트위터 캡처

 

가짜 뉴스를 연구하는 르네 디레스타는 워싱턴포스트(WP)에 "이번 일은 누구나 AI로 어렵지 않게 가짜 이미지를 만들 수 있게 됐으며 이전까지 트위터에서 뉴스의 신뢰도를 판단하는 데 도움이 되던 마크도 더는 쓸모없게 됐다는 것을 보여준다"고 말했다.

 

앞서 도널드 트럼프 전 미 대통령이 경찰에 체포되는 장면과 프란치스코 교황이 명품 패딩을 입고 있는 모습을 담은 AI 생성 가짜 사진도 소셜미디어를 통해 확산한 바 있다.

내년 미국 대선 등을 앞두고 AI가 만든 가짜 정보나 이미지가 선거에 영향을 끼쳐 민주주의를 위협할 수 있다는 우려도 나오고 있다.

 

 

박서준 유튜버 수스와 열애설

긱(Gig)시대. 40대 뮤지컬 배우의 '이중생활'

한국 생활 만족하니? 10명 가운데 8명 "만족"