[커버스토리] AI발 가짜뉴스 '비상'…사회 뿌리째 뒤흔든다

Cover Story

그래픽=김선우 한국경제신문 기자

여름방학 기간 중 한국에 ‘메달 풍년’을 안긴 파리 올림픽이 열렸지만, 황당하고도 심각한 파장을 낳은 가짜뉴스(fake news)도 적지 않았습니다. 국내에선 래퍼 치트키, 배우 탕웨이의 사망설이 뜬금없이 나왔다가 금세 가짜뉴스로 드러났죠. 영국은 가짜뉴스가 촉발시킨 반(反)무슬림 폭동으로 몸살을 앓고 있습니다.

사태의 발단은 지난달 말 영국 사우스포트에서 어린이 3명이 살해되고 10명이 다친 사건이었어요. 영국 태생의 17세 소년이 범인으로 판명났지만, 처음엔 ‘이슬람 망명 신청자가 범인’이라며 무슬림식 가짜 이름이 소셜미디어 X(옛 트위터)의 한 계정에 올라오면서 삽시간에 퍼져나갔습니다. 이것이 영국 전역에서 폭력과 방화를 동반한 반무슬림 폭력시위로 이어진 거죠.

영국 폭동의 빌미가 된 가짜뉴스는 인공지능(AI)이 출처가 불분명한 게시물을 뉴스 형식의 글로 둔갑시키고 소셜미디어 추천 알고리즘이 이를 퍼 날랐다는 점에서 이전과는 양상이 많이 다릅니다. AI 기술이 고도화하면 가짜뉴스의 위협이 더욱 커질 것이라는 우려가 현실로 나타나고 있는 겁니다. 이민자에 대한 뿌리 깊은 영국민의 불만과 불안이 가짜뉴스를 만나 폭발하면서 사회 안정이 위협받고 있습니다. 가짜뉴스임에도 영국 경찰이 진실을 감추고 있는 것 아니냐는 음모론까지 번지고 있는 형국입니다.

가짜뉴스가 어떻게 대중화됐고 그 양태는 어떠한지, 최근의 생성형 AI발 가짜뉴스의 위험성이 얼마나 큰지 등을 4·5면에서 살펴보겠습니다.합리적 여론 형성 막는 '허위 정보'
민주주의 작동 시스템 위협하죠

Getty Images Bank

가짜 뉴스(fake news)는 2000년대 중반, 뉴스 형식으로 정치를 풍자한 미국의 TV 코미디 프로그램에서 시작됐어요. 처음엔 패러디 수준이었죠. 그런데 2016년 미국 대통령 선거와 영국 브렉시트(유럽연합 탈퇴) 국민투표에서 상대 진영을 비방하려는 목적으로 가짜 뉴스가 인터넷에서 폭발적으로 증가하며 급속히 확산됐습니다.

정치권 가짜 뉴스 가장 위험

당시 대표적인 가짜 뉴스로 ‘피자 게이트’를 들 수 있습니다. 2016년 미국 대선이 열리기 두 달 전인 10월, 한 백인 우월주의자가 워싱턴 D.C.의 피자 가게 등에서 인신매매와 미성년 성매매가 이뤄지고 있고 그 조직을 힐러리 클린턴 대선 캠프 쪽 인사가 운영한다는 글을 트위터에 올렸습니다. 대선 직후인 12월 4일 한 미국 청년이 직접 이를 조사하겠다며 피자 가게(카밋 핑퐁)에 총기 테러를 했고, 2019년 1월엔 카밋 핑퐁에 불을 지르는 사건까지 발생했죠. 같은 해 미국 대선 과정에선 히스패닉 불법 이민자의 무더기 불법 투표설 등 상당수의 음모론이 챗봇으로 자동 생성·유포되기도 했습니다.

이처럼 가짜 뉴스는 정치권에서, 특히 선거 시기에 봇물 터지듯 넘쳐납니다. 2022년 우리나라 대선 기간에 서울대학교 언론정보연구소의 SNU팩트체크에서 가짜 뉴스로 판명된 115건의 허위 정보 가운데 77.5%가 정치인, 정당, 후보 진영에서 나왔습니다. 가짜 뉴스를 단속하고 소셜미디어의 알고리즘 폐해를 바로잡아야 할 정치인이 오히려 이를 이용하고 소셜미디어와 공생하는 모양새입니다. 자신에게 비판적인 언론사의 보도는 무조건 가짜 뉴스라고 강변하는 것도 많은 논란을 낳았습니다. 도널드 트럼프 전 미국 대통령이 대표적인데요, 이런 행태는 허위 정보와 뉴스를 혼동케 하고 기성 언론이 그간 쌓아온 신뢰를 무너뜨리는 해악을 끼칩니다. 1920~1930년대 독일의 나치가 비판적인 해외 신문이나 기자를 향해 ‘뤼겐프레세(Lgenpresse, 거짓말하는 언론)’라고 낙인찍어 공격한 것과 다를 바 없죠.

의도를 갖고 조작한 정보

그러면 다시 원점으로 돌아가 가짜 뉴스가 정확히 무엇을 뜻하는지 살펴보겠습니다. 가짜 뉴스는 ‘뉴스 형태를 갖춘 거짓 정보’라고 통칭할 수 있지만, 비슷한 개념이 많은 데다 단순한 오보와 다르기 때문에 구별할 필요가 있습니다. 그래서 유럽연합 보고서와 여러 학술 논문은 가짜 뉴스(fake news) 대신 ‘허위 조작 정보(disinformation)’란 용어를 씁니다. 이는 의도적으로 조작된 정보란 점에서 잘못된 정보나 오정보, 오보(misinformation)와 구분됩니다. 영국 하원 보고서에 나오는 허위 조작 정보의 여러 양태는 이를 좀 더 분석적으로 보는 눈을 갖게 합니다.

먼저 완전한 허위 정보는 날조 정보(fabricated content), 사실인 정보나 이미지를 왜곡한 것은 조작 정보(manipulated content)로 나눕니다. 조작 정보로는 선정적인 ‘낚시성 기사 제목’을 들 수 있습니다. 다음으로 기존 언론사 브랜드를 이용한 사칭 정보(imposter content), 논평을 사실(facts)인 것처럼 내세워 사실을 오도하는 오도 정보(misleading content), 기사 본문은 사실이지만 다른 허위 맥락으로 제목을 다는 허위 맥락(false context of connection) 등이 있습니다. 가짜 뉴스에 정통한 학자인 헌트 올콧과 매슈 겐츠코는 가짜 뉴스에 대해 “의도적이고, 검증 가능한 거짓이며, 독자를 오도할 수 있는 뉴스 기사”라고 정의합니다.

한번 생긴 인식 바꾸기 어려워

현실 사회에 대한 시민의 정확한 인식과 이에 기반한 합리적 여론 형성은 민주주의 발전의 중요한 축입니다. 기본적으로 ‘알고 있는 시민(Informed Citizens)’이 필요하다는 거죠. 그런데 가짜 뉴스는 시민들에게 사회문제에 대한 잘못된 인식을 심어줘 이런 기초를 파괴해버립니다. 사람들이 한번 잘못 인식하게 되면 이후 사실 확인(fact check)을 거친 뉴스를 접하더라도 기존 인식을 쉽사리 바꾸려 하지 않습니다. 가짜 뉴스에 반복적으로 노출되면 자신의 인식이 올바르다는 자신감도 점점 줄어듭니다. 이를 잘못 방치하면 민주주의 시스템의 작동이 위협받게 됩니다. 그렇다고 법적 규제를 강화하는 것만이 능사도 아닙니다. 자칫 표현의 자유가 침해될 위험성도 크기 때문입니다. NIE 포인트1. 가짜 뉴스의 여러 양태에 맞는 사례를 찾아보자.

2. 독일의 뤼겐프레세와 미국 트럼프 전 대통령의 가짜 뉴스 논란을 비교해보자.

3. 알고 있는 시민(Informed Citizens)의 개념에 대해 공부해보자.AI와 추천 알고리즘이 '악의 고리'
철저한 팩트 체킹, 자율규제가 해법

Getty Images Bank

소셜미디어는 가짜뉴스의 온상이란 불명예를 안고 있습니다. 그런데 급속도로 발전한 인공지능(AI) 기술이 결합하면서 문제가 더 심각해지고 있습니다. 예를 들어, AI는 자신이 학습한 데이터에는 없는 정보를 요구받을 때 잘못된 정보나 오류를 그럴듯하게 포장해 답변하는 할루시네이션(hallucination, 환각·환청) 특성을 갖고 있어요. 이게 가짜뉴스를 양산할 위험이 큽니다. 또 생성형 AI가 만드는 가짜뉴스는 훨씬 정교합니다. 글의 형태가 제대로 갖춰져 있고 군데군데 전문용어가 포함돼 믿을 만해 보이죠. 가짜뉴스를 만드는 속도도 인간이 따라갈 수 없어요.

AI가 만들어내는 가짜뉴스의 위력은 2020년 미국 대선 기간에 확인됐습니다. 한 팟캐스트 진행자가 GPT-3를 이용해 조 바이든 민주당 후보에 관한 거짓 주장을 담은 기사를 대량 생산한 것이죠. “바이든, 치매 의심 증후 보여”와 같은 제목으로 웹사이트에 게재하자, 소셜미디어에선 수만 회에 걸쳐 공유됐습니다.

가짜뉴스 ‘로켓 부스터’ 된 SNS

소셜미디어는 이용자에게 친구, 다음에 볼 영상, 구매해야 할 상품 등을 끊임없이 추천합니다. 이용자 취향에 맞는 콘텐츠를 무한정 추천해주는 알고리즘은 이용자를 필터링된 정보 속에 가둬버립니다. 이름하여 ‘필터 버블(filter bubble)’ 문제이지요. 자기 성향에 맞는 콘텐츠만 보게 되면 정치와 젠더 갈등은 증폭될 수밖에 없어요. 이것이 2차 가해를 불러일으킵니다. 이번 영국 폭동 사태에서도 정부가 범인의 실명을 공개하고 해당 소셜미디어 글은 가짜뉴스라는 사실을 밝혔는데도 AI 알고리즘은 처음 올라온 가짜 무슬림 범인 이름을 계속 추천 검색어로 띄웠습니다. 가짜뉴스는 생성과 증폭, 반향(Disinformation, Amplification, Reverberation, DAR)이라는 과정을 거칩니다. 그런데 AI와 추천 알고리즘은 각각 생성과 증폭 과정에서 이전과는 비교할 수 없을 정도로 가짜뉴스의 위력을 키웁니다. 가짜뉴스 확산의 ‘악의 고리’가 되고 있는 겁니다.

사실·의견 구분하는 ‘생각 근육’

소셜미디어를 통한 가짜뉴스의 확산에 규제를 가해야 한다는 목소리가 커지고 있습니다. 영국은 작년에 제정한 온라인안전법 시행을 앞두고 있지만, 가짜뉴스에 대처하기 위한 더 광범위한 법적 논의가 필요하다고 이베트 쿠퍼 영국 내무부 장관이 밝히기도 했습니다. 소셜미디어가 허위 정보를 적극적으로 가려내고 제재를 가하기는커녕 방치했을 가능성을 배제할 수 없기 때문입니다.

그러나 가짜뉴스는 정부가 직접 규제하기 어려운 ‘뜨거운 감자’이기도 합니다. 가짜뉴스인지 아닌지를 국가권력이 판단한다고 하면 즉각 반발이 생길 겁니다. 정치적 반대 세력에 대한 탄압 도구로 삼을 수 있다는 우려 때문이죠. 실제로 2018년과 2019년에 세계적으로 입법을 통해 가짜뉴스를 규제한 나라들이 줄었는데, 러시아·싱가포르·이집트 등 권위주의적인 정치체제를 가진 곳이 대부분이었습니다.

가짜뉴스 대응에 가장 앞서 있는 유럽연합(EU)은 투 트랙으로 접근합니다. 먼저 플랫폼 기업 등의 자율규제를 위한 실천강령을 마련하고 있습니다. 또 플랫폼 기업들이 허위 정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등 불법 유해 콘텐츠를 제거할 의무를 지운 디지털서비스법(DSA)을 작년부터 시행 중입니다. 이런 규제를 바탕으로 작년 10월엔 메타의 CEO 마크 저커버그와 X의 소유주인 일론 머스크에게 이스라엘-팔레스타인 전쟁과 관련한 가짜뉴스 확산을 막으라는 서한을 보내기도 했어요.

가짜뉴스에 대한 근본 대책은 소셜미디어 이용자부터 기업에 이르기까지 사실 확인(팩트 체크)을 철저히 하는 자율적 움직임에서 시작해야 합니다. 소셜미디어와 포털, 유튜버가 ‘뉴스’라며 콘텐츠를 내보내려면 자체적으로 이를 검수하는 시스템을 갖춰야 합니다. 그럼에도 가짜뉴스의 선정성 때문에 조회수와 클릭률이 높은 것은 일부 법률 규제를 동원하는 시스템으로 가야 할 것입니다. 청소년들도 사실과 의견의 차이를 구분할 줄 아는 법을 배워야 한다고 전문가들은 입을 모읍니다. 알고리즘에 갇히면 다른 길에 대한 상상력이 약해지고 무력감을 느낄 수 있다는 지적도 새겨봐야 합니다. 누구도 편향에서 자유로울 수 없다는 점을 인식하고 자신의 ‘생각 근육’을 키우는 훈련이 필요하다는 겁니다. NIE 포인트1. AI 알고리즘이 가진 장·단점에 대해 알아보자.

2. 가짜뉴스라고 밝혀져도 사람들은 가짜뉴스를 믿으려 합니다. 왜 그럴까요?

3. 팩트 체크를 거친 기사 사례를 모아보고, 친구들과 무엇이 문제였는지 공유해보자.

장규호 한경 경제교육연구소 연구위원 danielc@hankyung.com