생글생글

커버스토리

AI발 가짜뉴스 '비상'…사회 뿌리째 뒤흔든다

여름방학 기간 중 한국에 ‘메달 풍년’을 안긴 파리 올림픽이 열렸지만, 황당하고도 심각한 파장을 낳은 가짜뉴스(fake news)도 적지 않았습니다. 국내에선 래퍼 치트키, 배우 탕웨이의 사망설이 뜬금없이 나왔다가 금세 가짜뉴스로 드러났죠. 영국은 가짜뉴스가 촉발시킨 반(反)무슬림 폭동으로 몸살을 앓고 있습니다.사태의 발단은 지난달 말 영국 사우스포트에서 어린이 3명이 살해되고 10명이 다친 사건이었어요. 영국 태생의 17세 소년이 범인으로 판명났지만, 처음엔 ‘이슬람 망명 신청자가 범인’이라며 무슬림식 가짜 이름이 소셜미디어 X(옛 트위터)의 한 계정에 올라오면서 삽시간에 퍼져나갔습니다. 이것이 영국 전역에서 폭력과 방화를 동반한 반무슬림 폭력시위로 이어진 거죠.영국 폭동의 빌미가 된 가짜뉴스는 인공지능(AI)이 출처가 불분명한 게시물을 뉴스 형식의 글로 둔갑시키고 소셜미디어 추천 알고리즘이 이를 퍼 날랐다는 점에서 이전과는 양상이 많이 다릅니다. AI 기술이 고도화하면 가짜뉴스의 위협이 더욱 커질 것이라는 우려가 현실로 나타나고 있는 겁니다. 이민자에 대한 뿌리 깊은 영국민의 불만과 불안이 가짜뉴스를 만나 폭발하면서 사회 안정이 위협받고 있습니다. 가짜뉴스임에도 영국 경찰이 진실을 감추고 있는 것 아니냐는 음모론까지 번지고 있는 형국입니다.가짜뉴스가 어떻게 대중화됐고 그 양태는 어떠한지, 최근의 생성형 AI발 가짜뉴스의 위험성이 얼마나 큰지 등을 4·5면에서 살펴보겠습니다.합리적 여론 형성 막는 '허위 정보'민주주의 작동 시스템 위협하죠가짜 뉴스(fake news)는 2000년대 중반, 뉴스 형식으로 정치를 풍자한 미국의 TV 코미디

시사 이슈 찬반토론

AI 딥페이크 가짜뉴스 파문…규제법 필요할까

가짜 뉴스는 어느 시대, 어느 사회에도 존재한다고 봐야 한다. 문제는 대응 수준이다. 웃으며 넘기기도 하고 법률로 엄한 대응도 한다. 사회 구성원들이 이성과 합리, 인식의 수준을 높여 잘 대처하는 게 중요하다. 처벌법만 잔뜩 만든다고 가짜 뉴스가 없어진다는 보장도 없다. 궁극적으로 인간의 사회에서 거짓말이나 선동이 없어질 것이냐의 문제다. 인공지능(AI)를 활용한 ‘딥페이크(deepfake)’ 콘텐츠가 나오면서 또 규제법 논란이 일고 있다. 딥페이크는 탁월한 AI 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물을 일컫는다. AI의 심층 학습을 뜻하는 ‘딥 러닝(deep learning)’과 가짜 ‘페이크(fake)’의 합성어다. 딥페이크는 당연히 배제 대상이다. 그렇다고 몇 건의 사례에 화들짝 놀라면서 규제법부터 만들어야 할까.[찬성] 팝스타 스위프트 합성물 SNS 확산, 제작 2분·검증엔 며칠…美도 대응 기류최근 세계적 팝스타 테일러 스위프트의 AI 딥페이크로 지구촌이 떠들썩했다. 스위프트의 얼굴과 목소리에 음란물을 합성한 조작 이미지로 들통났지만 각종 SNS로 순식간에 퍼져나갔다. 한 X(옛 트위터) 이용자가 올린 스위프트 딥페이크 이미지는 19시간 만에 4700만 회 이상 조회됐다. 이 이미지는 더 퍼져나갔고, ‘좋아요’ 반응도 수십만 건에 달했다. X는 뒤늦게 문제의 계정을 삭제했다. 스위프트 검색도 막았지만 페이스북 등 다른 SNS로 퍼져버린 뒤였다. 이런 일이 한두 차례가 아니다. 미국 대통령에 재도전하는 도널드 트럼프가 경찰관에게 둘러싸여 체포되는 가짜 사진이 나돌면서 파문을 일으키기도 했다. 현직 조 바이든 대통령이 막말을 하는

생글기자

가짜뉴스 가려내는 미디어 교육 중요하다

타인을 비방·비하하려는 목적으로 생성되는 가짜 뉴스가 연예인 등을 대상으로 광범위한 피해를 일으키고 있다. 최근 사실로 밝혀진 이선균, 지드래곤의 마약 복용 사건이 계기다. 마약과 전혀 관계없는 방탄소년단, (여자)아이들 전소연, 르세라핌 김채원 등 연예인 이름까지 언급하는 마약 복용 가짜 뉴스가 빠르게 퍼진 것이다. 이들의 소속사가 다급하게 부인하는 공식 입장을 내놓으며 사태는 일단락됐다. 그러나 어떤 소식보다 빠르고 넓게 확산되는 가짜 뉴스가 무고한 사람들에게 얼마나 큰 정신적·실질적 피해를 입히는지 다시 한번 목격할 수 있었다. 가짜 뉴스가 많은 사람을 현혹시킬 수 있는 이유는 무엇일까? 이는 심리학적 측면에서 ‘확증편향’, ‘진실 기본값 이론’ 등으로 설명할 수 있다. 사람들은 처음 마주한 정보를 수용하려는 경향이 강하다. 또 한 가지 입장의 정보를 수용하기 시작하면 해당 입장으로 점점 생각이 기울게 된다. 제공되는 정보의 양이 많아질수록 사람의 판단력은 흐려지고, 올바르지 못한 정보를 그대로 수용할 가능성이 커진다. 인터넷 뉴스 등의 매체는 이러한 심리학적 측면에서 보았을 때 가짜 뉴스를 퍼뜨리고 사람들을 현혹하기에 최적의 조건을 가졌다고 볼 수 있다. 가짜 뉴스는 지금 이 순간에도 많은 사람에게 상처를 입히며 전 세계로 퍼지고 있다. 거짓 정보를 가려내고 올바른 정보만 수용하기 위해서는 매체를 통해 제공되는 다양한 정보를 항상 비판적 시각으로 바라볼 수 있는 능력인 미디어 리터러시가 중요하다. 이에 대한 교육과 훈련을 특히 청소년 대상으로 많이 실시해 가짜 뉴스로 인한 피해를 최소화하려는 노력이 필요해 보인다. 이수아

생글기자

가짜뉴스에 속지 않고 정확한 정보를 얻는 방법

최근 조사에 따르면 대한민국 국민 81%가 유튜브를 사용하고 있으며, 월평균 시청 시간은 33시간이다. 하루 1시간 이상 유튜브를 본다는 얘기다. 남녀노소를 가리지 않고 유튜브를 시청하면서 그 부작용 우려 또한 커지고 있다. 유튜브에 무분별하게 올라와 있는 가짜 뉴스의 영향을 받을 수 있기 때문이다.유튜브에는 자극적인 제목과 섬네일로 시청자를 유혹하는 가짜뉴스 채널이 많다. ‘트로트 가수 정동원·장민호 진짜 삼촌·조카 사이’ ‘미국에서 우영우 특별법 통과’ 등이 최근 문제가 됐던 가짜뉴스의 사례다. 가짜뉴스라는 것을 깨달은 사람들이 영상을 신고해도 별 소용이 없다. 이들은 얼마 지나지 않아 프로필과 닉네임을 바꿔 다시 활동한다.가짜뉴스의 해악을 줄이기 위해 필요한 것이 ‘미디어 리터러시’다. 미디어 리터러시란 수많은 미디어에서 쏟아지는 정보를 올바르게 이해하고 판별하는 능력을 말한다. 정확한 정보를 걸러내는 능력이 부족하면 가짜뉴스에 속기 십상이다.미디어 리터러시를 가지려면 스스로 생각하는 힘을 길러야 한다. 유튜브 등에서 쏟아지는 자극적인 영상보다는 독서를 하면서 지식을 쌓고 생각을 정리하는 것이 우선돼야 한다.새로운 정보를 접할 땐 정보의 출처가 신뢰할 만한지, 주장의 근거가 사실로 확인됐는지 등을 종합적으로 판단해야 한다.미디어 콘텐츠를 직접 만들어 보는 경험도 도움이 된다. 콘텐츠가 어떻게 제작되는지를 체험하는 과정에서 정확한 정보와 가짜뉴스를 구별하는 힘을 기를 수 있다.조예준 생글기자(대전관저중 3년)

디지털 이코노미

가짜뉴스가 주가에 미치는 영향 진짜뉴스의 3배

백악관에 폭발 사고가 발생해 오바마 대통령이 부상을 입었다는 소식이 전해졌다. 트윗은 단 5분 만에 4000번 넘게 리트윗됐고, 수십만 명의 사람이 해당 뉴스를 접했다. 주식시장은 즉각적으로 반응했다. 주춤하던 시장 반응은 곧 궤도를 이탈해버렸다. 일반투자자뿐만 아니라 시장 동향을 예측해 매수 혹은 매도를 제안하는 데이터 회사들이 만든 자동 거래 알고리즘이 작동해 주식을 팔아치워버린 것이다.문제는 해당 소식이 ‘가짜뉴스’였다는 점이다. 해당 뉴스는 해커들이 AP통신의 트위터 계정에 침투해 퍼뜨린 가짜뉴스였다. 테러의 사상자는 주식시장에서 발생한 셈이 됐다. 가짜뉴스에 기반해 주식을 사고판 사람들은 돈을 잃었다. 실제 많은 가짜뉴스가 금융시장에 영향을 미친다. 미국 증권거래위원회는 주가 조작을 목적으로 한 상장기업들의 가짜뉴스를 잡아내기 위해 조사를 진행했다. 이들은 10년간 발표된 7500개 이상의 기업에 대한 35만 건의 기사를 대상으로 언어 분석을 했다. 이들의 분석에 의하면 진짜뉴스가 발표된 뒤 주식 거래 물량은 평소보다 37% 늘었는데, 가짜뉴스가 발표된 뒤에는 50% 늘어났다. 투자자들이 가짜뉴스에 더 민감하게 반응한 것이다. 이는 규모가 작은 기업일수록, 기관투자가보다 소매 투자자 비율이 높을수록 더 심했다. 가짜뉴스는 주가에 미치는 영향도 더 컸다. 진짜뉴스에 비해 평균 세 배 컸으며, 발표 3일 전이나 3일 후 해당 주식의 절대 수익에 미치는 영향도 가짜뉴스가 진짜뉴스보다 훨씬 컸다. 가짜뉴스 생성의 목적가짜뉴스를 만들어내는 목적은 다양하다. 금융시장 교란이 될 수도 있고, 정치적인 목적에서 이뤄지기도 한다. 2019년 4월 발표된

생글기자

가짜뉴스에 속지 않으려면…

사실이 아닌 것을 사실인 것처럼 꾸미는 가짜뉴스가 많은 문제를 일으키고 있다. 과거에도 허위 보도나 거짓 정보, 유언비어 등이 없었던 것은 아니지만 미디어가 다양해지고 확산 속도가 빨라지면서 가짜뉴스의 폐해가 커지고 있다.가짜뉴스는 잘못된 정보를 퍼뜨려 사람들에게 피해를 입히고 거짓 선동으로 혐오와 폭력을 조장한다. 몇 년 전 일본인 소녀를 강간한 한국인이 무죄 판결을 받았다는 기사가 SNS에 올라와 일본인들의 혐한 감정을 자극했다. 하지만 이 기사는 가짜뉴스로 드러났다.가짜뉴스는 사람들의 명예를 훼손하기도 하고, 금전적인 피해를 입히기도 한다. 가짜뉴스로 손실을 입은 기업도 많다. 뒤늦게 가짜뉴스라는 것이 밝혀지더라도 이미 당한 피해를 되돌리기는 어렵다. SNS의 알고리즘이 가짜뉴스를 확대 재생산하고 있다는 비판도 제기된다. 이용자가 선호하는 유형의 콘텐츠에 반복해서 노출시킴으로써 편견과 고정관념을 강화할 가능성이 있기 때문이다.가짜뉴스에 속아 넘어가지 않으려면 어떻게 해야 할까. 첫째, 뉴스의 출처를 파악해 믿을 만한 정보원에서 나온 뉴스인지를 따져봐야 한다. 둘째, 주장을 뒷받침하는 근거가 있는지 살펴봐야 한다. 셋째, 뉴스의 날짜를 확인해야 한다. 한참 지난 뉴스를 마치 최신 뉴스인 것처럼 속여 여론을 선동하는 사례도 있기 때문이다. 인터넷과 SNS에서 정보를 접할 때 이 세 가지만 확인하더라도 가짜뉴스가 일으키는 문제를 많이 줄일 수 있을 것이다.소현정 생글기자(등촌고 1년)

생글기자

가짜 뉴스 잡으려다 언론 자유 잡을 언론중재법

언론의 허위 보도로 인한 피해에 대해 징벌적 손해배상 책임을 지도록 하는 등의 내용을 담은 언론중재 및 피해구제 등에 관한 법률(언론중재법)이 국회에서 논의되다가 처리가 연기됐다. 여당인 더불어민주당 주도로 추진되다가 야당과 국내외 언론 관련 단체의 반대로 일단 국회 의결을 미룬 것이다.무책임한 허위·과장 보도로 언론에 대한 신뢰도가 많이 낮아진 것은 사실이다. 악의적인 오보에 대해선 징벌적 손해배상 책임을 지워야 한다는 여론도 존재한다. 언론중재법은 그러한 요구를 반영한 것이지만, 그에 못지않게 역기능을 우려할 만한 점이 있다.가장 크게 문제가 되는 조항은 두 가지다. 첫째는 징벌적 손해배상제다. 언론중재법은 언론 보도로 인한 손해액의 세 배에서 다섯 배까지 언론사에 배상을 청구할 수 있도록 했다.두 번째는 열람 차단 청구권이다. 이 조항은 △제목·맥락상 주요한 내용이 진실하지 않은 경우 △개인의 신체·신념·성적 영역 등과 같은 사생활의 핵심 영역을 침해하는 경우 △그 밖에 인격권을 계속 침해하는 경우 언론중재위원회를 통해 정정 보도나 반론 보도 결정을 받기 전에 미리 기사 노출을 차단할 수 있게 한 것이다.이 두 가지 조항은 남용될 경우 권력을 감시하는 언론의 역할을 위축시키고 국민의 알 권리를 침해할 소지가 크다. 고위 공무원과 선출직 공무원, 대기업 임원 등은 징벌적 손해배상을 청구할 수 없도록 했다고 하지만, 비판적인 보도의 대상이 된 사람들이 언론을 상대로 무분별한 소송을 제기할 가능성은 여전히 남아 있다. 세계신문협회, 국제언론인협회, 국경없는기자회 등 외국 언론인 단체들까지 이 법에 반대 의견을 낸

시네마노믹스

가짜뉴스·통정매매…치밀하게 농락하는 '작전의 세계'

“증권시장 일일 거래대금 7조원. 대한민국에서 가장 많은 돈이 오가는 이곳 여의도. 나는 부자가 되고 싶었다.”가난한 복분자 농가의 아들로 태어나 증권사 신입사원으로 서울 여의도에 입성한 조일현(류준열 분). 부자가 되고 싶다는 열망은 넘치지만 정작 영업의 무기가 될 만한 언변, 인맥, 학연 등은 전무하다. 거래수수료 0원을 기록하는 날들의 연속, 어느 날 같은 팀 멤버가 일현에게 ‘번호표’(유지태 분)라는 별명의 부티크(비공식 투자회사) 투자자를 소개한다. 번호표는 거액의 자금을 움직이는 주가조작 ‘선수’다. 그를 만나며 일현은 주가조작 세계에 빠져든다.2019년 개봉한 ‘돈’은 증권사 법인영업팀 주식 브로커 조일현이 주식 불공정거래 세력과 합세해 머니게임을 벌이는 과정을 다룬 영화다. 2009년 개봉한 ‘작전’ 이후 10년 만에 여의도 증권가를 소재로 한 영화로 주목받았다. 일반투자자들에게는 잘 알려지지 않은 펀드매니저와 증권사 브로커의 세계를 깊숙이 다뤄 증권가에서도 상당한 화제를 모았다. 올 들어 개인투자자들의 주식 순매수 금액이 3월까지만으로도 27조원이 넘어 ‘동학개미운동’이 유행어가 될 정도로 주식시장이 뜨거워지자 이 영화가 다시 주목받고 있다. 현실 같은 영화, 영화 같은 현실영화 속 번호표가 이끄는 세력은 주식을 미리 사둔 뒤 통정매매를 통해 주가를 부양시켜 시장에 떠넘기는 방식으로 부를 쌓는다. 통정매매는 세력끼리 매매를 주고받으며 주가를 조작하고, 다른 시장 참여자들의 매수세를 유인하는 매매기법이다. 이 과정에서 스프레드 거래와 프로그램 매매, 공매도 등 각종 금융 기법이 등장한다.