최신뉴스
페이스북, 코로나 관련 허위 정보 유포 방지에 실패했지만
admin
2020-05-15
조회수 773
가짜뉴스와 허위 정보, 헤이트 스피치 차단 노력에 심혈을 기울인 페이스북
비판 여론은 없다시피 해...페이스북은 할 만큼 했다고 보는 시각이 많아
콘텐츠 소모 방식이 개선되지 않는 한 가짜뉴스와 허위 정보는 계속 존재할 것
[보안뉴스 문가용 기자] 페이스북의 마크 저커버그(Mark Zuckerberg)가 이번 주 ‘공동체 표준 도입 결과 보고서(Community Standards Enforcement Report)’를 발표하면서, “페이스북 플랫폼은 현재 코로나 바이러스와 관련된 허위 정보와 가짜뉴스 캠페인으로 넘쳐나고 있으며, 이를 해결하는 데에 총력을 기울이고 있다”고 발표했다.
저커버그는 “페이스북 콘텐츠 관리 팀의 노력과 성과가 자랑스럽다”고는 했지만, 코로나 관련 허위 정보 유포와 가짜뉴스 캠페인을 막지 못하고 있음을 시인하기도 했다. “저희의 작업 방식의 효과가 조금은 떨어지는 모양새입니다. 왜냐면 모든 콘텐츠를 사람이 직접 보고 판단할 수 없기 때문입니다. 이 문제는 단기간 안에 해결되기 힘들 것으로 보이며, 따라서 앞으로도 코로나19와 관련된 잘못된 정보의 전파를 막는 데 있어 실수가 발생할 것으로 보입니다.”
페이스북이 미국 현지 시각으로 화요일에 발표한 이 보고서에 의하면 2020년 1사분기 동안 페이스북의 머신 러닝 시스템을 통해 이른 바 ‘혐오 콘텐츠’를 상당량 삭제할 수 있었다고 한다. 지난 해 4사분기에 비해 68%나 높은 성과를 거뒀을 정도였다. 이 시스템으로 현재 페이스북 사용자들이 작성하는 ‘헤이트 스피치’의 90%를 업로드 직전에 탐지할 수 있다고 페이스북은 주장했다. 이렇게 해서 작성되지 않은 ‘헤이트 스피치’가 올해 1사분기에 960만 건이라고 한다.
페이스북은 자사 블로그에 게시글을 따로 올리면서, 현재 코로나와 관련된 가짜뉴스나 허위 정보를 어떤 식으로 다루고 있는지도 상세히 공개했다. “4월에는 약 5천만 개의 콘텐츠에 경고 표시를 붙였습니다. 약 60개의 독립적인 사실 확인 조직들에서 발표한 7500개의 기사들을 바탕으로 한 것이었습니다. 또한 3월 1일부터 지금까지 가짜 마크나 소독제 등을 판매하려는 사기성 콘텐츠를 약 250만 건 삭제했습니다.”
하지만 페이스북도 코로나 때문에 재택 근무를 실시하기 시작했고, 콘텐츠 관리 팀의 구성원들이 집에서 페이스북의 민감한 데이터를 열람하는 것을 보안상의 이유로 금지시켰기 때문에 콘텐츠 관리를 인공지능 시스템으로 할 수밖에 없었다. 그러면서 가짜 정보들이 페이스북의 감시망을 빠져나가기 시작했고, 지금 저커버그의 말처럼 ‘넘쳐나는 상태’가 되었다.
하지만 터프츠대학교의 국제경영대학원의 바스카 샤크라보티(Bhaskar Chakravorti) 교수는 “인공지능만으로 콘텐츠를 걸러내는 건 기술적으로 대단히 어려운 일”이라며 “오히려 페이스북만큼 가짜 콘텐츠를 걸러내기 위해 노력하는 SNS도 드물다”고 칭찬했다. “특히 사실 확인을 전문으로 하는 조직들과 연계하여 가짜뉴스를 잡아낸다는 건 좋은 시도입니다. 물론 현재 감시망을 빠져나가는 콘텐츠가 40% 정도 된다는 건 문제로 인식해야 하겠죠.”
인공지능 보안 전문 업체인 코그니티브 시큐리티 콜라보레이티브(Cognitive Security Collaborative, CSC)의 공동 창립자 파블로 브루어(Pablo Breuer)는 “정치적 목적을 가진 단체들을 판별하고, 여기서 생성되는 콘텐츠에 광고 표시 같은 걸 붙이는 것도, 가짜뉴스나 허위 정보가 주는 영향력을 줄이는 방법 중 하나가 될 수 있다”고 제안한다. “의도적으로 퍼트리는 가짜뉴스와 허위 정보는, 실수로 만들어진 콘텐츠에 비해 파급력이 높습니다. 왜냐하면 캠페인을 진행하는 자들이 여러 계정으로 이를 빠르게 퍼 나르기 때문입니다. 이러한 패턴을 보이는 콘텐츠에 광고 표시를 붙인다면, 읽는 사람들도 어느 정도 경계를 하고 보게 될 것입니다.”
브루어는 “악의적으로 퍼지는 가짜 정보는, 일반 기사나 콘텐츠와 다른 생애주기를 보인다”고 설명을 이어갔다. “보통 콘텐츠는 처음 나왔을 때 사람들이 막 보다가, 점차 보지 않게 되면서(한 번 봤으므로) ‘상승세-정점-하향세’의 그래프를 그립니다. 하지만 고의적으로 퍼트려지는 가짜뉴스는 여러 번의 정점을 찍습니다.”
또한 브루어는 “페이스북 등의 SNS가 겪는 어려움은, 본질적으로 사용자들이 콘텐츠를 공유하는 방식에 기인한다”고 주장하기도 했다. “1차원적인 감정을 순간 불러일으키는 콘텐츠들이 주로 인기가 높고, 많이 소모됩니다. 성적인 매력이 넘치는 사람이 첫 화면에 등장한다든지, 누구나 욕을 할 만한 내용이 자극적으로 편집되어 있는 콘텐츠들이 얼마나 인기가 많습니까? 사용자들도 그렇고, 광고 회사들도 이런 식으로 콘텐츠를 만들어야 잘 만든 거라고 합니다. 이런 콘텐츠 중 ‘헤이트 스피치’나 ‘가짜뉴스’와 겹치거나 구분이 애매한 것이 상당히 많죠. 이런 콘텐츠 소비 행태가 사라지지 않는 한, 기술적인 조치만으로는 늘 한계가 있을 것입니다.”
3줄 요약
1. 페이스북, 사실상 코로나 관련 가짜뉴스 전파 막지 못했다고 인정.
2. 하지만 할 노력은 다 했다고 보이기 때문에 비판 여론은 많지 않음.
3. 인공지능에 의존한 콘텐츠 거르기 기술은 아직까지 여러 가지 문제를 안고 있음.
Copyrighted 2015. UBM-Tech. 117153:0515BC
[국제부 문가용 기자(globoan@boannews.com)]
비판 여론은 없다시피 해...페이스북은 할 만큼 했다고 보는 시각이 많아
콘텐츠 소모 방식이 개선되지 않는 한 가짜뉴스와 허위 정보는 계속 존재할 것
[보안뉴스 문가용 기자] 페이스북의 마크 저커버그(Mark Zuckerberg)가 이번 주 ‘공동체 표준 도입 결과 보고서(Community Standards Enforcement Report)’를 발표하면서, “페이스북 플랫폼은 현재 코로나 바이러스와 관련된 허위 정보와 가짜뉴스 캠페인으로 넘쳐나고 있으며, 이를 해결하는 데에 총력을 기울이고 있다”고 발표했다.
[이미지 = iclickart]
저커버그는 “페이스북 콘텐츠 관리 팀의 노력과 성과가 자랑스럽다”고는 했지만, 코로나 관련 허위 정보 유포와 가짜뉴스 캠페인을 막지 못하고 있음을 시인하기도 했다. “저희의 작업 방식의 효과가 조금은 떨어지는 모양새입니다. 왜냐면 모든 콘텐츠를 사람이 직접 보고 판단할 수 없기 때문입니다. 이 문제는 단기간 안에 해결되기 힘들 것으로 보이며, 따라서 앞으로도 코로나19와 관련된 잘못된 정보의 전파를 막는 데 있어 실수가 발생할 것으로 보입니다.”
페이스북이 미국 현지 시각으로 화요일에 발표한 이 보고서에 의하면 2020년 1사분기 동안 페이스북의 머신 러닝 시스템을 통해 이른 바 ‘혐오 콘텐츠’를 상당량 삭제할 수 있었다고 한다. 지난 해 4사분기에 비해 68%나 높은 성과를 거뒀을 정도였다. 이 시스템으로 현재 페이스북 사용자들이 작성하는 ‘헤이트 스피치’의 90%를 업로드 직전에 탐지할 수 있다고 페이스북은 주장했다. 이렇게 해서 작성되지 않은 ‘헤이트 스피치’가 올해 1사분기에 960만 건이라고 한다.
페이스북은 자사 블로그에 게시글을 따로 올리면서, 현재 코로나와 관련된 가짜뉴스나 허위 정보를 어떤 식으로 다루고 있는지도 상세히 공개했다. “4월에는 약 5천만 개의 콘텐츠에 경고 표시를 붙였습니다. 약 60개의 독립적인 사실 확인 조직들에서 발표한 7500개의 기사들을 바탕으로 한 것이었습니다. 또한 3월 1일부터 지금까지 가짜 마크나 소독제 등을 판매하려는 사기성 콘텐츠를 약 250만 건 삭제했습니다.”
하지만 페이스북도 코로나 때문에 재택 근무를 실시하기 시작했고, 콘텐츠 관리 팀의 구성원들이 집에서 페이스북의 민감한 데이터를 열람하는 것을 보안상의 이유로 금지시켰기 때문에 콘텐츠 관리를 인공지능 시스템으로 할 수밖에 없었다. 그러면서 가짜 정보들이 페이스북의 감시망을 빠져나가기 시작했고, 지금 저커버그의 말처럼 ‘넘쳐나는 상태’가 되었다.
하지만 터프츠대학교의 국제경영대학원의 바스카 샤크라보티(Bhaskar Chakravorti) 교수는 “인공지능만으로 콘텐츠를 걸러내는 건 기술적으로 대단히 어려운 일”이라며 “오히려 페이스북만큼 가짜 콘텐츠를 걸러내기 위해 노력하는 SNS도 드물다”고 칭찬했다. “특히 사실 확인을 전문으로 하는 조직들과 연계하여 가짜뉴스를 잡아낸다는 건 좋은 시도입니다. 물론 현재 감시망을 빠져나가는 콘텐츠가 40% 정도 된다는 건 문제로 인식해야 하겠죠.”
인공지능 보안 전문 업체인 코그니티브 시큐리티 콜라보레이티브(Cognitive Security Collaborative, CSC)의 공동 창립자 파블로 브루어(Pablo Breuer)는 “정치적 목적을 가진 단체들을 판별하고, 여기서 생성되는 콘텐츠에 광고 표시 같은 걸 붙이는 것도, 가짜뉴스나 허위 정보가 주는 영향력을 줄이는 방법 중 하나가 될 수 있다”고 제안한다. “의도적으로 퍼트리는 가짜뉴스와 허위 정보는, 실수로 만들어진 콘텐츠에 비해 파급력이 높습니다. 왜냐하면 캠페인을 진행하는 자들이 여러 계정으로 이를 빠르게 퍼 나르기 때문입니다. 이러한 패턴을 보이는 콘텐츠에 광고 표시를 붙인다면, 읽는 사람들도 어느 정도 경계를 하고 보게 될 것입니다.”
브루어는 “악의적으로 퍼지는 가짜 정보는, 일반 기사나 콘텐츠와 다른 생애주기를 보인다”고 설명을 이어갔다. “보통 콘텐츠는 처음 나왔을 때 사람들이 막 보다가, 점차 보지 않게 되면서(한 번 봤으므로) ‘상승세-정점-하향세’의 그래프를 그립니다. 하지만 고의적으로 퍼트려지는 가짜뉴스는 여러 번의 정점을 찍습니다.”
또한 브루어는 “페이스북 등의 SNS가 겪는 어려움은, 본질적으로 사용자들이 콘텐츠를 공유하는 방식에 기인한다”고 주장하기도 했다. “1차원적인 감정을 순간 불러일으키는 콘텐츠들이 주로 인기가 높고, 많이 소모됩니다. 성적인 매력이 넘치는 사람이 첫 화면에 등장한다든지, 누구나 욕을 할 만한 내용이 자극적으로 편집되어 있는 콘텐츠들이 얼마나 인기가 많습니까? 사용자들도 그렇고, 광고 회사들도 이런 식으로 콘텐츠를 만들어야 잘 만든 거라고 합니다. 이런 콘텐츠 중 ‘헤이트 스피치’나 ‘가짜뉴스’와 겹치거나 구분이 애매한 것이 상당히 많죠. 이런 콘텐츠 소비 행태가 사라지지 않는 한, 기술적인 조치만으로는 늘 한계가 있을 것입니다.”
3줄 요약
1. 페이스북, 사실상 코로나 관련 가짜뉴스 전파 막지 못했다고 인정.
2. 하지만 할 노력은 다 했다고 보이기 때문에 비판 여론은 많지 않음.
3. 인공지능에 의존한 콘텐츠 거르기 기술은 아직까지 여러 가지 문제를 안고 있음.
Copyrighted 2015. UBM-Tech. 117153:0515BC
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
출처 : https://www.boannews.com/media/view.asp?idx=88210
하단영역
본사 : 강원특별자치도 원주시 시청로 553 글로벌빌딩 3층 (Tel 033-762-4500 Fax 033-762-4502)
서울지사 : 서울시 강서구 등촌동 628-9, 7층(더스카이밸리 5차 지식산업센터) (Tel 02-782-7100 Fax 02-782-7107)
대전지사 : 대전시 서구 남선로 65, 2층(탄방동) (Tel 1899-2520)
사업자등록번호 : 107-87-14164 Tel : 1899-2520 E-mail : sh_sales@shcns.co.kr
Copyright © (주)신화씨엔에스 Co., Ltd. All Rights Reserved.