연일 페이스북으로 전 세계가 시끄럽다. 페이스북이 수익 창출을 위해 유해 게시물을 의도적으로 묵인하거나 자체적으로 여과할  능력이 없다는 전 직원 프랜시스 하우겐(Francis Haugen)의 폭로로 시작된 논란은 좀처럼 사그라들 줄을 모르고 있다. 점입가경이다. 어제인 21일에는 페이스북이 소유하고 있는 인스타그램에서는 가짜 백신 접종 확인증이 나돌고 있다는 기사까지 나와 비판의 목소리는 더 커지고 있다.

이와 같은 사태에 페이스북 측은 AI 개선이 단기간 내에 혐오, 폭력, 차별 게시물 등을 모두 삭제하도록 알고리즘 개선 조치를 할 것이라고 하였는데, 페이스북 수석 엔지니어는 불가능에 가까운 일이라고 증언한 것이 드러나 촌극을 빚어내기도 하였다. 오는 28일 페이스북 연례 콘퍼런스 ‘페이스북 커넥트’에서 사명 변경이 이루어질 것이라는 소문이 돌고 있는데, 항간에서는 페이스북이 메타버스 플랫폼으로 전환할 것에 더해 현재 이름을 포기함으로써 소셜 미디어(SNS)에 대한 당국의 관리에서 벗어나는 일석이조의 출구전략 꾀하고 있다고 분석하기도 한다.

실제로 페이스북의 창립자이자 CEO 마크 저커버그(Mark Elliot Zuckerberg)는 페이스북이 소셜 미디어 플랫폼에서 벗어나 ‘메타버스’ 영역으로 진출할 것임을 공언한 바 있다. 페이스북이 며칠 내 실제로 메타버스로의 선회를 발표할지, 그것이 오랜 기간 이어진 정부와의 마찰을 피하려는 면피용인지, 아니면 차세대 유망 사업을 향한 진정성 있는 발걸음인지는 아무도 모른다. 다만 페이스북이 그간 드러낸 문제점은 비단 페이스북의 문제만은 아닌 온라인 커뮤니케이션 창구 근저에 깔린 문제일 수 있으며, 그렇다면 메타버스로의 선회 자체가 문제의 근본적인 해결은 될 수 없을 것이다. 

AI와 데이터는 결코 중립적이지 않다

하우겐의 폭로 사태가 발생할 때까지만 해도 여전히 자동차로 사람이나 동물을 치는 영상, 총격이나 혐오를 부추기는 콘텐츠 등을 페이스북에서 확인할 수 있었다. 또한, 실제로 페이스북 게시글로 인해 작년 미국 국회의사당 점거 사태나 청소년 자살, 살인 등과 같은 사건·사고가 계속해서 보고되고 있는 실정이다.

하우겐의 주장에 따르면 현 페이스북 알고리즘은 유해 게시물 중 고작 3-5%정도만 걸러낼 수 있는 수준이라고 한다. 페이스북의 폭력 및 선동 정책에 반하는 게시물은 고작 0.6%만이 여과된다고 한다. 아무리 기술이 발전하더라도 의도성은 차치하더라도 결국 운영에 제기된 문제, 특히 페이스북의 정책 관련 이슈는 피할 수 없는 형편이다. 페이스북은 계속하여 자사의 AI 기술과 데이터 관리에 대해 큰 자신감을 표현하지만, 바로 그 데이터와 기술에 대한 맹신이 일차적인 문제일 수 있다.

데이터는 결코 중립적일 수 없고, AI는 최소한 근일 내에 인간의 통찰을 따라올 수 없다.

데이터는 결코 중립적일 수 없고, AI는 최소한 근일 내에 인간의 통찰을 따라올 수 없다. 데이터에 기반한 판단이든 AI 알고리즘이든 근본적으로는 인간 행동에 일정한 패턴과 규칙이 있음을 가정한다. 인간 사회에서 공유되는 언어체계, 행위 규범, 윤리 등에 일정한 경향성이 있다는 사실을 부정할 수는 없다. 그러나 데이터화되는 행위의 패턴은 그 이상의 의미를 가지지 않는다. 뇌 과학 영역에서는 뉴런 네트워크 구조를 파악하고 심지어 감정까지 분석할 수 있는 기술을 개발했다는 소식이 연일 들려오지만, 그 실체를 가늠하기도 어려울뿐더러 상용화되는 데는 많은 난관을 거쳐야 할 것으로 예상된다. 어쨌든 중요한 것은 데이터의 패턴을 어떻게 해석하느냐, 해석에 따른 처방을 어떻게 내릴 것인가에 관한 것이다. 

온라인상의 데이터는 절대적으로는 아니더라도 종종 편향성을 가질 수밖에 없다. 개인의 성향, 연령, 젠더, 교육 수준 등에 따라 온라인상에 유의미한 데이터로 남을 만한 활동을 하는지 여부가 달라지기 때문이다. 혹은 활자와 숫자로 이루어진 데이터가 포착하지 못하는 소위 ‘행간’을 읽어 내기도 힘든 실정이다.  AI 알고리즘과 빅데이터 분석은 이와 같이 한정적 데이터를 기반으로 ‘해석’과 ‘판단’을 내리기 때문에 온라인상에 존재하지 않는 의견이나 행위의 규칙들을 포괄하기 어렵다. 실제로 한 연구에 따르면 페이스북이 발표하는 데이터 관련 해석들은 페이스북에서 특정한 정보를 자발적으로 제공한 사람들의 데이터만을 사용할 수밖에 없으며, 이는 전체 사용자 중 10% 미만의 표본에 따르는 것이라고 한다.

페이스북의 뉴스피드의 경우가 전형적인 예이다. 페이스북의 핵심 기능이라 할 수 있는 ‘뉴스 피드(News Feed)’의 경우 이용자에 대한 데이터를 기반으로 가장 적합하다고 간주되는 게시물을 보여준다. 뉴스피드가 이용자의 취향과 선호에 따른 게시물만 보여주기 때문에 사회적 분열과 편향성을 조장한다는, 감정 전염 효과(emotional contagion effect)와 ‘에코 챔버(echo chamber: 유사한 인식과 성향을 가진 사람들이 결집해 편향적인 사고를 강화하는 집단)’ 역할을 한다는 비판은 꽤 오랫동안 지속되었다.  비판은 줄곧 계속돼 왔다 (페이스북은 이에 대해 오히려 이용자와 반대되는 정치적 이념이나 다양한 시각을 확보할 수 있는 콘텐츠를 보여줘 참여와 소통을 활발하게 한다고 반박하기도 했지만, 판단은 여러분의 몫).

따라서 비단 폭력적이거나 그릇된 충동을 일으키는 콘텐츠가 아니더라도, 결국 한계가 명확한 기술에 따른 분열과 파편화의 문제는 크게 달라지지 않을 것이라는 의견이 다수이다. 심지어 ‘유해’라는 카테고리는 해와 달 같이 그 자체로 자명한 것이 아닌, 시대와 문화에 따라 주관적으로 판단되는 범주이기에 플랫폼 운영 주체가 마음만 먹는다면 언제든 악용될 소지 또한 있다는 비판이 뒤따른다. 설령 페이스북이 메타버스로 간다고 해도 문제는 여전할 것으로 보인다. 오히려 사용자들이 직접 생태계 형성에 더욱 적극적으로 참여하기 때문에 현재 제기되는 문제는 더욱 심각해질 소지도 있다. 

페이스북만의 문제인가?

페이스북의 문제만은 아니다. 또한, AI와 빅데이터 기술 자체의 혜택을 부정하려는 것도 아니다. 날이 가면서 더욱 정교해지고 좋은 방향으로만 활용되면 우리의 삶을 더욱 윤택하게 해 줄 것이니 말이다. 기술 그 자체는 중립적이다. 결국 사람이, 문화가 근본적인 문제다.

2021년 노벨 평화상 공동 수상자 마리아 레사(Maria Ressa)는 페이스북이 민주주의를 위협한다고 비판하였다. 세계에서 가장 영향력 있는 플랫폼이기에 페이스북을 콕 집어 지적했겠지만, 레사가 비판의 근거로 삼고 있는 가짜 뉴스의 확산, 사회적 분열 조장, 편향성 증가 등의 문제는 사실 페이스북만의 문제는 아니다. 특정 정치적 이념이나 사회적 가치관을 표방하는 국내 인터넷 커뮤니티들에서도 쉽게 발견할 수 있듯이, 이는 뉴미디어 전반에서 관찰되는 문제이다. 

다만 소셜 미디어나 온라인 커뮤니티 게시물을 보고 그것이 직접적인 행동으로 이어졌다고 확언할 수는 없다. 단순히 소셜 미디어 관련 자극적인 기사들만 보고, ‘이게 다 소셜 미디어 때문이야’라고 결론 짓는 것은 어리석은 일이다. 극단적으로 말해 페이스북을 포함한 소셜 미디어가 전부 한날한시에 없어지더라도 없애더라도 차별, 혐오, 폭력은 없어지지 않을 것이다. 이 말을 반대로 생각하면 이러한 악습들은 곧 시대의 흐름이고 현재의 문화라는 것이다. 소셜 미디어는 이러한 시대적 특성을 상호 보완적으로 강화해주는 문화적 거울일 따름이다.

포스트트루스 시대의 미디어, 한없는 가벼움 혹은 계몽적 허세

<포스트트루스: 가짜 뉴스와 탈진실의 시대>의 저자 리 매킨타이어(Lee Mcintyre)는 오늘날을 객관적 진실과 상관없이 감정이나 믿고 싶은 것에 의해 여론이 형성되는 ‘탈진실(post-truth)’의 시대로 규명하면서, 가짜뉴스와 사회적 분열 증가의 원인으로 (1)과학 부인주의(Scientific Denialism), (2)포스트모더니즘, (3)인간의 선천적 인지 편향, (4)뉴미디어의 발달과 기존 미디어의 쇠락을 손꼽는다. 사실 모두 연결된 얘기기는 하다.

쉽게 얘기하면, 원래도 믿고 싶은 것만 믿는 것이 인간인데, 1970년대 이후 문화사적 흐름으로 출연한 포스트모더니즘(탈근대성 혹은 후기 근대성)으로 근대성이 숭배하는 전문성과 과학을 거부하려는 태도가 형성되고, 뉴미디어의 출현으로 이러한 현상이 가속화됐다는 얘기이다. 실제로 뉴미디어나 온라인 커뮤니티를 조금만 살펴봐도 전문가든 권위자든 자신이 믿는 것과 다르면 ‘개소리’로 치부하며 무시하고, 반면 검증된 전문가가 아닌 사람의 ‘틀린’ 주장이라도 본인의 입맛에 맞는다면 진실로 받아들이는 현상을 어렵지 않게 볼 수 있다. 이는 앞서 말했던 데이터의 비중립성과 맞물려 연쇄효과를 발휘한다.

지금과 같은 소셜 미디어의 인기는 근본적으로 대중에게 새로운 공론장을 제시해줬다는 것이다. 과거 미디어 영역은 정보의 생산자와 수요자가 명확히 나뉘어 일방향적인 커뮤니케이션만 가능했지만, 지금은 누구나 생산자가 될 수도, 소비자가 될 수도 있다. 기성 미디어가 주목하지 않는 정보나 이야기들이 생산될 수 있는 공간이기도 하다. 그 말인즉슨, 기존의 미디어가 시대의 흐름과 수요를 오랫동안 충족시켜주지 못했다는 것이다.

미디어 리터러시 수준도 높아지고 너도 나도 다 잘난 시대에 기성 미디어의 엘리티즘과 고루함은 경멸감만을 일으킨다.

경향신문이 실시한 조사에 따르면 뉴미디어 활용도가 높은 젊은 세대는 기성 미디어에 대한 불신의 이유로 ‘가르치려 드는’ 태도를 꼽았다. 기존 미디어들의 ‘이건 이렇다, 저건 저렇다’ 혹은 ‘이래야 한다, 저래야 한다’는 논조보다는 조금 더 캐주얼하고 수평적인 소통이 가능한 뉴미디어에 끌리는 건 어쩌면 당연할지도 모른다. 미디어 리터러시 수준도 높아지고 너도 나도 다 잘난 시대에 기성 미디어의 엘리티즘과 고루함은 경멸감만을 일으킨다.

다만 소셜 미디어 플랫폼에서 생산되고 공유되는 정보가 가짜이거나 부적절할 경우 그리고 이것이 작든 크든 누군가에게 피해를 줄 경우 책임의 소재를 묻기가 어렵다는 비판은 피하기 힘들다. 의도적이든 비의도적인 이번 페이스북 사태와 같이 ‘참여’와 ‘공유’를 위시하여 양질의 정보는 가리고 분열과 갈등, 확증편향을 부추길 수 있는 노릇이다. 정보 홍수 속에서 좀 더 빠르고 쉬운 선택을 도와준다는 AI와 빅데이터 기술이 역설적으로 혼란을 가중할 수 있는 지점이다. 결국 근본적인 문제가 바뀌지 않는다면, 플랫폼 생태계는 그 외양을 바꾼다 한들 달라지지 않을 것이다. 

4차 산업 혁명 시대와 인간 사회 커뮤니케이션

어느 시점에는 분명 완벽하게는 아니더라도 인간의 인지 및 행동의 근원과 패턴을 꽤 적확히 파악하여 여러 분야에 이용할 수 있는 시대가 올 수 있을 것이다. 소셜 미디어 영역에서도 좀 더 건강한 네트워크를 형성하는 데 도움이 되는 데이터 분석과 AI 기술이 도래할지 모른다. 하지만 어쨌든 그러한 기술들이 표본으로 삼는 것은 결국 인간 사회의 지배적 문화와 경향성이 될 것임에는 의심의 여지가 없다.

본질적으로 미디어의 목적은 선사시대부터 ‘진리’와 ‘진실’을 전제로 하는 정보의 전달이었다. 이를 통해 더욱 인간 삶을 윤택하게 만들고 여러 불확실성으로 벗어나는 것을 궁극적인 목적으로 해왔지만, 이번 페이스북 사태에서 볼 수 있듯 오늘날의 새로운 미디어는 단지 현실과 유리되어 순간순간의 감각적 쾌락을 제공하는 것에 더욱 치중한 듯하다.

그 결과는 사람들이 믿고 싶은 것만 믿고, 보고 싶은 것만 보고, 누군가 의도하려는 세계 속에 살도록 하는 영화 <매트릭스> 속 세상의 맹아를 싹틔운 것일지 모른다.

프랑스 철학자 장 보드리야르(Jean Baudrillard)의 유명한 개념인 ‘시뮬라크르’의 세계가 도래한 듯하다. 실재(實在)나 형상과 유리된 가상의 것들이 실제적 진실을 대체하는 하이퍼 리얼리티 시대. 지금까지 페이스북을 비롯한 소셜 미디어가 의존하는 기술들이나 정책들은 편향된 정보와 그릇된 정보 확산을 방조하지는 않았더라도, 최소한 자정 노력에 힘써오지 않았다는 것은 분명해 보인다. 그 결과는 사람들이 믿고 싶은 것만 믿고, 보고 싶은 것만 보고, 누군가 의도하려는 세계 속에 살도록 하는 영화 <매트릭스> 속 세상의 맹아를 싹틔운 것일지 모른다. 과도한 우려일 테지만,  페이스북과 미디어 전반이 발걸음을 향하고 있는 메타버스는 더욱 강화된 하이퍼 리얼리즘으로 미디어 본연의 기능과 멀어질지도 모르겠다.

그러나 언젠간 반드시 수명을 다하는 우리의 육신은, 굶주림에 나약해지고 고통에 스러지는 우리의 몸은 여기 현실이라는 땅에 여전히 발을 붙이고 있다. 기술과 기계가 제시하는 솔루션이 잘못되었다면, 그것을 적절히 통제하지 못한다면, 우리의 몸이 귀속된 현실의 난관들은 더욱 시야에서 멀어질 것이다. 현실이, 문화가, 사회가 먼저다. 

Related
Go to top Go to top

Email Newsletter

140만이 임볼든을 고집하는 이유, 지금 바로 뉴스레터를 통해 확인해 보세요.