소셜 딜레마 (The Social Dilemma, 2020) 리뷰

최근에 MLOps 공부하려고 듣는 강의에서 소셜 딜레마라는 영화 - 아닌 다큐 - 를 추천 받았다.

전반적인 내용은 현재 우리가 많이 사용하는 SNS들이 제공하는 추천 알고리즘의 이면이다. 공부하는 분야가 인공지능이다보니 알고리즘 자체를 비판하는 것처럼 느꼈는데 그것 보다는 조금 더 일반적인 대중 입장에서 알고리즘을 이야기하는 것이다. 그러니까 Graph-based recommendation system OUT 이런 게 아니고 추천 알고리즘으로 인해 생긴 문제들을 이야기하는 것.

 

---

 

이 다큐는 추천 알고리즘으로 인한 여러 사례들과 문제점, 어떻게 해결해 나가야할지를 다룬다.

간단하게 정리하면 추천 알고리즘이 "인간을 이롭게"하는 방향이 아니라, "돈을 더 벌어주는 비즈니스 모델 구조에 맞춰서" 제공이 되기 때문에 결과적으로 사회를 파괴시키고 있다는 내용이다. 같은 분야를 공부하고 있는 사람으로써 조금은 상황에 대한 과장된 표현이 섞여있지 않았나?라는 생각도 했지만 정작 미국뿐 아니라 우리 나라도 크게 다르지 않다는 점에서 약간은 소름이 끼쳤다. 아래에는 소개된 몇 가지 화두들과 사례들 그리고 그에 대한 내 생각을 간단하게 적어보았다. 요약은 다른 사람들이 잘 해줄 것 같다.

 

발단

Tristan Harris (전 구글 디자인 윤리학자, 현 기술 윤리학자)

• 어떻게 하면 G-mail을 사람들에게 더 노출시킬 수 있을까? 가 직업.
• 이걸 반복하다 문득 드는 생각이 지메일에 더 자주 접속하도록 하는 것이 맞는 것인가? 라는 생각이 들게 됨. 정말 순수하게 앱을 더 많이 이용해주기를 바란다기보다 계속 앱에 더 접속하도록 중독에 가까운 상태로 만들어낸다는 생각이 들은 것 같다 (디자인 뿐 아니라, 알림으로 더 유입하게 한다거나)
• 이 점을 꼬집기 위해 PPT를 주변 동료 15~20명에게 보냈고, 동료들 또한 이에 동의하고 주변에 많이 뿌렸고 그 당시 구글의 Co-founder Larry Page도 이걸 보게 되었다. 오 이렇게 혁명이 시작되나? 했지만
• 그렇게 아무 일도 일어나지 않았다. (와 정말 동의~! - 끗)

여기서 들었던 생각은 누구도 그 추천 알고리즘을 설명할 수가 없었고, 그걸 누가 선뜻 나서서 밝혀내고자 하지 않았을 것 같다. 그리고 노출 자체가 회사의 이윤과 직결되어 있으니 누가 거기에 행동을 앞설까...

 

변화된 자본주의

지난 자본주의 시장 내의 소비자와 공급자 사이의 관계는 직접적으로 연결되어 있었다. 돈을 지불하는 소비자가 공급자에게 산소와 같은 존재이고 이 이목을 끌기 위해 수많은 광고들이 존재했다. 가령 고기를 더 많이 팔기 위해서는 고기를 파는 사람들이 더더욱 광고와 홍보에 앞섰다. 그리고 이런 광고들은 많은 미디어를 통해 송출이 되었고 (우리나라로 치면) TV광고나 PPL 같은 것들을 예로 들 수 있겠다.

하지만 미디어에 많은 변화가 생겼다. 예전에 미디어라고 해봐야 볼 수 있는 건 획일화 되어 있었다 - TV / 신문 / 라디오가 끝이었다. 우리가 지금 미디어라는 말을 했을 때 떠오르는 플랫폼은 카카오톡, 구글, 유튜브, 페이스북, 인스타그램이다. 누구도 TV/신문/라디오를 대표 플랫폼이라고 이야기하지 않는다 (적어도 MZ세대에서는 ..?)

미디어에 변화라고 해봐야 플랫폼 변화 밖에 생긴 것 아니냐 라고 생각할 수 있지만, 제일 중요한 변화점은 미디어 제공자들의 사용자 개인정보 소유 유무이다. 여기서 이야기하는 개인정보는 단순히 이름이나 주소를 포함한 인적사항을 넘어서서, 어떤 이미지에 오래 머물렀는지, 어떤 컨텐츠들에 좋아요를 눌렀는지, 어떤 사용자들끼리 상호작용 하는지를 모두 포함한다. 모든 모종의 무의식적 관심까지도 개인정보에 포함이 되는 것이다.

이 정보와 알고리즘을 통해 우리는 이제 사용자에게 "개인화된" 광고를 송출할 수 있다. 더 이상 공급자들은 소비자들에게 직접적으로 매달릴 필요 없이 이런 대형 SNS 플랫폼에게 자신들의 상품을 판매한다. 결과적으로 공급자들에게는 얼마나 많은 사람들에게 광고가 노출되느냐도 중요하지만, 개인화된 광고를 통해 끝에 판매를 이룰 수 있도록 해주는 SNS 플랫폼들이 훨씬 이득인 것이 된 것이다.

이렇게 봤을 때 문제될 것은 없어보인다. 그냥 자본주의의 형태가 바뀐 것 뿐이니까. SNS가 단순히 더 많은 공급을 불러일으키는 도구로써 사용된 것이 아닌가? 라고 생각할 수 있다.

 

심리 조작

다큐에서 지적하는 이 변화의 문제점은 수익 창출을 위해 회사가 인간의 개인 행동을 예측하고 이 기술을 통해 행동을 조작하는 것이다.

이게 얼마나 은밀하게 작동하냐면 굉장히 첨예하게 UI/UX를 디자인해서 사람들에게 무의식적으로 앱을 더 확인하게 한다. 실제로 설득 심리학이 존재하고 이 학문을 기반으로 많은 것들을 조작한다. 간헐적 강화 행동이라 부르는데, 새로 고침을 통해 새롭게 올라오는 피드들을 확인할 수 있게 만드는 것들을 포함한다. 여기에 더불어 Photo tagging, "~ is typing", 자동완성 기능 등이 더더욱 이 행동을 강화해서 앱에 오래 동안 붙들도록 한다.

 

여기에 힘을 실어주는 건 페이스북이 2010년 선거에 끼친 영향 실험이다. 단순히 친구들이 투표했나 안했나를 띄우는 것으로 이 영향에 30만명이 투표를 했다는 결과를 발표했다. 이 수가 결코 적지 않다는 점에서 SNS가 실제로 사람들의 마음을 조작할 수 있다는 것이다.

 

예측 행동의 윤리적인 문제도 있지만, 이런 보상행위는 도파민 중독 회로를 강화시킨다. 말이 어렵지만 그냥 중독과 같은 상태를 뜻한다. 중독이 사실을 눈가리는 것처럼, 우리가 좋아요를 더 받는 것, 평판에 반응하는 것에 더 목 메게 되면서 다른 진실들을 보지 못하게 한다. 중학교 때부터 SNS에 노출된 세대들의 소녀들이 점점 자해 비율이 증가하는 것 또한 심각한 문제이다 (거의 한 세대가 변하는 중)

 

나는 스마트폰을 처음 접한게 중학교 3학년 (무려 아이폰3) 이었는데 성향상 SNS는 크게 관심 없었고 게임을 더 많이했다. 위 주장에서 왜 소녀들의 추세를 이야기한 이유는 남성과 여성은 흔히 보상 회로라 불리는 이 신경과학적 반응이 게임에 대해 다르게 반응하기 때문이다. 연구 결과에서 일반적으로 남성이 더 강하게 반응하는 것으로 밝혀졌다. 이 얘기 왜했지?

 

과거에는 이런 일이 없었나?

인쇄술이 발달하고 신문과 언론이 처음 등장했을 때, 전기가 공급되고 전화와 TV가 만들어졌을 때는 이런 변화와 위험이 없었나? 라고 하면 아니다. 당연히 언론의 힘을 우리가 잘 써야했고 이 언론과 미디어로 인해 굉장히 많은 사건과 과도기가 있었다. 아직 우리는 이 과도기에 접어들지도 않았고 다가올 위험을 보고 있을 뿐이다.

 

기계 학습과 분극화

기계는 지정된 목표를 달성하기 위해서만 행동하고, 이걸 개발한 사람들도 왜 이런 결정을 했는지 알 수 없다. 통제력을 잃은 것이나 마찬가지다. 이 방법을 통해서 새로운 피드를 추천하는 것이 과연 옳은가? 더 많은 사용량을 유도하기 위해 더욱 끌어오기 쉬운 단순하고 극단적이고 자극적인 컨텐츠들을 보도록 유도한다. 다큐에서 극중도파와 같은 선동가들을 추천하는 걸 예로 들었는데, 사실 극단적인 케이스라고 여겨져서 와닿기 힘들 수 있다. 이걸 대놓고 특정 정치성향의 사람들을 추천하기 보다는, 검색어 자동 완성 기능이나 추천 피드를 통해 서서히 은밀하게 내 피드를 곱창내놓는다고 생각하면 된다. 실제로 90년대와 비교했을 때 이 미국에서 정치적 성향의 분극화가 더 심화된 것을 알 수 있다.

 

개인적으로 이 부분에서 많이 소름 끼쳤다. 비단 미국만이 해당되는 것이 아니라 우리나라에서도 굉장히 흔하게 볼 수 있기 때문이다. 대표적인게 코로나가 사기라는 주장들인데 이공계에서 연구하는 사람의 입장에서는... 정말 한심하게 생각했는데 만약에 나 또한 주변의 모든 미디어가 나에게 코로나가 사기라고 이야기 한다면 판단이 흐려질 수 있을 것 같다. 사실 여부와 관계 없이 내가 듣기 좋은 소리만 하는 사람은 널렸다. 당장 정치성향이 극단적인 유튜버가 조금만 찾아봐도 정말 많고, 검색을 두 세번만 하면 내 유튜브 피드가 쉽게 박살나는 것을 볼 수 있다. 여기서 흔들리지 않으려면 어떤 주장에 대해서 항상 양측의 입장을 다 찾아보는 습관이 필요하다. 업계에 몸 담그고 있는 사람으로써 데이터가 조금만 편향되어도 이를 완벽하게 처리하기는 너무 어렵다. 특히 넷플릭스의 다른 작품인 알고리즘의 편견 (Coded Biases) 에서도 다뤄지지만, 백인 남성의 이미지 데이터가 더 많았던 결과 얼굴 인식 프로그램의 정확도가 사람의 인종이나 성별에 따라 차이가 나는 것이 많이 밝혀졌다. 여기서도 할 말이 많지만... 이건 알고리즘의 편견에서 이야기해봐야겠다.

 

피자 게이트 사건도 처음 들었는데 굉장히 소름 끼쳤다. 애초에 존재하지 않는 현상인데 피자를 주문하는 것이 인신매매를 뜻한다는 용어이다. 실재하지 않지만 음모론을 믿는 성향이 강한 사람들에게 이 단어가 키워드로 떠올랐고 이걸 믿는 사람들이 많아졌다. 이 또한 극단적인 예지만 기후변화가 거짓이라던가 코로나에 대한 잘못된 정보들 또한 같은 경우다. 몇 개 미디어를 봤는데 이 사람들은 사람을 끌어오기 위함이 아니라 진심인 것 같아서 소름이 끼친다. 온갖 자극적인 음모론을 노출시키면서 앱에 사람들을 붙잡아 두는 것이 비즈니스 모델에서는 이득이기 때문에 이를 멈출 방법은 회사가 이윤을 포기하는 것 밖에는 없다.

 

미얀마의 일도 너무 안타깝다. 이는 좀 더 자세하게 알아보고 작성해야겠다.

---

생각 파편들

굉장히 드는 생각이 많아진 다큐였다. 원래 뜬구름 잡는 다큐 안 좋아하는데 공부하고 있는 분야에 대한 다큐가 나오니까 더 잘 이해하고 어떤 현상인지 알고 있어서 흥미롭게 봤다. 그리고 여기서 이야기하는 것이 절대 뜬구름 잡는 것이 아니라 다 실제로 일어날 수 있고 일어나는 중이라는 것이 너무 심각한 문제인 것 같다. 한국 자체의 문화적 특성이 현재 미국과 같은 사례를 많이 보지 못하는 것 같다. 진짜 세상을 되돌리려면 정말 유년기 청소년기 교육이 정말 중요하다는 점이라는 데 더욱 생각이 굳혀졌다.

 

인공지능 (정확히는 딥러닝) 의 결정들을 이해하거나 설명하지 못하는 것이 핵심인 것처럼 보이지만 내가 보기에는 이를 수익을 더 벌어주는 도구로만 사용하는 것이 더 심각한 문제인 것 같다. 자극적인 추천으로 사람들을 앱에 더 오래 붙잡아두고 이로 인해 사람들 사이 분극화가 일어나고, 기업들이 돈을 계속 벌어들인다면 인공지능에서 암만 설명 가능성을 들이밀어도 변화할 생각이 없다면 상황은 똑같을 것이다. 현재로서는 이렇게 행동이 조작되고 사람의 정체성에 영향을 주는 것들에 대해 지속적으로 문제를 제기하고 이 현상에 대해 인지하고 벗어나려는 노력이 중요하다.

 

이것을 SNS 회사에서 책임을 지기도 모호한게, 이 인과관계를 정확하게 설명할 수 없다. 그리고 책임을 지는 것이 너무 막대한 이윤 손실이다. 이런 설득 기술을 UI/UX에 녹여넣은 것을 정확하게 규정할 수 없고, 법으로도 규제할 수 없기 때문에 이 문제를 계속 손놓고 볼 수 밖에 없는 것이 안타깝다.  

 

그렇다면 추천 기술은 아예 잘못이 없나? 아니면 죄악인가? 위에서 계속 사용한 "극단적" "자극적" 컨텐츠를 정확하게 규명하는 것이 어렵다. 분극화를 불러일으킬 수 있다고 판단되는 컨텐츠들을 분류할 수 있다면, 기술 자체에서 이를 막을 수는 있을 것 같다. 하지만 저런 추상적인 라벨은 데이터 과학에서 존재하지 않는다... 정말 기업이 눈을 뜨고 개인 사용 기록을 현명하게 사용하는 것이 중요하다.

 

나도 기사를 찾아볼 때 한쪽만 찾아보지 않고 다양하게 찾아보려 한다. 찬반 문제가 아니더라도 무언가 소비할 때도 최대한 다양한 소스에서 정보를 얻어내려고 하는데 잘하고 있었네 (?) 핸드폰은 현명하게 다뤄야겠구나! 웃긴건 이 다큐를 제공한 넷플릭스 또한 추천과 컨텐츠가 주된 플랫폼이라는 것... 물론 페이스북 같이 모두가 컨텐츠를 올리는 구조는 아니지만 -

 

반성하게 되는 것은 나도 종종 페이스북과 유튜브에서 벗어나지 못하는 경우가 있다. 길면 3시간도 순식간에 지나간다. 그리고 컨텐츠들 사이에 자연스럽게 들어오는 광고들과 나를 붙잡아 두기 위해 보던 비디오와 관련도가 높은 비디오를 바로 아래 우선순위로 쓱 올려놓는 걸 보고 의도 또한 알면서 보고 있을 때도 많다 (그냥 아무것도 하기 싫을 때 라고 핑계 대본다!)

 

이렇게만 적어놓으니까 IT 기업들이 다 나쁜 놈 같아 보이지만, 다들 시작은 이렇지 않았다. 적어도 내가 논문 정리하기 귀찮아서 만들고 있는 앱이나, 다른 멘토링 프로그램에서 서비스를 개발하려던 사람들은 사용자들을 끌어모아서 돈을 뽑아먹자, 이런 마인드로 시작하지는 않았다 (아 물론 음식 MBTI 같은 거 만들어서 트래픽 뽑아먹으라고 추천하긴 했다)

 

---

이 문제를 계속 알리기 위해 이 다큐의 이름을 딴 홈페이지가 있다. https://www.thesocialdilemma.com/

The Social Dilemma - A Netflix Original documentary

여기서 다룬 이야기들과 더불어 기술의 다른 사회적 이슈들에 대해서도 많이 다루고 있다.