SNS에 숨겨진 불편한 진실: 인간 콘텐츠 거름막 '콘텐츠 모더레이터'

콘텐츠 모더레이터란 누구인가?

콘텐츠 모더레이터는 소셜 미디어와 온라인 플랫폼에서 이용자들이 생성한 콘텐츠를 현행법, 기업 약관, 현지 국가 정책 및 법률 등의 기준에 맞춰 큐레이션하고 제재 및 삭제하는 작업을 담당하는 사람들입니다. 이들은 상상할 수 없는 수의 유해 콘텐츠를 검열하며, 24시간 내내 인간 CCTV 역할을 하고 있습니다.

콘텐츠 모더레이터의 중요성

틱톡에서만 한 분기에 억 단위의 영상이 삭제된다는 사실을 통해, 유해 콘텐츠의 양이 얼마나 많은지 알 수 있습니다. 알고리즘은 완벽하지 않으며, 이러한 빈틈을 메꾸는 것이 바로 콘텐츠 모더레이터의 역할입니다. 이들은 자극적이고 선정적인 게시물들을 걸러내어, 사용자들이 보다 안전한 환경에서 SNS를 사용할 수 있도록 돕습니다.

콘텐츠 모더레이터의 시장 규모와 기업의 태도

2022년 기준, 콘텐츠 모더레이터의 시장 규모는 약 6조 원에 달합니다. 그러나 기업들은 이들의 존재를 숨기려 하며, 클린한 이미지를 내세우기 위해 이들의 존재를 평가 절하합니다. 사회학자 사라티 로버츠는 이들의 존재가 알려지면, 표현의 자유 구역인 인터넷의 통념을 정면으로 위반하는 모순이 발생할 수 있다고 지적합니다.

알고리즘과 콘텐츠 모더레이터의 관계

알고리즘을 강화하면 콘텐츠 모더레이터의 수를 줄이거나 없앨 수 있을 것처럼 보이지만, 이는 현실적으로 불가능합니다. 알고리즘을 더 건전하게 규제할 수도 있지만, 이는 경쟁에서 밀리는 결과를 초래할 수 있기 때문에 기업들은 사람을 고용해 콘텐츠를 검열하는 방식을 선택합니다.

AI와 콘텐츠 모더레이터

생성형 AI 프로그램은 콘텐츠 모더레이터의 도움을 받아 훈련됩니다. AI는 인간이 볼 수 있는 수준을 넘어 엄청난 속도로 정보를 학습하기 때문에, 유해한 콘텐츠를 걸러내는 역할이 필요합니다. 콘텐츠 모더레이터는 AI가 윤리적인 판단을 내릴 수 있도록 돕는 중요한 역할을 합니다.

콘텐츠 모더레이터의 정신적 건강 문제

콘텐츠 모더레이터들은 종종 PTSD와 같은 정신적 질환을 겪습니다. 그러나 이 직업은 잘 알려져 있지 않기 때문에, 이들에 대한 보호는 미흡한 상황입니다. 최소한의 심리적 지원이 필요하다는 의견이 많으며, 이들의 존재와 문제를 널리 알리는 것이 중요합니다.