글로벌 영상 기술 기업 하이퍼커넥트(대표 안상일)가 세계적 데이터 마이닝 학회 ‘WSDM(Web Search and Data Mining) 2023’에서 부적절한 콘텐츠를 탐지하는 ‘콘텐츠 모더레이션’ 관련 기술 논문을 발표한다고 20일 밝혔다.
올해로 16회를 맞은 WSDM은 웹, 소셜 웹의 검색과 데이터 마이닝을 주제로 한 정보 검색 및 자연어 처리 분야의 국제학회다. WSDM 2023은 2월 27일부터 3월 3일까지 싱가포르에서 개최된다.
하이퍼커넥트는 3월 1일(현지 시각) ‘임계값 최적화를 통한 여러 하위 작업의 신뢰할 수 있는 결정: 실제 서비스 상황에서의 콘텐츠 모더레이션(Reliable Decision from Multiple Subtasks through Threshold Optimization: Content Moderation in the Wild)’ 논문을 발표한다. 특히 이번 연구는 논문 선정뿐만 아니라 채택된 논문의 약 30%만 받을 수 있는 ‘오랄 프레젠테이션(oral presentation)’의 영예까지 안았다.
소셜 미디어 플랫폼은 부적절한 콘텐츠로부터 사용자를 보호하고자 콘텐츠 모더레이션 정책에 따라 머신러닝 모델을 활용해 매일 방대한 양의 콘텐츠를 처리한다. 콘텐츠 모더레이션 정책은 국가와 서비스 유형에 따라 상이하기 때문에 플랫폼에서는 각 정책에 맞춰 머신러닝 모델을 교육하고 활용해야 한다. 정책이 변경될 경우 플랫폼은 변화한 데이터 분포에 대해 데이터 세트 레이블을 다시 지정하고, 머신러닝 모델을 재학습시키는 과정에서 발생하는 비효율적인 비용을 감당해야 한다.
효율성 문제를 해결하기 위해 소셜 미디어 플랫폼은 그동안 콘텐츠 모더레이션을 미성년자 사용자 노출 여부, 부적절한 행동 등으로 세분화하고, 각 서브 태스크(sub task)에 대한 예측점수를 제공하는 타사 모더레이션 서비스를 사용해왔다. 다만, 각 서브 태스크의 예측점수에서 특정 정책에 대해 신뢰할 수 있는 최종 결정을 내리는 콘텐츠 모더레이션 기술에 대해서는 그동안 심도 있는 연구가 진행되지 않았다.
하이퍼커넥트의 이번 논문은 끊임없이 변화하는 콘텐츠 모더레이션 정책에 맞춰 콘텐츠 리뷰를 효율적으로 자동화할 수 있는 머신러닝 기반의 기술을 제안한다.
콘텐츠에 대한 객관적 사실들을 서브 태스크로 학습하는 ‘다중 서브 태스크 접근 방식(Multiple Subtask Approach)’과 학습한 서브 태스크를 각 콘텐츠 모더레이션 정책에 유연하게 적용해 신뢰할 수 있는 결정을 내리는 임계값 최적화 방법인 ‘트러스트 스레시(TruSThresh)’가 그것이다. 콘텐츠 모더레이션의 실제 시나리오를 공식화하고, 여러 서브 태스크의 최적 임계값을 검색해 비용 효율적인 방식으로 콘텐츠 모더레이션 결정을 내릴 수 있는 임계값 최적화 방법이다.
하이퍼커넥트는 광범위한 실험을 통해 해당 기술이 콘텐츠 모더레이션에서 기존 방식 대비 더 나은 성능을 보인 것을 확인했다. 이 기술은 국내에서 특허 출원을 마쳤으며, 향후 미국을 포함해 글로벌 특허 출원 및 등록을 시도할 예정이다.
하이퍼커넥트는 사용자가 안전한 환경에서 우리의 서비스를 이용할 수 있도록 다방면으로 힘써오고 있으며, WSDM 2023에서 발표할 콘텐츠 모더레이션 기술 또한 그 일환이다. 이번 연구 결과를 통해 소셜 미디어 플랫폼 기업들이 보다 효과적으로 어뷰징을 방지하고, 부적절한 콘텐츠에 대한 효율적인 대응이 가능할 것으로 기대한다.” 하성주 하이퍼커넥트 AI랩 총괄 디렉터
한편, 하이퍼커넥트는 자체 AI랩 운영을 통해 실제 서비스 개발·운영 단계에서 활용할 수 있는 혁신 기술을 개발하기 위해 노력하고 있다. 또 AI, 딥러닝 등 다양한 기술을 개발하고 발표함으로써 세계적으로도 연구 성과와 기술력을 인정받고 있다. 특히 현재까지 국내를 비롯해 미국과 일본, 유럽 등 전 세계에서 약 280건의 글로벌 출원과 120건의 글로벌 특허를 등록하며 독자적인 기술 경쟁력을 입증했다.
