2만명 인력과 기계가 단속…각국 법률과 자체 정책 따라 대응



구글이 유튜브, 구글 검색 등 자사 서비스에 유통되는 불법·유해 콘텐츠 단속을 위한 정책을 공개했다. 최근 플랫폼 기업의 콘텐츠 관리 책임이 강화되는 움직임이 나타나면서 이에 대한 대응에 나선 것으로 풀이된다.



장 자크 사헬 구글 아시아·태평양 지역 콘텐츠 정책 총괄은 27일 오전 서울 강남구 파이낸스타워 구글 본사에서 개최된 기자간담회에 온라인으로 참여해 콘텐츠 정책을 발표했다.



장 자크 사헬 총괄은 지난 2019년 아태지역 콘텐츠 정책 총괄로 구글에 합류했다. 그는 구글 취임 이전에 국제인터넷주소관리기구(ICANN)의 유럽 지역 매니징 디렉터로 재직했으며 스카이프에서 정부 및 규제 관련 업무를, 마이크로소프트에서 유럽, 중동 및 아프리카 지역의 디지털 정책을 총괄한 바 있다.



구글이 콘텐츠를 삭제하는 기준은 크게 두 가지다. 법률을 위반하거나 관련 구글 제품 또는 서비스에 대한 '운영원칙'을 위반하는 경우다.



불법 콘텐츠의 경우 각국의 법을 기반으로 위반하는 콘텐츠가 나타날 경우 제한하고 있다. 동시에 구글이 개발한 자체 운영원칙에 기반해 각각의 제품과 서비스 안에서 허용되는 콘텐츠를 명시하고 있으며 제약의 정도도 모두 다르다는 설명이다. 특히 구글 애즈 등 광고 제품의 경우 광고 수익을 창출하는 것을 고려해 엄격히 관리하고 있다.



예를 들어 유튜브에 자동차 사고의 생생한 장면을 보여주는 영상이 올라올 경우 허용되지 않는다. 커뮤니티 가이드라인이 시청자에게 어떤 충격이나 혐오감을 불러일으키는 의도로 제작된 폭력적이거나 잔인한 콘텐츠는 허용하지 않는다고 명시한 데 따른 것이다.



다만 교육 다큐멘터리 과학 또는 예술 콘텐츠와 같이 명확한 맥락에 따라 타당한 이유가 제공이 되는 콘텐츠일 경우 삭제되지 않는 예외의 경우도 있다고 구글 측은 설명했다.



구글은 유해 정보를 파악하기 위해 인력과 기술이 함께 대응하고 있다. 지난해 4분기 삭제된 유튜브 영상의 94% 이상이 머신 러닝에 의해 먼저 감지됐다. 이 중 71% 이상이 삭제되기 전에 조회수 10회 이하를 기록했다.



다만 머신러닝 등 인공지능(AI) 기술이 콘텐츠 맥락을 이해하지 못하는 한계를 보완하기 위해 인력들이 함께 작업에 참여하고 있다. 구현재 구글에는 2만명 이상의 인력이 구글 플랫폼에서 콘텐츠 검토 및 삭제 작업을 수행하고 있다. 이들은 각국의 법적 사유로 인한 삭제 요청과 신고를 24시간 신중하게 검토하고 처리한다.



혐오 발언의 경우 정치 성향 전반에 걸쳐 우측, 좌측과 무관하게 여러 전문가들과 협력하고 자문을 반영하고 있다. 연령, 성별, 인종, 계급, 종교, 성적 지향 또는 군 복무 사실 등의 속성들을 기반으로 특정 집단의 우월성을 주장하는 동영상을 금지하는 정책을 2019년 도입했으며 폭력, 희롱 등 정책도 업데이트하고 있다.



최근 오픈AI의 챗GPT 등 생성형 AI가 늘어나면서 가짜뉴스, 양산형 콘텐츠 확산에 대한 우려도 커지고 있다. 이에 유럽연합(EU)은 구글·유튜브·트위터·틱톡·애플·페이스북 등 빅테크와 온라인 플랫폼을 대상으로 '디지털서비스법(DSA)' 규제를 오는 8월부터 시행해 AI 콘텐츠에 대한 규제를 강화할 예정이다. 허위정보 및 불법·유해 콘텐츠 확산 단속에 대한 책임도 부과한다.



이들 업체는 시행에 앞서 가짜뉴스와 불법 콘텐츠를 관리하는 시스템을 4개월 안에 만들어야 한다. 이를 어길시 글로벌 매출의 최대 6%에 해당하는 벌금이 부과되거나 운영이 일시 금지될 수도 있다.



장 샤크 총괄은 “새로운 기술을 기반으로 한 신규 제품들이 나옴에 따라서 동일한 원칙을 그대로 적용할 것”이라며 "유해한 부분들은 끊임없이 과거에 했었던 것처럼 엄격하고 또 열심히 다루어 나가겠다. 동시에 신기술이 제공하는 기회들은 또 적극적으로 활용할 것"이라고 밝혔다.