> 
[뉴스투데이=강륜주 기자] 카카오의 인공지능(AI)으로 안전한 디지털 세상을 만들기 위한 다양한 노력이 '국제연합'(이하 UN)본부 회의에서 소개됐다.
카카오는 10일(현지시간) 미국 뉴욕 UN본부에서 열린 ‘UN 대테러사무국-테크 기업 협의 회의’에서 디지털 안전을 위한 정책과 사례를 발표했다고 밝혔다.
본 회의는 테러 목적의 정보통신기술(ICT) 악용에 대한 예방과 대응을 위한 비구속적 지침서를 마련하기 위해 UN 안전보장이사회 산하 대테러사무국에서 주관했다.
회의에서는 테크 산업 내 디지털 안전을 위한 기업의 모범 사례 공유와 지침서 마련과 관련된 의견 수립 및 발전 방향 등이 다뤄졌다.
카카오는 온라인으로 참여해 유해 콘텐츠 유통을 막는 디지털 안전 정책, AI(인공지능) 등 기술을 통한 선제적 대응 사례, 혐오표현 대응을 위한 시민사회 협력 모델을 차례로 설명했다.
먼저 표현의 자유를 중시하면서도 이용자 안전 보호에도 소홀하지 않는 카카오의 ‘디지털 안전' 철학을 소개했다
증오발언 대응 정책의 실무를 이끌어 온 김수원 카카오 정책팀 박사(미디어 전공)는 “카카오는 자유로운 커뮤니케이션 가치와 표현의 자유를 중요하게 생각하지만 우리 사회의 갈등을 심화하고 인권을 침해하며 극단적 폭력으로 이어질 위험이 있는 콘텐츠와 증오발언에 정책과 기술을 통해 적극 대응하고 있다”고 말했다.
이의 일환으로 카카오는 디지털 안전 철학이 AI기술에 적용된 ‘세이프봇’의 사례를 공유했다.
세이프봇은 카카오 서비스 내에서 게시물 운영정책을 위반한 콘텐츠를 AI 기술로 분석해 자동으로 필터링하는 기능이다. 이 기능은 지난 2020년 뉴스 댓글 서비스에 적용된 이후 포털 다음과 카카오뷰 등에 적용했다 . 그 결과 실제로 세이프봇 도입 후 악성 댓글이 기존의 3분의 1 수준으로 낮아지는 등 실효적 성과를 내고 있다.
또한 카카오는 전 세계적 관심사 혐오표현 근절을 위한 시민사회와 협력 모델도 소개했다.
카카오는 국가인권위·학계 전문가·시민단체와 협력을 통해 지난 2021년 ‘증오발언 근절을 위한 카카오의 원칙’을 제정하고 관련 기술 및 정책을 고도화 중이다.
아울러 국내에서 선도적으로 진행한 증오발언 대응 실천안은 학계 및 사회 전문가들과 함께 증오발언 ‘코딩북' 제작으로 이어지고 있다. AI 등 기술로 증오발언에 대응하기 위한 명확하고 구체적인 판별 기준과 이에 기반한 학습데이터를 마련하기 위한 작업이다.
이와 함께 표현의 자유 보장과 이용자 권리 침해 최소화를 위한 신속한 이용자 구제 절차 및 관련 노력들을 자율적으로 공개하는 ‘투명성 보고서’ 발행에 대해서도 공유했다.
UN 대테러사무국은 이번 회의 및 별도 진행된 시민사회와 학계와의 협의 내용을 토대로 테러리스트의 ICT(정보통신기술) 오용에 대한 비구속적 지침서를 안전보장이사회 대테러사무국 승인을 거쳐 발간할 예정이다.
김대원 카카오 정책팀장은 “이번 회의에서 안전한 디지털 세상을 만들기 위한 카카오의 다양한 활동을 글로벌 테크 기업들 및 UN과 공유할 수 있었다”며 “카카오는 앞으로 IT(정보통신)기업이 갖춰야 할 사회적 책임을 이행하고 디지털 생태계 건강성을 위해 노력할 것”이라고 말했다.
댓글 (0)
- 띄어 쓰기를 포함하여 250자 이내로 써주세요.
- 건전한 토론문화를 위해, 타인에게 불쾌감을 주는 욕설/비방/허위/명예훼손/도배 등의 댓글은 표시가 제한됩니다.
