[소셜밸류=변호인 기자] 토스증권이 인공지능(AI)을 활용해 투자 커뮤니티 게시글의 내용과 맥락을 분석하는 검수 체계를 도입했다. 기존 금지어 중심의 필터링에서 벗어나 욕설·비방과 불법 리딩방 홍보 등 부적절한 콘텐츠를 보다 정교하게 탐지한다는 방침이다.
토스증권은 4일 자사 커뮤니티에 AI 기반 게시글 자동 검수 기능을 도입하고 콘텐츠 관리 기준을 정비했다고 밝혔다. 새롭게 적용된 AI 모델은 이용자가 게시글을 작성하거나 수정하면 제목과 본문, 이미지를 자동으로 분석한다. 욕설과 비방, 혐오·차별 표현, 불법 리딩방 홍보 등을 탐지하고 위반 정도에 따라 게시글 추천 제외나 숨김 등의 조치를 적용한다.
 |
| ▲ 토스증권 CI./사진=토스증권 제공 |
게시글 작성 단계에서 작동하는 금지어 필터링 기능도 강화했다. 기존에는 특정 금지어가 포함되면 글 작성 자체가 제한됐지만, 앞으로는 해당 표현만 마스킹 처리해 게시할 수 있다. AI 모델을 활용해 금지어의 우회·변형 표현까지 탐지할 수 있도록 개선했다.
이에 따라 게시글 작성 시 금지어 필터링과 작성 후 AI 자동 분석으로 이어지는 이중 검수 체계가 마련됐다. 단순히 특정 단어의 포함 여부만 확인하는 것이 아니라 게시글 전체의 문맥을 고려해 부적절한 콘텐츠를 식별하는 방식이다.
커뮤니티 운영 기준도 구체화했다. 토스증권은 욕설 및 유해 콘텐츠, 혐오·차별 표현, 홍보·광고, 시장질서 교란 행위 등을 제한 대상으로 규정한 ‘커뮤니티 서비스 콘텐츠 가이드라인’을 신설했다. 게시글이 숨김 처리되면 이용자에게 제재 여부를 안내하고, 고객센터를 통해 이의를 제기할 수 있도록 했다.
앞서 토스증권은 지난 9월 커뮤니티 서비스 이용약관을 개정해 AI 기반 자동 필터링과 모니터링을 검수 방식에 명시한 바 있다. 이번 발표에서는 실제 적용된 게시글 분석 기능과 금지어 처리 방식, 콘텐츠 제재 절차 등을 구체적으로 공개했다.
토스증권 관계자는 “이번 개선은 투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고, 보다 신뢰할 수 있는 환경에서 소통할 수 있도록 하는 데 초점을 맞췄다”며 “앞으로도 투자자들이 유용한 정보를 나누고 다양한 의견을 교환할 수 있도록 커뮤니티 환경을 지속 개선해 나가겠다”고 말했다.
[저작권자ⓒ 사회가치 공유 언론-소셜밸류. 무단전재-재배포 금지]
