154 읽음
토스증권, AI 검수 도입해 불법 리딩방 및 유해글 차단
알파경제
0
토스증권은 자사 투자 커뮤니티에 인공지능(AI) 기반 게시글 검수 체계를 도입했다고 4일 밝혔다.
이번에 도입한 AI 검수 모델은 기존 금지어 중심의 필터링 방식에서 나아가 게시글의 내용과 맥락까지 종합적으로 분석하는 것이 특징이다.
이용자가 게시글을 작성하거나 수정하면 제목과 본문, 이미지를 자동으로 분석한다. 욕설과 비방, 혐오·차별 표현, 불법 리딩방 홍보 등을 탐지하고 위반 정도에 따라 추천 제외나 숨김 조치를 적용한다.
게시글 작성 단계의 금지어 필터링 기능도 강화했다. 기존에는 금지어가 포함되면 글 작성 자체가 제한됐지만, 이제는 해당 표현만 가린 상태로 게시할 수 있다. 금지어를 변형하거나 우회한 표현도 탐지하도록 개선했다.
이에 따라 작성 단계에서 금지어를 걸러내고, 게시 이후 AI가 내용을 분석하는 이중 검수 체계를 구축했다.
토스증권 관계자는 알파경제에 "커뮤니티를 기반으로 많은 투자자에게 사랑받아온 만큼 지속적으로 서비스를 고도화해 왔으며, 이번 AI 검수 체계 도입도 그 일환"이라며 "투자자들이 부적절한 게시글이나 투자 권유에 노출되는 것을 줄이고, 보다 신뢰할 수 있는 환경에서 소통할 수 있도록 하는 데 초점을 맞췄다"고 설명했다.
커뮤니티 운영 기준도 정비했다. 욕설·유해 콘텐츠와 혐오·차별 표현, 홍보·광고, 시장질서 교란 행위 등의 제한 대상과 제재 기준을 담은 '커뮤니티 서비스 콘텐츠 가이드라인'을 마련했다.
게시글 숨김 조치 시에는 제재 여부를 명확하게 안내하고, 고객센터를 통한 이의제기 절차도 제공한다.
토스증권은 앞으로도 투자자들이 유용한 정보를 공유하고 다양한 의견을 교환할 수 있도록 커뮤니티 운영 환경을 지속적으로 개선해 나갈 계획이다.