토스증권이 최근 불거진 합성 영상 논란 이후 커뮤니티 관리를 대폭 강화하고 나섰다. 인공지능 기반 자동 검수 시스템을 도입해 불법 홍보물과 부적절한 게시글을 차단하겠다는 방침이다.
무슨 일이 있었나
토스증권은 커뮤니티에서 벌어진 합성 논란과 관련해 재발 방지 대책으로 인공지능 검수 시스템을 도입했다. 시스템은 증시 요약부터 불법 리딩방 홍보 차단까지 활용 범위를 넓혀 가고 있다. 회사 측은 부적절한 게시글을 자동으로 걸러내는 체계를 갖춰 이용자 신뢰를 지키겠다고 밝혔다.
배경
생성형 인공지능 기술이 보급되면서 실제 인물을 흉내 낸 합성 영상과 허위 정보가 사회 문제로 커지고 있다. 금융 커뮤니티는 개미 투자자가 많이 모이는 공간이라, 유명 인사를 내세운 허위 투자 권유나 불법 리딩방 홍보가 끊이지 않았다. 사람이 일일이 검수하기에는 게시글 양이 너무 많아, 인공지능 자동 검수가 현실적인 대안으로 떠올랐다.
앞으로의 전망
금융권을 시작으로 플랫폼 기업들의 인공지능 검수 도입은 더 빨라질 전망이다. 다만 자동화 검수가 정상적인 의견 표현까지 과도하게 차단하지 않도록 기준을 세우는 일도 과제로 남는다. 딥페이크 규제 논의가 진행되는 만큼, 기술 대응과 제도 정비가 함께 나아갈 것으로 보인다.
자주 묻는 질문
Q. 토스증권이 도입한 시스템은 무엇인가요?
A. 인공지능으로 커뮤니티 게시글을 자동 검수해 부적절한 내용과 불법 홍보물을 차단하는 시스템입니다.
Q. 딥페이크는 왜 문제가 되나요?
A. 실제 사람의 얼굴과 목소리를 합성해 본적 없는 발언이나 영상을 만들 수 있어, 사기와 명예훼손에 악용될 위험이 크기 때문입니다.
Q. 인공지능 검수의 장점은 무엇인가요?
A. 하루에도 수십만 건 올라오는 게시글을 사람보다 빠르고 일관된 기준으로 확인할 수 있다는 점입니다.
Q. 다른 회사들도 도입하나요?
A. 커뮤니티와 금융 플랫폼을 운영하는 곳을 중심으로 유사한 도입이 확산할 것으로 전망됩니다.
출처: 라이센스뉴스 · 토스증권, 부적절 게시글 검수 위한 AI 기반 자동 시스템 적용 / 신아일보 · 증시 요약부터 불법 리딩방 홍보 차단까지…토스증권, AI 활용 범위 확대
관련 소식: 인공지능 뉴스 모아보기