페이스북이 자살 예방 기능을 강화하기 위해 인공지능(AI) 기술을 도입했다. 기존에는 수작업으로 신고를 접수했지만 앞으로는 자살 암시 콘텐츠를 AI 기술로 자체 감지한다.
페이스북은 자살 예방 및 대응 역량을 강화하기 위해 AI 기술을 새로 도입하는 업데이트를 진행한다고 28일 밝혔다.
이번 업데이트는 AI ‘패턴인식’ 기술에 기반한다. 페이스북 게시글과 라이브 방송의 텍스트를 분석해 자살 신호를 자동으로 감지하는 방식이다.
예를 들어 게시글이나 댓글에 “괜찮아?” “내가 도움 줄 수 있는 부분이 있을까?” 같은 표현이 있다면 자살 징후가 높은 글로 분류돼 담당자에게 전달된다. 기존에 사람이 직접 했던 자살 암시 콘텐츠 신고 접수에 AI 기술을 더해, 더욱 빠르고 효과적으로 자살을 막을 수 있다는 게 페이스북의 설명이다.
콘텐츠를 검토하는 직원들의 대응에도 AI가 사용된다. AI는 신고가 접수된 콘텐츠에 우선 순위를 매기고 자살 신호로 판단되는 부분을 선별해 담당자에게 알린다. 담당자는 접수 내용을 파악하고 유관기관에 신고해 조치를 취하는 시간을 단축할 수 있다.
페이스북은 자살하는 장면이 라이브 방송으로 전 세계에 생중계되는 등의 문제를 겪어왔다. 페이스북이 지인의 게시물이 자살을 암시하는 내용을 담고 있을 때 바로 신고할 수 있는 ‘자살 예방 도구’ 기능을 도입한 것도 이 때문이다. 이 기능으로 신고가 접수되면 24시간 전담팀이 검토해 자실 징후를 판단하고 당사자의 화면에 자살을 피할 수 있는 다양한 방법을 전달하며, 경우에 따라서는 유관기관에 직접 연락을 취하기도 한다.
페이스북 코리아의 경우는 중앙자살예방센터, 보건복지부 보건복지콜센터, 정신건강증진센터 정신건강위기 상담전화 등의 여러 단체와 협력해 자살 예방 방법을 지속적으로 논의하고 있다.
맹하경 기자 hkm07@hankookilbo.com
기사 URL이 복사되었습니다.
댓글0