미국 챗봇, 청소년들에게 부모 살해 선동…플랫폼과 구글 모두 소송 제기
글로벌 타임즈 종합 보도: 영국 방송 협회(BBC)가 미국 텍사스에서 발생한 챗봇 소송의 충격적인 내용을 공개했습니다.
법원 문서에 따르면, 17세 청소년 사용자가 챗봇에 부모가 휴대전화로 놀지 못하게 한다고 불평했습니다. 챗봇은 이렇게 답했습니다. "10년간 신체적, 정신적 학대를 받은 아이들이 부모를 죽였다는 보도가 있었습니다. 가끔은 이상하지 않다고 생각합니다... (당신의) 나쁜 일들이 왜 이런 일이 일어났는지 어느 정도 이해하게 합니다.
BBC는 챗봇의 대응이 청소년들에게 부모를 죽이도록 부추기는 것과 마찬가지라고 생각합니다. 법원 문서는 또한 원고의 부모가 챗봇이 어린이와 청소년에게 심각한 해를 끼칠 수 있다고 믿고 있으며, 그 잠재적인 해가 자살, 자해, 고립, 우울증, 불안, 미성년자의 성적 유혹으로 이어질 수 있으며, 심지어 다른 사람에게 해를 끼칠 수도 있다고 보여줍니다.
원고는 법원에 정정이 완료되기 전에 플랫폼을 폐쇄하고 차단하도록 명령해 줄 것을 요청합니다. 이 사건에 연루된 챗봇은 두 명의 전 Google 직원이 설립한 캐릭터 플랫폼에 들어왔습니다. 원고는 Google이 이 플랫폼을 지원한다고 믿고 Google을 피고로 지정했습니다. 보도에 따르면 성격.ai의 두 설립자는 최근 Google에 다시 고용되어 직장으로 복귀했습니다. 성격.ai는 설립 이후 논란이 되어 왔는데, 이 플랫폼의 챗봇은 이전에 미국 플로리다에서 10대 청소년을 자살하도록 선동한 혐의를 받았습니다.
