숨진 할머니가 동화책 읽어줬다…아마존 신기술에 “섬뜩” 비판

사이버 범죄 악용 가능성…”죽은 사람 데이터 활용은 비윤리적”

아마존이 자사의 인공지능(AI) 음성인식 서비스 알렉사를 통해 숨진 가족의 목소리를 되살리는 기능을 공개해 논란이 되고 있다고 23일 워싱턴포스트(WP)가 보도했다.

아마존은 전날 라스베이거스에서 열린 ‘리마스’ 콘퍼런스에서 이러한 내용의 알렉사 신기능을 발표했다.

알렉사의 새로운 기능은 1분 미만의 음성 샘플만 있으면 특정인 목소리를 그대로 복제해 흉내 낼 수 있고, 숨진 가족의 목소리까지도 재현해낼 수 있다.

아마존은 행사에서 이 기능의 시연 동영상을 공개했다.

한 어린이가 알렉사를 향해 할머니 목소리로 오즈의 마법사 책을 읽어달라고 요청하자 알렉사는 할머니 음성으로 전환해 책을 낭독했다.

로히트 프라사드 수석부사장은 알렉사에 공감이라는 인간적 속성을 더 부여했다고 설명했다.

그는 “이런 속성은 신종 코로나바이러스 감염증(코로나19) 기간 더 중요해졌다”며 “AI가 코로나19로 사랑하는 가족을 잃은 고통을 없애주지는 못하지만, 그들에 대한 기억을 오래 지속시킬 수 있다”고 주장했다.

그러면서 더 짧은 분량의 음성 데이터를 기반으로 고품질의 목소리를 재현해내는 방안을 개발할 것이라고 소개했다.

이에 대해 WP는 알렉사의 신기능이 윤리적인 문제와 더불어 사망자의 개인정보 권한을 둘러싼 논란을 초래한다고 지적했다.

온라인 보안업체 소셜프루프시큐리티의 레이철 토백 최고경영자(CEO)는 “세상은 사용자 친화적인 음성 복제 기술을 받아들일 준비가 되지 않았다”며 알렉사의 신기능이 사이버 범죄에 악용될 수 있다고 지적했다.

그는 “사이버 범죄자가 음성 샘플을 사용해 다른 사람 목소리를 복제해낸다면 이는 사기와 데이터 탈취, 계정 도용 등으로 이어질 수 있다”고 경고했다.

호주 커틴대학의 타마 리버 인터넷학 교수는 숨진 사람의 목소리를 흉내 내는 기술이 사람과 기계 사이의 경계를 모호하게 만드는 위험이 있다며 “죽은 사람의 데이터를 사용하는 것은 섬뜩하고 비윤리적”이라고 비판했다.

그는 “만약 내 할아버지가 100개의 음성 메시지를 나에게 보낸다면 그 데이터는 누가 갖는가. 아마존이 소유하고 나는 그 데이터에 대한 권리를 포기하게 되는가”라며 자녀들에게 목소리마저 물려준다는 유언을 남겨야 하느냐고 반문했다.