[디지털머니=박응식 기자] AI(인공지능) 스피커가 진화하고 있다. 공중파 뉴스를 AI 스피커로 듣고, 디스플레이를 보며 금융결제 서비스를 이용하는 등 AI 스피커는 일상 속에서 다양한 역할을 수행하고 있다.
그러나 사용자 음성데이터 수집으로 인한 사생활 침해 논란이 대두되면서 대책 마련에 대한 요구가 높아지고 있다. 진화를 거듭하고 있는 AI 스피커의 사생활 침해 우려와 그 대책을 살펴본다. <편집자주>
<AI(인공지능) 스피커의 원조인 아마존의 '에코'가 사생활 침해 논란을 불러일으켰다>
■ 아마존 '에코'로 인한 사생활 침해 논란
AI 스피커의 원조인 아마존의 '에코'는 지난해 미국 오리건주 포틀랜드에 거주하는 부부가 집에서 나눈 사적 대화를 녹음해 연락처에 저장한 사람에게 멋대로 보낸 사례가 알려지며 구설에 올랐다.
이에 아마존은 성명을 통해 “단어를 잘못 인식해 에코가 활성화 됐다. 알렉사가 대화 소리를 ‘메시지 보내기’ 요청으로 인식했다”고 해명했다. 그러나 이 사건은 최근 AI 음성인식 기기를 생활 속에 활용하는 사람들이 늘어나는 가운데 보안과 사생활 침해 우려를 낳는 계기가 됐다.
품질 향상을 위해 사람들 대화를 전송받아 분석하는 '휴먼리뷰'도 세계적으로 문제다. 미국에선 휴먼리뷰 과정에서 구글의 인공지능 스피커 '구글 어시스턴트'에 녹음된 이용자들 대화 1000건 이상이 유출됐다. 네이버도 개인정보 비식별 처리를 거친 뒤 '휴먼리뷰'한 사실이 드러났다.
■ '비식별처리' 주장에도 사생활 침해 우려 여전
IT업계에 따르면 네이버, 카카오 등 인터넷기업과 SK텔레콤, KT 등 통신사는 자사의 AI 스피커 서비스를 운영하면서 이용자들의 음성명령 목소리를 녹음하고, 이를 별도의 기기에 문자로 입력해 분석하는 작업을 하고 있다. 업체들은 다양한 이용자의 목소리를 분석하는 방식으로 AI를 훈련해 음성 인식률을 높이기 위한 것이라는 입장이다.
그러나 최근 국내에서도 AI 스피커의 음성데이터 수집이 사용자의 사생활 유출경로가 될 수 있다는 지적이 잇따르고 있다.
사생활 침해 논란과 관련해 통신사들은 이용자를 특정할 수 있는 일부 정보를 삭제하는 ‘비식별화’ 조치를 거친 다음 음성데이터를 활용하고 있다고 주장한다. 하지만 비식별화 작업 이전에도 최대 2개월간 음성데이터를 그대로 보관하고 있는 것으로 확인됐다.
AI 스피커 ‘클로바’를 판매하는 네이버도 수집한 이용자의 음성을 협력사 직원이 녹취하도록 했다는 의혹이 제기됐다. 이에 네이버는 적극 해명에 나섰다.
네이버는 "클로바 이용약관에 명시한 대로 인공지능 플랫폼 클로바 서비스의 품질 측정 및 제고를 위해 이용자가 호출어를 통해 입력하는 데이터를 저장하고, 이후 비식별 처리 및 파기, 삭제하고 있다"며 "클로바를 호출하지 않은 상태에서는 어떤 대화 내용도 수집하지 않는다"고 밝혔다.
더 나아가 네이버는 이용자들이 음성 명령어의 저장 허용 여부를 직접 결정할 수 있는 '옵트 아웃' 기능을 국내 기업 중 최초로 도입한다는 입장을 밝혀 논란 진화에 나섰다.
■ 박선숙 의원, AI 스피커 대응 법안 발의
박선숙 의원이 지난달 4일 발의한 정보통신망법 개정안은 인공지능 스피커의 특성을 감안해 개인정보 수집 조건에 '수집 시점'을 추가해 언제 개인정보를 수집하는지 알리고 동의를 구하도록 했다. 개정안은 처벌 조항도 담았다.
박 의원은 "휴먼리뷰 문제가 전 세계적으로 확산되는 만큼, 국내 이용자들에게 영향을 끼칠 국내외 모든 기업들 실태를 점검할 필요가 있다"며 "특히 구글은 녹음·수집한 음성정보를 비식별화하지 않은 상태로 무기한 보관해 이용자 프라이버시 침해 위협이 가장 크다"고 지적했다.
박 의원은 한편 지난달 30일 한상혁 방송통신위원장 후보자 인사청문회 때도 이 문제를 지적했다. 한 후보자는 "새로운 디바이스들이 생기면서 예상치 못했던 개인정보 침해가 발생하고 있다. 취임하면 살펴 조사하겠다"고 답했다.
박 의원은 오는 18일 방송통신위원회 국정감사에서 이 문제를 집중적으로 다룰 계획인 것으로 알려졌다.
<저작권자> 디지털 세상을 읽는 미디어 ⓒ디지털머니 | 재배포할 때에는 출처를 표기해 주세요.