인공지능(AI) 서비스가 음성인식 스피커나 홈서비스 등을 통해 일상생활에 적용되면서 생활에 편리함을 더해주고 있지만, 막대한 양의 개인정보를 다루는 AI 제품의 개인정보 관리 규정이 '약관'에 의해서만 허술하게 관리되는 것은 상당히 위험하다는 지적이 나와 주목된다.

10일 정보통신정책연구원은 최근 발간한 '인공지능과 프라이버시의 역설'이라는 보고서에서 머신러닝 등 AI의 이점에도 불구하고 머신러닝 기술이 수집하는 대량의 데이터로 인해 이용자의 개인정보 침해 가능성이 높아지고 있다고 지적했다.

최근 AI 기능은 스마트폰을 비롯해 음성인식 스피커, TV, 냉장고 등 다양한 가전제품에 탑재되고 있다.

▲ 음성인식 스피커 등 개인정보를 다루는 AI 제품의 개인정보 관리 규정이 '약관'에 의해서만 허술하게 관리되는 것은 상당히 위험하다는 지적이 나왔다.

AI 기능을 장착한 단말기를 통해 제조사가 이용자의 데이터에 기술적으로 접근할 수 있게 되면서 개인정보 침해 등 '프라이버시 영역'이 붕괴될 가능성이 높아지고 있다는 것이다.

AI 기능은 사용할수록 이용자가 보다 정확하고 편리한 결과를 받을 수 있도록 스스로 학습하는 능력을 갖추고 있는데 이를 위해선 제조사가 '미필적'으로 개인정보를 이용할 수 있으며 이로 인해 사생활 침해나 개인정보의 상업적 이용 등의 가능성이 높아진다는 것이 보고서의 지적이다.

특히 최근 급격히 확산되고 있는 '음성인식 AI 스피커'의 경우 단순 음악 재생뿐만 아니라 스마트홈의 '두뇌' 역할을 할 정도로 활용도와 중요성이 높아가고 있다. 그런데 이같은 음성인식 AI 스피커는 이용자가 '오케이 구글'이나 '아리아', '기가지니'와 같이 시동어를 말하기만 해도 즉각 답변할 수 있도록 평상시에도 기기가 이용자의 개인정보를 지속적으로 읽어들이고 학습하는 '상시 대기' 상태를 유지하고 있다.

KISDI 보고서는 AI 스피커의 이같은 상시 대기 상태가 '프라이버시 로깅'을 부르게 되며 이는 개인정보 침해 가능성을 높인다고 경고했다. 프라이버시 로깅이란 이용자의 음성 명령에 즉각 반응하기 위해 자신의 개인정보를 무의식적으로(Unconsciously) 끊김없이(Seamless) 지속적으로(Continuously) 디바이스에 기록(logging) 및 저장하는 현상을 말한다.

문제는 AI 단말기가 민감한 개인정보를 수집, 저장, 관리하는 모든 절차가 제도적으로 이뤄진 것이 아니라 민간 기업인 제조사의 '약관'으로만 관리된다는 점이다.

보고서를 작성한 심홍진 KISDI 연구위원은 "AI 단말기로부터 획득한 민감한 개인정보의 활용, 수집된 정보에 대한 접근성의 정도, 허용 범위 등의 모호한 기준으로 개인정보의 경계가 모호해지면서 개인정보 침해와 보안위협이 가중되고 있다"고 경고했다.

실제로 AI 단말기 이용자에게 이른바 '맞춤형 광고'라는 이름으로 나타나는 광고 서비스는 AI 스피커 이용자의 사적 대화나 검색 내용을 활용한 것이며, 이는 이용자 동의를 사전에 거쳐야 하는 서비스임에도 이용자가 인식하지 못하는 사이 동의를 유도하거나 아예 동의 없이 광고를 제공하는 등의 방향으로 악용되고 있다는 것이 심 연구위원의 지적이다.

뿐만 아니라 AI 단말기가 금융이나 쇼핑 결제 등 민감한 영역의 서비스까지 제공하고 있지만 이 과정에서 단말기가 '프라이버시 로깅'을 하면서 금융정보 등을 저장하게 될 경우 이를 보호할 수 있는 보안정책은 사실상 없고 제조사의 약관으로만 정보 관리가 이뤄지고 있다.

만에 하나 해커가 침투해 금융정보를 빼 가는 등 보안 사고가 발생했을 때 민간 회사의 약관은 이용자를 보호해주거나 피해 보상 등을 해 주지 않으며 오히려 제조사의 책임을 회피하는 도구가 되기 쉽다는 것이다.

때문에 AI 단말기의 개인정보 관리와 관련한 법 제도가 조속해 마련돼야 한다는 주장이 나온다.

심 연구위원은 "우리나라를 비롯해 세계 주요국들이 AI 활성화 정책을 펴고 있지만, 이로 인한 개인정보 침해나 관리 허술로 인한 정보유출 등 역기능을 방지하기 위한 정책은 상대적으로 부족하다"면서 "AI 단말기와의 무차별적 연결보다는, 연결로 인해 발생할 상충관계의 비대칭을 고려한 이용자, 단말기, 제조업자, 규제기관의 긴밀한 협업을 기반으로 제도적 정비가 시급하다"고 강조했다.

산업팀  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>