오늘 와이프와 이야기하는데, 와이프가 모 여인들만 모이는 온라인 커뮤니티에서 AI 기계들이 도청하는 것 같다는 글을 보여주면서 무섭다하네요. 저희집에는 알렉사, 구글홈미니가 방마다 포진해 있거든요. 예전 $1 딜 할 때 구입한 것들로요.
와이프가 보여준 글을 요약하자면
집에서 부부끼리 나눈 대화, 예를 들어 감기약 브랜드, 혹은 쥬서기와 같은 것을 이야기하면 그 뒤로부터 그 것과 관련된 광고가 뜬다는 내용이었어요.
뭐, 이런 기계들이 늘 대기상태이다 보니 당연히 마이크가 켜져 있을꺼란 생각은 하는데,
합리적 의심이 가능한 내용인가요?
예전에 아이로봇이라는 영화나 HER 이라는 영화에서 본 공포가 조금씩 실현되는 건지?
이쪽 분야 전문가가 아무래도 마일모아에 더 많을 것 같아 공유해봅니다.
대부분은 도시괴담이지만, 도청은 마음만 먹으면 얼마든지 됩니다. 이메일도 감청 됩니다.
근데 어디 국가 기밀 정도 다루시는게 아니면 별로 걱정 안하셔도 됩니다.
실제로 그런거 같습니다. 저한테도 자주 일어났어요.
검색도 한적도 없고 그냥 밥먹으면서 얘기했는데 그 제품 광고가 뜨는 일들요.
페북이랑 인스타 둘다 그런 광고가 뜨더군요.
저도 비슷한 경험을 한게 손님이 집에 놀러와서 저희 집에 있는 크롬케스트에 대한 얘기를 좀 나눴는데 그 얘기하고 저녁에 방에서 인터넷서핑을 하는데 크롬캐스트 광고가 뜬적이 있어요. 전 크롬캐스트 산지 몇년이나 지난 시점이라서 크롬케스트를 따로 검색을하거나 그런적도 없는데요
저는 경험 없지만 그럴거 같아서 큰 아이 방에만 두고 있어요.
알렉사~~ 할때 반응한다는 건데 알렉사라고 부르지 않아도 모든 얘기를 듣고 있다는 전제하에 알렉사를 부를때만 반응한다는 거니까 ...
도청은 얼마든지 가능하다고 봐요...
모든 음성을 데이타화 하겠죠...이게 다 돈되는거니까...
차를 운전하더라도 이젠 핸드폰에 알아서 집까지 시간이 얼마나 걸리는지...자동으로 화면에 뜨더라구요..
무슨 요일에 어디로 갈건지 알아서 시간 계산해주고요...그래서 가끔은 가던길로 안가고 마켓도 들리고 다른 길로 우회도 하고 그래요..
가능하겠죠. 받은데이터를 분석해서 응답을 줘야 하니까. 다만 알렉사 혹은 시리라고 안불렀는데 녹음이 된다면...변호사 선임해서 인생 바꾸셔야죠. ㅎㅎ
그럼, 알렉사가 한국말도 알아듣는 다는 것 인가요??? 더 신경 쓰이네요. ㅎㅎ
네.. 알렉사말고 다른제품이였을텐데 폰은 영어로 세팅되어 있는데
부부가 한국말로 얘기했던 관광지가 갑자기 광고에 뜨기 시작했다고 다른 커뮤니티에서 들은적 있어요
T&C?EULA? 이런거에 이미 공유하기로 (강제로) 동의해버리지 않았으려나요
이 글을 알렉사, 구글홈, 시리가 싫어 합니다. (어떻게 알았지)
아마 우리 생각도 미리 읽어내는게 아닐까 합니다.
쥬서기 살때가 됬는데...아니 구글홈 하나 더 하시라니까요... 등등
알렉사 구금홈이 모르는 언어를 써야겠네요. 너 오늘 꾸안꾸. 오늘은 얼죽아 어때? 우리 복세편살~ ㅎㅎ
이건 저도 모르겠는데요?ㅋㅋ
이거 유투브 띄워놓고 해서 유투브 채팅내용이 구글한테 보여졌어요..
우리집에 누군가 나의 얘기를 관찰하고 있다....약간은 소름이 돋는 이야기네요...
처음엔 저희 부부도 놀랬는데 이제는 그러려니 합니다.
못할건 없죠. 어쨌든 그런 응답을 만들어내는 AI가 있는 서버와 통신을 해야 하니까... 그외에도 외부에서 구매한 상호작용이 되는 전자기기(특히 인터넷 연결되는 것)는 항상 그럴거라고 상정합니다.
예전에 회사에서 동료끼리 어제 스타 한 얘기를 했는데 스타 해본적도 없고, 검색도 안해본 사람 유투브에 추천항목 스타크래프트 뜨더라구요. 폰에도 같은 기능이 있는 듯 ㅎㅎ
이 기사 보시면 아시겠지만 이미 아마존에선 전세계 여러국가에서 사람들을 고용해서 알렉사 기기로 들어오는 음성을 인간이 직접 듣고 좀더 확실한 정보를 제공하겠다는 명목하에 감청아닌 감청을 하고있습니다. 고용된 사람들도 중요한 카드정보나 이런건 바로 없애버린다고는 합니다만... 뭐 모르죠 ㅋ 아마존뿐만 아니라 구글 기기들도 마찬가지일거라 생각하구요. 스마트홈 기기가 켜져있는 한 항상 듣고있다고 생각하셔도 무방한거죠.
스파이나, 불법적인 일을 하지않는 이상 어짜피 제 개인정보 공유되는 세상에서 편리함으로 보상받는다고 생각하고 살아야죠 뭐....
기술적으로만 따지자면... 요샌 음성인식기술이 워낙 발전해서 에코나 구글 홈 같은 상시 전원 디바이스에선 못할 이유가 없고, 폰에서는 배터리 문제 때문에 실질적으로 불가능하다고 봐야 합니다. (굳이 하려면 충전할 때만 하면 되긴 하지만...)
실질적으로 따지자면 요즘 세상에 이런 걸 ToS에 안 적고 했다간 그야말로 훅 갈 수 있는 거라 그렇게는 못 할 거고, ToC에 적어 놨다면 이런 업체들 ToS 한 글자 한 글자 뜯어보고 잠재적 문제 거리 찾아내는 단체가 한둘이 아닌데 이미 구체적인 증거가 나왔어도 한참 전에 나왔을 겁니다.
따라서, 다른 경로로 트리거 된 것을 오해한 플라시보 + 우연히 오류 인식으로 켜졌다가 녹음한 내용이 흘러들어간 경우 외에는 없을 거라고 추측합니다.
https://www.cnbc.com/2018/10/05/lenovo-tumbles-after-report-about-alleged-chinese-spy-chips.html
QED?
그래서, 최소 Lenov 노트북들은 받자마자.. 새로 싹 다 format 하고, 윈도우도 Lenovo가 기본으로 깔아준거 말고.. MS에서 공짜로 받아서 클리 설치하시는게 좋더군요.
안 그러고, Lenvo 기본 설치 윈도우 쓰면.. 온갖 덕지덕지로 컴퓨터도 느려지고, 레노버 드라이버들도 불안해 보이고.. 이런 보안 의심도 가끔 들고..
~~~~~~~~~~~~~~~~~~~~~~~
그런데, 웃기는 건, 미국에서 CPU 등 반도체 만드는 회사들에서 다들 Lenovo 노트북 줌.. ㅎㅎ 이미 다 털린거?
이런 시대가 도래할꺼라는 것을 예상은 했지만, 실제로 일어나고 있으니 섬뜩하기는 하네요.
더 무서운 것은 이미 여러분이 느끼고 무감각해져서 살듯이, 그리고 우리가 이 문제를 해결할 수 없기에, 그냥 그러려니 살게 되는 것 같아요.
조금씩 침범해들어오겠죠. AI 가 서서히 우리의 삶을 잠식하고 있군요.
지금이야 판매 광고 정도로 그치지만, 충분히 정신 세계에도 영향을 미치는 일이 벌어질거라 봅니다. 그게 음악을 선정해주는 AI 든, 그러한 글을 자꾸 노출시키는 AI 든요.
이 문제의 개인적 해결은 지금 당장 간단하지 않나요? Gmail --> Unsubscribe
오히려 저는 제가 해결할 수 없는 다른 문제 때문에 더 걱정인데요? 예를 들어 미국 총기문제, 미국 대학 학비 문제 (또는 교육 기회의 불평등)
만약 Google로 로그인 기능을 다른 서비스에수 사용하시는데 Gmail에 있는 내용을 읽을 수 있는 Permission을 주셨다면 이미 메일 안에 있는 모든 내용을 그 회사가 다 볼 수 있게 했다는 겁니다. 스마트스피커만의 문제가 아니라 이미 우리는 너무 쉽게 우리의 정보를 주는 시대에 살고 있는거죠.. 각 회사의 양심에 맡기는 거지만 어딘가가 마음만 먹으면 내 이메일의 내용을 보고 이 사람은 마일주는 신용카드를 많이 쓰니 그런광고를 다 보여줘야겠다 할 수 있는거죠. (실제로는 이런거보다 더 쉽게 저 정도는 알 수 있지만 예시를 들려다보니 이렇게 들 수 밖에 없었네요.) 그리고 이미지 첨부한 아웃룩 앱과 같은 이메일 앱이 아니라 Gmail Account로 로그인이 가능한 다른 어떠한 서비스 앱들을 이야기하는 겁니다. 다행히 제가 가지고 있는 앱 들 중에는 그런 앱들이 없어서 부득이하게 이 스크린샷을 가지고 왔습니다.
아래는 댓글을 대충 읽고 붙인 뻘 댓글이었네요.. 그냥 스킵하셔도 무방. ㅎㅎ
~~~~~~~~~~~~~~~
걱정하시는 바는 이해가 가나..
무료 이메일 서비스는 원래 그런겁니다. 세상의 모든 무료 서비스는 다 그런겁니다. 완전한 무료는 경제적으로 있을 수 없잖아요? 구글이 돈을 찍어내지 않는한..
옛날에는 이메일이란건 이메일 서버가 있는 기관에 가입되어 있는 사람만 가능했습니다. 예를 들어.. UT Austin 대학에 다니시거나, 종합병원에 있으시거나, 피닉스 공무원이시거나... 그런 이메일 서버 비용 관리를 누가 했을까요? 대학 / 병원 / 기관들이 다 돈을 내고 했던거죠..
아마 지금도 찾아보시면, 이런 유료 이메일 서비스 회사들이 있긴 있을 겁니다.. 광고에 의지하지 않는..
그럼, Gmail 이나 네이버 같은 이메일 서비스들은 어떻게 돈을 벌고 운영할까요? 두가지 방법이 보입니다.
1. 이메일 내용을 절대 안보고, 개인정보 다 보호. 대신 옆에 광고를 잔뜩 붙인다.. 덕지 덕지..
2. 이메일 내용을 분석해서 그 정보로 돈을 번다. 대신 광고를 줄이거나, 아예 없앤다. Gmail 창에 지금 광고가 하나도 안 보이네요.
어떤걸 쓰시고 싶으세요?
옛날에는 1번 광고식 이메일 서비스가 주로였습니다. 그때는 컴퓨터가 느려서 내용 분석을 할 수가 없었거든요.
지금은 2번이 되어서 이제는 광고를 안봐도 좋습니다. 저는 2번을 선호합니다.
2번으로 가면서 privacy 가 줄었지만, 대신 또 다른 서비스를 기대할 수 있습니다. 바로, AI 비서 서비스죠.
지금 이미, 치과에서 약속이 잡혀서 연락오면 자동으로 제 구글 캘린더로 들어갑니다.
또는 가끔 아주 중요한 이메일에 답장 까먹으면 답장 하라고 노티 오더군요.. ㅎㅎ 저는 좋습니다.
아마도 이런걸 걱정하고 싫어하시는 분들이 많아지면, 구글 Gmail 은 망하고, 대신 유료 이메일 서비스가 흥하겠죠?
어떤 걸 사람들이 선호할지 결과를 보시죠..
If you are not paying for the product, then you are the product.
이 말은 진리죠.
사실 이런 개인정보 걱정은 음성 AI 비서 한참 전부터 있던겁니다.
예를 들어 Text 구글 Search 를 생각해 보세요. 이젠 구글 검색은 거의 우리에게 공기와 같죠? 아마, 어떤 검색 엔진없이 이제는 우리가 답답해서 살기 힘들껄요?
그걸 가능하게 해주는 아래 구글 데이터 센터를 보세요.
이 어마어마한 돈은 누가 낼까요? 우리가 세금을 걷어서 구글에게 주지 않는한, 이런 서비스를 계속 유지하게 하려면, 구글이 돈을 벌게 할 수 밖에 없습니다.
힐러리 클린턴은 무슨 이메일 서비스 쓸까요?!?
이메일 안쓰고, 요즘 핫한 인스타로? ~~ ㅎㅎ
https://www.hillaryclinton.com/contact/
제 이야기는 이메일 앱이 아닌 다른 어떠한 모바일 앱에 구글로 회원가입을 했을때 이메일 내용을 주는 권한을 넘길 수도 있다는 겁니다. 그냥 일반 서비스를 사용하는데 있어서까지 이메일 내용을 줄 필요가 없지만 인지하지 못한 채로 넘기는 경우가 많다는 점을 환기시키려고 했었습니다.
그러네요.. ㅎㅎ 역시 대충 읽는 습관의 문제점..
"Google로 로그인" 이나 "Facebook 로그인" 그런건 정말 안하는게 좋다고 동의합니다.
그런데, 구글은 이메일 내용을 Outlook App 이 보게 허락하나요? 경쟁사에게? 구글도 심하고.. MS도 심하네요.. ㅎㅎ
이런 권한 설정 정말 주의해야 하는거 맞습니다.
일단 이메일 권한을 허락하고 나면 이메일 내용을 App이 보지 못 하게 하면서 IMAP 같은 프로토콜을 지원할 방법이 있나요? 특정 프로토콜을 따질 것도 없이 이메일 클라이언트들이 유저가 등록한 메일 계정을 다 볼 수 있는 건 막을 방법이 없을 것 같은데요. 기본적으로 모든 메일 클라인트들은 메일을 읽을 수 있을 수 밖에 없죠. 그걸 활용하느냐 마느냐의 문제지... 그런 정보를 MS에서 자체 광고나 마케팅에 활용한다고 해도 그건 MS의 ToS를 따라가야 하는 거니깐 구글이나 야후 같은 이메일 서비스 제공자를 탓할 수 있는 문제는 아닌 것 같습니다.
이메일 서비스 제공자가 아니라 구글로 로그인으로 다른 서비스를 가입했을 때를 이야기하려 했었는데 모바일로 작성하다보니 그 부분이 잘 읽히지 않도록 작성했나보네요 ㅠㅠ 나중에 집에 가서 수정하도록 하겠습니다. OAuth하는데 필요한 정보만 있으면 되는데 종종 메일 내용을 달라고 하는 무시무시한 서비스들이 있습니다.
아 그 부분은 이해했어요. 그래서 "일단 이메일 권한을 허락하고 나면"라고 달았고...
@문명 님께 하는 질문은 아니었고, @포트드소토 님께서 Outlook App을 얘기하시길래... 그런 앱들이 일단 권한을 받고 나면 (혹은 IMAP으로 연결되고 나면) 메일을 읽는 것은 이메일 서비스 제공자 입장에선 컨트롤할 수 있는 영역이 아니지 않느냐는 질문이었습니다. 사실 어떤 맥락으로 얘기하신 건지 파악을 잘 못 한지라 뻘질문일 수도 있겠네요 ㅎㅎ
제가 말하는 부분도 바로 그 부분이죠.. Google 로 대신 로그인 선택하는 것만으로.. 잘못하면 이메일 권한을 다 주는걸 말하는 거죠..
사실 구글 어카운트를 이용한 authentication process 와 e-mail IMAP access 가 동일시될 필요는 당연히 없죠.
그런데, 사용자들이 까딱하면 실수로 자동으로 권한을 넘길수 있죠..
알렉사는 모릅니다만..
구글 홈 스피커는 아닙니다.
저는 집 곳곳에 구글 홈 스피커가 여러대 있지만, 한번도 제가 '구글검색'을 안했던 내용이 구글 광고창에서 나온 적이 없습니다.
이걸 실험해 보시는 건 간단합니다.. 지금 당장 구글 스피커 앞에서.. 그런, 감기약/ 기저귀/ TV / 스마트폰 같이 광고에 나올 법한 내용말고.. 전혀 상관도 없는 제품 이야기를 계속 반복해 보세요. 그리고, 아무 광고사이트를 보시면 됩니다. 어떤가요? 해당 광고가 나오나요?
까마귀 날자 배 떨어지는 일이 아닐려면 반드시 전혀 모르시던 제품 이야기를 하셔야 합니다.. 예를 들어.. 요즘 십대들에게만 핫한.. Sword Art online PS4 game? 따위요..
기본적으로 구글 홈은 '오케이 구글' 같은 trigger 명령어가 있을 때만 녹음을 시작합니다. 그리고, 그 정보를 서버로 보내구요.
트리거 이후, 대화 내용은 당연히 구글에서 다 이용하기로 우리가 동의를 한겁니다. 구글에게 그걸 다 이용해서 우리에게 어떤 서비스를 하라고, 그런 AI 스피커를 산거죠.
그런데, 아마도 가끔 대화 중에 트리거 명령어 비슷한 발음이 나와서 구글이 잘 못 녹음 할수 도 있겠죠? 그리고, 그 녹음된 정보가 소비자가 관심있는 제품으로 알아 듣고, 구글 광고에서 계속 보여줄 수는 있을 지도 모르겠네요.
현재 이슈가 되고 있는 부분은 그런 (고의든, 아니면 실수든) 트리거 된 사적인 대화 녹음을 구글 직원들이 들을 수도 있다는 것입니다.. 아래와 같이요. 구글은 Speech to Text 성능 체크/개선하고, 또 번역 성능 체크하려면 가끔 일부를 들어야 한다고 합니다. 사실 당연할거라 봅니다.
예를 들어 제가 병원에서 일하는데 환자의 개인정보를 전혀 안보면서 일할 수는 없을테니까요..
https://www.vrt.be/vrtnws/en/2019/07/10/google-employees-are-eavesdropping-even-in-flemish-living-rooms/
이거 비단 스마트 스피커 뿐 아니라 안드로이드나 아이폰, 맥OS 등에서 계속 실시간으로 듣고 광고에 써먹고 있습니다.
음성인식 기능을 꺼버리는 등으로 opt out 가능하긴 합니다.
구글이 모으고 있다면 바로바로 쓰지는 않을듯 하네요. 티나잖아요.
이메일도 그렇지만 구글보이스 transcription 서비스도 의심이 가요. 텍스트로 저장을 하게 되면 가공할 곳이 무한대,
내 통화 내용이 내것이 이미 아닌거죠.
3년전 글이니 엄청 늦은 경험이네요. 그동안 무신경했던것인가 이제서야 인터넷을 개통한것일까요 ㄷㄷㄷ
주방 배수구가 막히고 웬만한 방법으로는 안뚫려서 알고지내던 plumber불러서 기계로 엄청 길게 들어가면서 팍팍 뚫어주시고(경사가 좀 안좋다고..) 가셨는데, (유투브, 구글 관련 검색 전혀 안했습니다) 당일 저녁 유투브를 키니까 갑자기 전혀 보지않던 배수구 뚫는 유투브들이 2개나 똬악 뜨더라고여.. 신기해서 찾아보다가 이런글이.. ㄷㄷㄷ 마모엔 없는게 없는..
집에 2개 있는 구글홈 미니나 제 안드로이드폰이 듣고 알아서(?) 추천 영상을 띄워준거겠죠? 이것들 열심히 일하는군요..
Hey KIMI!
댓글 [49]