거실 TV가 강아지 울음소리를 듣고 있었다 — 삼성 TV를 뜯어본 대가
스마트 TV에 마이크가 달려 있다는 사실은 더 이상 뉴스가 아니다. 음성 명령을 쓰려면 필요한 부품이고, 설명서 구석에도 적혀 있다. 불편한 지점은 따로 있다. 그 마이크가 언제 켜지는지, 무엇을 듣는지, 들은 것이 어디로 흘러가는지 설명해주는 문서가 어디에도 없다는 것.
어젯밤 r/LocalLLM에 올라온 스레드 하나가 정확히 그 지점을 찔렀다. 한 해커가 자신의 삼성 TV를 리버스 엔지니어링하던 중, 기기 안에서 소리를 분류하는 AI를 발견했다. 강아지 짖는 소리와 아기 우는 소리를 알아듣는 모델이 조용히 돌아가고 있었다는 이야기다.
그런데 이야기는 발견으로 끝나지 않는다. 해커의 OpenAI 계정이 정지됐다.
온보드 AI의 어두운 면
요즘 TV 사양표에는 AI라는 말이 도처에 붙어 다닌다. 업스케일링, 음성 인식, 콘텐츠 추천. 이번에 발견된 건 그중에서도 가장 조용한 부류다. 화면을 개선하거나 명령을 받는 게 아니라, 방 안의 소리를 듣고 있던 것.
강아지 소리와 아기 울음을 구분하는 모델이 왜 TV에 들어가 있는가. 스마트홈 연동을 염두에 둔 기능이라는 추정은 가능하다. 아기가 울면 알림을 보내고, 강아지가 짖으면 다른 기기를 깨우는 식의. 다만 그런 기능을 켠 적 없는 사람의 거실에도 모델이 상주하고 있었다는 점이 문제다.
온디바이스 AI는 보통 프라이버시 친화로 홍보된다. 데이터가 서버로 나가지 않으니까. 방향 자체는 틀린 말이 아니다. 다만 그 논리가 성립하려면 전제가 하나 필요하다. 기기 안에서 무슨 일이 벌어지는지 사용자가 확인할 수 있어야 한다. 이번 경우엔 그 전제가 깨져 있었다. 누군가 펌웨어를 뜯어보기 전까지는 존재 자체를 몰랐던 기능이니까.
계정 정지라는 대가
같은 서브레딧에는 이내 후속 스레드가 올라왔다. 제목만으로 이번 사건을 요약한다. 다른 회사 제품을 리버스 엔지니어링하다가 OpenAI에서 제재를 당했다는 것.
정확히 어느 약관 조항이 걸렸는지, TV 안의 AI와 OpenAI 계정 사이에 어떤 연결고리가 있었는지는 공개된 정보만으로는 알 수 없다. 단정할 수 없는 부분은 남겨두는 게 맞다.
그래도 커뮤니티가 받아들인 메시지는 선명하다. 남의 기기 안을 들여다보는 행위가 어딘가의 클라우드 약관과 부딪힐 수 있다는 것. 그리고 그 충돌의 결과가 경고가 아니라 계정 정지로 오더라는 것. 클라우드 AI에 기대는 순간 내 사용 환경 전반이 그 사업자의 판단 하나에 걸려 있다는, 조금 낯선 구조가 여기서 드러난다.
댓글창의 해법, 덤 TV 운동
반응은 흥미롭게도 절망보다 대응 쪽이었다. 댓글을 훑으면 해법이 세 갈래로 갈린다.
첫째, 커스텀 펌웨어다. 이제 커스텀 TV 펌웨어의 시대가 온다는 반응이 가장 먼저 달렸다. TV에 심어진 소프트웨어를 통째로 갈아엎겠다는 발상이다.
둘째, 두뇌의 분리다. 한 사용자는 이미 그렇게 살고 있다고 쓴다. Apple TV를 물려 쓰는데, TV 자체 소프트웨어가 줄 수 있는 건 그보다 많을 수 없다는 것. 패널은 패널답게, 계산은 내가 고른 박스에서. 아예 앞으로는 새 TV마다 라즈베리 파이를 달아서 회사가 심어놓은 걸 덮어써야 하는 시대가 올 거라는 댓글도 달렸다.
셋째, 네트워크 차단이다. 집안 인터넷이 전부 Pi-hole을 거쳐간다면 TV가 어디로도 못 보내는 상태가 된다는 이야기. 다만 본인도 다른 사람의 확인을 부탁하는 톤이라, 확실한 방어벽이라기보다 차선의 계산에 가깝다.
그리고 이 모든 댓글이 같은 결론으로 수렴한다. dumb TVs FTW. 멍청한 TV 만세.
왜 주목할까
AI가 생활로 들어오는 방식을 떠올릴 때 보통 챗봇이나 코딩 도구를 먼저 생각한다. 실제로는 화려한 제품보다 사양표 뒤쪽에 숨은 조용한 기능들이 침투가 빠르다. TV, 스피커, 도어벨. 화면이 있고 마이크가 있는 기기라면 어디든.
이번 사건이 그려주는 그림은 복잡하지 않다. 검증되지 않은 채 거실에 상주하는 모델, 그걸 확인하려는 사람에게 내려진 제재, 그리고 기업의 소프트웨어를 더 이상 믿지 않겠다는 사용자들의 대응. 로컬 LLM 커뮤니티가 커지는 이유가 취향이 아니라 방어라는 말이 점점 힘을 얻는 지점이기도 하다.
정리
거실에서 가장 큰 화면이 가장 조용한 청취자이기도 하다는 이야기. 아기 울음과 강아지 짖는 소리를 알아듣는 모델이 그 안에 있었고, 자기 기기를 확인한 사용자에게 돌아온 건 계정 정지였다.
댓글창의 결론은 역설적이다. TV는 멍청할수록 좋다. 보여줄 것만 보여주고 아무것도 듣지 않는 패널. 두뇌는 옆에 따로 두고, 내가 골라 갈아끼우는 박스. 다음에 TV를 고를 때 스펙표에서 한 줄 더 확인하게 될지도 모르겠다. 이 기기는 무엇을 듣고, 누구와 이야기하고 있는가.