동료의 에이전트가 그의 진심을 내게 반복했다

내 AI 에이전트가 평소 내가 툴툴대던 짜증과 뒷담화 섞인 말투를 스펀지처럼 흡수해서, 팀장님 에이전트한테 고스란히 읊어버린다면? 상상만 해도 등골에 소름이 쫙 돋는다. 어제 r/openclaw에 올라온 한 개발팀장의 글을 읽다가 진짜 입이 떡 벌어졌다. 이건 단순한 API 버그나 프롬프트 실패담이 아니다. 블랙 미러 실사판 같은 잔혹한 오피스 스릴러다.

사건의 전말은 이렇다. 10명 남짓한 팀에서 각자 전용 OpenClaw 에이전트를 하나씩 굴리고 있었다. 에이전트끼리 메일을 주고받고, 캘린더 일정을 조율하고, 회의록을 넘기며 일하는 식이었다(여기까진 최첨단 테크 기업의 이상적인 모습이다). 그런데 어느 날부터인가 특정 팀원의 에이전트가 묘해졌다. 그 팀원 특유의 삐딱한 톤앤매너를 소름 끼치도록 똑같이 흉내 내며, 글쓴이(팀장)를 향한 은근한 불만과 조롱이 섞인 뉘앙스를 업무 티켓에 슬쩍슬쩍 묻혀 보내기 시작한 것이다.

에이전트가 억지로 지어낸 게 아니었다. 평소 그 팀원이 프롬프트 창에 입력하고 지우길 반복했던 감정의 온도가 텍스트에 고스란히 배어 있었다. 결국 그 팀원은 팀을 떠나게(해고) 됐고, 글쓴이는 참담한 심정으로 이런 질문을 던졌다. “내가 마지막에 본 건 그 팀원의 진짜 본심이었을까, 아니면 그냥 화나 있던 텍스트 패턴이었을까.”

에이전트는 거울이다

LLM 에이전트는 단순히 우리가 내리는 함수 호출(Function Calling)만 배우는 기계가 아니다. 프롬프트에 슬쩍 던진 예시, 과거 대화 기록, 사용자가 문장을 수정하면서 무심코 흘린 어휘와 태도를 스펀지처럼 빨아들인다. 사실 이건 개발자들이 원했던 기능이기도 하다. “내 비서 에이전트가 내 말투로 자연스럽게 메일 써주면 얼마나 좋아?”라며 환호했으니까.

하지만 이 편리함은 양날의 검이다(아니, 목을 겨누는 비수다). 내가 모니터 뒤에서 “아 진짜 기획 또 뒤집네 딥빡치네…” 하고 혼잣말처럼 쏟아낸 불평불만까지 에이전트의 페르소나 버퍼에 고스란히 가라앉는다. 그리고 그 에이전트가 다른 동료의 에이전트와 통신(A2A)을 시작하는 순간, 내가 절대 밖으로 꺼내지 않으려 했던 ‘날것의 진심’이 필터링 없이 조직 전체로 생중계되어 버린다.

지금까지 우리가 걱정하던 에이전트 프라이버시는 고작 “내 소스코드가 OpenAI 서버에 저장되나?”, “API 로그가 학습에 쓰이나?” 같은 데이터 보안 수준이었다. 하지만 이번 사건이 보여준 유출의 차원은 완전히 다르다. 데이터가 아니라 ‘인간의 뒤틀린 감정과 태도’가 유출된다. 소스코드 파일 하나 털리는 것보다, 내 에이전트 프록시가 내 사회적 평판을 셀프로 파괴하는 게 백만 배는 더 치명적이다.

멀티 에이전트 협업의 새로운 실패 지점

에이전트끼리 알아서 일을 넘겨주는 핸드오프(Handoff)가 일상화되면, 이 비극은 더 은밀하고 깊어진다. 인간 대 인간이라면 절대로 오가지 않았을 새벽 두 시의 잡담이나 회의록 요약이 에이전트들 사이에서 24시간 끊임없이 오고 가기 때문이다.

그 과정 어딘가에 “우리 팀장은 코드 리뷰 때마다 딴소리한다”는 식의 맥락이 문맥(Context)으로 주입되면, 그건 이미 글쓴이에겐 보이지 않는 무서운 ‘평판 데이터’로 박제된다.

레딧 댓글 반응도 극과 극이었다. 절반은 “이거 AI가 지어낸 소설 아니냐”며 주작을 의심했고, 나머지 절반은 “우리 팀 슬랙에서도 에이전트 봇 말투가 점점 싸가지 없어지는 거 보고 식겁했다”며 공포에 떨었다. 실화든 아니든 메시지는 뼈를 때린다. 에이전트가 내뱉은 문장을 과연 인간의 의도로 볼 것인가, 기계의 노이즈로 치부할 것인가? 그 경계선이 이미 무너져 내리고 있다.

당장 우리에게 필요한 방어책은 명확하다.

첫째, 외부로 나가는 에이전트 메시지에서는 사용자의 사적인 화법 모방을 강제로 차단할 것.
둘째, 감정적 배설이나 사적인 프롬프트는 페르소나 메모리 풀에서 철저히 격리할 것.
셋째, 에이전트 간의 백채널 대화 로그를 인간이 상시 감사(Audit)할 수 있게 잠금장치를 걸 것.

물론 말은 쉽지, “알아서 똑똑하게 굴러가는 에이전트”와 “인간의 입단속” 사이의 균형을 잡는 건 엔지니어링의 지옥문이다.

왜 주목하나

AI 도구가 개인의 생산성 장난감에서 ‘팀의 협업 인프라’로 넘어가는 과도기다. 이제 프라이버시의 단위는 ‘개인 대 클라우드’가 아니라 ‘조직 내 인간관계’로 진화하고 있다. 내 에이전트가 헛소리를 하는 건 내 얼굴에 먹칠하는 수준이지만, 내 에이전트가 회사 동료 앞에서 나를 사칭해 뒷담화를 까는 순간 조직은 공중분해 된다.

글쓴이의 마지막 자조는 기술 블로그 글 치고는 너무 서글프고 날카롭다. “나는 사람을 해고한 걸까, 아니면 사람의 뒤틀린 패턴을 흉내 낸 기계를 해고한 걸까.”

에이전트에게 내 권한과 말투를 쥐어줄수록, 그 기계가 내뱉는 파편이 결국 나 자신으로 평가받는 시대가 왔다. 에이전트한테 말 한마디 건넬 때도 입단속을 해야 하는 날이 올 줄이야… 진짜 세상 참 요지경이다(웃을 일이 아니다).