경찰의 스토킹 남용 파문과 고객 이탈, AI 감시 기업 플록의 대규모 감원 사태

차량 번호판 인식 기술을 바탕으로 미국 전역의 경찰과 지자체에 감시 카메라망을 공급해 온 스타트업 플록 세이프티(Flock Safety)가 대규모 인력 감축에 들어갔다. 감시 기술의 사적 오남용에 대한 비판 여론이 커지고, 지방자치단체의 계약 해지가 잇따르자 회사는 대규모 희망퇴직을 통해 인력 축소에 나섰다. 이번 사태는 인공지능 기반 감시 소프트웨어가 운영 기준과 통제 장치를 제대로 갖추지 못했을 때 기업 생존 자체가 어떻게 위협받는지를 보여준다.

1. 무슨 일인가: 스토킹 스캔들과 지자체 이탈, 그리고 희망퇴직

플록 세이프티는 1,500여 명에 달하는 전 직원을 대상으로 파격적인 위로금을 내건 자발적 희망퇴직 프로그램을 공지했다. 사측은 내부 공지를 통해 회사 설립 이래 가장 후한 보상 조건을 제시했다고 밝혔다. 신청 인원 다수를 승인할 방침이며, 전체 임직원 중 상당수가 이 제도를 통해 회사를 떠날 것으로 보고 있다. 이번 희망퇴직이 실행되지 않았다면 대규모 강제 정리해고가 불가피했을 만큼 회사의 재정 및 경영 상황은 급격히 악화했다.

인력 감원의 직접적인 계기는 회사의 핵심 도구인 자동 번호판 인식(ALPR) 기술을 둘러싼 대규모 오남용 파문이다. 워싱턴포스트 보도에 따르면, 공권력을 가진 경찰관들이 플록의 위치 추적 시스템을 사적으로 악용해 아내나 여자친구, 헤어진 연인을 미행하고 스토킹한 사례가 최소 46건 적발되었다.

이 보도 이후 지자체들의 계약 철회가 도미노처럼 이어졌다. 플로리다주와 텍사스주가 플록 기술 도입 중단을 공식 선언했다. 감시 반대 시민단체 조사에 따르면 지난 8월 한 달 동안에만 미국 내 90개 도시가 플록과의 계약을 전격 해지했다. 이는 전월 대비 4배나 급증한 수치다. 고객 이탈이 가속화되면서 플록의 최고경영자 개럿 랭글리(Garrett Langley)는 팟캐스트 인터뷰에서 “이번 여론 역풍으로 인해 가장 큰 타격을 입은 부분은 내부 직원들의 사기”라고 토로하기도 했다.

2. 왜 중요한가: 통제 장치 없는 기술이 초래한 사업 붕괴

기술 기업의 성패는 단순히 알고리즘의 인식률이나 카메라 하드웨어의 성능으로만 결정되지 않는다. 데이터가 실제로 현장에서 어떻게 쓰이고 관리되는지 통제하지 못하면 기술 자체가 기업의 목을 조르는 칼이 된다. 이번 플록 사태가 테크 업계 전반에 던지는 핵심 시사점은 세 가지다.

첫째, 권한 분리와 감시 로그 체계의 부재는 치명적인 사업 위험이다. 경찰이 범죄 수사를 위해 차량 번호판을 조회할 때, 그 조회가 정당한 공무 수행인지 사적인 호기심이나 범죄 행위인지를 시스템 차원에서 걸러내지 못했다. 접근 권한을 엄격히 나누고, 비정상적인 위치 조회가 발생했을 때 즉각 경고를 띄우거나 사후 감사를 강제하는 도구가 없었다. 그 결과 기술 제공 기업이 공권력의 스토킹 범죄를 방조했다는 오명을 쓰게 되었다.

둘째, 공공 조달 시장의 특수성과 도미노식 계약 해지 위험이다. 공공 기관과 지자체는 시민의 여론과 정치적 책임에 극도로 민감하다. 보안이나 개인정보 침해 논란이 불거지면 비용이나 편의성을 떠나 계약을 즉시 파기하는 경향이 있다. 플록은 한 달 만에 90개 도시의 계약을 잃었다. B2B(기업 간 거래)나 B2G(공공 조달) 소프트웨어 사업에서 고객 신뢰 붕괴는 서서히 일어나는 것이 아니라 일순간에 매출 절벽으로 이어진다.

셋째, 직원의 사기 저하와 우수 인력 유출이다. 자신이 개발하고 운영하는 소프트웨어가 공익이 아닌 스토킹 범죄에 쓰이고 있다는 비판을 받으면 내부 엔지니어와 실무진은 심각한 도덕적 회의감에 빠진다. 최고경영진이 언급했듯 내부 사기 저하는 제품 개선 속도를 늦추고 조직 문화를 무너뜨린다. 희망퇴직은 겉으로는 자발적 형태를 띠고 있지만, 실제로는 회사의 미래에 회의를 느낀 핵심 인재들이 가장 먼저 이탈하는 역효과를 낳는다.

3. 실무진 관점의 기술 분석: 무엇이 잘못 설계되었는가

플록의 번호판 인식 플랫폼은 하드웨어와 클라우드를 결합하여 차량의 이동 경로를 빠르게 재구성하는 데 탁월했다. 그러나 시스템 설계 단계에서 필수적으로 갖췄어야 할 ‘보호 장벽’을 생략했다.

• 조회 목적 확인 절차의 생략: 사용자가 특정 번호판을 검색할 때 사건 번호나 법원 영장 번호를 입력하지 않아도 조회가 가능하도록 방치했다. 검색 목적을 입력하도록 강제하는 최소한의 장치만 있었어도 사적 조회를 크게 줄일 수 있었다.
• 이상 행동 탐지 기능의 부재: 특정 인물이나 차량을 심야 시간대에 반복적으로 검색하거나, 관할 구역 밖의 경로를 지속해서 추적하는 행위는 전형적인 스토킹 및 남용 패턴이다. 시스템이 이러한 이상 패턴을 감지하여 관리자에게 알리는 내부 통제 소프트웨어가 작동하지 않았다.
• 데이터 보관 및 공유 기준 미비: 지자체 간, 혹은 경찰서 간에 데이터를 무제한으로 공유할 수 있도록 열어둠으로써 한 번 유출되거나 남용된 데이터의 파급력이 걷잡을 수 없이 커졌다.

4. 당장 무엇을 해야 하는가: 테크 기업 실무 대응 수칙

영상 데이터, 개인정보, 위치 정보를 다루는 인공지능 및 플랫폼 기업은 이번 사태를 반면교사 삼아 즉시 내부 시스템 점검에 착수해야 한다.

첫째, 제품 설계 단계부터 권한 통제 기능을 기본 탑재하라

사용자가 데이터를 다룰 때 ‘누가, 언제, 어떤 목적으로’ 접근했는지 기록하는 상세 로그 기능을 필수 구현해야 한다. 관리자가 개입하지 않아도 이상 조회가 감지되면 즉시 계정을 일시 정지하는 자동 차단 규칙을 도입해야 한다. 현장 실무자가 임의로 설정을 끌 수 없도록 최고 권한을 분리하는 구조가 필수적이다.

둘째, 고객 오남용 방지 약관과 계약 해지 조항을 정비하라

고객이 소프트웨어를 계약 목적 외로 사용하거나 불법 행위에 악용할 경우, 기술 제공 기업이 일방적으로 서비스를 차단할 수 있는 법적 근거를 계약서에 명시해야 한다. 플록처럼 고객의 일탈로 인해 기업 전체의 브랜드와 신뢰도가 파괴되는 사태를 막으려면, ‘잘못 쓴 고객’에게 책임을 묻고 즉각 차단할 수 있는 운영 기준을 공표해야 한다.

셋째, 단일 공공 시장 의존도를 낮추고 리스크를 분산하라

특정 정부 기관이나 공공 프로젝트에 매출의 과반 이상을 기대는 구조는 위험하다. 정책 변화, 정치적 논쟁, 언론 보도 하나로 사업 전체가 휘청일 수 있다. 공공 안전 시장뿐만 아니라 물류, 주차 관리, 민간 보안 등 데이터 오남용 소지가 적고 계약 안정성이 높은 민간 시장으로 서비스 포트폴리오를 다변화해야 한다.

5. 결론 및 실무 제언

플록 세이프티의 대규모 희망퇴직은 기술 기업이 윤리와 안전장치를 경시했을 때 치러야 하는 대가가 얼마나 가혹한지 증명한다. 1,500명 규모로 급성장했던 유망 테크 기업이 불과 수개월 만에 수십 개 도시에서 쫓겨나고 감원을 피할 수 없게 된 이유는 알고리즘의 오작동 때문이 아니라, 오남용을 막지 못한 운영 기준의 실패 때문이었다.

현장의 실무진과 의사결정권자는 이제 ‘우리 제품이 얼마나 빠르고 정확한가’를 묻는 데서 나아가야 한다. ‘우리 시스템이 나쁜 의도를 가진 사용자에 의해 악용될 가능성은 없는가’, ‘악용을 감지하고 차단할 수 있는 기능이 사전에 내장되어 있는가’를 제품 기획 초기부터 반드시 검증해야 한다. 기술의 신뢰를 잃는 순간, 고객과 직원은 가장 먼저 등을 돌린다.