"AI기술만 앞서면 무슨 소용…제도·위험관리 3박자 맞아야"[경찰人]

[이데일리 원다연 기자] “인공지능(AI) 도입 현장에서 가장 흔하게 나타나는 실패 유형이 기술만 앞서는 경우입니다. 기술뿐 아니라 제도와, 위험관리 등 3개의 축이 균형을 이뤄야 AI가 현장에서 제대로 기능할 수 있습니다.”

이현구 경찰청 인공지능협력관이 최근 서울 서대문구 경찰청에서 이데일리와 인터뷰를 하고 있다. (사진=원다연 기자)

이현구 경찰청 인공지능협력관은 최근 서울 서대문구 경찰청에서 이데일리와 가진 인터뷰에서 이같이 강조했다. 국방과학연구소, 방위사업청 등에서 데이터 관련 업무를 담당해온 이 협력관은 지난 2023년 경찰청에 들어와 데이터정책팀장을 거쳐 신설 보직인 인공지능협력관을 맡고 있다.

치안 업무 전반에 AI 도입을 추진하고 있는 경찰은 지난해 말 인공지능서비스팀을 신선했고, 범정부 차원의 인공지능 협력을 담당할 인공지능협력관 보직도 신설했다.

이 협력관은 “경찰은 AI 대전환을 단순한 기술 도입으로 보지 않는다”며 “기술 도입에 따른 내부 변화 관리 뿐만 아니라 관련 부처와 정책 방향을 공유하고 부처간 사일로 현상(조직 간 장벽으로 정보 공유와 협업이 저해되는 상태)을 방지하는 게 핵심 과제다. 인공지능협력관이 그 역할”이라고 설명했다.

그는 AI 도입 과정에서 기술뿐 아니라 거버넌스, 위험관리가 균형을 이뤄야 현장에서 AI가 제대로 작동할 수 있다는 점을 강조했다.

이 협력관은 “기술은 AI 시스템이 제대로 작동하는가의 문제이고, 거버넌스는 누가 어떤 기준으로 AI 도입을 결정하고 책임지는가의 문제”라며 “또 위험관리는 기술과 거버넌스가 갖춰진 상태에서도 사이버 위협이나 데이터 오남용 등의 위험을 사전에 식별하고 대응하는 체계라고 할 수 있다”고 말했다.

AI 기반의 범죄 예측 시스템을 도입한다고 가정해보면 기본적으로 기술 측면에서 예측 모델의 정확도와 편향성을 검증해야 한다. 또 현장 경찰관이 그 시스템의 출력 결과를 어떻게 활용하고 최종 판단 권한은 누구에게 있는지, 또 데이터 유출시 대응 절차는 어떻게 되고 적대적 공격에는 어떻게 대비할 것인지 역시 사전에 명확히 규정돼 있어야 한다고 그는 설명했다.

이 협력관은 치안 부문의 AI가 특히 시민들의 기본권과 밀접하게 연관돼 있는 만큼 위험 평가 등을 엄격하게 적용한다는 점도 강조했다.

그는 “치안 AI는 유럽연합(EU)의 AI법(AI Act) 기준으로 고위험 AI(사람의 생명·안전·기본권에 큰 영향을 줄 수 있는 AI 시스템)에 해당하는 영역이 많아 도입 전 위험 평가와 인간 검토(AI가 한 판단을 사람이 직접 확인·통제하는 장치) 요건을 엄격히 적용하는 방향으로 기준을 정립하고 있다”며 “국민의 안전을 지키는 수단이 국민의 인권을 침해하는 수단이 되어선 안되기 때문”이라고 말했다. 이어 “궁극적으로 경찰은 기술과 거버넌스, 위험관리의 균형을 통해 국민으로부터 신뢰받는 안전한 AI 활용을 지향하고 있다”고 강조했다.