공공 AI 확산에 제도는 '공백'…정부, 가이드라인 마련 나선다

인공지능(AI) 기술은 빠르게 확산되고 있지만 이를 통제하고 조율할 제도는 그 속도를 따라가지 못하고 있다. 이런 가운데 스마트시티 등 공공 영역의 AI 도입이 현실화되면서, 정부는 뒤늦게 환경영향평가와 개인정보 보호 기준 마련에 착수했다. 11일 <메트로경제신문> 취재에 따르면, 공공 영역에서 AI 기술이 본격적으로 활용되고 있음에도 환경영향평가 및 개인정보 활용 지침이 구체적으로 마련돼 있지 않아 개인의 권리를 침해할 가능성이 있다는 지적이 제기되고 있다. 특히 최근 정부와 지방자치단체가 잇따라 도입 중인 스마트시티 등은 광범위한 지역의 데이터를 수집·처리하는 고위험 AI 기술을 기반으로 하는 만큼, 기준 없는 AI 활용은 곧 개인의 기본권 침해로 곧장 이어질 가능성이 높다. 스마트시티는 사물인터넷(IoT)과 AI 기술을 결합해 도시 서비스의 효율성과 지속 가능성을 높이고, 시민 삶의 질을 향상시키는 새로운 도시 모델이다. 실제로 지자체를 중심으로 한 스마트시티 기반의 AI 시스템 도입도 가속화되고 있다. 전북특별자치도는 최근 카카오엔터프라이즈와 함께 도시 데이터를 수집·활용하는 클라우드 네이티브 기반 스마트시티 데이터허브 플랫폼을 구축했다. 이 플랫폼은 재난 예방, 시설물 관리 등의 공공 서비스를 데이터 기반으로 제공하는 시스템으로, AI 학습 모델 생성·검증 기능까지 포함돼 있다. 그러나 해당 사업에는 개인정보 처리 기준, 정보주체 통보 여부, 자동화된 결정 구조에 대한 설명은 별도 명시돼 있지 않다. 정부는 최근 공공 AI 활용에 대한 제도적 기반 마련에 속도를 내고 있다. 정부는 지난해 12월 AI 전반을 다루는 '인공지능기본법'을 제정해 AI 관련 추가 입법과 제도 도입 배경을 마련했다. 2026년 시행 예정인 인공지능기본법은 고위험 AI 기술에 대해 안전성, 투명성, 영향평가 등을 의무화하고 있다. 과학기술정보통신부는 하위 법령 마련을 위해 'AI기본법 정비단'을 운영 중이며, 고영향 인공지능의 정의와 확인 절차, 세부 평가 기준 등을 마련 중이다. 보다 구체적인 행정 차원의 대응도 추진되고 있다. 행정안전부는 공공부문에서 도입하는 인공지능 기술과 서비스가 국민에게 미칠 잠재적 위험을 사전에 점검하는 'AI 영향평가 제도' 도입을 추진 중이다. 대상·지표·평가 방법 등을 마련해 이르면 내년부터 시행에 들어가는 게 목표다. 행안부가 추진 중인 영향평가는 단순한 기술 검증을 넘어, 편향성·책임소재·투명성 여부까지 포괄적으로 살펴볼 예정이다. 미국, 유럽연합(EU) 등은 이미 공공 AI에 대한 영향평가와 감시 체계를 도입해 운영 중이며, 행안부는 이를 참고해 국내 적용 방안을 검토하고 있다. AI 기술의 공공 도입이 확산되는 가운데, 개인정보 보호와 관련한 기존 법·제도에도 일부 진전이 있었다. 개정된 개인정보보호법은 AI 등 자동화된 시스템이 정보주체에 중대한 영향을 미치는 결정을 내릴 경우, 그 결정의 기준과 절차를 설명할 권리, 이의를 제기할 권리 등을 정보주체에게 보장하고 있다. 예컨대, AI 기반 배차 플랫폼이 알고리즘으로 사용자 계정을 정지시키는 경우, 당사자는 해당 결정에 대해 설명을 요구하거나 거부할 수 있다. 사업자는 정당한 사유가 없는 한 인간의 개입을 통한 재검토와 재결정을 거쳐야 하며, 자동화된 결정 여부를 사전에 공개해야 한다. 다만 이 같은 법 개정에도 불구하고, 제도의 실효성을 둘러싼 한계는 여전히 존재한다. 자동화된 결정에 대한 판단 기준은 여전히 사례 중심으로 해석되고 있으며, 실무 현장에서 적용될 수 있는 명확한 해석지침이나 대응 매뉴얼은 부족하다는 지적이 나온다. 한편, AI 개발 목적의 개인정보 활용에 대한 법적 근거 역시 국회에서 논의가 진행 중이다. 최근 국회에 발의된 복수의 개인정보보호법 개정안들은 적법하게 수집된 개인정보에 대해 일정 요건 하에 AI 개발과 성능 개선 목적으로 활용할 수 있도록 허용하고 있다. 이들 개정안은 기술적·관리적 보호조치를 전제로, 공익성과 정보주체 권리 침해 가능성을 종합적으로 평가해 활용을 허용하겠다는 취지다. /김서현기자 seoh@metroseoul.co.kr