"인공지능(AI)에 대한 관리자의 역량이 더욱 부각되고, 기본이 더 중요해질 것이다."

10여 년 전 로봇저널리즘을 연구하며 인터뷰를 진행하던 당시, 한 지인이 했던 말이다. 그 무렵만 해도 많은 기자들은 AI가 언론 환경에 미칠 영향을 크지 않게 봤다. 현장에서는 '크게 달라질 것은 없다'는 인식이 우세했다.

이런 분위기 속에서 나온 이 한마디는 당시에는 다소 과장처럼 들렸다. 그러나 지금에 와서 보면, 기술 그 자체보다 이를 어떻게 이해하고 활용하느냐, 그리고 그 판단과 책임을 누가 지느냐가 더 중요해질 것이라는 점을 비교적 정확히 짚은 말이었다.

최근 금융업에서 강화되고 있는 내부통제 논의도 결국 같은 질문으로 이어진다. AI 기반 심사와 자동화된 리스크 관리, 알고리즘 의사결정이 일상화되고 있지만, 이를 실제로 이해하고 점검할 수 있는 관리자의 역량은 여전히 제도 안에서 추상적인 상태다.

통제의 필요성은 반복해서 강조되지만, 무엇을 어디까지 관리해야 하는 지에 대한 기준은 분명하지 않다.

AI 활용 역량과 내부통제는 이제 분리해서 보기 어려운 과제가 됐다. 알고리즘이 어떤 데이터를 학습했고 어떤 기준으로 판단했는지를 이해하지 못한다면, 통제는 형식에 그칠 수밖에 없다. '사람이 최종 책임자'라는 원칙만으로는 충분하지 않다. 그 책임을 지기 위해 필요한 이해 수준과 판단 기준, 점검 절차가 함께 구체화돼야 한다.

현재 금융당국이 제시한 AI 위험관리 프레임워크 역시 방향성은 분명하지만, 상당 부분은 금융사의 자율에 기대고 있다. 3중 내부통제 장치와 고위험 AI 승인 절차도 제도적으로는 촘촘해 보이지만, 윤리원칙이 선언에 머물거나 전담 조직이 자문기구로 남을 가능성도 배제하기 어렵다. 최고경영자(CEO) 보고 체계 역시 책임 강화를 의도했지만, 현실에서는 '보고를 했다'는 사실이 면책 논리로 작동할 여지도 있다.

결국 관건은 기술이 아니라 사람이다. AI 내부통제는 시스템의 문제가 아니라, 이를 이해하고 점검하며 책임질 수 있는 관리 역량을 어떻게 제도화할 것인가의 문제다. 기술 도입 속도에 비해 통제의 기준과 역량이 뒤따르지 않는다면, AI는 효율의 도구가 아니라 또 하나의 리스크로 남을 수밖에 없다.