금융회사가 인공지능(AI)을 도입·활용하는 전 과정에서 발생할 수 있는 위험을 체계적으로 관리하기 위해, 내부 규정과 위험평가 기준을 보다 구체적으로 마련하도록 하는 가이드라인이 제시됐다. AI 윤리기준을 근간으로 한 내규 정비와 정량적 위험평가 체계 구축이 핵심이다.

15일 금융감독원에 따르면 금융회사는 AI 윤리기준을 바탕으로 AI 위험관리규정과 세부 지침 등 관련 내규를 수립하고, 이를 실행하기 위한 업무 매뉴얼을 마련해야 한다. 내규에는 AI 거버넌스 구조를 비롯해 위험의 인식·측정·관리 방식, 고위험 AI 통제 절차, AI 시스템의 기획·개발·운영·활용 전 단계, 보안 및 소비자 보호 업무, 관련 법규 위반 시 처리 절차 등이 포함된다.

특히 금융 및 AI 관련 법규를 전 단계에서 준수해야 할 의무를 명확히 하고, AI 활용에 따른 최종 의사결정과 책임은 임직원이 지도록 내규에 반영하도록 했다. AI는 어디까지나 업무의 보조 수단이며, 판단과 그에 따른 책임은 인간이 부담해야 한다는 원칙을 분명히 한 것이다.

아울러 표준화된 매뉴얼을 통해 AI 도입과 활용의 전체 프로세스를 관리하고, 부서 간 역할과 책임을 명확히 해 잠재적인 위험에 대응하도록 했다. 이를 통해 AI 활용 과정에서 발생할 수 있는 책임 공백과 통제 사각지대를 줄이겠다는 취지다.

위험평가 체계도 보다 정교화된다. 금융회사는 AI 위험을 체계적으로 인식·측정·관리하기 위해 위험기반 접근법(Risk-based approach)에 따른 종합 평가체계를 구축해야 한다. 다만, 회사의 AI 도입 범위나 규모, 인력 여건 등을 고려해 규칙 기반 접근법 등 자체적인 위험등급 분류 방식도 허용된다.

위험평가는 금융 AI 7대 원칙 가운데 합법성, 신뢰성, 신의성실, 보안성 등 정량적 요소를 중심으로 설계된다. AI 활용 전 단계에서 관련 법규를 준수하고, 신뢰할 수 있는 데이터와 모델을 사용해야 하며, 금융소비자의 이익을 최우선으로 고려하고, 보안 기준과 점검·개선 체계를 갖춰야 한다는 원칙이 평가 항목에 반영된다.

이를 바탕으로 금융회사는 ▲위험 인식·측정 ▲위험 경감 ▲잔여위험 평가 ▲위험등급 산정의 절차를 거쳐 AI 서비스별 위험 수준을 종합적으로 분류하게 된다. 향후 이 같은 위험등급은 AI 서비스의 통제 강도와 관리 방식에도 영향을 미칠 것으로 보인다.