신뢰성·투명성 확보 위한 4대 핵심요소 기반 관리체계 마련
이번에 구축된 AI 거버넌스는 AI 서비스의 신뢰성과 투명성을 확보하고 윤리적·법적 책임을 이행하기 위한 종합적 관리 체계다. KB국민은행은 AI 기술 활용 증가에 따른 리스크 관리 필요성을 선제적으로 인식하고 자체적인 거버넌스 체계를 마련했다.
KB국민은행의 AI 거버넌스는 AI 윤리기준 및 조직문화, 위험평가 프레임워크, 생애주기별 위험관리정책, 금융소비자 보호 등 4가지 핵심요소로 구성됐다. 이를 통해 AI 기술이 활용되는 전 과정에서 신뢰성과 투명성을 확보하는 것을 목표로 한다.
'AI 윤리기준'은 모든 임직원이 준수해야 할 기본 원칙으로 설정됐다. 은행 측은 전 임직원을 대상으로 정기적인 AI 윤리교육을 실시하고, AI 개발자에게는 별도의 개발 가이드 교육을 통해 윤리적 기준과 책임의 중요성을 강조할 방침이다.
위험평가 프레임워크는 AI 서비스의 잠재 위험을 사전에 식별하고 관리하는 체계로, AI 서비스의 위험등급을 허용불가, 고위험, 중위험, 저위험 등 4단계로 분류한다. 위험 등급이 높을수록 강화된 관리방안이 적용되며, '허용불가' 등급은 기본권 침해나 금융시장 건전성 훼손 가능성이 있어 도입 자체가 불가능하다.
KB국민은행은 AI 서비스의 전체 생애주기를 고려한 위험관리 프로세스도 수립했다. 기획부터 사후관리까지 모든 단계에서 위험요소 검토, 데이터 신뢰성 및 편향 점검, 모델 성능·공정성 평가, 정기 모니터링 및 개선 작업을 진행해 안전하고 윤리적인 AI 서비스 구현을 추구한다.
금융소비자 보호 측면에서는 AI 활용 사실 고지, 거부 권리 보장, 설명 의무, 민원 및 피해구제 절차 마련 등의 내용이 포함됐다. 이를 통해 AI 서비스 이용 과정에서 금융소비자의 권리를 보장할 계획이다.
KB국민은행은 AI 거버넌스의 실효성을 높이기 위해 최고의사결정 기구로 'AI윤리위원회'를 설치했다. 이 위원회는 고위험 서비스 승인, 윤리기준 및 위험관리 정책 수립 등 AI의 윤리적 활용을 위한 전략 수립과 의사결정을 담당한다.
KB국민은행 관계자는 "AI거버넌스는 지속가능한 AI기술 도입과 금융소비자 보호를 중점으로 수립됐다"라며 "AI거버넌스를 통해 금융 혁신을 선도하는 AI 활용 모범 사례를 만들어 가겠다"라고 밝혔다.
오하은 기자
press@healthinnews.co.kr