◎ 세계경제포럼(WEF)이 AI 시스템 인증 프로그램의 필요성과 관련 요건을 검토한 ‘책임 있는 AI 연구소(RAII)’* 관계자의 기고문을 게시

* (Responsible AI Institute) AI의 신뢰성·안전성·공정성 증진 목적의 거버넌스 툴 구축을 도모하는 비영리 조직

- AI는 단백질 구조 예측을 바탕으로 신약 개발·전염병 대응·농업 혁신을 주도하는 등 다수 산업의 발전을 급속도로 촉진하는 반면, 해석의 어려움, 예측 불가능한 결과 초래 가능성, AI 도입에 따른 기존 권력 불균형 문제 악화 등의 위험성을 내포

- AI 도입이 가속화됨에 따라* ▲혁신 촉진과 피해 경감 간의 균형 양립 ▲다양한 맥락 에서의 AI 영향 이해 ▲사회의 규제 능력보다 빠르게 발전하는 AI의 페이싱문제(pacing problem) 해결을 위한 장기 비전이 필요

* AI에 대한 민간 투자가 ’20~’21년간 두 배 증가하고 관련 시장 또한 ’30년까지 38.1%의 연평균성장률(CAGR)로 확대될 전망

◎ ‘AI 시스템 인증 프로그램’은 AI 도입에 따른 과제 대응을 지원할 수 있는 효과적인 방안

- 조직이 AI 시스템의 규정 준수·표준 부합·품질/테스트 요건 충족 여부를 소비자, 협력 기업, 규제기관에 입증하는 수단으로 활용 가능

- 타 분야의 연성법(Soft Law) 메커니즘*과 같이 법률 보완 및 초국가적 표준 개선을 도모하고, AI 시스템의 복잡성을 완화할 것으로 기대

* (예) 건물의 친환경 설계·시공·운영을 증명하는 LEED 인증, 커피콩 농가에 대한 적정 가격 지불 및 농업 관행에서의 사회적·환경적 기준 준수 여부를 보장하는 공정무역 인증 등

- AI 시스템 인증 프로그램의 권위를 확보하기 위해서는 ▲주제 분야의 전문가를 통한 개발 ▲독립적인 제3자를 통한 공급 ▲감사를 수행할 수 있는 증적(trails)* 제공이 필수

* 로그(log) 기록과 같이 증거가 될 수 있는 흔적을 의미

◎ AI 보급 규모와 속도를 고려하면, 현재 전 세계에 배포되고 있는 AI 시스템 다수에 비효율성·불안전성·편향 가능성이 존재할 수 있으며, 효과적·지속적 규제 메커니즘이 마련되지 않을 경우 이 중에서 신뢰할 수 있는 AI 시스템을 구별하기 쉽지 않을 전망

- 시민단체·기업·입법가가 책임 있는 AI 인증 프로그램의 잠재력을 검토해야 할 시점이 도래한 가운데, EU와 영국이 규제 측면에서 진전을 보이는 것으로 평가

- ▲(EU) 인공지능법* 초기 초안을 통해 연성법 메커니즘의 역할을 인정 ▲(영국) AI 시스템의 보증·인증 생태계 개발을 위한 로드맵** 발표

* Artificial Intelligence Act draft      ** The roadmap to an effective AI assurance ecosystem

(참고 : WEF, This underestimated tool could make AI innovation safer, 2022.08.05.)

* 관련링크

https://www.weforum.org/agenda/2022/08/responsible-ai-certification-programmes/