UN이 마침내 AI를 위한 새로운 국제 거버넌스 체제를 제시

post-thumb

일각에서 AI 회의론 혹은 거품론이 제기되고 있음에도 불구하고, 여전히 AI가 주도하는 미래는 한발짝씩 다가오고 있습니다. 얼마전 OpenAI CEO인 샘 올트먼은 “일반인공지능(Artificial General Intelligence, AGI)의 도래까지 이제 몇천일 전(a few thousand days ahead)”이라는 견해를 밝혀 또 한 번 세상을 떠들썩하게 했죠. 이렇게 급속한 AI 기술발전 속에서 각국과 단체들은 AI시대의 새로운 규범과 질서에 대한 논의를 활발하게 진행하고 있습니다.

이 가운데, UN이 마침내 9월 17일 안토니우 구테흐스 사무총장 명의의 비디오 메시지와 함께 “Governing AI for humanity(인류를 위한 AI 거버넌스)”라는 보고서를 내놓았습니다. 동 보고서에서 UN은 미래 AI 시대의 규범체계는 글로벌 차원에서 정립되어야 하며, 이를 담당할 가장 적합한 주체는 바로 UN임을 천명합니다. 더불어 AI 시대에 대한 진단과 예측에 근거하여 7가지의 정책 제언을 내놓고 있는바, 아래 그 내용을 간략히 번역하여 소개합니다.

[내용 출처: Governing AI for humanity 보고서, 24.09.17., https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_en.pdf]

< 글로벌 거버넌스의 필요성 >

AI는 세상을 근본적으로 전환시킬 잠재력을 가지고 있으며, UN이 천명한 “지속가능한 개발 목표(SDGs: Sustainable Development Goals)”를 조속히 달성하는데 크게 기여할 수 있을 것으로 평가한다. 
다만, AI가 보여주는 문제점들 - 디지털 격차(digital divide)의 확대, 오남용, 할루시네이션 등 - 은 전통적인 규제체계를 위협할 수 있으며 심각한 법률, 안보, 인도주의적 차원의 문제점을 일으킬 수 있다. 
따라서 결코 시장에만 맡겨둘 문제가 아니며, 반드시 전세계적 차원의 총체적인 거버넌스 체계 구축을 필요로 한다. 

현재 각국 정부, 기업, 국제기구 등에서 AI 규범체계를 정립하기 위한 노력을 기울이고 있지만, 그 중 어느 것도 전세계 국가들을 모두 포괄하고 있지는 않다. 
글로벌 차원에서의 거버넌스 구축이 이루어지지 않는다면 국가간 “AI 군비경쟁(AI arms races)”과 안전과 인권 측면의 “바닥으로의 경쟁(race to the bottom)”이 발생할 우려가 있다. 
따라서 이 국경없는 기술을 통치하기 위한 글로벌 거버넌스가 반드시 필요하며, 이는 모든 국가들의 연합체인 UN이 담당하는 것이 타당하다.

< AI 거버넌스 구축을 위한 일곱 가지 정책 제언 >

1. AI 연구를 위한 국제적 연구패널 구축: UN AI부서 등과 연계, 세계각국의 다양한 분야 학자들이 참여하는 독립적인 연구패널을 구축하여 AI의 가능성과 위험을 평가

2. AI 거버넌스 구축을 위한 정책대화: 전세계 국가와 기업 등 다양한 이해관계자가 참여하는 AI 거버넌스 정책 토론을 일년에 두 번 개최하여 바람직한 AI 규범체계 사례를 공유하고 발전방향을 토의

3. AI 표준(AI standards) 개발: 국제 표준기구 및 테크기업, 시민단체 등 참여를 통해 AI 관련 국제 표준을 구축

4. 역량개발 네트워크(Capacity development network): 국가 간의 디지털 격차를 해소하기 위해 핵심 역량, 컴퓨팅 자원, 학습데이터 등을 공유하기 위한 네트워크를 구축

5. AI를 위한 글로벌 펀드 조성: AI격차 해소를 위한 마중물로서 기부금에 기반한 글로벌 펀드를 조성

6. 국제 AI 데이터 프레임워크 구축: 국가간 데이터 격차 및 프라이버시 이슈 해소 등을 위해 UN국제무역법위원회(UNCITRAL) 등을 중심으로 학습용 데이터 구축을 위한 규범 마련

7. UN 사무국 내 AI부서 신설: 향후 AI 거버넌스 구축을 실무적으로 담당할 AI부서를 UN사무국 내에 설치

UN 주도의 글로벌 AI거버넌스 구축은 마침내 전세계적인 차원에서 AI 기술발전을 평가하고 위험에 대응하기 위한 인류 협력의 첫 발을 내디뎠다는 점에서 큰 의미를 가집니다. 이번 보고서에서 제시된 일곱 가지 정책 제언은 글로벌 협력체계 구축을 위한 플랫폼 마련을 우선시한다는 점에서 어찌보면 다분히 관료주의적(bureaucratic)이기도 합니다만, 향후 진정 의미있는 논의의 출발점이라는 의미를 과소평가해서는 안 됩니다. 또한, 동 보고서는 AI에 대한 국제적 인식 공유 측면에서도 의의가 있습니다. AI의 잠재력을 제대로 평가함과 함께 AI가 가져올 핵심적인 문제점의 하나로 지역간 디지털 격차를 제시하고, 그 해결을 위한 국제적 협력의 필요성을 천명하고 있죠.

다만, 그 중요성에도 불구하고 중요한 의문점은 남아 있습니다. 인간이 상상하기 어려운 속도로 발전하고 있는 인공지능 기술에 대해 과연 여러 국가들의 관료주의적 연합체인 UN이 충분히 빠르고 의미있게 대응해나갈수 있을까요? 샘 올트먼의 말대로 AGI의 등장이 몇 년 남지 않았다면, UN이 생각하는 국제협력을 통한 거버넌스 체계 구축은 기술발전의 속도에 한참 뒤쳐질 가능성이 있습니다. 변화에 기민하게 대응하는 민간주체들과 달리 정부기관과 국제기구는 다양한 절차로 인해 움직임이 둔하기 때문이죠. 며칠전 TED AI SHOW에서 이번 보고서 작성에 자문했던 이안 브레머(Ian Bremmer) 유라시아그룹 회장은 그럼에도 불구하고 이 일은 UN만이 할 수 있다고 답했습니다. 전 인류가 나아갈 방향에 대한 규범을 제시하는 UN의 막중한 권위 때문입니다. 지금까지와는 완전히 다른 변혁적 기술(transformative technology)의 대두에 맞추어 UN을 필두로한 인류의 대응은 어떻게 발전해 나갈지 계속 지켜보아야 하겠습니다.

인공지능경제연구소(AIEconLab)는 좋은 정보의 자유로운 교류를 통한 지식 발전을 지향합니다. 동 블로그의 모든 저작물은 자유롭게 퍼나르셔도 됩니다만, 출처를 밝혀주시면 감사하겠습니다. (출처: 인공지능경제연구소(AIEconLab) 블로그(aieconlab.com))