인공지능(AI) 규제기구, 유엔 AI행동규범 추진, IAEA급 기구 구상

 

유엔이 인공지능(AI)를 규제하기 위해 국제규약과 전문 기구 수립에 대한 언급을 했다는 소식입니다. 인공지능 (AI)가 인류의 위협이 될 수 있다는 위험성이 제기된 만큼, 이를 규제하기 위한 도구도 필요하다는 입장인데요. AI 규제기구에 대한 내용 포스팅해보겠습니다.

 

인공지능(AI) 규제 필요성

안토니우 구테흐스 유엔 사무총장이 현지시간으로 지난 12일 기자회견에서 허위 정보와 이에 다른 증오의 확산, AI 발전에 땨른 위협이 앞으로 통제할 수 없는 '괴수'가 될 수 있다고 언급하며, AI를 규제하기 위한 국제규약과 전문 기구 설립에 대한 필요성과 구상을 밝혔습니다. AI 규제에 대한 계획은 챗봇, 이미지 제작기, 음성 복제기 등 급격하게 고도화하고 있는 인공지능(AI) 도구들 때문에 정보의 진위를 판단하기가 어렵다는 경고 속에서 나오게 되었습니다. 인공지능(AI)는 정립된 과학적 사실을 저해하는 허위 정보를 대규모로 퍼뜨리는 능력을 가지고 있기 때문에, 인류가 존망의 위협을 받는다고 판단하고 있습니다. 이러한 현재의 사태에 대응을 하기 위해 새 유엔 기구의 본보기로는 국제원자력기구(IAEA)가 제시되었는데요. IAEA는 전문 지식을 토대로 인류 존립에 위협이 될 수 있는 원자력의 사용을 규제할 수 있는 권한을 가지고 있는 유엔 산하 기구입니다. 

 

 

인공지능(AI) 규제 방안

안토니우 구테흐스 유엔 사무총장은 디지털 플랫폼과 인공지능(AI) 사용에 대해  전 세계적인 차원에서의 규제가 필요하다고 언급했고, 이러한 규제를 위해 '국제 행동규약'의 제정을 추진할 계획이라고 밝혔습니다. 디지털 플랫폼에서 정보의 진실성을 확보하기 위해서, 유엔 행동규약이 내년에 열릴 미래정상회를 앞두고 개발되고 있다고 설명하면서, 인공지능(AI) 행동규약과 관련하여 어떠한 목적에서도 허위 정보와 혐오 발언의 이용, 지지, 증폭을 자제해야 한다는 원칙을 제시했습니다. 또한 정부에는 허위 정보, 정보 왜곡, 혐오 발언등에 대해 대응을 할 때 적법한 발언을 차단하거나 인터넷이나 매체 자체를 폐쇄하지 말고, 언론인과 독립적인 매체를 확실히 보호하라는 원칙을 주문하기도 했습니다. 그리고, 디지털 플랫폼을 통제하는 역할을 하는 기업들에게는 허위 정보와 증오 발언에 대한 대처방식, 알고리즘, 광고 영업을 투명하게 공개하고, 규제 때 언어와 국가에 따라 이중잣대를 적용하지 않아야 한다는 원칙을 제안했습니다. 이에 대해, 모든 인공지능(AI) 애플리케이션이 안전하고 책임감 있으며 윤리적으로 사용될 수 있도록 보장할 시급하고 즉각적인 대책이라고 강조했습니다.

 

 

인공지능(AI) 규제기구 현실 가능한가?

구테흐스 총장은, 국제기구와 정부가 수십 년 동안 과학과 전문지식을 지닌 인력에 투자를 소홀히 했기 때문에, 국제 기구를 설립하는 것이 쉬운 과제가 아닐 것이라고 언급하기도 했습니다. 인공지능(AI) 전문 인력이 충분하기 않기 때문에 국제 기구를 만들기가 어려울 수 있다는 전망을 내보인 것입니다. 이제 언급이 된 상황이기에 유엔에서 앞으로 어떠한 절차들을 거칠지 주목해야 할 것 같습니다.