인공지능(AI) 기술 진화가 급속도로 이뤄지면서 그 부작용을 최소화하고자 전 세계가 관련 규제 제정에 나섰다.

AI의 발전 속도에 비해 규제가 미비하다는 지적과 그 부작용의 여파가 커져 인류의 존립까지 위협할 수 있다는 우려가 꾸준히 제기되면서 각국이 AI 관련 규범 마련에 속도를 내고 있다.

21일(현지시간) 유엔 총회에서는 회원국들이 AI의 안전한 사용에 관한 국제적인 합의를 시급히 마련해야 한다는 내용의 결의를 만장일치로 채택했다.

국제사회가 유엔총회 차원에서 AI 관련 결의를 공식 채택한 것은 이번이 처음이다. 관련 규제의 필요성을 회원국들이 공유하고 있는 것으로 풀이된다.

유엔총회 결의는 국제법상 구속력은 없지만, 만장일치로 회원국이 찬성했다는 점에서 향후 국제사회가 AI 관련 규제나 거버넌스 체계를 논의하고 마련하는 데 있어 바로미터가 될 전망이다.

미국 주도로 제출된 이번 결의안은 AI 개발과 사용이 빠른 속도로 가속화되고 있다는 점을 인식하고, 안전하고 신뢰할 수 있는 인공지능 시스템에 관한 글로벌 합의를 이루는 게 시급하다는 점을 강조했다.

또 적절한 안전장치 없이 AI를 사용하거나 국제법을 위배해 사용해선 안 된다고 못 박고, AI를 부적절하거나 악의적으로 설계·개발·배포·사용해선 안 된다고 경고했다.

이에 앞서 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련했다.

지난 13일 유럽의회 본회의에서 가결된 'AI법' 최종안에 따르면 EU는 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제한다.

고위험 등급으로 분류되는 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술 사용 시 사람이 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다.

범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)를 개발하는 기업은 EU 저작권법을 반드시 준수해야 하며 AI의 학습과정에 사용한 콘텐츠를 명시해야 한다.

법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있다.

이 밖에도 각국이 AI 관련 규제 마련에 나섰거나 이를 검토하고 있다.

주요 7개국(G7)은 작년 10월 AI 시스템 개발 조직이 지켜야 할 국제 지침 및 행동규범에 합의했다.

국제지침과 행동규범은 인권에 중대한 위험을 초래할 방법으로 고도의 AI를 개발·도입해서는 안 된다고 강조했다.

미국에서는 조 바이든 대통령이 작년 10월 AI 모델이 국가 안보나 경제 및 건강상 위험을 초래할 경우 개발자가 연방 정부에 이를 통지해야 한다는 내용을 골자로 하는 행정명령에 서명했다.

미국 정부는 또 AI를 이용해 위험한 생물학적 물질을 생산하는 것을 차단하기 위해 생물학적 합성 스크리닝 표준을 개발하며 AI를 이용한 사기를 막기 위해 AI로 만든 콘텐츠를 식별하기 위한 워터마킹 등 콘텐츠 인증 방침도 개발할 예정이다.

일본 정부는 생성형 AI 개발자를 염두에 둔 규제 도입을 검토하고 있는 것으로 전해졌다.

산케이신문 보도에 따르면 일본 정부는 이른 시일 내에 전문가들로 구성된 'AI 전략회의'를 열어 AI 개발자를 겨냥한 규제 도입 필요성을 설명하고, 6월께 마련할 경제 재정 운영 지침에 관련 내용을 넣을 방침이다.

일본 정부는 그동안 기업의 자율적인 AI 개발을 인정한다는 방침을 유지했으나, AI의 급속한 진전에 따른 허위 정보 유포와 인권 침해 가능성이 커지면서 AI 개발자를 대상으로 하는 구속력 있는 규제가 있다고 판단했다고 산케이는 보도했다.

한국도 AI 규범 마련을 위해 지난해부터 관련 논의를 진행하고 있다.

지난해 AI 산업을 진흥·촉진·지원하는 내용과 고위험 영역의 AI와 관련해서는 사업자에게 의무를 부담하는 내용 등을 포함한 '인공지능법'과 '인공지능책임법'이 발의돼 현재 국회에 계류 중이다.

과학기술정보통신부는 AI 규범 관련 논의를 이끌기 위해 지난해 12월 전문가 간담회를 개최하는 등 의견 수렴도 진행했다.

<연합>

산업팀  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>