인공지능(AI) 분야의 권위자인 요슈아 벤지오 캐나다 몬트리올대 교수가 AI의 발전 속도를 알아차렸다면 효용성보다는 안전성을 우선시했을 것이라며 우려를 표했다.

31일(현지시간) 벤지오 교수는 영국 BBC방송과의 인터뷰에서 자신의 평생 업적에 대해 "상실감을 느낀다"며 이같이 말했다.

AI는 매우 복잡한 과정을 수행하는 컴퓨터의 능력을 말하는데 이 작업을 완료하기 위해 전에는 인간의 지능이 요구됐다.

그러나 최근에는 오픈AI의 챗GPT처럼 인간과 같은 답변을 하는 AI가 등장하자 AI를 악용할 우려가 커진 상태다.

일각에서는 첨단 컴퓨터의 능력이 새로운 치명적인 화학 무기 개발과 같은 유해한 목적으로 쓰일까 우려한다.

최근 비영리단체 'AI안전센터'(CAIS)가 성명을 통해 "AI로 인한 인류 절멸의 위험성을 낮추는 것을 글로벌 차원에서 우선순위로 삼아야 한다"라고 촉구했고 여기에 오픈AI의 샘 올트먼 최고경영자(CEO) 등 IT기업 경영자와 과학자 350여명이 서명했다.

서명에 동참한 벤지오 교수는 군대가 AI 권한을 가져서는 안 된다고 강조했다.

벤지오 교수는 특히 AI가 점점 정교해지고 강력해짐에 따라 '나쁜 행위자'들이 AI 권한을 얻는 것이 우려된다고 말했다.

그는 "군대나 테러리스트, 또는 누군가 매우 화가 났거나 정신병이 있는 사람이 AI 시스템을 프로그래밍해 나쁜 일을 하게 시킨다면 이는 매우 위험할 수 있다"고 경고했다.

이어 "만약 (그 행위자들이) 우리보다 더 영리하다면 이 시스템을 멈추거나 피해를 막기가 어려울 것"이라고 덧붙였다.

벤지오 교수는 자신에게 방향성과 정체성을 줬던 평생의 업적인 AI가 더 이상 명확하지 않기 때문에 개인적으로 타격을 입었다고 털어놨다.

그는 "AI 분야에 있던 사람들에게는 감정적으로 어려운 일이며 길을 잃은 기분이라고 할 수 있다"면서도 "그러나 계속 나아가고 참여하고 토론하고 다른 이들이 함께 생각하도록 격려해야 한다"고 강조했다.

벤지오 교수는 강력한 AI 제품을 개발하는 업체들이 등록·관리돼야 한다고도 했다.

그는 "정부가 그들이 무엇을 하고 있는지 추적하고 평가해야 한다"며 "이는 항공기, 자동차, 의약품과 같은 다른 분야에서도 우리가 하는 최소한의 일일 뿐"이라고 설명했다.

그러면서 "AI 시스템과 밀접한 관련이 있는 사람들은 일종의 자격증과 윤리 교육을 받아야 하는데 컴퓨터 과학자들은 보통 이를 취득하지 않는다"고 부연했다.

벤지오 교수는 현 AI의 상황에 대해 "기후 변화 문제와 마찬가지로 개선하기에 늦지 않았다"고 말했다.

한편, AI의 발전에 따라 그 부작용이 우려되자 미국과 유럽연합(EU) 등은 이를 막기 위한 '자발적 AI 행동 강령' 마련에 착수했다.

마르그레테 베스타게르 EU 경쟁담당 집행위원은 전날 스웨덴 북부 룰레오에서 열린 제4차 미-EU 무역기술협의회(TTC)를 마친 뒤 공동 기자회견에서 업계 및 외부 기관 의견을 반영한 일종의 가이드라인 격인 행동강령 초안을 수주 내 마련할 것이라고 밝혔다.

<연합>

과학팀  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>