인공지능(AI) 기계에 어떻게 결정을 내리는지 인간의 언어로 설명하는 방법을 가르치는 어려운 도전에 막이 올랐다.

최근 영국 일간 파이낸셜타임스(FT)에 따르면 최근 미국 실리콘밸리 팰로앨토연구소(PARC) 연구진은 미 국방부 산하 방위고등연구계획국(DARPA) 후원으로 이런 프로젝트에 들어갔다.

연구진은 선생님이 학생들을 가르치듯 선생님을 활용해 AI 시스템에 인간의 방식으로 설명하는 방법과 소통에 필요한 지식을 교육할 계획이다.

'알파고'에 적용된 심층학습 기술인 딥러닝은 사진과 일치하는 사람을 맞추거나 운전하는 능력을 보였지만, 왜 특정한 답을 내놓는지는 전문가들도 정확히 설명하지 못했다.

딥러닝에 쓰인 인공 신경망이 어떻게 판단을 내리는지 정확히 이해하지 못하는 점은 AI 활용에 걸림돌로 꼽힌다.

이에 군사와 의학 등 여러 산업 분야에서 AI를 전적으로 신뢰하고 활용할 수 있도록 하는 게 '설명하는 AI'의 목표다.

DARPA의 이 분야 프로그램 매니저 데이비드 거닝은 "AI가 어떻게 처방을 내렸는지를 이해할 수 있다면 의사들은 이미 더욱 폭넓게 AI 시스템을 쓰고 있었을 것"이라고 설명했다.

이 연구는 2021년까지 이어지며, 이때쯤 '설명하는 AI' 기술은 해군이 시험 중인 로봇 선박 등에 적용될 것으로 연구진은 내다봤다.

프로젝트를 이끄는 마크 스테픽 연구원은 '설명하는 AI'를 두고 "기계와 사람의 더 나은 소통 방식을 찾으려는 노력이 AI와 함께 일할 미래 인력을 편리하게 해줄 수 있다"고 기대했다.

국제팀  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>