국내 연구진이 인공지능(AI) 등에 널리 사용되는 그래픽 연산 장치(GPU)에서 메모리 크기 한계나 작은 연산을 동시에 수행하는 초병렬 연산으로 대규모 출력 데이터가 발생할 때 이를 잘 처리하지 못하던 난제를 해결했다.

7일 한국과학기술원(KAIST)은 전산학부 김민수 교수 연구팀이 한정된 크기 메모리를 가진 GPU를 이용해 수십, 수백 만개 이상의 스레드로 초병렬 연산을 하면서 수 테라바이트의 큰 출력 데이터가 발생할 때도 고속으로 전송·저장을 할 수 있는 데이터 처리 기술(일명 INFINEL)을 개발했다고 밝혔다.

중앙처리장치(CPU)와 달리 메모리 기능이 매우 제한적인 GPU 메모리의 일부 공간을 수백 만개 이상의 '청크'(chunk)라 불리는 매우 작은 크기의 단위들로 나눠 관리하는 기술이다.

초병렬 연산 내용이 담긴 GPU 커널(kernel) 프로그램을 실행하면 각 스레드가 메모리 충돌 없이 빠르게 필요한 청크 메모리들을 할당받아 출력 데이터를 저장할 수 있게 한다.

GPU 메모리가 가득 차도 무중단 방식으로 초병렬 연산과 결과 출력 및 저장을 지속할 수 있게 한다고 연구팀은 설명했다.

따라서 가정에서 사용하는 메모리 크기가 작은 GPU로도 수 테라바이트 이상의 출력 데이터가 발생하는 고난도 연산을 빠르게 수행할 수 있다.

연구팀이 이 기술의 성능을 다양한 실험 환경과 데이터 셋을 통해 검증한 결과, 기존 최고 성능 동적 메모리 기술보다 약 55배, 커널을 2번 실행하는 2단계 기술보다는 약 32배 향상한 연산 성능을 보였다.

김민수 교수는 "생성형 AI나 메타버스 시대에는 GPU 컴퓨팅의 대규모 출력 데이터를 빠르게 처리할 수 있는 기술이 중요해질 것"이라며 "이번에 개발한 기술이 그 역할을 할 수 있을 것"이라고 말했다.

이번 연구 결과는 국제 학술지 'PPoPP'에 지난 4일 실렸다.

윤승훈 기자  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>