CUDA 통합 메모리 기법의 최적화에 관한 연구

Abstract

본 연구는 레이트레이싱 알고리즘을 통해 NVIDIA CUDA에서 제안하는 통합 메모리 기법의 효용성을 확인하고 해당 기법의 최적화 방안에 대해 다룬다. 통합 메모리 기법은 NVIDIA CUDA에서 제안되는 메모리 관리 기법 중 하나로 가상 메모리를 사용하여 CPU 및 GPU 메모리를 하나의 메모리처럼 사용하도록 만드는 기법이다. GPU 프로그래밍을 위해서는 CPU에서 선언된 데이터가 GPU 메모리로 복사되거나 반대의 과정이 반드시 필요한데, 이 과정은 모두 프로그램 내부에 코드로 명시되어야 하므로 프로그램을 복잡하게 만들고 프로그램의 성능을 저하시킬 수 있다. 따라서 효과적인 GPU 프로그래밍을 위해서는 유효한 메모리 관리 기법에 관한 연구가 필요하며 CUDA에서는 GPU 프로그램이 성능 개선안으로 통합 메모리 기법을 제시 한다. 본 논문에서는 통합 메모리 기법의 유효성을 확인하기 위해 메모리 접근 측면에서의 성능 증가를 위한 연구를 CUDA와 레이트레이싱 알고리즘을 이용해 수행하였다. 오픈소스 레이트레이싱 프로그램을 병렬 처리에 알맞게 변경하고 통합 메모리 기법을 적용하여 기존 방법과의 수행 속도를 비교하여 유효성을 확인한다. 해당 실험 수행 후 프로파일러 툴과 디버깅 툴을 이용하여 통합 메모리 기법의 메모리 접근 패턴 및 오버헤드 발생 지점을 확인하고 이를 보완하는 최적화 기법을 제안하였다.;This study verify the effectiveness of the unified memory management system proposed by NVIDIA CUDA through raytracing algorithm and discuss the optimization method of the technique. Unified memory management system is one of the memory management techniques, which make CPU and GPU memory use as one integrated memory using virtual memory. For GPU programming, the data declared in CPU must be copied to the GPU memory. This process should be specified as code inside the program. It can complicate the program and cause the performance of the program to deteriorate. Therefore, effective memory management techniques need to be studied for efficient GPU programming. In CUDA, the people of NVIDIA propose unified memory management system for performance improvement. In this paper, we evaluate the performance improvement of the memory access approach by using the raytracing algorithm to verify the effectiveness of the unified memory technique. We modify the open source raytracing program to parallel processing and compare the execution speed with the existing method by applying the unified memory technique to check the validity. After executing the experiment, we propose an optimization technique to check memory access pattern and overhead occurrence point of unified memory technique using profiler tool and debugging tool.