지금 바로! 사전등록하세요.
oneAPI DevSummit for AI & HPC 2023

이주석 부사장은 Partner & Retail Team을 맡고 있는 영업부 부사장입니다. 그는 비즈니스 기회를 확장하기 위해 스마트팩토리, 헬스케어, AI교육 등 다양한 Vertical market 생태계 구축을 위해 SI, ISV 및 CSP/MSP와의 영업, 솔루션 개발 그리고 마케팅 및 협업을 책임지고 있습니다. 2003년 인텔에 처음 입사하여 삼성 무선 사업부를 담당하며 휴대폰 시장에서 플래시 메모리와 Xscale 사업으로 인텔의 성장에 기여했으며, 보다 낳은 개발자 환경 개선을 위해 oneAPI 및 openVINO 확산에 노력을 기울이고 있습니다.

환영 메시지와 함께 oneAPI를 포함하여 개발자를 위한 인텔의 소프트웨어 투자, 인텔의 AI 기술의 비전 및 행사 전반에 대해 소개합니다.

Scott Apeland는 인텔의 개발자 생태계를 이끄는 역할을 맡고 있으며, 전 세계 소프트웨어 개발자를 대상으로 프로그램을 정의하고 제공하는 역할을 맡고 있습니다. oneAPI 활성화를 위한 생태계 구축을 위해 개방형 표준 기반의 멀티 아키텍처, 멀티-벤더 프로그래밍 모델로 가속기 아키텍처 전반에 걸친 개발자 경험을 제공합니다. Scott은 1991년에 Intel에 입사했으며 현재 직책을 맡기 전에는 화상 회의 사업부, 인터넷 미디어 스트리밍 사업부, Embedded Controller 사업부에서 신제품 개발, 로드맵 전략 및 파트너 이니셔티브 관리를 담당했습니다. Scott은 Brigham Young University에서 전기 공학 학사 및 경영학 석사 학위를 취득했습니다.

Scott은 개발자 커뮤니티가 oneAPI를 채택한 방법에 대한 몇 가지 주요 사례를 통해 전세계적인 oneAPI 생태계의 성장 동력을 제시하고, 개발자와 스타트업이 oneAPI를 배우고 채택할 수 있도록 돕는 인텔의 새로운 이니셔티브를 공유할 것입니다. 2023년에 제공되는 oneAPI 툴킷의 새로운 기능에 대해 소개할 예정입니다.

정진우 부장은 코드 최적화/병렬화, 사용자 기술 지원, 사용자 교육 등 HPC 분야에서 21년의 경력을 가지고 있습니다. 현재 인텔 oneAPI 강사로 일하고 있으며, 이 툴을 이용한 HPC와 AI의 응용에 대해 연구하고 있습니다.

NVIDIA^® GPU와 CUDA 프로그래밍 언어는 폐쇄적인 생태계를 형성하고 있음에도 불구하고 HPC 및 AI 워크로드에서 표준이 되었습니다. 다양한 가속기가 개발됨에 따라 컴퓨팅이 대중화되었으며 연구와 혁신을 위한 새로운 기회가 열렸습니다. oneAPI는 오픈 소스 SYCL 기준으로 벤더 의존성 없이 CPU, GPU 및 FPGA 등과 같은 일반적인 가속기를 지원합니다. 다만 SYCL의 높은 수준의 추상화로 인해 네이티브 CUDA에 비해 성능에 부정적인 영향을 미칠 수 있다는 우려가 있습니다. oneAPI는 개방형, 산업 간, 표준 기반, 통합, 멀티 아키텍처, 멀티 공급업체 프로그래밍 모델입니다. 또한 oneAPI는 CUDA의 공개 사양을 대체하는 SYCL을 사용하며,공급업체 종속없이 CPU, GPU 및 FPGA와 같은 다양한 종류의 가속기를 지원합니다.

이번 세션에서는 NVIDIA^® 플러그인이 포함된 Intel^® oneAPI DPC++/C++ 컴파일러를 사용하여 SYCL 및 oneAPI로 전환하는 방법을 보여줍니다. 생물 정보학, 이미지 처리, 금융, 기계 학습 및 물리학에서 널리 사용되는 대표적인 알고리즘을 신중하게 선택함으로써 SYCL이 네이티브 CUDA와 비교하여 동일한 성능을 제공할 수 있음을 보여줍니다. 또한 Intel^® oneMKL 인터페이스를 통해 수치 워크로드를 NVIDIA^®로 오프로드하는 방법을 시연합니다. 마지막으로, oneDNN을 사용해서 기존 cuDNN 연산을 SYCL로 변환하는 방법과 NVIDIA^® GPU에서의 oneDNN 성능을 보여줍니다.

Sathish는 혁신적인 소프트웨어 제품을 개발하는 Infosys의 자회사인 Infosys Edgeverve에서 제품 개발 부문을 이끄는 디렉터입니다. 그는 또한 AI 기반 제품과 플랫폼 구축에 열정을 가진 경험이 풍부한 제품 관리 리더입니다. Sathish는 제품 관리 전문가이자, 분석, 프로세스 마이닝 및 인공지능 제품에 대한 폭넓은 전문 지식을 갖춘 전략 전문가이기도 합니다.

4세대 인텔^® 제온^® 프로세서(코드명 Sapphire Rapids)와 oneAPI의 활용 사례를 통해 도메인 데이터에서 MLM 모델을 세밀하게 조정하는 데 걸리는 교육 시간이 거의 50% 감소한 사례를 보여줍니다. 4세대 인텔^® 제온^® 프로세서 (32 CPU 및 64GB의 리소스 제한)에서 1.1 백만 개의 문단을 포함하는 금융 도메인 데이터로 MLM 모델을 훈련시킬 수 있었으며, 약 80 시간이 걸렸습니다. oneAPI는 데이터 크기를 고려할 때 허용 가능한 작업 범위 내에서 최적화를 가능하게 했습니다.

이것은 LLM 교육을 위해 인텔^® 제온^™ 및 oneAPI 툴킷을 활용한 좋은 대안을 제공합니다. 우리는 oneAPI를 사용하여 다음과 같은 기술로 훈련을 최적화했습니다.

1. oneAPI 기반 IPEX(PyTorch용 Intel^® extentions) 사용
2. BF16 데이터 유형 사용(32비트 훈련 대신 16비트 정밀 훈련 사용)
3. OpenMP 최적화: KMP_BLOCKTIME, KMP_AFFINITY, KMP_SETTINGS, OMP_NUM_THREADS

Abhishek Nandy는 현재 PrediQt Business Solution PVT LTD에서 수석 데이터 과학자로 근무하고 있으며, 고객을 위한 새로운 LLM 도구를 개발하고 다양한 연구 능력과 광범위한 산업 경험을 아우르고 있습니다. 그는 기업가이자 교사, 작가, 연구자입니다. 그는 제약, 제조, 소매 등 다양한 분야에서 일해 왔으며, 다양한 연구와 제품 개발팀을 이끌었습니다. 그는 B.Tech 학위를 갖고 있으며 호기심이 많습니다. 그는 또한 인텔 블랙 벨트 개발자로, 인텔 오픈 소스에 기여한 사람들에게 수여되는 인텔의 명예상을 수여하였습니다. 또한 Make in India 이니셔티브의 첫 번째 버전에서 상위 50명의 혁신가 중 한 명입니다. 거기에서 IIMA와 인도 정부의 MHRD IT 부서에서 제품 수명주기에 대한 교육을 받았습니다. 현재 산업용 IoT 및 AI 분야에서 박사 학위를 취득하기 위해 연구 중이며, 현재 4권의 책을 저술하였습니다.

이 프로젝트는 주기 경계 조건을 가진 3D 상자 안에 있는 N 입자의 분자 동역학 시뮬레이션입니다. 입자들은 분자 시뮬레이션에서 일반적으로 사용되는 Lennard-Jones 포텐셜을 통해 서로 상호작용합니다. 이 시뮬레이션은 SYCL (Single-source DPC++ heterogeneous programming for OpenCL) 프로그래밍 모델을 사용하여 병렬화되었습니다. 시뮬레이션은 두 가지 주요 단계로 구성됩니다: 병렬성을 위한 SYCL(Single-source DPC++ Heterogeneous 프로그래밍 for OpenCL) 프로그래밍 모델 시뮬레이션은 두 가지 주요 단계로 구성됩니다: 입자 사이의 쌍방향 힘을 계산하고 입자 위치 및 속도를 업데이트합니다. 각 단계는 SYCL을 사용하여 병렬로 실행되므로 효율적인 작업이 가능합니다. 쌍방향 힘의 계산은 각 입자를 계산 단위에 할당하여 병렬화하고, 입자 위치와 속도를 업데이트하는 것도 유사하게 병렬화합니다.

요약하면, 이 프로젝트는 분자 역학 시뮬레이션을 구현하기 위해 SYCL을 사용하는 방법을 보여줍니다.

김태훈 상무는 2022년에 인텔 코리아 입사하여 소프트웨어 기술 컨설팅 엔지니어를 담당하고 있습니다. Cray, 한국형수치예보모델개발사업단(KIAPS), 삼성 SDS에서 근무했으며, HPC의 소프트웨어 성능을 향상하는 데 20년 이상의 경험이 있습니다. 부경대학교의 환경대기과학 박사 학위를 가지고 있으며, 한국 부산대학교에서 해양과학 석사 학위를 받았습니다

이번 세션에서는 실제로 oneAPI를 적용하는 두 가지 실습을 보여줍니다.

1. CUDA 코드를 SYCL로 변환하는 도구인 Intel^® oneAPI SYCLomatic에 대해서 알아보고 SYCLomatic을 사용하여 CUDA 코드(mini-nbody)를 SYCL로 변환하는 실습을 수행합니다. Intel^® Developer Cloud의 CPU(SPR)와 GPU(PVC)에서 수행하여 성능을 살펴봅니다.
2. Matrix 연산을 수행하는 fortran 프로그램을 Intel^® oneAPI Vtune profiler를 이용하여 성능 분석을 하고, 성능 분석 결과를 토대로 병목 구간에 Intel^® oneAPI의 oneMKL 라이브러리 적용하여 성능 향상을 수행해 봅니다.

Intel^® oneAPI는 컴파일러뿐만 아니라 개발자들을 위한 다양한 도구와 라이브러리가 충분히 준비되어 있습니다.

Jing Xu는 인텔 소프트웨어 툴 및 인텔 아키텍처에 대한 고성능 라이브러리를 담당하고 있는 AI 고객 자문 엔지니어입니다. 인텔에 약 6년 동안 근무하며 글로벌 개발자, 기업 사용자, 엔지니어와 연구원들이 인텔 임베디드 도구, 고성능 라이브러리 MKL/oneDNN, 딥 러닝 프레임워크 등을 사용할 수 있도록 지원하는 데 풍부한 경험을 갖고 있습니다. 그의 연구 관심 분야는 머신 러닝, 딥 러닝, 성능 최적화 및 데이터 분석입니다.

이번 세션은 인텔^® oneAPI AI Analytics Toolkit (Intel^® AI Kit)에 대해 이해하는 데 도움을 주기 위해 고안 되었습니다. 이 툴킷은 데이터 과학자, AI 개발자 및 연구원들에게 익숙한 Python* 도구 및 프레임워크를 제공하여 인텔^® 아키텍처에서 엔드 투 엔드 데이터 사이언스 및 분석 파이프라인을 가속화하는 데 도움을 줍니다.

또한 낮은 수준의 컴퓨팅 최적화를 위해 oneAPI 라이브러리로 구축된 구성 요소를 보여줍니다. PyTorch용 인텔^® Extension에 적용되는 최적화 기술을 심층 분석함으로써 이 툴킷이 머신 러닝/팁러닝을 통한 전처리 성능을 극대화하고 효율적인 모델 개발을 위한 상호 운용성을 제공하는 방법을 보여줍니다.

실습에서는 Intel^® Developer Cloud를 통해 인텔^® 아키텍처에서 인텔 최적화를 통해 얻는 성능 이점을 경험할 수 있도록 단계별로 안내해 드립니다.

오늘의 행사에 대해 간략하게 요약하고, 함께 공유하면 유익한 질문에 답변해 드립니다. 마지막으로 참여자 이벤트 결과를 발표해 드릴 예정입니다.