국내 연구진이 중소기업·스타트업에서 인공지능(AI) 반도체를 개발하기 위해 투입하는 시간과 비용을 단축하는 핵심기술을 공개했다.
▲ 기존 딥러닝 컴파일러와 NEST-C(네스트) 컴파일러 비교(이미지출처=ETRI)
한국전자통신연구원(ETRI)은 중소기업이 인공지능(AI) 반도체를 개발할 때 투입하는 시간·비용을 단축해 줄 소프트웨어인 딥러닝 컴파일러 '네스트(NEST-C)'를 웹(깃허브:Github)에 무료 공개했다고 26일 밝혔다.
▲ ETRI에서 중소기업·스타트업에서 AI 반도체를 개발시간과 비용을 단축하는 핵심기술을 공개했다(이미지출처=ETRI)
AI 기술이 발전함에 따라 딥러닝 응용 서비스가 다양한 분야로 확장되고 있다. 이를 구현하는 AI 알고리즘도 복잡해지면서 더 뛰어나고 효율적인 연산 처리의 필요성이 커지고 있다.
ETRI는 AI 응용프로그램에 적합한 공통 중간표현(Intermediate Representation)을 정의해 네스트 컴파일러에 적용, AI 응용프로그램과 AI 반도체 간 이질성을 해소함으로써 AI 반도체 개발이 쉬워지게 했다. 이 기술은 한국정보통신기술협회(TTA) 표준으로도 제정되었다.
▲ NEST-C(네스트) 컴파일러 개념도(이미지출처=ETRI)
컴파일러는 소프트웨어 프로그래머가 작성한 코드를 기계어로 변환해 실행시키는 프로그램으로, 하드웨어와 응용 소프트웨어 간 가교 구실을 한다. 최적화된 컴파일러가 정확한 실행 코드를 만들어야 최대 성능을 낼 수 있다. 딥러닝 모델의 추론 성능을 보장하는 핵심 시스템 소프트웨어인 딥러닝 컴파일러가 중요한 이유다.
그간 중소기업·스타트업은 반도체 설계에 역량을 집중하기 어려웠다. 시스템 소프트웨어, 응용프로그램 개발 및 최적화에 적지 않은 시간을 투입하기 때문이다. 대형 제조사가 제공하는 시스템 소프트웨어는 자사 칩에 최적화되어 있으며 비공개로 개발돼 적용에 한계가 있다.
▲ 자체 개발한 AI 반도체가 적용된 FPGA 임베디드 보드에서 네스트가 생성한 딥러닝 응용에 대한 실행 코드가 동작하는 모습(이미지출처=ETRI)
'네스트-C'를 활용하면 중소기업·스타트업이 응용프로그램 개발과 최적화 시간을 단축하는 등 수고를 덜 수 있다. 반도체 생산·판매 비용 절감 효과도 기대할 수 있다. 또, 중앙처리장치(CPU)나 그래픽처리장치(GPU), AI 연산 처리에 특화된 신경망처리장치(NPU)까지 모두 호환된다. 기존에는‘딥러닝 플랫폼 종류×칩 종류’만큼 컴파일러를 개발해야 했으나, 이제는 범용성 높은 네스트 컴파일러 하나로 대신할 수 있다.
▲ 네스트 컴파일러가 딥러닝 모델인 레즈넷18/50에 대한 실행코드를 생성하여 CPU(위 2개)와 NPU(EVTA, 아래 2개)에서 각각의 이미지 분류 응용 작업을 실행하여 실시간으로 입력 이미지에 대한 처리 시간과 정확도를 보여주는 모습(이미지출처=ETRI)
ETRI는 네스트 컴파일러를 오픈소스로 공개하면서 자체 개발한 AI 반도체에 네스트 컴파일러를 적용한 참조 모델까지 함께 공개했다. 특히, AI 반도체 개발용 소프트웨어와 하드웨어를 모두 공개한 것은 이번이 최초다.
ETRI 김태호 차세대시스템SW연구실장은“표준 딥러닝 컴파일러 오픈소스 공개는 국내 AI 반도체 생태계 활성화를 위해 개발된 시스템 SW이다. 다양한 AI 반도체 기업들에 적용하기 위해서 기술협력을 진행 중이다”고 말했다.
한편, 이번 기술은 과학기술정보통신부 "인공지능 시스템을 위한 뉴로모픽 컴퓨팅 SW 플랫폼 기술 개발”을 통해 개발되었다.
글. 이지은 기자 smile20222@brainworld.com | 사진 및 자료출처 = ETRI(한국전자통신연구원)