[자율주행 모델 경량편] 엣지 AI를 위한 필수 아키텍처 및 최적화 6편
지난 시간 자율주행 알고리즘 판단편에 이어서, 오늘 다뤄볼 주제는 딥러닝 엔지니어링의 꽃이라고 할 수 있는 ‘자율주행 모델 경량화편’입니다. 우리가 연구실 GPU(서버) 환경에서 만든 거대하고 무거운 AI 모델은 실제 자율주행 차량의 엣지 디바이스(Edge Device)에 바로 올릴 수 없습니다. 제한된 전력, 부족한 VRAM, 그리고 무엇보다 ‘서멀 스로틀링(Thermal Throttling, 발열로 인한 성능 저하)’이라는 혹독한 물리적 제약이 존재하기 때문입니다. … 더 읽기