다운로드 링크가 정상적으로 보이지 않는 경우 애드블록을 해제해 주세요.
본문 바로가기
  • 혜음우리말화연구소
잡담/대학원

요즘 대학원에서 하고 있는것

by WindowsTiger 2022. 4. 10.

대학원에서 요즘 CNN 프레임워크?를 개발하고 있다.

현재 개발된 것은 FPGA에서 돌아가는 컨볼루션 커널

이 커널을 돌리기 위해 프레임 워크와 가중치를 뽑아내는 파서 같은것을 전부 작성하고 있었다.

 

가중치 파서는 파이선을 이용해 텐서플로우 모델에서 레이어 정보랑, 가중치, quantization scale factor를 추출한다.

CNN 프레임 워크는 C로 짜여져 있다.

 

quantization scale factor를 위해 KL 분산을 이해하는 것도 어려웠고, INT8 양자화를 이해하는것도 쉽지 않았다.

여튼 돈다.

아직 전처리문을 제대로 하지 않아 Top-5 정확도가 81%정도 나오지만 뭔가 프레임 워크를 나혼자서 직접 짰다는 것에 뿌듯함을 느낀다.

'잡담 > 대학원' 카테고리의 다른 글

CNN 설계 끝  (4) 2022.05.04
요즘 하고 있는것  (0) 2022.04.17
FPGA의 연산에 DSP를 안 쓰는 방법  (0) 2022.03.22
Vitis 버전별 비교  (0) 2022.03.10
Xilinx Vitis 컴파일 오래 걸림, profile 옵션 실패  (0) 2022.02.26

댓글