요즘 하고 있는것

INT8 양자화

 

최근에 VGG16을 INT8 양자화 해서, 정상적으로 추론되는 것을 확인하였다.

다만 예상 정확도보다 꽤 4%정도 떨어지는데, 이는 텐서플로우로 검증했을때는 round 연산 (round 자체가 반올림이지만 편의상 이렇게 칭한다)을 반올림으로 했지만, 하드웨어에서는 형변환으로 처리해줬기에 버림 연산이 되었기 때문이다. 이는 형변환 전에 0.5를 더해줌으로서 해결할수 있는 문제이긴 하다.

 

또한 RESNET50도 INT8 양자화를 했는데 레이어의 출력이 전부 죽어버리는(0으로 수렴하는) 문제가 있다. 이를 어떻게 해결해야 할지가 관건이다.

 

FPGA 너무 힘들다. 그냥 글카 쓰면 안되나?