AI / ML Research

최근 모바일 네트워크 디자인은 channel attention 을 이용해서 모델 성능을 높이는데 많은 효율성을 보여왔다. 하지만, 이것들은 일반적으로 공간 선택적 attention map을 생성하는데 중요한 positional 정보를 무시한다. 이 논문에서, 저자는 embedding positional information을 channel attention에 적용하는 모바일 네트워크를 위한 새로운 attention 메커니즘인 Coordinate Attention 을 제안한다. 2D Global Pooling을 통해 feature... [Read More]

StyleGAN은 고화질과 진짜 같은 얼굴을 생성하는 SOTA 생성 모델 중 하나이다. 비록 StyleGAN 모델로 부터 생성된 이미지는 시각적으로 괜찮아 보이지만, 때때로 눈에띄는 circular artifacts를 가지고 있다. 이 논문에서 저자는 StyleGAN 모델 구조의 다양한 단계에서의 circular artifacts 가 어떻게 생기는 지에 대해 메커니즘 분석과 광범위한 실험을 통해 체계적인 조사 결과를 제공한다.... [Read More]

GAN modeling이 놀라운 발전을 이루면서, 새로운 정량적, 정성적 평가 방법이 생겨나고 있다. 비록 Inception Score, Frechet Inception Distance, Precision-Recall, Perceptual Path Length 는 상대적으로 더 유명하지만, GAN 평가 법은 아직 정착된 이슈가 아니며, 여전히 많은 개선이 필요하다. 이 논문에서 저자는 모델을 평가할 때 중요해지고 있는 새로운 차원 (편향, 공정성)을 설명하고,... [Read More]

GAN 은 이미지 생성에서 좋은 성능을 내었지만, 거대한 계산 비용과 메모리 사용량으로 인해 효율이 좋지 않다. 최근에 이런 GAN을 압축하는 많은 노력들은 작은 generator를 사용하여 image 의 퀄리티를 희생하거나, 시간이 많이 소모되는 NAS를 이용해 발전해왔다. 이 논문애소 저자는 teacher network가 효율적인 네트워크 구조를 찾을 수 있도록 search space를 제공하는 방식으로... [Read More]

GAN 모델은 image-to-image translation 에서 놀라운 성과를 보여줘왔다. 하지만, 매우 많은 파라미터 때문에 SOTA GAN 들은 저 효율적이고 메모리를 과도하게 사용한다. 이런 문제를 해결하기 위해, 이 논문에서는 GAN 성능을 frequency 관점에서 조사한다. 특히 작은 GAN은 높은 질의 high-frequency 정보를 생성하는데 결함이 있다. 이 문제를 해결하기 위해 저자는 새로운 knowledge distillation... [Read More]