본문 바로가기

딥러닝 & 머신러닝/논문 리뷰

(19)
[논문 리뷰] Super Resolution - RFDN (ECCVW 2020) RFDN은 다음과 같이 한 문장으로 말할 수 있겠습니다. "feature distillation connection (FDC) 이라는 기술을 제안해서 residual feature distillation을 하는 모델 RFDN을 만들었다. RFDN은 multiple feature distillation connection을 이용해서 구별점이 나타나는 (즉, 특이한) feature representation들을 학습할 수 있다. 그리고 RFDN의 메인 블록인 shallow residual block (SRB) 을 사용함으로써 가벼운 모델 용량을 유지함과 동시에 residual learning의 장점까지 얻을 수 있다." ~ Residual Feature Distillation Network for Light..
[논문 리뷰] CNN - RepVGG (CVPR 2021) RepVGG는 올해 나온 논문 중 제가 가장 처음으로 읽어본 논문입니다. 7월 중순 쯤에 무슨 논문을 읽어볼까 고민하던 중, 미국 트럼프 대통령의 "Make America Great Again"이라는 선전 문구를 패러디한 제목이 인상깊어 읽게 되었습니다. 제목으로 인한 어그로(?) 덕분에 읽기 시작했지만, 지금은 이 논문에서 중요하게 다루는 re-parameterization에 대해 깊이 매료되었습니다. 앞으로는 해당 기법을 활용해 연구도 하고 싶습니다. RepVGG는 다음과 같이 한 문장으로 말할 수 있겠습니다. "훈련(train) 때는 3x3, 1x1, Identity convolution으로 이루어진 multi-branch 모델을 사용하되, 추론(inference) 때는 re-parameteriza..
[논문 리뷰] Super Resolution - MSRN (ECCV 2018) MSRN은 다음과 같이 한 문장으로 말할 수 있겠습니다. "MSRB라는 블록을 이용해 서로 다른 사이즈의 feature들을 효과적으로 사용하였으며, hierarchical feature fusion을 이용해 LR 이미지의 특징 하나하나를 최대한 사용하였다. 이를 통해 비슷한 시기에 나온 EDSR 보다 성능은 조금 떨어지지만 훨씬 가벼운 모델인 MSRN을 만들었다" ~ Multi-scale Residual Network for Image Super-Resolution ~ # 1. Introduction single-image super-resolution(SISR)은 학계와 산업계에서 많은 관심을 끌고 있습니다. SISR은 LR 이미지로부터 HR 이미지를 reconstruct하는 ill-posed된 문제입..
[논문 리뷰] Super Resolution - ESPCN (CVPR 2016) ESPCN은 다음과 같이 한 문장으로 말할 수 있겠습니다. "기존 SR 기법들처럼 모델의 첫 부분 혹은 전처리 부분에서 LR 이미지를 upsampling 하는 것이 아니라, efficient sub-pixel convolution layer를 사용해 모델의 끝에서 upsampling함으로써 모델의 연산량과 파라미터 수를 줄이고 성능도 높인 모델이다." ~ Real-Time Single Image and Video Super-Resolution Using an Efficient Sub-Pixel Convolutional Neural Network ~ # 1. Introduction SR(Super resolution, 초해상화)은 기본적으로 LR(Low Resolution, 저해상도) 이미지가 HR(Hig..
[논문 리뷰] Super Resolution - VDSR (CVPR 2016) VDSR은 다음과 같이 한 문장으로 말할 수 있겠습니다. "깊은 CNN 구조, residual learning, 높은 학습률, 여러 scale factor에 대한 훈련을 통해 기존 SR 기술들보다 속도와 성능 면에서 훨씬 월등함을 보여준 모델이다." ~ Accurate Image Super-Resolution Using Very Deep Convolutional Networks ~ # 1. Introduction 처음에는 SISR(single image super-resolution), 즉 단일 이미지 초해상화를 위해 기존에 쓰였던 방법들을 간단히 언급합니다. 그리고 SRCNN에 대해서 더 자세히 얘기합니다. SRCNN에서 쓰인 CNN은 LR(Low Resolution, 저해상도 이미지)를 HR(High..
[논문 리뷰] Super Resolution - SRCNN (ECCV 2014) 다음 학기부터 석사 생활을 시작하게 되었는데, 현재는 연구실에 매일 출근하면서 관심 분야의 논문을 읽어보고 있습니다. 요즘은 Super Resolution(SR), 초해상화에 대해 공부하고 있습니다. 이번 게시물에선 SR 중에서도 시초격인 SRCNN에 대해 알아보겠습니다. SRCNN은 다음과 같이 한 문장으로 말할 수 있겠습니다. "SRCNN은 간단한 CNN 구조를 SR 분야에 적용하면서, 기존에 존재하던 전통적인 SR 기법들을 모두 뭘등히 뛰어넘는 성능을 보여주었다. 그리고 SRCNN은 이후 등장하는 SR 기법들의 시초가 됐다." ~ Image Super-Resolution Using Deep Convolutional Networks ~ # 1. Introduction 컴퓨터 비전 분야에서, 하나의(s..
[논문 리뷰] GAN - CatGAN (ICLR 2016) CNN을 활용한 분류 모델을 어느 정도 공부하고 난 후, 관심 분야인 GAN에 대해 공부하기 시작했습니다. 블로그에 올라오는 글들은 원 논문 및 논문 관련 설명들을 참고하여 작성한 것입니다. GAN은 딱히 코드를 구현하지 않고 논문 분석에 많이 집중을 했습니다. (구현하기 좀 어려운 것 같아서..) 설명에 틀린 부분이 있을 수 있습니다. 정중하게 지적해주시면 참고하겠습니다. 원 논문: https://arxiv.org/pdf/1511.06390.pdf CatGAN은 다음과 같이 한 마디로 말할 수 있겠습니다. "CatGAN은 데이터가 진짜냐 가짜냐를 구분할 뿐만 아니라 진짜 데이터는 어떤 클래스에 속하는지까지 구분하는 discriminator를 가진 GAN 구조이다. RIM이라는 알고리즘의 개념을 활용했으..
[논문 리뷰] GAN - cGAN (arxiv 2014) CNN을 활용한 분류 모델을 어느 정도 공부하고 난 후, 관심 분야인 GAN에 대해 공부하기 시작했습니다. 블로그에 올라오는 글들은 원 논문 및 논문 관련 설명들을 참고하여 작성한 것입니다. GAN은 딱히 코드를 구현하지 않고 논문 분석에 많이 집중을 했습니다. (구현하기 좀 어려운 것 같아서..) 설명에 틀린 부분이 있을 수 있습니다. 정중하게 지적해주시면 참고하겠습니다. 원 논문: https://arxiv.org/abs/1411.1784 cGAN을 한 마디로 다음과 같이 말 할 수 있겠습니다. "cGAN은 기존 GAN의 generator와 discriminator에 조건을 넣어서 원하는 방향으로 데이터를 만들 수 있도록 하였고, 이후 더 나은 cGAN 모델인 pix2pix와 CycleGAN이 나오는 ..