치킨고양이짱아 공부일지

1. Motion Diffusion class모델 코드는 생각보다 간단해서 이해가 쉽다.class MotionDiffusion(nn.Module): def __init__(self, input_feats, nstyles, njoints, nfeats, rot_req, clip_len, latent_dim=256, ff_size=1024, num_layers=8, num_heads=4, dropout=0.2, ablation=None, activation="gelu", legacy=False, arch='trans_enc', cond_mask_prob=0, device=None): super().__i..

overview Diffusion Model은 data를 만들어내는 deep generative model 중 하나로, data로부터 Noise를 조금씩 더해가면서 data를 완전한 Noise로 만드는 1) Forward diffusion process와 이와는 반대로 Noise로부터 noise를 조금씩 제거해나가면서 입력 data와 유사한 확률 분포를 가지는 결과 data를 생성해나가는 2) reverse diffusion process를 활용한다. 위의 그림에서 x_0가 원본 data이며 forward diffusion process에서는 여러 단계에 걸쳐 noise를 추가해나가며 완전한 noise x_T를 만들어낸다. reverse diffusion process에서는 x_T로부터 Noise를 제거..