생성적 적대 신경망(GAN) + a

생성자(generator)는 가짜 데이터를 생성     vs     판별자(discriminator)는 데이터의 진위를 판별

 

- 생성자  -> 가짜 데이터를 판별자에 넣었을 때 1에 가까운 값을 출력해야 한다

   -> 손실함수 = 가짜 데이터에 대한 출력과 1의 차이

- 판별자 -> 진짜 데이터를 입력하면 1에 가까운 값을 출력하고, 가짜 데이터를 입력하며 0에 가까운 값을 출력해야 함

   -> 손실함수 = (진짜 데이터에 대한 출력과 1과의 차이) + (가짜 데이터에 대한 출력과 0과의 차이)

 

 

 

단, GAN의 문제점

- 학습의 어려움 : 한쪽이 너무 강력해질 경우 균형이 깨져 학습이 잘 이루어지지 X (내시 균형)

- 모드 붕괴 : 생성자가 다양한 형태의 데이터를 생성 못할 경우

 

 

 

 

 

그 외 인공지능 연구와 트렌드

1. 오토 인코더 (Auto-Encoder)

- 입력을 출력으로 변환/복사하는 신경망 구조

- 데이터의 차원 축소 및 복원, 입력 데이터들의 특성이 표현되는 새로운 가상의 데이터 생성 등에 활용 가능

오토인코더의 예시

※ 그림 출처 : 으뜸 머신러닝 , p460, 생능출판사

 

 

 

2. YOLO (You Only Look Once)

- 이미지 분류 및 실시간 객체 탐지(object detection)를 위한 인공 신경망 구조 및 기법

객체 탐지 예시

 

 

3. 어텐션 (Attention)

- seq2seq에서 시퀀스가 길어지면 정확도가 감소하는 문제를 해결하기 위한 메커니즘

- 인코더에서 전체 입력 시퀀스를 다시 한번 참고하되, 해당 시점에서 예측해야 할 단어와 연관이 있는 곳들에 더 집중!!

어텐션 예시

 

 

4. GPT-3 (Generative Pretrained Transformer-3)

- 사람의 언어 형태와 거의 유사한 텍스트를 생성하는 자연어 처리(NLP) 모델로, 트랜스포머(Transformer)라는 언어 모델의 디코더를 기반으로 개발됨.