KoGPT-2 를 이용한 인공지능 가사 생성

gpt-2

gyunggyung/KoGPT2-FineTuning

 드디어 Fine-tuning이 완료되고 코드를 완성하여, Generation을 간단하게 진행했다. 문제가 되는 부분들로는 가사를 그대로 인용한 내용들도 있다. 이걸 어떻게 처리할까에 대해서 고민이다. temperature를 낮추면 이런 문제는 덜 발생한다. 그래도 Verse나 Pre-Chorus 같은 부분은 학습을 잘 못하는데, 이유로는 dataset을 분배하는 과정을 별로 신경 쓰지 않아서 같다. 사실 이건 후처리로 어느 정도 가능한 거니까. 괜찮을 거 같다. 이제 제대로 된 모델 업그레이드를 하면 얼마나 창의적이고 멋진 가사들이 나올지, 얼마나 스타일을 잘 입힐지가 기대된다. 아래의 글들은 100% 모델에서 나온 결과다. 아무런 후처리도 하지 않았다.

가만 보니 네가 내 옆에 있어 줄 때 난 다시 잠이 들 것 같아 [Verse 2: Jin] 네가 내게 말했지, "넌 날 잊었어" 그때가 내 기억 속에 선명해 넌 날 잊었어 [Pre-Chorus: Jungkook, Jimin] 한때는 태양의 세계에 속했던 노랜 멈췄어 노랜

가랑비 같은 슬픔이라 위로했지만 여전히 젖은 얼굴로 잠에서 깨 계절은 무심코 변하고 앞만 보는데 난 서성이네 여태 시간도 버리고 간 기억뿐인 네 옆에 그 자리 그곳에서 날 기다려 줬음 해 [Chorus: RM, Suga] I'm so sick of this fake love, fake love, fake love I'm so s orry but it's fake love, fake love, fake lo

세상을 다 가진 듯해 난 너만 있으면 돼 [Pre-Chorus: Jungkook, Jimin] 내 모든 wonder 에 대한 answer I call you her, her 'Cause you're my tear, tear 내 모든 wonder 에 대한 answer I call you her, her 'Cause you're my tear, tear [Chorus: Jungkook, Jimin] 널 위해서라면

미친 세상 속에 너는 날 구원해 [Chorus: Jungkook, Jimin] 넌 나의 구원 넌 나의 창 난 너만 있으면 돼 You know that I can't Show you me Give you me 초라한 모습 보여줄 순 없어 또 가면을 쓰고 널 만나러 가 But I still want you [Post-Chorus: Jin] 어쩌면 그때 조금만 이만큼만 용길 내서 너의 앞에 섰더라면 지금 모든 건 달라졌

분노와 외로움 그 무엇도 남지 않게끔 [Chorus: Jungkook, Jimin] I'm so sick of this fake love, fake love, fake love I'm so sorry but it's fake love, fake love, fake love [Verse 2: RM] I wanna be a good man just for you 세상을 줬네 just for you 전부 바꿨