Совет. После того как выделили, в той же вкладке Выделение поставьте растушевку на пару-тройку пикселов. Увидите, там есть позиция Растушевать. 
 Вопрос. Перевели картинку с огнем в RGB? Если нет, то могут быть косяки, подобные тому, что на вашей конечной картинке. И еще вопрос - уменьшали картинку до индексирования или после? Если уменьшаете индексирвоанную картинку, то изображение тоже может ухудшаться и искажаться. Так что, надо уменьшать картинку пока она в режиме RGB.  И еще вопрос - откуда 15 слоев анимации, если огонь на 13-ти? 
 Держите ваши корабли. 
 
 
 П.С. Вобщем-то, я расписала подробно все этапы. Если будуте четко следовать написанному, то должно получаться, как у меня. 
 И если вы до этого не работали в ГИМП, то учитесь постепенно. Оно понятно, что все мы хотим сразу и все, только так не бывает, к сожалению. 
 Поищите еще по темам ссылочку на скрипт Overlay background, он вам значительно облегчит жизнь, сократив процесс ручного труда. У меня, к сожалению, инет глючит, грузится очень медленно, так что сама поискать для вас сейчас не могу.