Je pense que ton problème, c'est un problème d'arrondi. Si on fait à chaque fois la rotation (xa,ya)->(xna,yna), on accumule les erreurs d'arrondi. Il faut garder le (xa,ya) d'origine constant, faire varier l'angle de rotation et recalculer (xna,yna) à partir du (xa,ya) d'origine à chaque fois, comme ça on ne perd pas en précision sans arrêt.