Un polygone à 4 côtés, ça s'appelle un quadrilatère.
Une proposition d'algorithme:
1. Si les plans sont strictement parallèles, il n'y a pas collision.
2. Si les plans sont confondus, fais un test de collision dans le plan:
2.1. Si un des coins d'un des quadrilatères est à l'intérieur de l'autre quadrilatère, il y a collision.
2.2. Si un côté d'un des quadrilatères coupe un côté de l'autre quadrilatère (les segments, pas les droites!), il y a collision.
2.3. Si aucun des 2 n'est le cas, il n'y a pas collision.
3. Sinon (les plans ne sont pas parallèles):
3.1. Utilise un repère dans chacun des 2 plans.
3.2. Calcule l'équation de la droite d'intersection des 2 plans et les coordonnées des coins du quadrilatère du plan dans lequel se trouve le repère dans chacun de ces repères.
3.3. Si la droite de contact des plans ne coupe aucun des côtés (segments) d'un des 2 rectangles, il n'y a pas collision.
3.4. La droite intersecte toujours 2 côtés si le quadrilatère est convexe, et 2 ou 4 côtés s'il est concave. On a donc pour chacun des 2 quadrilatères déterminé les 1 ou 2 segments qui correspondent à l'intersection de la droite avec le quadrilatère.
3.5. On définit un repère sur la droite et on convertit les coordonnées des 2-4 segments vers ce repère.
3.6. Si 2 segments issus de 2 quadrilatères différents ont des intervalles en commun, il y a collision, sinon il n'y a pas collision.
Je ne sais pas si cet algorithme est efficace et s'il est sans erreurs.