Et quand tu essayes de te connecter à ton serveur depuis l’extérieur, il te dit quoi ? (tu peux logguer les transactions SMTP de thunderbird par exemple comme ça :
http://email.about.com/od/mozillathunderbirdtips/qt/et_mail_log.htm (j’ai pas essayé), c’est sans doute possible aussi avec d’autres clients mail, sinon tu peux aussi le telneter sur le port SMTP et taper des commandes directement (si la connexion n’est pas cryptée, sinon c’est plus dur

))
Sinon, le message de retour à l’expéditeur en erreur il raconte quoi ? c’est un message renvoyé par ton serveur à toi ou par le serveur intermédiaire ? (si j’ai bien compris, pour faire ton test tu envoyais un message destiné à ton serveur à un autre serveur SMTP pour voir s’il revenait ?)
Je pose ces questions car si ton serveur n’a rien loggué du tout (alors que quand tu t’y connectes en local il loggue) j’aurais tendance à penser qu’il n’a jamais reçu de connexion entrante et que le mail s’est perdu en amont. Du coup à ta place je testerais l’envoi d’un message sur ton domaine depuis une machine extérieure en contactant directement ton serveur (sans relais) pour voir ce qui se passe. Après une fois que ça marchera tu pourras essayer de passer par un relais...