Hallo Markus,
Das Problem: Ist die Aussage bzgl. der Angabe des Namensraumes von XHTML nicht falsch? Der Namensraum von XHTML ist doch "http://www.w3.org/1999/xhtml" und nicht etwa "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd", was den Pfad zu einer DTD darstellt.
Ja, letztere Referenz kann unter <xsl:output ... doctype-system="..."/>
zur Ausgabe einer DOCTYPE-Deklaration verwendet werden (ggf. unter Hinzunahme von doctype-public="...").
Grüße,
Thomas