Hallo,
doch mit prompt gebe ich eine zahl ein aber genau die gibt er mir dann raus
Ja, weil dir prompt() einen String zurückgibt.
toString() von einem String gibt den String unverändert zurück. Zahlen (Typ Number) haben auch eine toString-Methode, nur diese ermöglicht eine Zahlensystem-Umwandlung. Der String muss also in eine Zahl umgewandelt werden.
Das Umwandeln in einen Number-Wert geht z.B. mit der Number(…)-Funktion:
var input = prompt('…');
input = Number(input);
alert(input.toString(16));
Mathias