Normalerweise sollte es genügen, die randalierende Anwendung abzuschießen; Windows räumt dann normalerweise den ganzen von dieser Anwendung belegten Speicher wieder aus.
Es dauert manchmal Minuten bis der Taskmanager aufgeht. Das System ist da mit irgendwas anderem beschäftigt, wahrscheinlich halt Speicher umschichten.
Wobei eigentlich laut Taskmanager nie alles belegt ist. Aber das System bockt nur noch rum, neue Prozesse starten nicht weil kein Speicher mehr verfügbar ist, teilweise heißt es das auch beim Taskmanager. Fenster werden nicht mehr aktualisiert...
Aber wenn ich so weit komme dass ich FF abschießen kann, dann gehts schon wieder weiter so wie du es beschreibst. Nur dauert das halt.
FF ist die aktuellste Version die durch Updates kommt, momentan also 3.6.12.