Hallo Niko,
Gute Stichworte sin "java matrix library", da findet man so viel, dass ich auf den ersten Blick nicht sagen kann, was man sich näher anschauen könnte.
Ich habe mal irgend eine Bibliothek verwendet, weiß aber nicht mehr, welche.
http://ressim.berlios.de/ scheint einen recht großen Funktionsumgang zu haben. Für ein bisschen Vektoren und Matritzen multiplizieren kannst Du vermutlich so ziemlich alles nehmen.
Die Bibliothek kann anscheinend auch lineare Gleichungssysteme lösen, was für Dich vermutlich auch interessant ist.
Grüße
Daniel