Nochmal: Bei welchem Provider bist Du?
Die Fehler mit den Umlauten resultieren wahrscheinlich daraus, dass Du beim alten Provider andere Kodierungseinstellungen für die Datenbank hattest.
Zum Captcha-Modul:Schau mal in die Modulhilfe.
Dort steht unter anderem folgendes:
Sie müssen die GD-Library mit Unterstützung für JPEGs und TrueType-Fonts installiert haben. Weitere Informationen dazu finden Sie unter PHP Grafik-Funktionen. Was mich wieder zu der Frage bringt, bei welchem Provider Du nun eigentlich bist.
Und, ob dieser Provider alle Vorraussetzungen für das fehlerfreie Funktionieren von CMSms (inkl. seiner Module) erfüllt.
Solche Fragen sollte man klären bevor man den Provider wechselt.