Es geht, wenn ich dich richtig verstehe, nur um deine eigene E-Mail-Adresse (also nicht um Kunden die eine gmx-Adresse haben)? Dann verstehe ich nicht so recht, warum du eine gmx-Adresse verwenden willst und nicht eine zu deiner Domain zugehörige, was ja auch als Absenderadresse für Kunden professioneller aussieht.
Beim Punkt "eigene SMTP-Einstellungen" schreibt Prestashop wohl nicht ohne Grund "NUR für Experten", die richtigen Einstellungen hängen vom jeweils verwendeten Mailserver ab.
Die Fehlermeldung weist auf ein Problem mit dem SSL-Zertifikat hin, vielliecht ist dieses nicht für die Subdomain smtp gültig?