Also ich habe mir gedacht das ich mir die nvidia gtx 560ti an mein mainboard schließe aber wie ich gelesen habe funtz das gar nicht oder?

Doch.
Welchen VRam Deine Grafikkarte trägt und welcher Ram auf dem Mainboard steckt, sind zwei völlig(st) unterschiedliche Paar Schuhe.
Die Grafikkarte ist sozusagen ein Subsystem und nur die GPU muß mit dem VRam klarkommen. Das Mainboard oder genauer hier den Speichercontroller (meist in der CPU) interessiert das nicht die Bohne.