Man glättet das Bild damit und wertet es fast immer optisch auf.
Die Kanten verlieren ihre Treppen und sie werden "ruhiger", flimmern nicht so stark.
Bei den von Siegertyp erwähnten Modi 4x(MS)AA (beide) und 16xCSAA (Nur NV) wird nur die Geometrie geglättet, also alle Polygonkanten, nicht aber Shader und Texturen. Texturen übernimmt dann AF (Anisotrope Filterung).
Es gibt noch andere Modi, für ATIs ab 4xxx gibt es noch 24x Edge Detect CFAA, was im Moment für die Geometrie das beste geglättete Ergebnis liefert.
Für NV dagegen gibt es auch diverse Extramodi, wie z.B 16x(Q)CSAA, das ebenfalls ein gutes Ergebnis bei der Glättung von Polygonkanten liefert.
Interessant werden die beiden Modi noch durch das Dazuschalten von AAA (bei ATI) und Transparency bei NV, die ein ruhigeres Bild erzeugen, als die vorher genannten Modi alleine, kostet aber afaik auch einiges an Performance.
Königsdisplin beim AA ist SSAA (SuperSamplingAA), hier wird das gesamte Bild, Geometrie, Shader und Texturen geglättet.
Bei NV lässt sich SSAA über ein Extraprogramm Nhancer bei allen aktuellen Karten nutzen, bei ATI erst ab der 5xxx-Serie, dafür ohne Extraprogramm einfach über den Treiber und mit anderem, leicht besserem Abtastalgorithmus namens Sparse Grid.
SSAA kostet am meisten Performance, wertet das Bild meist aber optimal auf, und vermindert neben dem Flimmern der Kanten, auch das Flimmern der Shader und Texturen.
Vom AA-Standpunkt aus betrachtet liegen beide Hersteller nahe beinander, jedoch muss man der HD5xxxer-Reihe mit (leichten) Vorteilen die Spitzenposition diesbezüglich zu gestehen. ATIs 8xSGSSAA mit einem LOD von -2 sieht einfach fantastisch aus.
Dafür liefert NV das etwas ruhigere AF-Ergebnis, d.H. die Texturen flimmern etwas weniger bei NV, wenn nur MSAA + AF verwendet wird. (Bei SSAA ist das egal, da werden die Texturen mit geglättet)
Hier ein schönes Beispielbild mit MSAA und SSAA-Vergleich:
http://www.pcgameshardware.de/aid,695285/Radeon-HD-5870-Die-erste-Direct-X-11-Grafikkarte-im-Benchmark-Test/Grafikkarte/Test/?page=6
(etwas nach unten scrollen)
Gruß
Raubwanze