Wenn du totaler Neuling in dem Bereich bist, würde ich mir an deiner Stelle wenn es irgendwie geht mal das ein oder andere System bei Freunden anhören. Ein System für 600€ ist zwar immer noch eher die Einstiegsklasse, aber selbst bei einer solchen Summe würde ich mir vorher klar machen, was ich genau will. Die Raumgröße ist übrigens auch sehr wichtig bei deiner Entscheidung, denn größere Räume brauchen einfach auch etwas mehr Dampf hinter dem System, wofür du letztlich aber mit einem noch viel besseren Kinogefühl belohnt wirst.
Andererseits solltest du falls dir der Klang nicht übermäßig wichtig ist und du dich schon freust wenn die Klänge überhaupt mal von hinten links oder vorne rechts kommen nicht zu viel ausgeben.
Wegen dem Player-vs-PS3-Ding: Wurde ja schon geschrieben, Stromverbrauch und Lautstärke der PS3 stehen da dem Anschaffungspreis für den Player gegenüber. Mich stört zwar die Lautstärke der PS3 durchaus und ich bin froh, dass ich noch einen extra BD-Player hab, dennoch würde ich erstmal mit der PS3 loslegen und dann bei Bedarf nachrüsten. Denn technisch verbessern sich die BD-Player noch immer, 3D hält ebenfalls nach und nach Einzug und vor allem werden die immer billiger.
AVR: Wie schon geschrieben, brauchst du. Allerdings sind einige ordentliche genannt worden, z.B. die Yamaha oder auch die von Onkyo. Preislich liegen die alle zwischen 200-300€, mehr sollte es dafür nicht sein. Die wichtigsten Features bringen die in der Klasse alle. Bei teureren Geräten kommt meist noch ein Video-Upscaler hinzu (rechnet SD-Videos auf HD-Videos hoch), diesen brauchst du aber i.d.R. nicht, denn BDs sind HD und aus Analog-TV kann man auch durch Upscaling nicht viel rausholen. Ansonsten sollte der AVR genug HDMI-Anschlussmöglichkeiten haben und die wichtigsten Standards (z.B. DTS-HD für BD) beherrschen.
Boxen: Auch hier wurden ja schon gute Systeme genannt. Eigentlich stimmt das Verhältnis 250€-AVR zu 300€-Boxensystem nicht so wirklich, denn im Grunde kosten wirklich ordentliche Systeme imo schon eher das doppelte. Aber vor allem beim Boxensystem kommt es auf deinen Geschmack und den Raum an. Für bis zu 20qm und nicht die allergrößten Ansprüche an den Klang reichen die bestimmt.
Nicht zu vergessen: Kabel. Die sind meist nicht dabei, kosten aber heute auch nicht mehr die Welt, wenn du dich nicht grad von Markennamen blenden lässt, denn für deine Systemklasse genügt Standardware (achte lediglich auf halbwegs robuste Stecker).
Mein Setup ist:
AVR:
Onkyo TX-SR 508 - Der ist klanglich sehr ordentlich und hat auch genügend Anschlüsse. Von den Tests sind die genannten Yamahas afaik ähnlich. Einzig der Stromverbrauch ist bei dem recht knackig, außerdem muss bei manchen Modellen die Firmware beim Händler wegen eines Bugs nachgeflasht werden - nervig, aber kostenlos.
Boxensystem:
Teufel Theater 2 - Der Link geht auf das 200, das ist der Nachfolger von meinem 2er. Ich hab das letztes Jahr für etwa 600€ im Abverkauf gekauft. Das ist jetzt natürlich deutlich teurer als das was du suchst. Aber mal zum Vergleich: Das hier ist jetzt z.B. für Räume zwischen 30 und 50 Quadratmetern empfohlen. Klanglich ist es außerdem wirklich sehr ordentlich und taugt auch für Musik. Sehr schick ist außerdem die Dipol-Technik bei rückseitigen Lautsprechern, die den Klang sich quasi an der Wand "ausbreiten" lässt und ihn nicht direkt auf den Hörer richtet. Ist halt immer die Frage, wie viel man davon in Abhängigkeit von der Raumgröße und dem eigenen Höranspruch wirklich merkt. Letztlich gewinnt man jedoch durch ein gutes Boxensystem immer etwas mehr als durch einen guten Receiver. Zudem tauscht man durch den technischen Fortschritt eher mal den Receiver als das Boxensystem aus.