wenn obs dir das nicht anzeigt, dann scheint dein modell der 6500xt interessanterweise kein H.264 zu können.
das dein stream schwammig und pixelig wird, wenn du damit streamst und spielst liegt daran, dass medium zu hoch sind. versuchs mit very fast oder faster.
denn für medium brauchst eine cpu mit mehr kernen, wenn das spiel schon cpu-lastig ist wie in deinem fall
denn die cpu die empfohlen wird mag zwar nur ein i5-4590 (4 Kerne 4 Threads) sein, doch mit 6 Kernen 12 Threads brauch das spiel selber schon einiges davon und dann belastest deine cpu noch mit x264 medium.
test geht einfach:
lädst dir MSI afterburner runter und schaust, was deine CPU + GPU an auslastung ohne stream haben und dann schaust was sie haben, wenn den stream anmachst. gibt im OBS ein modus zum testen:
so hab ich in der vergangenheit mit meiner hardware getestet, wie die auslastung und die fps sich verändern wenn ich nur spielte und wenn ich dann noch streamte.
wenn du nur deine switch spiele streamen willst, dann teste auf veryfast oder faster bei (wo im screenshot very fast steht)

die 1600x900 kann man machen, jedoch sind die 900p keine sinnvolle Streaming-Auflösung. dann eher 1280x720 mit den 4500, oder 1664x936 mit 5000 kbps
das es ohne game auf selbigen pc gut lief, ist auch kein wunder weil dann findet keine wirkliche berechnung statt. denn die cam wird eher über die gpu als über die cpu berechnet