Die bezeichnung AVI steht nur für den container. In einem container gibt es mehrere "spuren" von z.B. video, audio, untertitel etc . Diese inhalte wie z.B. das video wiederrum sind speziell codiert (z.B. MPEG2 was bei DVDs eingesetzt wird). Und irgendetwas am container selber oder aber an den einzelnen spuren scheint defekt zu sein bzw nicht der spezifikation zu entsprechen. Der VLC sollte eigentlich fast alles abspielen, selbst wenn es sich um defekte medien handelt.
Als alternative kannst du ja noch das abspielen mit dem Media Player Classic Home Cinema probieren. Wenn das nicht hilft, müsstest du eine genauere analyse am video vornehmen bzw. probieren mit software die einzelnen spuren aus dem container entfernen und neu zusammen zu führen.
P.S. Mit einen bildaufzeichnungstool mitschnitte von videos zu machen ist alles andere als effizient (CPU, RAM, HDD).