salut 
J'avoue que je n'ai pas plus d'idée car c'est la première fois que je vois çà. Donc je vais pousser plus avant les tests sur les idées déjà évoquées. Si çà à rien avoir au moins on sera fixé.
1- mémoire : fais un test avec memtest86+ (perso je préfère la version non "+" mais elle aujourd'hui dure à trouver. En effet elle m'a découvert des problème mémoire que la version récente ne me décelait pas) : http://www.clubic.com/telecharger-fiche10823-memtest86.html
une autre façon : met qu'une seule barette si tu peuxx travailler avec ou mets les toutes sur un autre pc et travaille deçu.
2- carte graphique : tu as déjà essayé donc OK --> j'émets des réserves car bien que tu ais changés ta carte çà me rapelle ma carte ati qui faisait comme toi et qui réagissait comme toi (la seule différence çà faisait pas des vaguelettes mais plutot des petits traits horizontaux). Vérifie tout de même que le ventilo de ta carte graphique ne s'arrête pas par intermitence et si la carte ne chauffe pas à la base du slot.
fait le test en branchant l'écran en sortie VGA et non DMI. En fait çà correspond au 'mode sans echec'. Sur la carte çà correspond à une zone particulière qui est indépendante du mode normal. Donc si çà marche tu sera sûr que c'est ta carte (petit bémol : je sais pas si la carte mère traite le signal VGA de la même manière que le signal DVI !)
3- chipset graphique : à faire vérifier chez un spécialiste (à part que tu connaisses un logiciel). Tu peux aussi vérifier s'il est chaud en y mettant les doigts dessus.
Qu'est-ce que çà donne si tu enlèves physiquement la carte graphique et que tu branches ton écran en sortie carte mère ? Tu peux même essayer de voir s'il y a une différence entre la sortie VGa et DVI.
4- processeur : c'est fortement improbable mais vu que tu dis que dès que tu pousses dans les jeux il y a un soucis, çà ne coute rien d'essayer. Dis moi si çà le fait :
1- durant une lecture vidéo (fenêtre réduite au mini)
2- compression vidéo (très peu d'affichage)
l'idée c'est de savoir si c'est lié à la vidéo, au processeur poussé à fond ou à l'aspect graphique de l'histoire. Je rappelle c'est que dans le seul but d'éliminer des possibilités en faisant le tour des éléments qui interviennent lors de ton soucis.
5- autres éléments de la carte mère (particulièrement ceux qui comportent déjà des radiateurs) : pose tes doigts dessus et vois s'ils sont bouillants. Ceci peut engendrer des disfonctionnement dans windows. Au besoin rajoute un ventilo localement.
6- dxdiag : va dans 'Exécuter' et tape 'dxdiag'. Tu vas dans l'onglet affichage et tu fais les tests qu'ils te proposent. Si çà ne donne rien refait le au moment où le problème apparait.Tu as aussi le dernier onglet 'Aide supplémentaire'.
Je n'ai pas d'autres idées pour l'instant d'autant que je ne sais pas comment on teste une carte mère. Mais déjà on aura dégrossi l'ensemble.
salut