Завис компьютер и на экране появляются пиксели

Проблемы с видеокартой, это однозначно. Вопрос только в какой именно области.Советую проверить именно в таком порядке :
1) Саму систему (возможно сами драйвера работают некорректно, либо что то в операционке им мешает, что и вызывает проблему)
т.е. переставить драйвера, директ икс и винду.
Если проблема не устранилась, то
2) Проверить рабоатет ли кулер на видеокарте, возможно он просто перегорел или забит пылью, если крутится медленно тоже непорядок. Чистка или замена решат проблему.
Еесли эти варианты не помогли тогда уже только менять.
А насчет той видеокарты что вы выбрали - ваше железо не сможет на 100% использовать ее возможности, выберите что-то попроще из предыдущих серий, например из второй (GTX или GTS 2**)