Наверное, что-то не так с частотой развертки. Через Центр настройки системы при разрешении 1280х1024 выставляются только частоты 50 и 60 Гц. Хотя монитор при этом разрешении нормально работает на 75 Гц (так было на другой системе и проблем не возникало).
Странно еще то, что "дрожь" (легкая рябь по экрану... даже не знаю как точнее описать) пропадает, если двигаешь мышку. Когда перестаешь двигать, то через примерно секунду снова начинает дрожать. Ну неудобно читать что-то с экрана, постоянно подергивая мышку :).
Вот что в xorg.conf про монитор:
Section "Monitor"
Identifier "NEC MultiSync LCD1701|0"
HorizSync 31.0 - 83.0
VertRefresh 56.0 - 75.0
EndSection