Что бы получить правильную строку Modeline для xorg.conf нужно воспользоваться командой gtf (под никсами) или найти калькулятор

Синтаксис gtf:

gtf HRes VRes RefrashRate