Ну если драйвер запускается modprobe fglrx то скорее всего все таки надо копать в сторону фреймбуфера, добавить модули в само ядро, пересобрать, прописать в загрузчике.
Лучше всего на мой взгляд для проприетарных дров использовать uvesa
опции ядра:
Device Drivers --->
<*> Connector - unified userspase <-> kernelspase linker --->
[*] Report process events to userspace
Graphics support --->
<*> Support for frame buffer devices --->
<*> Userspace VESA VGA graphics support
[*] EFI-based Framebuffer Supportв загрузчике в опциях ядра добавить video=uvesafb:1024x768-32,mtrr:3,ywrap
У меня fglrx и с вашими параметрами работает нормально!
у вас
(EE) fglrx(0): Failed to map FB memory+ Heaven
