Si tu servidor no es critico podes hacer un script casero para eso quizás "tar" sea una buena opción.
Creo que la mejor oferta en cuanto a software especializado para backups sigue siendo
AMANDA.
http://www.amanda.org/
Si queres algo mas fácil de usar trata con
AFBACKUP.
http://sourceforge.net/projects/afbackup/
y el mas simple y efectivo HOSTDUMP
http://www.backupcentral.com/hostdump.html
De todas formas si tu servidor esta en producción te recomiendo
Primero Elegir cuidadosamente el software que mejor se adapte a tus necesidades y no el que más fácil te resulte de implementar.
Después crear una política de respaldo que deje explicito cuando, donde, con que frecuencia se respaldara, quienes son los responsables y donde (y por cuanto tiempo) se guardaran los respaldos.
No olvides que es bueno simular una restauración de vez en cuando y que cualquier herramienta que elijas debe generar logs.
Otra cosa importante si tu servidor esta soportando sistemas críticos, es pensar en una solución RAID. (No es necesario que tus discos sean SCSI para esto) podes realizarlo por software sin necesidad de una controladora.
Perdón siempre me olvido de algo, el que archivos respaldar dependerá de que es lo que ofrece tu servidor.
Saludos,