Intentando ejecutar Nautilus como root me apareció el siguiente mensaje de error:
La solución es simple y pasa por ejecutar antes el siguiente comando:
xhost +
access control disabled, clients can connect from any host
Otra forma alternativa es mediante el siguiente comando:
xhost local:root