Hay que editar el archivo ~/.local/share/applications/mimeapps.list, en el que se debe modificar la línea que corresponde a inode/directory. Debajo se ve el valor de dicha línea antes del cambio (cuando abría con VLC) y la misma con el valor correcto para ejecutar Nautilus.
Cambiar el siguiente valor (o el que hubiera asociado):
inode/directory=vlc.desktop;
Por:
inode/directory=nautilus-folder-handler.desktop;