Es posible cambiar de directorio en windows las carpetas custom scenery y aircrafts y que el simu las utilice?
No, hay que respetar siempre la estructura de directorios, así que la única salida en este caso son los enlaces simbólicos que obviamente no puedes crear por tratarse de diferentes sistemas de archivos.
Creo que lo mas práctico sería una instalación multisistema como bien has dicho, instalas X-Plane para una plataforma y luego corres el actualizador sobre la otra, así unicamente se te instalaran los archivos necesarios (basicamente los ejecutables) para win y mac, dejando el resto de archivos comunes como si fuera una única instalación. Si el problema lo tienes con el acceso a la partición desde uno de los dos sistemas siempre puedes usar un disco externo usb como medida "chapucera" (como capa intermedia para leer los archivos desde ambos sistemas), los tiempos de carga no deberían quedar demasiado afectados.
Que conste que no lo he probado, sólo es una idea.