Encore une fois, c'est l'extension du fichier qui va dire à IIS d'interpreter la page avec PHP ou ASP, ou autre, et ce (dans une configuration simple) que que soit le dossier ou se trouve le fichier.
Du moment que IIS sait gérer les 2 types, ça ne lui posera aucun problème de gérer les 2 dans le même dossier, ou 1 dossier asp et 1 dossier php
Faire une installation Apache à part c'est possible (il faut faire un "reverse proxy" sur le serveur principal il me semble, en l'occurence ça serait sur IIS), mais étant donné que IIS pourrait gérer la situation seul, ça me parrait un peu démesuré. Après il faut prendre en compte tous les paramètres, peut être qu'en fonction de la charge de l'un ou l'autre des 2 sites ça peut se justifier