La question portait surtout, je pense, sur la compatibilité entre ASP et PHP. A priori, IIS devrait sans problème diriger les requêtes vers le ISAPI (ou CGI) de PHP, et vers son moteur ASP, à partir du moment où tes fichiers PHP et ASP ont des extensions différentes.
Si tu fais traiter à ASP ou PHP tes fichiers HTML (ou autre extension), tu ne pourras pas (que je sache) avoir un traitement mixte : ce sera soit ASP, soit PHP.