Après quelques mois de recul, je dirais que le VPS ça roule techniquement. Pour un site Internet avec des variations d'audience saisonnières, c'est clairement le top. Par contre pour le reste, c'est pas forcément intéressant. Pour un petit site, les mutus sont en gros au même tarif et il n'y a pas à s'embêter avec la configuration du serveur. Pour un gros site, il y a moyen de trouver du dédié plus performant au même prix...
Je fais tourner un petit site de commerce qui utilise un script php pour analyser des fichier soumis par les clients. La partie ecommerce est hébergé en mutualisé, le script sur un VPS 1er prix. Ainsi je n'ai pas à me soucier de la configuration Apache, SMTP, DNS etc Et si jamais mon script tourne en boucle ou se fait hacker, ça ne fout en l'air que mon VPS et non pas un mutu tout entier.