Si le serveur merde que ce soit Win ou un autre OS ca ne changeras pas grand chose... sans capacité d'administration rien à faire.
Part sur ton idée Linux, je pense que tu en apprendras pas mal de choses, il est assez simple de monter une passerelle avec un firewall, centraliser les données y compris en interoperabilité avec Windows (Samba), ...
La question c'est surtout la choix de la distribution, une distribution spécialisée sur une tâche permettera de faire cette tâche très bien et sera en général plus facile à gérer, mais sera nettement moins souple si tu désires y ajouter des services.
Une distribution généraliste sera plus souple quant aux services qu'elle offre, mais nécessitera d'approfondir pour ne pas laisser de trou de sécu.