Oui tu peux tout installer gratuitement. Git for Windows, Tortoise Git... Tu choisis.
 
Concernant Git versus SVN, oui SVN est plus ancien, oui Git améliore un certain nombre de points. Mais grossièrement exprimé ces points visent à enrichir les fonctionnalités pour les power users, pas à rendre Git plus simple à utiliser, c'est tout le contraire.
Donc SVN est aussi globalement plus simple et plus direct à utiliser.
Je ne dis en rien que Git est un mauvais outil, si la moitié de la planète l'utilise ce n'est pas pour rien. Mais pour un débutant il est plus complexe et plus confus à manipuler que SVN, ce qui je pense est un argument très important dans votre cas.

Pour un débutant, oui. Mais pour un dev expérimenté, 4h de (bonne) formation et ça roule. Une fois que tu as pigé le principe de base (ca repose sur diff), ça devient assez clair.
Je dirais que IMHO, ce qui compte le plus pour bien développer avec git, c'est que l'équipe des devs se mette d'accord sur un ensemble de pratiques communes et les applique.
A+,