Méthode simple, pour le faire ponctuellement : faire un Ctrl-Z juste après avoir tapé le caractère pour annuler le remplacement automatique.
Méthode compliquée : aller dans les options de chacun des logiciels concernés et décocher la case relative aux guillemets typographiques. Mais comme je n’utilise plus de logiciels MS Office depuis des années, je ne saurais te dire où ils ont planqué ça exactement.