C'est peut-etre ton modem qui apprecie pas l'overclocking
Il tourne a combien ton bus PCI ?
T'as vu dans ton BIOS des options ou des choix qui te permettait de garder un bus PCI autour de 33 Mhz ?
Sinon on peut supposer que tout est synchronise et que donc
en passant de 400 a 500 Mhz, ton bus PCI monterait alors a 41.5 Mhz ce qui peut etre trop eleve pour ton modem.