il n'y a pas "d'équation" pour un triangle, plutôt une équation d'un plan (ax + by + cz + d = 0) avec un espace de définition (ie x appartient à [blah, blahblah]) ...
* tu peux projeter le triangle 3d sur un plan 2d, et tester si la projection du point que tu veux tester appartient au triangle. c'est plus simple en 2d, et je crois qu'il faut faire ça pour les trois plans (projeter sur xoz, yoz, xoy)
* autre méthode : tu peux peut-être t'en sortir avec les coordonnées barycentriques. soit p1, p2, p3 les coords de ton triangle, p le point quelconque, si tu as ap1 + bp2 + cp3 = p avec a, b, c entre 0 et 1, ton point appartient au triangle.
* autre méthode encore : 'extruder' le triangle de manière à 'générer' trois plans, comme un prisme. soit p1, p2, p3 les coords de ton triangle, n sa normale, les trois plans sont définis par les couples de vecteurs (p1p2, p1pn), (p2p3, p2pn), (p3p1, p3pn). tu calcules les équations de ces trois plans, et tu balances les coordonnées de p dedans -> si pour chaque plan, ax + by + cz + d donne un nombre de même signe, le point appartient au triangle.
voilà ... ça te donne au moins qq pistes pour commencer. tu peux également jeter un coup d'oeil à la faq de comp.graphics.algorithms, dispo ici : http://www.faqs.org/faqs/graphics/algorithms-faq/ .