pour iptables, il loggue effectivement en kernel.
par contre tu peux lui dire de loguer en kernel.debug par exemple et rediriger ca vers un autre fichier de log qui ne contiendra pratiquement que iptables.
pour ulog, je n'ai jamais essaye mais tu devrais trouver de la doc la dessus. il s'utilise avec la regle -j ULOG