тоесть не может найти libxtables.so.5,подскажите куда копать?

Для пользователей Debian Lenny и других версий универсальный вариант поставить сабж (а может и тарпит?).
1. Указываем основную ветку системы в apt:
# echo ‘APT::Default-Release «stable»;’ > /etc/apt/apt.conf.d/45local-settings

2. Дублируем желаемые репозитории, мне достаточно было такого:
# grep -E ‘lenny|testing’ /etc/apt/sources.list
deb http://mirror.yandex.ru/debian/ testing main non-free contrib
deb http://mirror.yandex.ru/debian/ lenny main non-free contrib
deb-src http://mirror.yandex.ru/debian/ lenny main non-free contrib
deb http://security.debian.org/ lenny/updates main contrib non-free
deb-src http://security.debian.org/ lenny/updates main contrib non-free
deb http://volatile.debian.org/debian-volatile lenny/volatile main contrib non-free
deb-src http://volatile.debian.org/debian-volatile lenny/volatile main contrib non-free
То есть, только основной репозиторий делаем «двойным» — и lenny, и testing.

3. Обновляем списки пакетов
# apt-get update

4. Установить netfilter-extensions-source
# apt-get install netfilter-extensions-source
…
Получено:1 http://mirror.yandex.ru lenny/main module-assistant 0.10.11.0 [103kB]
Получено:2 http://mirror.yandex.ru testing/main netfilter-extensions-source 20080719+debian-1 [40,0kB]
…
Обратите внимание, одно из lenny, другое из testing. Это безопасно доставляет только недостающее в stable (lenny) из testing.

5. Ставим заголовочные файлы действующего ядра (автоматически)
# apt-get install linux-headers-$(uname -r)

6. Соберем пакет netfilter-extensions:
# m-a build netfilter-extensions

7. Выполним обновление базы module-assistant (кстати, зачем?) и произведем установку собранного пакета netfilter-extensions
# m-a update && m-a a-i netfilter-extensions
Кстати, последние команды можно было бы заменить на то, о чем мне сказал их вывод:
…
Extracting the package tarball, /usr/src/netfilter-extensions.tar.bz2, please wait…
Целевой файл пакета /usr/src/netfilter-extensions-modules-2.6.26-2-686_20080719+debian-1+2.6.26-19lenny1_i386.deb уже существует, не будем пересобирать!
(however, you could use the -f switch to ignore it)
*** dpkg -Ei /usr/src/netfilter-extensions-modules-2.6.26-2-686_20080719+debian-1+2.6.26-19lenny1_i386.deb ***
Выбор ранее не выбранного пакета netfilter-extensions-modules-2.6.26-2-686.
(Чтение базы данных… на данный момент установлено 143462 файлов и каталогов.)
Распаковывается пакет netfilter-extensions-modules-2.6.26-2-686 (из файла …/netfilter-extensions-modules-2.6.26-2-686_20080719+debian-1+2.6.26-19lenny1_i386.deb)…
Настраивается пакет netfilter-extensions-modules-2.6.26-2-686 (20080719+debian-1+2.6.26-19lenny1) …

Полный список собранных модулей:
# ls -l /lib/modules/2.6.26-2-686/kernel/net/ipv4/netfilter/|grep «Ноя 2″
-rw-r—r— 1 root root 10864 Ноя 2 20:18 ip_set_iphash.ko
-rw-r—r— 1 root root 6232 Ноя 2 20:18 ip_set_ipmap.ko
-rw-r—r— 1 root root 11666 Ноя 2 20:18 ip_set_ipporthash.ko
-rw-r—r— 1 root root 10010 Ноя 2 20:18 ip_set_iptree.ko
-rw-r—r— 1 root root 14320 Ноя 2 20:18 ip_set_iptreemap.ko
-rw-r—r— 1 root root 24568 Ноя 2 20:18 ip_set.ko
-rw-r—r— 1 root root 7095 Ноя 2 20:18 ip_set_macipmap.ko
-rw-r—r— 1 root root 11964 Ноя 2 20:18 ip_set_nethash.ko
-rw-r—r— 1 root root 6417 Ноя 2 20:18 ip_set_portmap.ko
-rw-r—r— 1 root root 3262 Ноя 2 20:18 ipt_ipv4options.ko
-rw-r—r— 1 root root 4138 Ноя 2 20:18 ipt_set.ko
-rw-r—r— 1 root root 4429 Ноя 2 20:18 ipt_SET.ko
-rw-r—r— 1 root root 5867 Ноя 2 20:18 ipt_TARPIT.ko
-rw-r—r— 1 root root 4285 Ноя 2 20:18 ipt_u32.ko

P.S. Очень надеюсь на культурное форматирование — отсутствует кнопка предварительного просмотра комментария.