Вот твоя строка:
# iptables -А INPUT -p udp -m udp -m string --hex-string "|FFFFFFFF56|" --algo kmp -j DROP
iptables v1.4.13: unknown option "iptables"
Try `iptables -h' or 'iptables --help' for more information.
Вот руками правило вбил:
# iptables -A INPUT -p udp -m udp -m string --hex-string "|FFFFFFFF56|" --algo kmp -j DROP
И все сработало, так что криво скопировал.
Еще раз, verbose:
# iptables --verbose -A INPUT -p udp -m udp -m string --hex-string "|FFFFFFFF56|" --algo kmp -j DROP ~
DROP udp opt -- in * out * 0.0.0.0/0 -> 0.0.0.0/0 udp STRING match "|ffffffff56|" ALGO name kmp TO 65535
История показывает, что во всем новом обычно кроется какой-то подвох.
Классическая ошибка, которую совершают проектировщики
абсолютно надежных систем, - недооценка изобретательности клинических идиотов.