Что не так?
Как минимум – после коагулянта надо не фильтровать, а аккуратно со дна осадок убирать.
Или на картриджи скиммерные переходить (но они какие-то заторможенные и эффект не столь явен и быстр, а денег стоят немало).
Дал отстоятся ночь
После этой ночи вода была прозрачная?
Осадок на дне был?