江戸時代から、いわゆる「カナケ抜き」の方法として、シュロ（棕櫚）の幹の皮を用いる方法が生活の知恵として知られていました。シュロは民家の敷地に植えられていることもあり、広く利用されていたようです。樽等に詰めた繊維状のシュロの皮の表面に鉄バクテリアが繁殖して、鉄が吸着します。これと細砂を濾材として組み合わせて鉄を除きます。但し、マンガンの除去はこの方法では、不溶化が困難なため出来ません。現在でも、井戸水（地下水）を水道水や工業用水の原水として利用している場合、鉄、マンガンの含有量によっては、除鉄、除マンガン処理が行われています。水道水の味の向上とともに給水管の内壁への付着防止にもなります。次亜塩素酸等を揚水した原水に添加する前塩処理によって、鉄、マンガンを強制的に酸化して不溶性の物質に変化させ、濾過等で除く方法等が一般的です。しかし、鉄、マンガンの溶存状態によって、処理効率が大きく異なるため、処理工程に様々な工夫がされています。
詳しくは、名著として水道技術者等に広く利用されている、「用水の除鉄・除マンガン処理」（高井雄ら著、産業用水調査会刊）を参考にして下さい。
なお、ご質問に対する回答は、あくまで回答者個人の見解です。
【関連ある質問】
マンガン、鉄はそれぞれどのような地層・岩種の地域に多く含まれていますか？
鉄やマンガンの成分に変化がないのに色度が1～2オーダー上昇する原因は何ですか？
水質検査で鉄・マンガン・フッ素が基準値を超えると飲めないのか？飲んだ時の体への影響は？