鉄分は、
①元々地下水（井戸水）に含まれている
②地下水には含まれていないが接触する配管から溶け出す
という２つの原因が考えられます。ただ、一般的には、鉄分は元々地下水に含まれているケースが多いと考えられます。言い換えれば、鉄分を含む水質が悪い地下水（井戸水）であり、この場合は配管を塩ビ管などに交換しても効果はありません。揚水した地下水（井戸水）から鉄分を取り除くには、水処理装置を設置する必要があり、またメンテナンスにも費用がかかるため、飲用目的ならともかく現実的な方法ではありません。
一方、②の場合のように、地下水に鉄分が含まれていなくても、地下水の遊離二酸化炭素（いわゆる炭酸成分）の濃度が高い場合は、鉄製の配管から鉄分を溶かし出し、赤水になることがあります。この場合は、揚水管を含めて配管を塩ビ製等に取り替えると改善効果は期待できます。しかし、揚水後に地上の構築物等のさびの発生の原因になることも考えられます。
また、①②が複合的に起こっている場合もあり、赤水の原因を突き止めることは、水質分析を繰り返し行っても、残念ながら難しいと思います。
なお、ご質問に対する回答は、あくまで回答者個人の見解です。
【関連ある質問】
サビで茶色になる原因が、地下水自身か、それともパイプ等の設備要因なのか判断する方法は？
鉄やマンガンの成分に変化がないのに色度が1～2オーダー上昇する原因は何ですか？