イオン交換する素材は，スチレンとジ・ビニルベンゼン共重合体で，スルホン酸のナトリウム形の強酸性陽イオン交換樹脂で直径0.5mm程度の球状をしています。（※製品によって異なりますが，球状にすることにより接触面積を持たせるような形状取っていることが多い）
この樹脂をFRP製または鋼製の容器に充填して，水処理と接触するような構造を持たせたものが軟水装置であす。
交換樹脂は，自ら持っているナトリウムイオンを水道水中にある陽イオンと置換しますが，陽イオンの種類により選択性が異なります。
一般的に常温では，イオン価数の高いものほど反応性が大きい特徴があります。（例：Na＜Ca＜AL） また，同じ価数であれば原子番号が大きいほど交換反応性が大きくなります。
つまり，交換樹脂にあるナトリウムよりも，原水中に含まれるカルシウムイオンとかの方がくっつきやすいので，ナトリウムイオンをどかして，代わりにカルシウムイオン，マグネシウムイオンがくっつくっていうイメージとなります。 まるでイオン同士を交換しているようなので，そう呼ばれます。
この反応は，交換樹脂にナトリウムイオンが残っている間は継続しますが，ナトリウムイオンが置換されて，ナトリウムが消費されると軟水化能力がなくなります。この場合には，濃厚食塩水を用いて，カルシウムイオン等とナトリウムイオンの再置換を行って，交換樹脂が使えるように再生する必要があります。通常，この工程は定期的に行う必要があります。
管理上の注意として
濃厚食塩水タンクへは，使用量に応じた塩の補給が必要になります。特に注意が必要なのは，食塩を使用した場合には，タンク内で食塩が均等に溶けずにドーム状に溶けて空洞が発生してしまうことです。
そのため，濃厚食塩水が補充できなかったトラブルが報告されています。そうならないために，再生に必要な塩の量と，実際の使用量を日常的に点検することが重要となります。
使用するのを食塩でなくボイラーソルトを使用するとタンク内での食塩の空洞が起きない。
イオン交換樹脂は原水中の残留塩素などで膨張し，逆洗時の撹拌不良による再生不良を起こす場合があります。通常寿命は5年程度と言われています。このような経時的な変化をモニタするためには，装置の入口と出口で硬度判定指示薬を用いた硬度チェックが必要である。このチェックにより，装置の適正な運転が把握できる。
| 軟水化 装置 |
|
| アルミニウム | ○(※1) |
| クロラミン | × |
| 銅 | × |
| フッ素イオン | × |
| 硝酸性窒素 | × |
| 硫酸イオン | × |
| 亜鉛 | ○ |
| カルシウム | ○ |
| マグネシウム | ○ |
| カリウム | × |
| ナトリウム | × |
| ヒ素 | × |
| バリウム | ○ |
| カドミウム | ○ |
| クロム | × |
| 鉛 | × |
| 水銀 | × |
| セレン | × |
| 銀 (※2) | × |
| 鉄 | △ |
| マンガン (※2) | × |
| 遊離塩素 | × |
| パイロジェン | × |
| 細菌 | × |
| 微粒子 (※2) | × |
※1：アルミニウムの形態により基準水質に達しないこともある。
※2:目標水質の項目には含まれない。