慢性肾盂肾炎需要与下尿路感染、尿道综合征、肾和尿路结核、慢性肾小球肾炎和非感染性慢性间质性肾炎相鉴别。

如果尿蛋白、β2微球蛋白升高，尿沉渣抗体细菌阳性，白细胞管型和肾脏形态功能异常，可支持慢性肾盂肾炎的诊断。必要时应进行膀胱冲洗和绝育。如果膀胱冲洗消毒10分钟后，剩下的膀胱细菌数量很少，就是膀胱炎。

如果细菌数量和绝育前差不多，就是肾盂肾炎。这是慢性肾盂肾炎和下尿路感染的鉴别诊断。尿道综合征好发于中青年女性，以明显的尿路刺激症状为主要表现，且易复发。尿白细胞偶尔可轻度升高，常被误认为非典型慢性肾盂肾炎，长期盲目使用抗生素治疗。需要区别对待。最有效的鉴定依据是尿道综合征中段尿液多次定量培养，不含真菌药，排除假阴性的可能。排除厌氧菌、结核、真菌感染后，可确定为尿道综合征。此外，还需要与肾、尿路结核相鉴别。半数以上的肾、尿路结核患者有肾外结核病史或病灶，膀胱刺激症状明显且持续，常伴有结核中毒症状。尿液常有血尿和脓尿，尿沉渣涂片中可见抗酸杆菌。x线检查可显示结核病灶钙化影或肾脏区虫样破坏性缺损区，可加以区分。

此外，还需要与慢性肾小球肾炎相鉴别。隐匿性肾小球肾炎全身感染的临床表现和症状与不典型慢性肾盂肾炎相似，尿路刺激症状不明显，容易混淆。此时全身水肿，无明显膀胱刺激，尿蛋白含量高，以中分子以上蛋白为主，白细胞低，肾小球滤过功能损害比肾小管功能损害更早、更严重，就会考虑慢性肾小球肾炎的诊断。

在病程中，如尿路刺激症状明显，尿检白细胞升高，可有少量蛋白尿，以小分子为主，中段尿细菌培养阳性，肾小管功能损害早于且重于肾小球功能损害。此时应考虑慢性肾盂肾炎。