Hohe Effizienz und damit niedrige Betriebskosten sind nur bei Gebäuden mit niedrigem Heizwärmebedarf und einer Niedertemperaturheizung zu erreichen. Bei alten Gebäuden ist es vor dem Einbau einer Wärmepumpen-Heizung meistens notwendig, den Energieverbrauch durch thermische Sanierungsmaßnahmen zu senken. Ebenso ist bei den bestehenden Heizkörpern abzuklären, ob die erforderliche Wärmemenge auch mit geringeren Vorlauftemperaturen in die Räume eingebracht werden kann. Vorlauftemperaturen über 35 °C machen die Wärmepumpe ineffizienter und teuer im Betrieb.
Für schwer erreichbare Häuser ist die Wärmepumpe ideal, da sie auf keine Brennstoffzulieferungen angewiesen ist. Von einer Luftwärmepumpe in der Altbausanierung ist sowohl aus ökologischer Sicht als auch aus Kostengründen abzuraten.