Zgodnie z prawami fizyki, efektywność pompy ciepła nie może przekroczyć granic wyznaczonych przez różnicę temperatur, jaka jest do pokonania. Maksymalna spodziewana efektywność pokazana została na rysunku.

Efektywność pompy ciepła zależy od różnicy temperatur
Przykład: Jeśli temperatura źródła dolnego wynosi -10°C a obwód grzewczy zasilany jest wodą o temperaturze +50°C, In różnica temperatur wynosi 60 K, czyli pompa ciepła nie będzie mieć efektywności większej niż 2,8. Jeśli natomiast źródło ma temperaturę +10°C a obwód grzewczy +40°C, wtedy różnica wynosi 30 K, czyli efektywność osiągnie poziom 5,0. Wykres ten odnosi się tylko do samej pompy ciepła. Wszystkie inne urządzenia dodatkowe zużywające energię elektryczną, jak na przykład pompy obiegowe, zmniejszają wynikową efektywność.

Dla każdej temperatury źródła ciepła i temperatury wody w obwodzie grzewczym da się wyznaczyć efektywność (COP), rozumianą jako stosunek otrzymanej energii grzewczej do zużytej energii elektrycznej. W tym celu należy obliczyć różnicę temperatur i na wykresie odczytać współczynnik efektywności.

Niestety, w praktyce nie da się uzyskać takich efektów, jakie wynikają z rysunku, gdyż wyliczony parametr odnosi się do „gołej” pompy ciepła. Prawdziwy współczynnik efektywności jest zawsze mniejszy, ponieważ energia elektryczna /używana jest nie tylko przez samą pompę ciepła. Spora jej ilość zużywana jest także przez pompy obiegowe, które wymuszają przepływ w dolnym źródle, obwodach centralnego ogrzewania i przygotowywania ciepłej wody użytkowej.

Oczywiście każda pompa ciepła oprócz efektywności energetycznej ma swój współczynnik efektywności chłodniczej, który wyraża stosunek mocy chłodniczej do włożonej mocy elektrycznej. Zgodnie z rysunkiem  pompa ciepła o współczynniku efektywności energetycznej 5 będzie miała współczynnik efektywności chłodniczej 4, bowiem moc chłodnicza (ze źródła ciepła) wynosi 12 kW, a włożona moc elektryczna 3 kW (12 kW : 3 kW = 4).
Dobrze jest więc dokładnie sprawdzić, o którym współczynniku jest mowa.