Celý princíp je založený na prírodných zákonoch. Tepelné čerpadlá odoberajú teplo z okolia budovy – zo vzduchu, zeme alebo vody. Teplota sa mení pri zmene skupenstva – pri vyparovaní, keď dochádza k zmene skupenstva z kvapalného na plynné, a pri kondenzácii, keď dochádza k zmene skupenstva z plynného na kvapalné. Celý tento proces prebieha v kompresore, kde dochádza k zmene tlaku, pričom čím vyšší je tlak, tým rýchlejšie sa kvapalina mení na paru a naopak. Stlačením sa studená para ohrieva. Na premenu kvapalnej látky na plyn potrebujeme energiu zvonku.
V tepelnom čerpadle vzduch-voda vonkajšia jednotka odoberá vzduch a privádza ho do výmenníka tepla. Zároveň je tu kvapalné chladivo, ktoré je chladnejšie ako prichádzajúci vzduch, čo vedie k zmene teploty a začne sa odparovať. Kompresor prijíma chladivo v plynnom stave a pomocou tlaku zvyšuje jeho teplotu. Teplá para sa dostáva do kondenzátora, ktorý odovzdáva vyrobenú energiu do vykurovacieho systému domu. Chladivo sa opäť premení na kvapalné a celý proces sa opakuje.
Je jednoduchšie si to predstaviť pri chladničke, ktorá odoberá teplo z potravín a pomocou výparníka ho odvádza von – keď sa dotknete vonkajšej strany chladničky, zahreje sa. Tepelné čerpadlo funguje na podobnom princípe.