La pompa di calore geotermica utilizza il terreno o l'acqua che si trova nel terreno come fonte o come dispersore di calore. Il trasporto dell'energia termica è effettuato mediante la stessa acqua o mediante un liquido antigelo, eccetto nelle pompe di calore a espansione diretta, in cui si usa un fluido refrigerante che circola nello scambiatore posto nel terreno.
A differenza delle pompe di calore ad aria, quelle geotermiche possono funzionare in raffreddamento anche in modalità passiva: esse estraggono calore dall'edificio pompando nel sistema l'acqua fredda o il liquido antigelo, senza l'azione della pompa di calore vera e propria.