Najczęściej pompy ciepła montowane są na gruncie, przez umieszczenie ich na fundamencie lub konstrukcji obok budynku. Pozwala to na łatwy dostęp podczas serwisowania i łatwe odprowadzenie skroplin. Ważne jest zachowanie odpowiedniej odległości od budynku pozwalające na swobodne krążenie powietrza wokół urządzenia. Odpowiednia odległość wymagana jest także ze względu na generowany hałas, który może być uciążliwy dla sąsiadów. Zbyt bliskie jej umieszczenie w stosunku do budynku może prowadzić do rezonansu i wibracji, co może być również uciążliwe dla mieszkańców domu. Norma, jaka powinna być zachowana w przypadku działek w zabudowie jednorodzinnej nie może on przekraczać 40 dB, a wielorodzinnej 45 dB na granicy działki.
W przypadku montażu na ścianie pompa ciepła jest instalowana na specjalnych wspornikach, które powinny być odpowiednio izolowane, aby uniknąć przenoszenia dźwięków i wibracji na budynek. Zaleca się umieszczanie jej na ścianach garażu lub łazienki, a nie sypialni czy pokojów. Tu także należy pamiętać o zachowaniu tych samych warunków dla generowanego hałasu. W przypadku skroplin jest nieco trudniej. Jeżeli mogą być one odprowadzane bezpośrednio pod jednostkę, to sytuacja jest zgoła podobna do pomp ciepła montowanych na gruncie. Jeżeli pompa ciepła zamontowana jest nad ciągiem pieszym, wówczas należy zastosować podgrzewaną tacę ociekową i przewód grzejny do rury odprowadzającej skropliny. Od wysokości, na jakiej zostanie zamontowana pompa ciepła, zależeć będzie skomplikowanie prac serwisowych.
Łatwy montaż pomp ciepła na płaskich dachach umożliwia szeroka gama konstrukcji do tego przeznaczonych, dostępnych na rynku. Serwisowanie urządzeń przy takiej lokalizacji nie stanowi większego problemu. Problem natomiast może wystąpić z odprowadzaniem skroplin. Podgrzewana taca i przewód grzewczy to niezbędne akcesoria. Ponadto pompa ciepła montowana na dachu powinna być osłonięta przed naporem od tyłu dużej masy powietrza. Świetnie w tym względzie sprawdzi się komin, ścianka lub zamontowana osłona.
Najtrudniejszy jest montaż pompy ciepła na dachu skośnym, a zwłaszcza przy dużych skosach. Dodatkowo serwisowanie pompy ciepła przy skosie powyżej 15 stopni staje się problematyczny. Pamiętać należy również o odprowadzaniu śniegu. Aby zabezpieczyć pompę ciepła przed ewentualnym zasypywaniem, stosuje się osłony z blachy.