כדי שדוד שמש יפעל יש, תחילה, לחבר צינור מתשתית המים הביתית אל צינור אחר, העובר בקולטי השמש. את חלקו השני של הצינור יש לחבר למיכל מיוחד, באמצעות צינור אחר. בשל צבעם הכהה של קולטי השמש, נקלטות בהם במהירות, יחסית, קרני השמש שהופכות מייד אחר כך לאנרגיית חום. זו, ברובה, נשארת כלואה בתוך קולטי השמש. המים, העוברים דרך הצינור מתשתית המים, מתחממים בזכות אנרגיית החום, שעוטפת אותה.
מכיוון שהמיכל, המכיל את המים, ממוקם גבוה יותר מקולטני השמש, בכל פעם, כשהמים בקולטי השמש חמים יותר מאלה שבמיכל, מתבצעת תחלופת מים, כך שתושג המטרה העיקרית: מים חמים במיכל. לעיתים, כשחימום המים באמצעות קרני השמש אינו מספק, מותקן גוף חימום חשמלי בתוך מיכל המים, המשמש כמאיץ חום (וכך גם שמו).
דוד שמש בארץ
בשנת 1976 נחקק חוק במדינה, בעקבות משבר האנרגיה דאז, המחייב כל דירה (מלבד דירות בבתים גבוהים במיוחד) להתקין דוד שמש. כיום, מעל 95 אחוזים מכלל הבתים, נהנים מחימום מים באמצעות דוד שמש, שהפך למתקן נפוץ, ובעיקר, שמיש במיוחד.