שטמפפר נולד בשנת 1852 בהונגריה, בצעירותו השתלב בתנועת האמנציפציה וההשכלה, למורת רוחו של אביו בנימין, שהיה דיין בשטיינאמנגר (סומבטהיי). לפיכך יהושע נשלח לבית דודו אליעזר ראב, אביו של יהודה ראב, שחי בכפר ועסק בחקלאות, וכך התוודע לעבודת האדמה. לדוד היו קשרי מכתבים עם הרב צבי הירש קלישר, ממבשרי הציונות. לאחר מכן למד בבית המדרש של הרב עזריאל הילדסהיימר באיזנשטט, ושם שמע דברים על ארץ ישראל. לאחר אכזבה מרה מהאנטישמיות שהמשיכה להתקיים בהונגריה החליט, כדבריו, "לפנות קדמה אל ארץ אבותינו ולהקריב חיי על מזבחה".
בשנת 1869 עלה שטמפפר לארץ ישראל במסע רגלי שארך חמישה חודשים. כשהגיע בסופו לירושלים פגש שם את הורי אמו, שלמה ואסתר (בת חזקיהו הכהן -ניימן) ראב, שעלו ארצה לפניו .
עם עלייתו הוא נשא את דייכה בת יצחק רוזנטל, מאנשי כולל הו"ד.
בשנת 1871 נפטרה אימו ואביו נשא לאשה את אחותה יהודית -איטל לבית ראב שטיפלה ביתומים. בשנת 1872 עלתה המשפחה לארץ והתיישבה בירושלים.
שטמפפר היה מהוגי רעיון הקמת שכונות מחוץ לחומות העיר ירושלים והקמת יישוב חקלאי בארץ ישראל. הוא היה מעורב בניסיונות לרכוש אדמות באזור יריחו, ליד רמלה ובין חברון לבית ג'וברין, לצורך כך.
בשנת 1878, והוא בן 26 בלבד, היה שטמפפר אחד ממייסדי המושבה פתח תקווה והיה ממחדשי ישובה בשנת 1883. שטמפפר הוא שנתן את השם למושבה, על פי האמור בספר הושע פרק ב', י"ז: ”וְנָתַתִּי לָהּ אֶת-כְּרָמֶיהָ מִשָּׁם, וְאֶת-עֵמֶק עָכוֹר לְפֶתַח תִּקְוָה.” הניסיון הראשון לרכישת האדמות בארץ ישראל היה באזור יריחו- עמק עכור, אך הוא לא צלח. מכאן הקשר בין עמק עכור לפתח תקווה.
שטמפפר היה עסקן פעיל במושבה והיה מזכיר המושבה עד יום מותו. הוא היה הרוח החיה בחיבור תקנון המושבה אשר הניח תשתית לארגון חברתי, קהילתי ומוניציפלי, תקנון שהיווה בסיס לתקנוני כל שאר המושבות. כך הוסדרו הבעלות על קרקעות המושבה, סידור המים וההשקיה, תיקון הריצוף ברחובות, המאור, הפיקוח הסניטרי ועוד. בין התקנות קבע שטמפפר שמנהגי ירושלים בענייני מועדי כניסת השבת, מנהגי קבורה ועוד, יחייבו גם את אנשי פתח תקווה.
שטמפפר היה גם הרוח החיה בחפירת הבאר הראשונה במושבה. הוא ארגן את השמירה על המושבה והפגין מנהיגות כאשר הותקפה המושבה ביום השבת ושטמפפר עזב את בית הכנסת, נטל רובה, עלה על סוסו וארגן את התושבים לצאת להגנתה.
שטמפפר ייצג את פתח-תקוה בוועד הפועל של "חובבי ציון" ביפו, היה בין היוזמים והמארגנים של הכנסייה הארצישראלית בתרס"ג, יזם ופעל להקמת אגודת פרדס ששיווקה פרי הדר מכל מושבות יהודה, וכן הקים עם דב ימיני את אגודת כורמי התקוה שיצרה ושיווקה יין בישראל ומחוצה לה.
שטמפפר נשלח בשליחות המושבה לאירופה ולארצות הברית לצורך גיוס כספים.
שטמפפר היה שומר מצוות ונמנה עם היסודות השמרניים במאבקים הפנימיים על דמות המושבה. אך עם זאת פעל להשכנת שלום ולשיכוך הוויכוחים הפנימיים במושבה. דגל בעבודה עברית ופעל לשילוב פועלים בני העלייה השנייה במשקי המושבה.
שטמפפר נפטר ב-1908 והוא בן 56 שנים. נקבר בבית הקברות סגולה בפתח תקווה.
צאצאים:
- חנה [1904-1872] רעיית פנחס גלובמן
- שרה [1957-1875] אשת מרדכי בן ציון
- שלמה יצחק [1961-1877] רעיותיו אסתר רוזנטל, שרה שיק
- אסתר מלכה [1968-1876] אשת דוד אנגלנדר (1970-1881), רב בארצות הברית
- יהודית [1954-1883] רעיית סלנט, לוס אנג'לס, ארה"ב
- לאה [1909-1889] רעיית מנישביץ
- רחל [1954-1889] לוס אנג'לס, ארה"ב
