Joseph Trumpeldor est né à Pyatigorsk, dans l'Empire russe. Il a grandi dans un environnement marqué par l'antisémitisme et les restrictions imposées aux Juifs dans l'Empire russe. Trumpeldor a étudié la dentisterie, mais sa carrière a été interrompue par son service militaire.
Malgré les restrictions imposées aux Juifs, Trumpeldor a réussi à s'engager dans l'armée russe. Il a servi pendant la guerre russo-japonaise (1904-1905) et a perdu son bras gauche au combat. Malgré cela, il a continué à servir et a été décoré pour sa bravoure.
Après la guerre, Trumpeldor est devenu un fervent sioniste. Il joue un rôle clé dans la création du mouvement HeHalutz, qui encourage les jeunes Juifs à immigrer en Palestine et à s'engager dans l'agriculture et la défense. Pendant la Première Guerre mondiale, Trumpeldor participe à la formation de la Légion juive, une unité militaire composée de volontaires juifs qui combat aux côtés des Britanniques pour libérer la Palestine de l'Empire ottoman.
En 1920, Trumpeldor se rend dans le nord de la Palestine (alors sous contrôle britannique) pour aider à défendre le village de Tel Hai contre des attaques de bandes arabes. Le 1er mars 1920, lors d'une attaque sur Tel Hai, Trumpeldor est mortellement blessé. Selon la légende, ses derniers mots auraient été : *"C'est bon de mourir pour notre pays"* (en hébreu : *"טוב למות בעד ארצנו"*).
Sa mort est devenue un symbole de sacrifice et de résistance pour le mouvement sioniste. Tel Hai est aujourd'hui un lieu de mémoire en Israël, et Trumpeldor est considéré comme un héros national.