Syndicaliste et homme d’État espagnol, membre du Parti socialiste ouvrier espagnol (PSOE) et de l’Union générale des travailleurs (UGT) dont il fut l’un des dirigeants historiques (il succéda à Pablo Iglesias, fondateur du parti) au point d’être surnommé « le Lénine espagnol » ; il devint en 1931 ministre du Travail dans le premier gouvernement de la Seconde République, lequel était présidé par Alcalà-Zamora. Il conserva son portefeuille jusqu’en 1933, dans les deux gouvernements présidés par Azaña. Largo Caballero fit adopter des lois sur le salaire minimum, la journée de huit heures, les assurances accident et maladie. Il bénéficia au cours de cette période d’une popularité immense dans les masses ouvrières. Il fut le chef du Gouvernement espagnol de septembre 1936 à mai 1937, à un moment crucial de la guerre d’Espagne.
En 1939, après la défaite des Républicains, Largo Caballero s’exila en France. Le régime franquiste demanda son extradition au régime de Vichy, et il fut incarcéré à Aubusson, puis à Limoges. L’exilé fut défendu par Me Moro-Giafferri, et le tribunal de Limoges refusa de l’extrader en Espagne. Arrêté à Nyons par les Allemands en 1943, il fut interrogé par la Gestapo, puis interné au camp de concentration de Sachsenhausen, et il y demeura jusqu’à la libération du camp.
Il mourut en exil à Paris et fut inhumé avec les grandes figures de gauche dans la 97ème division du Père Lachaise. Sa dépouille fut transférée à Madrid en 1978, et 500 000 personnes assistèrent à la cérémonie de funérailles organisée à cette occasion.