Issu d'une famille modeste, il grandit dans la ferme familiale. En juillet 1870, il entre à l'administration des télégraphes. Inspiré par l'aspect scientifique de son travail, il décide de poursuivre des études supérieures.
Autodidacte, il passe son temps à apprendre la mécanique et l'électricité. Voulant augmenter le débit des communications télégraphiques, limité par la capacité des opérateurs humains, il imagine un système électromécanique d'envoi et de réception des signaux télégraphiques permettant de multiplier la quantité d'informations circulant sur une ligne.
À l'Exposition universelle de 1878, il gagne la médaille d'or, ainsi que les félicitations d'ingénieurs du monde entier.
Le terme « baud » (mesure du nombre de symboles transmis par seconde par un signal modulé) est dérivé de son nom.
En Méditerranée, un relief sous-marin porte son nom, le mont Émile Baudot et l'escarpement Émile-Baudot[1]. Il s'agit d'une chaîne montagneuse sous-marine d'environ 180 kilomètres de long, de dénivelé entre 850 et 1750 mètres, comportant des points volcaniques située entre Minorque et Ibiza.
En 1949, la Poste française émet une série de timbres dont l'un est dédié à Émile Baudot. Le timbre indiquait sa date de naissance en 1848, alors qu'il était né en 1845. Le timbre sera par la suite réimprimé, mais les timbres erronés sont quant à eux très recherchés[2].