Déjà les Egyptiens, les Grecs et les Romains connaissaient la moutarde en tant que poudre d'épices et l'utilisaient par exemple pour conserver la viande.

Une recette d'un Romain nommé Paladius, datant du 4ème siècle, nous rappelle déjà sa composition actuelle : il ajoutait du miel, de l'huile d'olive et du vinaigre aux semences de poivre moulues.

Aussi du temps de Charlemagne, on cultivait la moutarde. Elle prit sa place dans les cuisines vers le 10ème siècle, d'abord en Allemagne et en France, pour atteindre ensuite les cuisines anglaises au 12ème siècle. Au 13ème siècle, ce furent surtout les Français qui créèrent de nouvelles mixtures de moutarde dans la ville de Dijon, alors déjà réputée pour sa moutarde.
La spécialité dijonnaise consistait à mélanger la moutarde non avec du vinaigre, mais avec du jus de raisins pas encore murs ou avec du moût. De là provient le nom - lat. mustum ardens - moût piquant, qui donna le nom français «moutarde» et le nom anglais «mustard» pour désigner la moutarde et finalement aussi le mot allemand « Mostrich » ou «Mostert».