La ruelle longeant une ferme appartenant depuis le XIIIe siècle à l'ordre des moines mathurins devient rue des Mathurins au XVIIe siècle.
Après leur exécution, Louis XVI et Marie-Antoinette seront inhumés dans un cimetière à l'angle des rues Pasquier et des Mathurins. Le propriétaire du terrain le remet à la disposition de la famille royale lors de la Restauration. En récompense, Louis XVIII accorde à Sevestre, petit-fils du fossoyeur du cimetière et modeste acteur, le privilège d'exploiter des théâtres hors des barrières de Paris.
La rue des Mathurins abrita de nombreux hôtels particuliers appartenant à des personnalités comme le marquis de Beauharnais, futur beau-père de l'impératrice Joséphine au nº32, la danseuse Julie Carreau qui épousa le tragédien Talma au nº42. George Sand, encore Demoiselle Dupin, y mit au monde son fils Maurice.