Le nouveau port de la Joliette est achevé en 1853 et de nouveaux quartiers d'habitations y sont édifiés par le financier Jules Mirès à partir de 1856. La communication entre ces nouveaux aménagements, le Vieux Port et le centre de la ville est rendue très difficile par l'obstacle que constitue la ville médiévale sur ses collines. Un projet, d'inspiration autant hygiéniste que spéculative, proposé par Mirès en mai 1858, envisage de la raser entièrement et de niveler le terrain afin d'y édifier une nouvelle ville. A la demande du maire Jean-François Honnorat, Auguste Gassend, responsable de la voirie et des travaux publics de la ville et l'ingénieur Etienne Delestrac proposent un autre plan plus prudent mettant l'accent sur l'ouverture d'un grand axe de liaison du Vieux Port à la Joliette.

Le projet est accepté par l'empereur lors de son voyage à Marseille en septembre 1860. L’État accorde une subvention du tiers du budget prévisionnel. Un nouveau plan de Gassend est accepté par la Préfecture en mars 1861. Gassend rédige le cahier des charges prévoyant le tracé, les îlots à démolir et le nouveau parcellaire. Les expropriations ont lieu de juillet 1861 à janvier 1862. Elles touchent 16 000 personnes qui vivaient dans les 935 maisons à démolir. Compte tenu des difficultés de financement, le maire Balthazar Rouvière vend, en août 1862, à la Compagnie Immobilière du financier Emile Pereire, tous les terrains en bordure de la future rue et des rues adjacentes.

Les travaux débutent en septembre 1862. Outre la destruction des maisons, ils nécessitent d'énormes travaux de terrassement, dont une tranchée de 20 mètres de profondeur sur une largeur de 60 mètres, au niveau de la place Centrale (actuellement Sadi-Carnot), pour franchir l'obstacle de la butte des Carmes. L'inauguration de la rue a lieu le 15 août 1864.

Pereire cède des segments de rue à des entrepreneurs et à des architectes qui suivent le cahier des charges fixé par la Compagnie Immobilière et réalisent les immeubles de 1862 à 1866. Parmi ceux-ci, l'architecte lyonnais Louis Ponthieu, et les architectes Hilaire Curtil et Eric Buyron. Mais les ventes se font mal car le parc de logements construits alors à Marseille est trop important par rapport à ce que la demande peut absorber. Par ailleurs, l'un des objectif était de rééquilibrer le développement urbain en ramenant la bourgeoisie au centre de la ville. Mais la rue Impériale, malgré de prestigieuses façades, ne pouvait rivaliser avec les quartiers sud et est, car les immeubles n'ont ici ni jardins, ni cours intérieures ou écuries pour les chevaux. La Compagnie Immobilière est mise en liquidation en 1872. La Société Immobilière Marseillaise (SIM) est créée en 1878 pour gérer la quasi-totalité des logements alors mis en location. Ils seront habités par une population liée à l'activité portuaire : navigateurs, travailleurs qualifiés du port et des compagnies maritimes... La SIM restera le bailleur pendant plus d'un siècle. En 2001, une Opération Programmée d'Amélioration de l'Habitat est décidée sous l'égide d'Euroméditerranée. On a alors affaire à un parc de logements très dégradé où aucuns travaux de mise aux normes n'a été effectué par le bailleur. De nombreux appartements sont vacants, parfois depuis plus de 20 ans, délabrés ou squattés. Depuis 2004, l'opération de rénovation associe acteurs publics et promoteurs privés. Si quelques logements sociaux locatifs sont prévus, la majorité de l'opération consiste en une réhabilitation en vue de la vente à une classe moyenne aisée.