Der Begriff Service public wurde ab 1873 im französischen Verwaltungsrecht benutzt. Im späten 19. und frühen 20. Jahrhundert bildete sich eine französische Schule (sogenannte école de Bordeaux) des Service public heraus. Sie verstand unter dem Service public die eigentliche Verwaltung und die öffentlichen Unternehmen, ausserdem im öffentlichen Interesse stehende Warenproduktionen oder Dienstleistungen, die durch private Inhaber einer staatlichen Konzession erbracht wurden (Öffentlicher Sektor). In der deutschen und deutschschweizerischen verwaltungsrechtlichen Tradition entsprach der französische Service public der sogenannten öffentlichen Anstalt und der öffentlichen Fürsorge. Der Jurist Fritz Fleiner erwähnte den Service public erstmals in einer Fussnote im Werk "Institutionen des Deutschen Verwaltungsrechts" (81928). In der Westschweiz hielt der Begriff 1894 Einzug in die Verwaltungssprache. In der französischen Version des ZGB tauchte er 1907 auf. Bis in die 1980er Jahre wurde die in den französischsprachigen Bundestexten benutzte Wendung Service public in den deutschen Versionen mit "öffentlicher Gebrauch" oder "öffentlicher Dienst", mit "Staatsdienst" oder "Grundversorgung" wiedergegeben. In der italienischen Schweiz wird der Begriff Service public zudem oft synonym für den öffentlichen Dienst benutzt.
In den 1980er Jahren fand der Begriff auch Eingang in deutschsprachige Gesetzes- und Verwaltungstexte und erlebte in den 1990er Jahren unter dem Eindruck der umstrittenen Liberalisierung, Deregulierung und Privatisierung im öffentlichen Sektor einen Boom, auch als politische Kampfvokabel. Im Zentrum standen dabei die unter Druck geratenen Netzdienstleister PTT und SBB bzw. öffentliche Transportunternehmen und die Elektrizitätswirtschaft. Während Träger eines Service public und die Dienstleistung an sich vor der Reformära oft zusammenfielen, kam es unter dem Eindruck der EU-Wettbewerbspolitik und der Globalisierung am Ende des 20. Jahrhunderts zur vermehrten Entkoppelung, weil die früheren Erbringer ihre Monopole einbüssten. Aus volkswirtschaftlicher Sicht ist der Service public nur schwer einzuschätzen, etwa weil zahlreiche Angestellte einen Service public erbringen, obwohl sie statistisch nicht zu den Beschäftigten des öffentlichen Sektors gezählt werden (z.B. Angestellte im öffentlichen Verkehr oder bei öffentlich-rechtlichen Radio- und Fernsehanstalten).