14.3.1933 Bienne,18.10.2020, cattolico, di Kottwil e Le Locle. Figlio di Josef Jost, operaio orologiaio, e di Maria Ida Diebold. (1955) Lucette Evelyne Monnier. Ha trascorso l'infanzia a Neuchâtel. Ottenuta la maturità, frequentò la scuola magistrale conseguendo il diploma di insegnante elementare. Ha insegnato a Boudevilliers e Le Locle (1955-64). Eletto consigliere comunale per il Partito socialista di Le Locle nel 1960, nel 1964 divenne municipale. Sindaco fino al 1980, diresse i dicasteri dell'amministrazione e delle aziende municipalizzate. Dal 1965 al 1976 fu membro del Gran Consiglio neocastellano. Consigliere nazionale dal 1967, presiedette il gruppo socialista nel 1980, mandato che abbandonò nel 1981 per entrare nel Consiglio di Stato neocastellano, dove diresse i Dipartimenti delle finanze e del culto, sforzandosi di risanare le finanze pubbliche. Eletto in Consiglio federale nel 1987, ha sostituito Pierre Aubert alla direzione del Dipartimento federale degli affari esteri. Nel 1993 rassegnò le dimissioni per motivi di salute.
Socialdemocratico convinto, privilegiò sempre la collegialità e la coesione. Fautore dell'apertura della Svizzera e del suo adattamento a una politica mondiale in piena evoluzione, partecipò attivamente alla ridefinizione della neutralità elvetica facendo adottare decisioni dell'ONU quali le sanzioni economiche contro l'Iraq nel 1990. Durante il suo mandato, la Svizzera fu attiva anche nella Conferenza sulla sicurezza e la cooperazione in Europa e aiutò finanziariamente i paesi dell'ex blocco comunista. Favorevole a un riavvicinamento all'Europa, si impegnò per l'adesione del Paese al trattatto dello Spazio economico europeo, respinta dal popolo nel 1992.
Felber presiedette l'Assemblea intergiurassiana dal 1994 al 1996 e numerose istituzioni, tra cui il consiglio di fondazione del Centro internazionale di sminamento umanitario a Ginevra dal 1998 al 2000.