Ancien couvent de cisterciennes, bailliage bernois (1528-1798), bailliage (Oberamt) du canton de Berne dès 1803, district dès 1831. En 1246, les comtes Hartmann IV et Hartmann V de Kibourg firent don de leur alleu de Mülinen pour y fonder un couvent de cisterciennes, Fons beate Marie, placé sous l'autorité de l'abbé de Frienisberg en 1249/1250. L'avouerie appartenait aux Kibourg. Après leur extinction (1420), elle passa à Berne, qui exerçait déjà la haute justice depuis 1406 comme détentrice du landgraviat de Bourgogne. L'établissement, de plan rectangulaire, avec une église à nef unique (consacrée à la Vierge), fut rénové à la suite d'incendies en 1280 et 1375. En sus de ses possessions primitives (basse juridiction de F., domaine propre et tenures, forêts), le couvent reçut des terres et des droits de justice à Grafenried (avec le patronage en 1258), Zauggenried, Büren zum Hof, Limpach, Bittwil (comm. Rapperswil BE), une partie de Schalunen, quelques domaines épars et des vignes au bord du lac de Bienne. Il possédait des maisons à Berne, à Berthoud et à Soleure, dont il acquit la combourgeoisie. Il était l'une des plus riches abbayes du territoire bernois. Les nonnes venaient de familles de ministériaux et de bourgeois de Berne, Soleure et Berthoud. Entre 1481 et 1512, Berne chercha à rétablir la discipline monastique, en imposant notamment la clôture. La Réforme entraîna la sécularisation du couvent en 1528, les religieuses étant indemnisées.
Berne créa à partir des biens sécularisés le bailliage de F. (1528-1798), qui relevait de la juridiction de Zollikofen pour la haute justice, avec siège dans l'ancien édifice conventuel, bientôt appelé "château". L'église et l'aile orientale furent démolies en 1535, ce qui restait du cloître fut transformé en corridor pour le bâtiment principal (1569-1574) et l'aile occidentale en grenier (1647-1648). Pillé par les Français en 1798, le château devint en 1803 le siège du nouveau bailliage (Oberamt), puis district de F., considérablement agrandi puisqu'on y joignit les anciens bailliages de Münchenbuchsee et Landshut, les seigneuries de Jegenstorf et Urtenen-Mattstetten(-Moosseedorf), ainsi que Mülchi (juridiction du banneret), Iffwil (juridiction de l'hôpital des bourgeois) et Zuzwil (juridiction libre de Dieterswil). Bittwil passa au district d'Aarberg. Le district compte vingt-sept communes; il a toujours son siège au château. Depuis la réforme administrative de 1996, il fait partie du cercle judiciaire et cadastral 5 (Berthoud, F.) dans la région d'Emmental-Haute-Argovie.