Die Hl. Fides, ein etwa 12 jähriges Mädchen, das im dritten Jahrhundert während der Christenverfolgung unter Kaiser Maximinus Daia (303 – 313) mutig seinen Glauben bekannte, wurde gefoltert und hingerichtet. Die Reliquien wurden zunächst in Aden (Arabien) aufbewahrt und kamen im Mittelalter nach Conques (Südfrankreich). Der Begründer von Grafenhausen (1078) Graf Eberhard III. von Nellenburg hatte auf seiner Pilgerreise nach Santiago de Compostella die Verehrung der Hl. Fides (im französischen Sainte Foy) in Conques kennengelernt und diese nach Grafenhausen gebracht.
Eine Urkunde, die im Schaffhauser Museum Allerheiligen aufbewahrt wird, berichtet, dass im Jahr 1096 Bischof Gebhard III. von Konstanz die St. Fides Kirche in Grafenhausen einweihte. Bereits 1078 war durch den Abt Siegfried vom Kloster Allerheiligen in Schaffhausen ein Tochterkloster der Benediktinerinnen in Grafenhausen gegründet worden. Es war, wie die daran angegliederte Pfarrkirche, der Hl. Fides geweiht.
Nach einer Feuersbrunst, die 1622 einige Häuser, die Kirche und das Pfarrhaus zerstörte, wurde die jetzige Kirche neu aufgebaut. Lediglich der Kirchturm überstand die Katastrophe. 1899/1900 wurde die Kirche, da sie zu klein geworden war, im neugotischen Stil erweitert.