In den Jahren 1057 bis 1059 wurde das Kollegiatstift von Bischof Gunther gegründet. Die Weihe der heutigen Kirche fand im Jahre 1063 statt. Hauptpatron war, wie damals von allen Kirchen, die heilige Mutter Maria. Das Gotteshaus war dem Heiligen Gangolf als Nebenpatron geweiht, doch seine Popularität unter den Bürgern wuchs derart an, so dass die Kirche schlussendlich allein dem Heiligen Gangolf geweiht wurde. Gemeinsam mit dem Bamberger Dom, dem Kloster Michaelsberg und dem Stift St. Stephan bilden die Gebäude ein Kreuz, in dessen Mitte sich der Bamberger Dom befindet.
Erbaut wurde die Kirche Sankt Gangolf als dreischiffige Basilika. Bei Umbauten im 12. Jahrhundert wurden zwei Türmen angefügt, die beide während der Barockzeit mit Kuppelhauben versehen wurden. Durch viele Angriffe wurde das Innere der Kirche oftmals umgebaut und im 14. und 15. Jahrhundert um gotische, später auch um Rokokoelemente erweitert. Diese verschiedenen Einflüsse aus den Epochen können noch heute betrachtet werden.
Zwischen dem 11. und 13. Jahrhundert gewann das Kollegiatstift Sankt Gangolf immer mehr an Macht. Bereits bei der Gründung gab es großzügige Schenkungen von Seiten des Adels. Zu erwähnen ist in dem Zuge der Edelfreie Reginold von Zwernitz, welcher sich als besonders großzügig erwies. Die wirtschaftlich gute Lage verbesserte sich zudem durch Lehengüter aus Bamberg, Weismain, Hollfeld und Nürnberg.
Im Jahre 1154 war Sankt Gangolf wirtschaftlich so unabhängig, dass es gerichtliche Immunität erlangte. Ab diesem Zeitpunkt gehörte es zu den Aufgaben des Stifts, adelige Jünglinge, aber auch den Klerus des Bistums Bamberg, auszubilden. Um dieser Aufgabe gerecht zu werden, wurde eine Stiftschule errichtet, welche sich im Kapitelhaus befand. Zwischen 1260 und 1306 lehrte hier Hugo von Trimberg, einer der berühmtesten Autoren im Mittelalter. Sein bekanntestes Werk ist “Der Renner”.
Zum Verhängnis wurde der Kirche, dass sie außerhalb der Stadtmauern Bambergs lag. Aus diesem Grund wurde sie in Kriegszeiten häufig geplündert und geschändet. Der Einfall der Hussiten 1430, die Bauernkriege 1525 und die Verwüstungen von Markgraf Albrecht von Brandenburg-Kulmbach 1553 fügten der Kirche schwere Schäden zu.
Einen Versuch, die Kirche wieder aufzuwerten, unternahm die Bildhauerfamilie Mutschele, die die Kirche im 18. Jahrhundert übernahm. Sie restaurierte die Kirche und fügte neue Altäre und Skulpturen hinzu. Jedoch wurde die Kirche bereits 1758 von den Preußen erneut besetzt. Um nicht völlig zerstört zu werden, musste die Kirche ihren Silberschatz aufgeben. Die lang bestehende Immunität der Kirche wurde 1786 von Bamberger Fürstbischof Franz Ludwig von Erthal aufgehoben. In den ersten Jahren des 19. Jahrhunderts löste sich das Kollegialstift Sankt Gangolf schließlich komplett auf und wurde fortan als Pfarreikirche genutzt.
Die Säkularisation verschaffte der Kirche jedoch eine neue, wertvolle Ausstattung. So wurde beispielsweise das Kreuz “Christus am Lebensbaum”, welches aus dem 13. Jahrhundert stammt und sich zuvor in der Martinskirche befand, überführt. Auch erhielt St. Gangolf, unter großem Protest der Bürger, die Beichtstühle aus der Karmelitenkirche, sowie die Rokokokanzel aus der Kirche St. Katharina. Auf diese Wiese entstand eine große Sammlung von künstlerischen Werken und Schätzen, die bis heute in der Kirche betrachtet werden kann.