Die Entstehung des Ortes und der Kirche geht auf eine alte Legende zurück. In einer hohlen Linde wurde ein wundersames Marienbildnis (eine Pieta) gefunden, das trotz Mitnehmens immer wieder dorthin zurückkehrte. Daraufhin entstand zunächst ein Heiligenhäuschen. Die erste Kirche wurde um 1516 von den Herren von Wylich zu Grossenbernsau erbaut. Sie entwickelte sich schnell zu einem bedeutenden regionalen Wallfahrtsort für Pilger.
Der heutige Bau ist eine gotische Hallenkirche mit drei Schiffen und einem Langchor. Ihr prägnantes äußeres Gesicht erhielt die Kirche maßgeblich durch den Umbau in den Jahren 1897/98 nach Plänen des Kölner Architekten Theodor Kremer. Damals wurde die charakteristische neugotische Doppelturmfassade ergänzt.