Au VIII siècle, Gordaine (ou Gourdaine, en latin Gordianus), ermite et confesseur parfois considéré comme le fondateur de l'abbaye, aurait vécu dans cette île sauvage où il avait bâti une petite église (ecclesiola) où il aurait été inhumé avant que son corps ne soit transporté à Douai. Une fontaine de Montigny-en-Ostrevent commémore son nom et la source de l'Ermite (ou de l'Ermitage) dans le bois de Bugnicourt à Roucourt lui doit vraisemblablement son nom aussi . La fête de Saint Gordaine se célèbre le 16 octobre. Dans l'église Saint-Gilles à Pecquencourt se trouve un tableau anonyme du XVII siècle illustrant les miracles de Saint Gordaine.
Selon la légende, Sohier (ou Soihier ou encore Sicher), sire de Loos et de Courcelles, et Gautier, seigneur de Montigny-en Ostrevent, étaient des ennemis héréditaires. Perdu, de nuit, Sohier frappe à la porte du château de Gautier. Ce dernier le reconnaît et l'héberge néanmoins. Ils font le même rêve dans lequel un cerf blanc les entraîne dans l'île de Gordaine. Le lendemain, ils se rendent sur l'île et y revoient le cerf blanc de leur songe. Ils se réconcilient et décident d'y construire une abbaye vers 1076.
Selon son titre de fondation, l'abbaye, dédiée au Sauveur, fut réellement fondée en 1079 sur des terres données à cet effet par Anselme II de Bouchain, Comte d'Ostrevent en 1077, et Gérard II, évêque de Cambrai lui donna la cure de Cantin.
En 1086 fut consacrée l'église Saint Sauveur.
C'est en 1096 qu'aurait été organisé à l'abbaye le légendaire Tournoi d'Anchin auquel auraient participé 300 chevaliers venus d'Ostrevent, du Hainaut, du Cambrésis et du pays d'Artois.
En 1109, le quatrième abbé d'Anchin érige Cantin en ville. Les dons des seigneurs successifs permettent aux abbayes d'Anchin et de Flines d'être chacune propriétaires de domaines riches et étendus sur le territoire de Cantin.
En 1182, sous Baudouin V, comte de Hainaut commence la construction d’une nouvelle église abbatiale, qui sera consacrée en 1250.
En 1562 est édifié, sous le patronage de l'abbaye, le collège d'Anchin, important collège affilié à l'université de Douai et où l'enseignement est dispensé par les Jésuites.
Supprimée à la Révolution française, l'abbaye d'Anchin est déclarée bien national par le décret du 28 octobre 1790 ; le 27 mars 1792, elle fut adjugée à François-Joseph Tassart de Douai pour la somme de 47 700 livres et démolie.
