e brusque déclin des Chevaliers constitue un autre trait remarquable de leur histoire. L'organisation disparut presque aussi rapidement qu'elle avait pris forme dix ans auparavant. De nombreux facteurs contribuèrent à une telle tournure des événements. Les employeurs profitèrent de la montée du chômage et, souvent avec l'aide du gouvernement, réprimèrent durement toute tentative de campagne de recrutement ou de déclenchement d'une grève. Les Chevaliers devinrent la cible rêvée des attaques des journalistes opposés au syndicalisme. Au Québec, ils durent composer avec l'hostilité de l'Église catholique qui les percevait comme des athées et des révolutionnaires.

L'Ordre des Chevaliers fut lui-même en partie responsable de la rapidité fulgurante de son déclin. Des conflits internes sur le choix entre le scrutin, la grève ou l'arbitrage comme meilleur moyen d'obtenir des concessions de la part des employeurs de l'industrie et du gouvernement paralysèrent le syndicat. Ce débat fut une source d'affrontements entre les membres des assemblées locales, qui militaient en faveur de la grève, et le leadership national et international, plus conservateur.

D'autres divisions commencèrent par ailleurs à se manifester au sein du mouvement ouvrier. Au départ, les relations entre les Chevaliers et les syndicats de métier étaient bonnes. La plupart de ces derniers avaient accueilli l'ascension des Chevaliers comme un signe de plus du renforcement du mouvement ouvrier. Ils aidèrent les Chevaliers à se mobiliser et travaillèrent à leurs côtés en vue de maintenir en vigueur les conseils ouvriers, les partis ouvriers indépendants et les coopératives. Cependant, le succès mobilisateur des Chevaliers finit par dresser ceux-ci contre les syndicats de métier. Le conflit était essentiellement causé par une bataille de juridiction, à savoir qui représenterait tel ou tel groupe de travailleurs. Finalement, la relation entre les Chevaliers et les syndicats de métier se détériora en un brouillamini qui affaiblit l'ensemble du mouvement ouvrier.

Les conflits au sein de l'Ordre des Chevaliers du travail, et entre celui-ci et les autres syndicats ouvriers, incitèrent un grand nombre de sympathisants à quitter l'organisation. Une organisation divisée n'était pas propre à affronter la puissance - toujours grandissante - des grosses industries de l'époque. Si les travailleurs avaient tout d'abord adhéré à l'Ordre des Chevaliers du Travail, c'était dans l'idée de contrecarrer l'influence du milieu industriel. Lorsque le syndicat perdit le sens de sa mission, les travailleurs, probablement à juste titre, s'en désolidarisèrent.

Les Chevaliers méritent une place de choix dans l'histoire du mouvement ouvrier au Canada. L'organisation a permis à des milliers de travailleurs de faire la découverte du syndicalisme et l'apprentissage de la notion de coopérative. Dans certains cas, le syndicat a obtenu de meilleurs salaires et de meilleures conditions de travail pour ses membres. En outre, il a contribué de façon importante à l'évolution d'une politique syndicale indépendante au Canada. Ses avertissements concernant les dangers du « capitalisme sauvage » arrivaient à point nommé.