The source alluded to in the question, reliable or not, is Mustapha Kemal Ou La Mort D'Un Empire, which is the second volume of Le Loup et Le Léopard by Jacques Benoist-Méchin. No full English translation of this volume seems to exist.
According to a German blog post, the full quote attributed to Atatürk by Benoist-Méchin is as follows:
Depuis plus de 500 ans, les règles et les théories d’un vieux sheikh
arabe, et les interprétations abusives de générations de prêtres
crasseux et ignares ont fixé, en Turquie, tous les détails de la loi
civile et criminelle. Elles ont réglé la forme de la constitution, les
moindres faits et gestes de la vie de chaque citoyen, sa nourriture,
ses heures de veille et de sommeil, la coupe de ses vêtements, ce
qu’il apprend à l’école, ses coutumes, ses habitudes et jusqu’à ses
pensées les plus intimes. L’islam, cette théologie absurde d’un
bédouin immoral, est un cadavre putréfié qui empoisonne nos vies.
In Jihad in the West: Muslim Conquests from the 7th to the 21st Centuries (published in 1998) Paul Fregosi, gives an abridged English translation of this quote, citing page 323 of Le Loup et Le Léopard. The last sentence of his translation is "Islam, this absurd theology of an immoral Bedouin, is a rotting corpse which poisons our lives". I have not yet found any older English publication with a similar quote.
I'm in no position to evaluate Benoist-Méchin's work, but there you have it.