گارودی با چنان آرامشی دنیا را ترک گفت که گویی در طول زندگی و طی تغییراتی بنیادی و فعالیت‌های جنجال‌برانگیزش هرگز چنین روی آرامشی را به خود ندیده بود.
مردی که از پدری لائیک و مادری کاتولیک زاده شده بود، لائیک جذابیتی برایش نداشت، بدین ترتیب به سوی مذهب پروتستان- از شاخه‌های مسیحیت- جذب شد. این اولین گام او برای پیوستن به حزب کمونیست در سال ۱۹۳۳بود و در همان سال نیز به ریاست سازمان جوانان پروتستان در آمد. دیری نپایید که این جوان تیز هوش، فیلسوف رسمی حزب و یکی از پایه‌های اصلی آن گردید. بعد از آن بود که « فرضیه مادی‌گرایانه شناخت» را مطرح کرد. این فرضیه به یکی از انجیل‌های رسمی کمونیست تبدیل شد و حزب کمونیست لبنان با تلاش فراوان آن را به عربی برگرداند. آن زمان هرگز به ذهن کسی خطور نمی‌کرد که گارودی به زودی این نظریه را رد می‌کند و از نوشتن آن انگشت ندامت می‌گزد.
گارودی در خصوص اردوگاه‌های کار اجباری شوروی و حمله این کشور به یوگسلاوی و ورود شوروی به مجارستان، در آن زمان سکوت پیشه کرد چراکه فرمانده فرمانبر کمونیست بود. از سال ۱۹۶۷ اختلافات او با حزب کمونیست شروع شد و اندکی بعد مارکسیسم جزمی اتحاد جماهیر شوروی را محکوم نمود.
این اختلاف‌ها در سال ۱۹۷۰ به اخراج او از این حزب منجر شد. وی پیش از این با نوشتن «رئالیسم بدون حاشیه» به مارکسیسم شوروی حمله کرد. تلاشش بر این بود که این حزب را از توهم قهرمان بودن و خوشبینی انقلابی خارج کند و مفهوم رئالیسم سوسیالیستی را به گونه‌ای گسترش دهد که پذیرای همه نوآوری‌های فنی باشد.
چنین انتقادی از حزب خود، آن هم توسط کاندیدای حزب کمونیست در مجلس سنای فرانسه، کاملاً غیر منتظره بود و تعجب همگان را برانگیخت و کسانی را که به دید یک کمونیست به او نگاه می‌کردند، به شک و تردید انداخت. واقعیت این است که گارودی جز با پرداخت بهای واقعی، به رهبری نرسید؛ بیش از دو سال در الجزایر طعم گز زندان را چشید. مبارزه طلبی او مورد تردید قرار نگرفت، مگر آن زمان که از مارکسیسم به کاتولیک گروید. این سومین گام - و نه آخرین گام- او در تغییر مذهب بود. مارکسیسم او را به اسلام نزدیک کرده بود.
کتاب‌های «بازگشت به اسلام» و «اسلام دین آینده» ثمره‌آن است، اما آنچه او را انگشت‌نمای خاص و عام کرد و پای میز محاکمه کشاند، مقاله « افسانه‌های بنیادین سیاست یهود» بود. وی در این نوشته خرافه بودن وعده الهی یهودیان در سرزمین موعود، حرام بودن ازدواج با غیر یهودیان، دشمنی نازی‌ها و همدستی هیتلر و سران اسرائیل را فاش می‌سازد؛ سران سازمان تروریستی صهیونیسم از جمله اسحاق شامیر رهبر شتیرون (مبارزان راه آزادی اسرائیل). آنچه گارودی را به دردسر انداخت و به شدت جنجال‌برانگیز شد، انکار هولوکاست بود که در پی آن دادگاه فرانسه او را ۲۰ هزار دلار جریمه کرد.
گارودی در سال ۱۹۸۲ به اسلام گروید و با زنی مسلمان ازدواج کرد. از نظر او اسلام نه به معنای تسلیم شدن و جبر بلکه لبیک گفتن به دعوت الهی است، چرا که این دین دیدگاهی عقلانی و قابل قبول از هستی و انسان و زندگی و خدا ارائه می‌دهد. علاوه بر اینکه دستوراتش با طبیعت انسان و زندگی او سازگار است، دیگر فرهنگ‌ها و علم و فلسفه را نیز درخود جای می‌دهد. روزنامه السفیر در یادداشتی نوشته بود: برخی به دلیل اینکه گارودی بنیادگرایی اسلامی را مورد انتقاد قرار داده و آن را بنیادگرایی رومانیایی و بنیادگرایی آفت‌گونه اسرائیلی یکسان می‌داند، بر او خرده می‌گیرند، محمد سعید بوطی (از عالمان بزرگ اهل سنت) معتقد است: نمی‌توان از یک مارکسیسم بزرگ انتظار داشت که به یک اسلامگرای بزرگ تبدیل شود اما اسلام روژه گارودی با وجود اینکه گاه در فهم آن به خطا می‌رود، اسلام سالمی است. وی پس از یک قرن مبارزه در هر جبهه‌ای در نهایت با پذیرش اسلام، نام حاج محمد رجا را برای خود برگزید. گارودی حتی تا زمان کنگره بیستم حزب کمونیست اتحاد شوروی، یک کمونیست محسوب می‌شد، اما سرانجام گمشده خود را در اسلام یافت. ۹۸ سال زندگی او، جهشی بود از مادی‌گرایی به دین و از غرب به شرق و از کلیسا به مسجد.