Perbincangan soal bid’ah dalam Film Sajadah Ka'bah ditemukan pada dua scene, yaitu pertama saat Rhoma menanyakan kenapa bedug ditutup terpal dan tidak digunakan oleh pengurus Masjid dikatakan bahwa kata Ustad Hasan, tokoh agama didaerah tersebut bedug itu bid’ah karena Rosul tidak pernah menggunakan bedug. Kemudian Rhoma menjawabnya dengan mematikan pengeras suara (loud speaker) saat pengurus Masjid akan adzan. “ Kenapa dimatikan speaker itu?’, Tanya H. Komar, sang pengurus masjid. “ Ini bid’ah, Nabi tidak pernah memakai speaker”, jawab Rhoma.
Kedua, pada saat H.Komar melihat Rhoma menggunakan tasbih untuk berzikir dan dikatakan itu bid’ah karena Nabi tidak pernah menggunakan tasbih. Sejurus kemudian Rhoma mengambil jam dinding dan akan melemparkannya kelaut. “ Lho, mau diapakan jam itu?”. “ Mau saya buang, karena Nabi tidak menggunakan jam untuk menentukan waktu Sholat tetapi menggunakan matahari.”, jawab Rhoma.