Pintu Kaabah itu pula hanya boleh dibuka oleh pemegang kunci dari Bani Syaibah. Menurut sejarah Islam, apabila Nabi Muhammad SAW meninggalkan Mekah kerana berhijrah ke Madinah, Mekah dikuasai oleh Bani Syaibah.
Pada tahun ketujuh Hijrah, berlaku perang pembukaan kota Mekah yang dimenangi tentera Islam. Berikutan itu, Saidina Ali diarahkan supaya mengambil kunci itu daripada Bani Syaibah, malangnya pintu Kaabah tidak dapat dibuka walaupun menggunakan anak kunci yang sama.
Anak kunci itu kemudian dipulangkan kepada Bani Syaibah atas perintah Allah SWT menerusi ayat 58, surah An-Nisa’ yang mafhumnya, ‘Sesungguhnya Allah menyuruh kamu menyampaikan amanat kepada yang berhak menerimanya‘.
Pada masa itu, Bani Syaibah belum memeluk Islam. Tindakan Rasulullah memulangkan semula kunci Kaabah itu membuka hati ketua Bani Syaibah untuk memeluk Islam diikuti semua pengikutnya.