كان الحصين بن نمير الكندي محاصرا مكة فلما توفي يزيد بن معاوية ارتحل عنها، فأمر عبد الله بن الزبير بهدم الخِصَاص التي كانت حول الكعبة وكنس مافيها من الحجارة والدماء، فبدت الكعبة مُتَوَهِّنَةً فيها أمثال جيوب النساء من حجارة المنجنيق وقد اسودّ واحترق الركن، فشاور عبد الله بن الزبير الناس أياما في هدمها وبنائها فلما عزم غدا عليها يوم السبت من منتصف شهر جمادى الآخرة سنة 64 هـ، فهدمها حتى وضعها كلها بالأرض، ثم حفر الأساس فوُجِدَ واصلًا بالحِجْر مُشَبِّكًا، فدعا خمسين رجلًا من قريش، وأشهدهم على ذلك، وجعل الحَجَر عنده في تابوت في سَرقة من حرير، ثم بنى البيت وأدخل الحِجر فيه، وجعل للكعبة بابين موضوعين بالأرض، باب يُدخل منه، وباب يُخرج منه بإزائَه من خلفه، وقال: "إن عائشة حدثتني أن رسول الله صَلَّى الله عليه وسلم قال لها: « إن أراد قومك يبنون البيت على ما كان على عهد إبراهيم فليفعلوا ذلك». فأرتني عائشة الذي أراها رسول الله صَلَّى الله عليه وسلم، فكان عندي مذروعًا حتى وَليْت هذا الأمر، فلم أعْدُ به ما قال رسول الله صَلَّى الله عليه وسلم، فرأى الناس يومئذ أنه قد أصاب. وبنى البيت حتى بلغ موضع الركن الأسود فوضعه، وكان الذي وضعه حمزة بن عبد الله بن الزبير، وشده بالفضة لأنه كان انصدع، ثم ردّ الكعبة على بنائها، وزاد في طولها فجعله سبعًا وعشرين ذراعًا، وخلّق جوفها، ولطّخ جدرَها بالمسك حتى فرغ منها من خارج، وسترها بالديباج، وهو أول من كساها الديباج. فلما فرغ من بناء الكعبة اعتمر من خيمة جُمانة عند مسجد عائشة ماشيًا معه رجال من قريش كابن صفوان وعبيد بن عمير الكناني وغيرهما.

كان عبد الله بن الزبير قد شهد يوم الجمل مع أبيه الزبير بن العوام وخالته عائشة، وكان لا يأخذ بِخِطام الجمل أحد إلا قُتِل، فجاء عبد الله بن الزبير بخطامه، فقالت عائشة: "من أنت؟" قال: "عبد الله بن الزبير". فقالت: "وَاثُكْلَ أسماء!" فأقبل الأشتر فعرفني وعرفته ثم اعتنقني واعتنقته فقلت: اقتلوني ومالكا. وقال الأشتر: اقتلوني وعبد الله، ولو قلت: الأشتر لقتلنا جميعًا.
وخرج رجل من أصحاب علي بن أبي طالب فقال: يا معشر شباب قريش أكفونا أنفسكم، فإن لم تفعلوا فإني أحذركم رجلين؛ أما أحدهما فجندب بن زهير الأزدي، وسأصفه لكم هو رجل طويل، طويل الرمح يحتزم على درعه حتى يقلّص عن ساقيه، وأما الآخر: فالأشتر مالك بن الحارث، وسأصفه لكم هو رجل طويل، طويل الرمح يسحب درعه سحبًا يَخُبّ عند النِّزال. قال ابن الزبير: "فبينا أنا أقاتل إذ أقبل جندب فعرفته بصفته فأردت أن أحيد عنه، فقلت: والله ما حدت عن قِرْن قَط فانتهى إليّ فطعنني في وَجْهِ حَدِيد كان عَليَّ فزلق الرمح، فقال: أولى لك، قد عرفتك، لولا خالتك لقتلتك، ثم دُفِع إلى عبد الرحمن بن عتاب بن أسيد فطعنه فأذراه كالنّخْلَة السحوق معْتصِبًا بِبُردَة حِبَرَة. ثم قاتلت ساعة فإذا أنا بمالك قد أقبل فعرفته بصفته فأردت أن أحيد عنه فقلت: والله ما حدت عن قِرْن قط، فدفع إلي فتطاعنّا برمحينا حتى كأنهما قضيبان، ثم اضطربنا بسيفينا حتى كأنهما مِخْراقان، ثم احتملني فضرب بي الأرض وقال: لولا خالتك ما شربتَ الماء البارد". وأصيب عبد الله بن الزبير يوم الجمل، فلما كان عند غروب الشمس قيل له: الصلاة. فقال: أما الصلاة فإني لا أستطيعها ولكن أكبر

كان عبد الله بن الزبير يقول على منبر مكة: "والله لقد استخلفني أمير المؤمنين عثمان على الدار، فلقد كنت أنا الذي أُقَاتِلُ بِهِم، ولقد كنت أخرج في الكتيبة فأباشر القتال بنفسي، فجرحت بضعة عشر جرحًا، فإني لأضع اليوم يدي على بعض تلك الجراحة التي جُرحتُ مع عثمان رحمه الله، فأرجو أن يكون خير أعمالي". وكان عثمان قد أمر عبد الله بن الزبير أن يصلي بأهل داره ما كان محصورًا، وكان يصلي بهم في صحن الدار.