سال 60 هجری قمری، که امام حسین(ع) از مدینه به طرف مکه حرکت کرد، جون در کنار آن حضرت از مدینه تا کربلا همراه امام(ع) آمد و در جنگ با دشمنان او تا آخری قطرهی خون خود از امام(ع) دفاع کرد. بیشتر سیرهنویسان و صاحبان کتب رجالی، شرح حال او را ذکر کرده و گفتهاند:
از آنجا که این غلام اسلحهشناس بود و در اسلحهسازی استاد و در تعمیر آلات جنگی مهارت داشت، در شب عاشورا در خیمهی مخصوص امام حسین(ع) فقط او در کنار امام بود که شمشیر حضرتش را بازبینی و اصلاح میکرد.
از امام سجاد(ع) نقل شده است که» جون در خیمهی پدرم سرگرم وارسی شمشیرش بود و پدرم اشعاری را از زمزمه میکرد: «یا دهر اف لک من خلیل کم لکه بالاشراق و الاصیل...» (ای روزگار! اُف بر تو یادگه هر صبح و شام، دوستی را از من میگیری...)
روز عاشورا، جون نماز ظهر را با امام خود خواند. آنگاه با وجود سالخوردگیاش خدمت امام(ع) رفت و اجازه جنگ خواست. امام(ع) به او فرمود: «یا جون، انت فی اذن منی، فانما تبعتنا طلبا للعایة فلاتبتل بطر یقتنا» (ای جو، تو برای سلامتی و آسایش از رنج دیگران، به ما پیوسته بودی و پیرو ما شدی، پس خود را مبتلا به بالای ما نکن. از سوی ما اجازه داری که به سلامت از اینجا بروی.»
جون خود را بر پای امام(ع) انداخت و گفت: «من در ایام راحتی، در سایهی شما در رفاه و آسایش بودم. انصاف نمیدانم که امروز که روز سختی است شما را تنها گذارم و بروم. درست است که خون بدنم بدبوست و جایگاه پست دارم و رنگم سیاه است. اما آیا بهشت را از من دریغ میکنی؟ برایم دعا کن تا از اهل بهشت بشوم و شرافت یابم و روسفید شوم. به خدا قسم از شما جدا نمیشوم تا خون سیاهم با خونهای شما آمیخته شود.»
جون، بعد از اجازه امام(ع) به میدان رفت و این چنین رجز میخواند:
کیف تری الفُجار ضرب الاسود
بالمشرفی والقنا المسدد
بالسیف صلتا عن بنی محمد
یذب عن آل النبی احمد
ارجو بذاکالفوز یوم الموعد
عندالاله والشفیع الاحمد
نابکاران ضربت ابن غلام سیاه را چگونه خواهند دید؟
ضربتی با شمشیر مشرفی و نیزههایی که به هدف میخورند؛ و امید شفاعت و نجات از خدای یکتا و یگانه شفیع نزد خدا (احمد صلیالله علیه و آله و سلم) را دارم؛
و از خاندان پیامبر احمد حمایت میکنم.
به نقل برخی از تاریخنگاران 25 نفر و به نقل مقتل ابیمخنف، 70 نفر از لشکر عمر سعد را کشت و عدهای را زخمی کرد. آنگاه با ضربهی شمشیری که به سرش خورد، در میدان جنگ به شهادت رسید.
امام حسین(ع) بعد از شهادت جون به میدان جنگ شتافت و بر بالای پیکرش چنین دعا کرد: «خداوندا! روی او را سفید و بوی او را نیکو گردان و او را با نیکان محشور کن و میان او و آل محمد جدایی مینداز!»
آنگاه پیکر مطهر او را از میدان بیرون برد و در خیمهی مخصوص اجساد یاران شهیدش قرار داد.
در روایتی از امام باقر (ع) از پدرش، امام سجاد(ع)، چنین آمده است که فرمود «بعد از واقعهی عاشورا مردم برای دفن کشتهها آمدند. پس از 10 روز، وقتی جسد جون را یافتند بوی مُشک از آن به مشام میرسید.»