نقل شده است که در جنگ صفین، عمّار پیش از شهادتش، بر اثر تشنگی زیاد آب طلبید. مردی گفت: آب در اینجا نیست. در این هنگام پسر بچه‌ای به نام «راشد» شربتی از شیر برای او آورد. عمار به او گفت: «از دو ستم رسول خدا (ص) شنیدم که فرمود: آخرین ره توش? تو از دنیا قدحی از شیر است.» عمار شیر را نوشید و برای چندمین بار به دشمن حمله کرد تا این که دو نفر از نفرات دشمن به نام‌های «ابو العادیه الفزاری» و «ابن جون سکونی» به سوی عمار آمدند اولی ضربتی سخت بر عمار زد که بر زمین افتاد و دومی سر از بدن عمار جدا کرد.

عجیب این که، آن دو نفر به خاطر دریافت جایزه با هم ستیز کردند و هر کدام می‌گفتند: من عمار را کشتم. عمرو عاص این سخن را شنید و به آنها گفت: «سوگند به خدا، این دو نفر با هم ستیز نمی‌کنند مگر برای آتش دوزخ.» شهادت عمار در ماه ربیع الاول سال 37 (در 93 سالگی) اتفاق افتاد. امیرالمؤمنین (ع) وقتی بین کشته‌ها جناز? عمّار را دید با چشمانی اشکبار فرمود: «انالله و اناالیه راجعون، هر کس قتل عمار را بزرگ نشمرد و غمگین نشود از اسلام حظّ و بهره‌ای نبرده است.» سپس شخصاً بر جناز? عمّار نماز خواند و مطابق وصیّتش، او را با همان لباس جنگی به خاک سپرد. مرقد شریف وی در سرزمین صفین (در کشور سوری? کنونی و منطق? رُقّه) قرار دارد.

«عمّار» بی شک بزرگمرد تقوا و کمالات است زیرا پیامبر اکرم (ص) فرمودند: «إشْتاقَت الجنّةُ إلی أربعةٍ؛ عَلّیٍ و عَمّارٍ وسَلمانٍ وبِلالٍ»بهشت مشتاق دیدار چهار نفری است و آنها؛ علی (ع) و عمار و سلمان و بلال است.