این مسجد در میان بازار قدیمی شهر واقع شده و یکی از ارکان اصلی بافت قدیمی شهر است. برخی از محققین معتقدند این بنا ابتدا آتشکده بود و بعد از تسلط مسلمین ویران شد و سپس در قرن هفتم هـ . ق بر روی آن مسجدی ساخته شد. به اعتقاد این گروه از محققین سبک تزیینات، گچ بری ها، ستون بندی ها و طاق های مسجد عیناً شبیه به سبک معماری سلجوقیان است.
تاریخ تجدید بنای این مسجد معلوم نیست، اما محراب آن در تاریخ ۶۷۶ هـ.ق ساخته شده است. این مسجد به همراه سایر اجزاء بافت قدیمی شهر به ویژه بازار و راسته های آن بارها مورد مرمت و بازسازی قرار گرفته است. مسجد جامع با دو در ورودی که از صحن بزرگ آن منشعب می شود، به بازار راه دارد.
هسته اولیه بنا را این مجموعه تشکیل می دهد و حاوی کلیه مشخصات معماری اسلامی است. به احتمال قریب به یقین این بخش مربوط به دوره سلجوقیان (قرن ششم هـ.ق) به بعد است. محراب مسجد با گچ بری نفیس در این قسمت قرار دارد و در تاریخ ۶۷۶هـ.ق- در زمان حکومت ایلخانان- به بهترین نحو ساخته شده است.
چهل ستون متصل به شبستان گنبددار: زمان ساخت آن جدیدتر از شبستان اولی به نظر می رسد و در خاک برداری از کف آن مقداری اشیای متعلق به دوره ایلخانان به دست آمده است. این چهل ستون به خاطر صدمات وارد ه چندین بار مرمت شده است.
حجره های قدیمی اطراف صحن مسجد: این حجره ها مربوط به اوایل دوره زندیه است. براساس سنگ نوشته موجود زمان احداث آن ۱۱۸۴ هـ.ق است.
بخش نوساز اطراف صحن: این مجموعه به جای بافت قدیمی ساخته شده و بیشتر مربوط به دو دهه اخیراست.
مصالح به کار رفته در اجزای مختلف ساختمان مسجد نیز متفاوت است. شبستان گنبددار و چهل ستون با دو نوع مصالح- قسمت تحتانی و قسمت های بالایی آن از آجر- ساخته شده است.از مهم ترین عوامل تزیینی مسجد کتیبه های کوفی دور گنبد و گچ بری محراب آن است.