به استناد شواهد و یافته های باستان شناسی، سابقه استقرار و سکونت بشر در غار خونیک واقع در 18 کیلومتری جنوب قاین به 12 تا 20 هزار سال پیش از میلاد می‌رسد. در مورد این شهر می‌توان گفت، قاین از شهرهای کهن و تاریخی استان خراسان جنوبی است که به استناد متون تاریخی سابقه آن به پیش از اسلام می رسد. این شهر در دوره ساسانی از اهمیت برخوردار بوده است. قاین در دوره اسلامی بزرگترین شهر قهستان بوده، به دلیل اینکه در مسیر راه های مهم تجاری سیستان و کرمان و سواحل دریای عمان به (سنگ بست) بوده، همواره اهمیت داشته است. اهمیت تجاری و اقتصادی قاین به حدی بوده که در قرن چهارم هجری مقدسی آنرا (دروازه عمان و بارانداز کرمان و انبار خراسان) نامیده است. این شهر در دوره اسلامی دارای بارویی با دروازه های مختلف بوده و خندقی بر گرداگرد آن احاطه داشته است که هنوز بخش اندکی از بقایای این خندق باقی است، کهن دژ نیز درون بارو قرار داشته و مسجد جامع و دارالاماره درون کهندژ بوده اند. ناصر خسرو قبادیانی در اواسط قرن پنجم هجری از این شهر دیدن کرده و آنرا چنین توصیف کرده است: (قاین شهری بزرگ و حصین است و گرد شهرستان خندقی دارد و مسجد آدینه به شهرستان اندر است، آنجا که مقصوره است طاقی عظیم بزرگست چنان که در خراسان از آن بزرگتر ندیدم و آن طاق نه در خور آن مسجد است و عمارت همه شهر به گنبد است...). در اواخر قرن پنجم هجری این شهر و دیگر مناطق قهستان صحنه درگیری فداییان اسماعیلی و نیروهای حکومت سلجوقی بوده است. در اواسط قرن هفتم هجری، هلاکوخان قلعه های الموت و قهستان را در هم کوبید و در این گیرودار بسیاری از شهرها و مناطق آباد ویران شد و عده زیادی به خاک و خون کشیده شدند. در این تاریخ آرامش از قاین رخت بربسته بود زیرا حمد الله مستوفی در سال 720 هجری اینگونه از قاین و مردمش یادکرده است: (در بیشتر خانه ها سردابه ساخته باشندوهمه مردم شهر سپاهی باشند و همه کس را آلات حرب مهیا باشد). کاوش های باستان شناسی صورت گرفته در سال های اخیر که سرآغاز آن حفاری تپه شاهزاده حسین قاین بوده، منجر به کشف آثار و بقایای مسجد جامع قاین شد که حاکی از رونق و اعتبار این شهر در دوره سلجوقی است. در اواخر دوره صفویه و با روی کار آمدن خاندان امیران خزیمه (علم)، بیرجند بتدریج جایگزین شهر قدیمی قاین شد
