Müze, Kent merkezinde, Yüceyurt Mahallesi, Rahmi Günay Caddesi üzerinde bulunmaktadır. Korunması gerekli kültür varlığı olarak tescil edilen Eski Sanat Okulu Binası’nın yapımına 1896 yılında Vali Hacı Hasan tarafından başlanmış, Vali Reşit Akif Paşa tarafından tamamlanarak 1902 yılında Sanayi Mektebi olarak eğitim vermeye başlamıştır. Mektebin ek binası ise 1916 yılında, Demircilik-Marangozculuk atölyeleri olarak kullanılmak üzere inşa edilmiş ve 2007 yılına kadar atölye binası olarak kullanılmıştır.

Kesme taştan inşa edilen yapı tek katlıdır. Doğu cephedeki basık kemerli kapı ile yapıya girilmektedir. Cephelerde, tek sıra halinde düzenlenmiş sivri kemerli, dar ve yüksek pencereler bulunmaktadır.

Cumhuriyet’in ilk yıllarında da faaliyetini sürdüren Eski Sanat Okulu, 2006-2009 yılları arasında restore edilmiş, Kültür ve Turizm Bakanlığı tarafından düzenlenerek 29 Nisan 2009 tarihinde Sivas Arkeoloji Müzesi olarak ziyarete açılmıştır.

Müzede, arkeolojik eserler kronolojik olarak sergilenmektedir. Taş eserlerin bir bölümü ise bahçe kısmında görülebilir.