Ziya Bey Kütüphanesi, Mütevellioğlu Yusuf Ziya Başara tarafından 1908 yılında yaptırılmıştır. Türkiye'deki 18 yazma eser kütüphanesinden birisidir. Geç Osmanlı dönemi mimari özelliklerine sahiptir. Cumhuriyetin ilk yıllarında “Ziya Bitik Evi” olarak anılmıştır. Kütüphane iki bölümden oluşmaktadır. Birinci bölümde el yazması ve matbu eski eserler, ikinci bölümde yeni basım eserlerle toplam 16.653 kitap bulunmaktadır.

Yusuf Ziya Başara, 1869 yılında Sivas’ta doğmuştur. 38 yaşındayken şahsi gayretleriyle kendi adını taşıyan kütüphaneyi yapmıştır. Ziya Bey, 1920 yılında Sivas iline milletvekili seçilene kadar, Sivas Mektubi Kalemine girmiş ve mümeyyizliğe kadar yükselerek on üç yıl bu görevde kalmıştır. Daha sonra mektupçuluk ve kaymakamlık vekaletlerinde, Milli Eğitim ve Evkaf Müdürlüğü ile üyeliklerinde, Sivas Mekteb-i Sanayi (Sanat Okulu) öğretmenliği ve müdürlüğünde Vilayet İaşe Müdürlüğünde bulunmuş, yine Koyulhisar ve Divriği’ de memurluk yapmış, Sivas Vilayet Gazetesi’nde muhabir olarak çalışmıştır.1943 yılında vefat etmiştir.

1978 yılına kadar özel mülk olan binaya, bu tarihten sonra Kültür ve Turizm Bakanlığı Kütüphaneler ve Yayımlar Genel Müdürlüğü’nce eski eserler kabul edilmiştir. 1983 yılında onarımı yapılarak, alt kattaki altı dükkânın yeri Güzel Sanatlar Galerisi, üst katı da yine ihtisas kütüphanesi olarak düzenlenerek 1985 yılında hizmete açılmıştır. 2005-2006 yıllarında tekrar bakım ve onarımı yapılan kütüphane 2006 yılından itibaren özgün işlevine uygun olarak kullanılmaktadır.