Jandarma Binası, il merkezi Cumhuriyet Meydanı’nda bulunmaktadır. Kitabesine göre 1908 yılında Sivas Valisi Reşit Akif Paşa tarafından Jandarma Dairesi olarak yaptırılmıştır. Yapı “Sivas Jandarma Kışlası” olarak da bilinmektedir. 1996 yılına kadar aktif şekilde kullanılmıştır. Aynı yıl Jandarma Alay Komutanlığı’nın sosyal tesisi olarak kullanılmaya devam etmiştir. Son Osmanlı mimari özelliklerini taşımaktadır. Günümüzde yapı jandarma binası olarak kullanılmamaktadır.

Batı ve kuzey yönünde uzanan yapı, L planlıdır. Her iki kolun birleştiği köşe, yapının ağırlık noktasını teşkil etmektedir. Bu köşede yapı üç katlı bir biçimde düzenlenmiş kademeli olarak; üçüncü katta tek mekân, ikinci katta bu tek mekânın yanlarında ikişer mekân eklenmiş; zemin katta ise kollar tek katlı ve çok mekânlı olarak uzanmaktadır. Yapının tamamı kesme taştan inşa edilmiş olup ahşap çatılı ve üzeri sacla kapıdır.