榆林市檔案館成立于1958年，為市委直屬事業單位，履行檔案收集、保管、利用職能。內設政秘科、業務指導科、宣傳科、編研科、保管科、利用科和信息化工作科，在職人員24名。

市檔案館于2012年晉升為國家二級綜合檔案館，先后被國家人事部、國家檔案局授予“全國檔案系統先進集體”、被省人事廳、省檔案局授予“全省檔案工作先進集體”等榮譽稱號，為省級愛國主義教育基地、黨員領導干部黨性教育基地、市委黨校干部培訓現場教學基地、榆林學院實踐教學基地和榆林市中小學生研學旅行參觀點。

榆林市檔案館占地面積25畝，建筑面積15570平方米，主體地下1層，地上五層，包括檔案庫房、對外服務用房、檔案業務和技術用房、辦公及附屬用房等，建筑造型方正敦厚，被稱為“記憶的盒子”，是榆林歷史記憶與時代發展的共同載體，兼具古典優雅氣質與現代時尚美感，文化屬性突出，建筑特色鮮明，為中西部一流的市級綜合檔案館。