合肥工业大学档案馆成立于1983年，1989年正处级建制，为学校直属单位。档案馆馆舍位于合肥工业大学屯溪路校区西教一楼，基础设施完备，配备了密集架、防磁柜、去湿机、计算机服务器等现代化设备。库房内、办公区配备防火、防盗监控系统。

1996年6月，经原机械工业部考评，评为部属首家晋升科技事业单位档案目标管理“国家二级”单位。1998年3月，档案馆被原机械工业部授予“档案目标管理工作先进单位”称号；2001年以来多次被安徽省档案局授予“全省档案工作优秀集体”称号。

档案馆现有合肥工业大学、安徽工学院、安徽水利电力学院3个全宗，集中保管包括教学、科研、党政、外事、基建、出版、仪器设备、声像等13大类档案25万余卷（件），另有学生试卷等各类资料七万余册（件）。

自2002年以来，档案馆努力推进数字档案馆建设，研制开发合肥工业大学档案信息管理系统（网络版），通过内部局域网提高档案利用效率和服务质量。

重视馆藏档案建设，根据学校建设和发展需求，积极开展档案编研。自2000年起，在校年鉴编辑委员会的领导下，承担《合肥工业大学年鉴》的编辑与出版发行任务。

档案馆历来十分重视馆藏档案的提供利用，各类档案历年来在学校的党政管理、教学、科研等各项工作中发挥了重要作用，也为落实政策、编写校史、举办校庆展览、教职工职称评定、教学成果评选、申请出国留学、学历证书真伪鉴定工作以及民办教师转正等提供了大量的档案原件和复制件作参考、凭证、依据。