山东师范大学研究生院是在原研究生学院（2006年成立）基础上，于2012年11月成立的，主要负责对学校学科建设、学位与研究生教育工作进行规划、协调、管理和服务。

山东师范大学的研究生教育始于1955年，是山东省较早开展研究生教育的高校之一。1981年，学校获得硕士学位授予权，是全国首批被批准的硕士学位授予单位；1996年，成为全国首批教育硕士专业学位试点单位；1998年，获得博士学位授予权。

截至目前，山东师范大学拥有22个学院、2个中心，共计24个研究生培养单位。学校拥有10个博士学位授权一级学科，29个硕士学位授权一级学科，以及多个专业学位培养单位，如教育硕士、公共管理硕士、工商管理硕士等。学校的在校全日制博士生数量为350人，硕士生4527人，非全日制研究生1353人。