应天府书院前身为睢阳书院，是五代后晋时的商丘人杨悫所创办。北宋大中祥符二年（1009年），宋真宗改升应天书院为府学，称为“应天府书院”，并正式赐额“应天府书院”。
大中祥符七年（1014年），应天府（今河南商丘）升格为南京，成为宋朝的陪都，应天书院又称为“南京书院”。庆历三年（1043年），应天府书院改升为“南京国子监”，成为北宋最高学府，同时也成为中国古代书院中唯一一座升级为国子监的书院。