其主体是1901年创办的山东大学堂，是继京师大学堂之后中国创办的第二所国立大学。
中国海洋大学：学校的前身是高恩洪于1924年创办的私立青岛大学；1929年6月，国民政府教育部接受著名教育家蔡元培的建议，在原私立青岛大学基础上筹建国立青岛大学。
中国石油大学华东：学校始建于1953年，1988年，更名为石油大学，逐步形成山东、北京两地办学的格局，1997年，石油大学正式进入国家211工程首批重点建设的高等学校行列。
哈尔滨工业大学(威海)：学校始建于1920年，当时校名为哈尔滨中俄工业学校，。
山东大学威海分校：创建于1984年，坐落于美丽滨城威海，是山东大学与威海市政府联合共建的多学科、开放式、综合性全国重点大学校区。
山东的二本大学有：山东财经大学、济南大学、青岛大学、山东建筑大学、泰山医学院、烟台大学、山东科技大学、潍坊医学院、鲁东大学、青岛理工大学、山东交通学院、青岛农业大学、潍坊医学院、济宁医学院、临沂师范学院、德州学院、山东经济学院、山东财政学院、山东体育学院、山东艺术学院、山东工艺美术学院、泰山学院、枣庄学院、滨州学院、山东政法学院、滨海学院、山东水利职业学院、山东英才学院 。