山东医学高等专科学校前身为1966年3月山东省人民委员会批准青岛医学院在沂水设立的分院；

1972年8月，国务院科教组批准学校正式命名为沂水医学专科学校；

1981年9月，山东省人民政府批准学校由沂水迁往临沂；

1986年3月，山东省人民政府批准学校更名为临沂医学专科学校；

2004年12月，经省政府报国家教育部批准，更名为山东医学高等专科学校；

2005年1月，经省政府同意将山东省卫生学校并入，组建成新的山东医学高等专科学校。