山东是中华文明发祥地之一。目前发现的最早的山东人———“沂源人”，可以把山东的历史上推到四五十万年以前。山东境内考古发现的北辛文化、大汶口文化、龙山文化遗址，说明距今7000年至4000年间，生活在这里的东夷族就实现了从母系氏族社会到父系氏族社会乃至阶级社会的转变，有了比较发达的农牧业和手工业。在山东发现的中国最古老的文字“大汶口陶文”和邹平县丁公村“龙山陶书”，把有文字记载的历史上溯至4000多年前，近年来在山东还先后发现了中国最早的城邦“城子崖龙山古城”，中国现存最古老的长城“齐长城”，中国最早的甲骨文“桓台县唐山遗址甲骨文”。据专家考证，山东省还是汉唐丝绸贸易的主要供货地，是丝绸之路的源头。公元前21世纪夏朝时代，山东进入奴隶制社会，东夷各部族活跃在山东地域。商朝（约公元前17世纪——前11世纪）早期的活动中心在山东西南部。商前期的五次迁都，有三次在山东境内。商朝建立后，山东仍是其统治的中心地区。春秋战国时期（公元前770年——公元前221年），西周实行“封邦建国”之策，两个最大的分封国——齐国和鲁国，都在今天的山东境内。齐国“通商工之业，便鱼盐之利，而人民多归”；鲁国融合周文化与东方文化，为“礼仪之邦”。由于齐、鲁两国发达的经济、文化和政治在中国历史上具有重大影响，所以山东又称"齐鲁之邦"，并以"鲁"作为山东省的简称。独具特色的齐鲁文化，在中国传统文化中占有重要地位。
山东是中国古代文化的发源地之一，也是古代文化的中心。这里曾产生过许多杰出的思想家、科学家、政治家、军事家、文学家和艺术家。在学术思想方面，有孔子、孟子、颜子、曾子、墨子、荀子、庄子、郑玄、仲长统等；在政治军事方面，有管仲、晏婴、司马穰苴、孙武、吴起、孙膑、诸葛亮、戚继光等；在历史学方面，有左丘明、华峤、崔鸿、马骕等；在文学方面，有东方朔、孔融、王粲、徐干、左思、鲍照、刘勰、王禹、李清照、辛弃疾、张养浩、冯惟敏、李开先、李攀龙、蒲松龄、孔尚任、王士禛等；在艺术方面有王羲之、颜真卿、李成、张择端、高凤翰等；在科学技术方面，有鲁班、甘德、刘洪、何承天、王朴、氾胜之、贾思勰、王祯、燕肃等；在医学方面，有扁鹊、淳于意、王叔和等。他们的思想、理论、智慧和学术成就，构成了中国传统文化的重要内容，对中华民族文化的发展产生了广泛而深远的影响。被称为"文圣"的中国古代伟大的思想家、教育家、政治家孔子，2500多年前就诞生在位于山东省西南部的曲阜市，他创立的儒家学说，成为中国传统文化的支柱，至今在世界上产生着重大影响。孔子还被誉为世界十大思想家之首。被称为"兵圣"的中国古代著名军事家孙武，也诞生在黄河三角洲一带，他的军事著作《孙子兵法》，至今仍然是中外军界和商界推崇的经典。山东历史上还出现过儒学代表人物孟子、曾子，墨派学说创始人墨子，道家代表人物庄子。齐国名相、著名经济学家管子，战国时期著名天文学家甘德，以《齐民要术》闻名的古代农学家贾思勰，古代科学家汜胜之，以《孙膑兵法》著名的古代军事学家孙膑，被中国人尊为智慧化身的三国名相诸葛亮，以《文心雕龙》闻名的文学理论家刘勰。宋代著名的豪放派词人代表辛弃疾和婉约派词人代表李清照，清代著名文学家、短篇小说集《聊斋志异》的作者蒲松龄，被称为"书圣"的东晋著名书法家王羲之，唐代著名书法家颜真卿，宋代著名画家、《清明上河图》的作者张择端等一大批著名历史人物。在当今中国的政界、军界、经济界、科技教育界、文化艺术界等，都活跃着一批山东籍的知名人士。山东地区素以发达的农业和手工业著称于世。秦汉时期，今山东地区号称“膏壤千里”，农业经济发达，所产粮食不断溯黄河西上，运往关中地区。西汉时期，山东地区有人口1700余万，户390万，占全国当时人口的30％，人口密度居全国首位。后来虽经东汉末年与魏晋南北朝时期的战争破坏，但同全国其他地区相比，山东仍不失为经济中心。隋初，山东各州县遍置粮仓，户口占全国总户数的21％。唐代开元天宝年间，每年要将山东几百万石粟米漕运至关中。开元年间，“海内富实，米斗之价钱十三，青、齐间斗才三钱。绢一匹，钱二百。”到了唐后期，虽经战乱，但山东农业生产仍在发展，“田畴大辟，库仓充积”。宋金元时期，山东地区承受的封建剥削尤重，并不断遭受外来的侵扰和野蛮统治，经济处于滞退状态。元代山东有38万户，126万人，与金代相比，户减约75％，人口减约87％。明初，“多是无人之地”，统治者不得不采取奖励人民垦荒的措施，到洪武二十六年（1393年）时，山东耕地面积达到7240万余亩，为北宋时期的2.4倍，居全国第三位。清康熙年间又增至9000余万亩。山东的冶铁业起源很早，春秋初年，齐国已使用铁制农具。西汉时，武帝在全国设置铁官48处，山东就有18处。唐朝的兖州是矿冶中心，莱芜有铁冶13处、铜冶18处。北宋时莱芜铁冶规模更加扩大，与江苏利国监同为京东两大铁冶中心。明朝初年，山东年产铁315万余斤，居全国第三位。山东的其他矿产也很丰富，宋时登、莱二州产金，元丰年间登州、莱州的黄金产量占全国的90％。明初，济南、青州、莱州三府岁采铅32万余斤。清朝山东煤矿已大量开采，最著名的是峄县煤矿，乾嘉时期，北运京师、奉天，动辄数百万石。
山东的纺织手工业举世闻名。战国时期，齐国即号称“冠带衣履天下”。临淄、定陶、亢父（今济宁）是汉代三大纺织中心。所产纺织品数量多、质量好，源源不断地通过“丝绸之路”输往西域等地。因此，当时山东地区是“丝绸之路”的主要源头之一。唐代兖州的镜花绫、青州的仙纹绫，都是驰名全国的纺织品。宋代在青州设立织锦院，专门织造高级纺织品。宋神宗时，在山东“和买”绢帛，每年达30万匹左右。明清时期，济南、济宁、临清等城市都有较发达的纺织手工业，有的地方还出现了带有资本主义萌芽性质的手工工场。
山东人民富有革命传统。春秋末期，就有以跖为首的奴隶起义，“从卒九千人，横行天下”。在漫长的封建社会中，山东人民无数次的武装起义，沉重打击了封建统治。著名的有新莽末年的赤眉大起义，东汉末年青州黄巾起义，隋末王薄领导的长白山起义及窦建德、孟海公、杜伏威、刘黑闼等人领导的农民起义。唐末黄巢大起义，推翻了唐王朝的统治。北宋末年有宋江农民起义。明代有唐赛儿、徐鸿儒起义。清中叶以前有于七、王伦等人领导的起义。近代则有幅军起义及捻军斗争，山东还是义和团运动的发源地。
