洪武九年（公元1376年），朱元璋为加强中央集权，改行省为承宣布政使司，山东承宣布政使司为大明十三承宣布政使司之一，山东由此正式建省，简称为山东布政司或山东省。
建省之初，山东下辖六府，分别是济南府、东昌府、济宁府、青州府、莱州府、登州府，洪武十八年（公元1385年）降济宁为州，兖州升为兖州府，仍为六府，其中，济南、东昌、兖州为西三府，青州、莱州、登州为东三府。
济南府府治历城县，且为山东布政使司衙门所在地，下辖4州及15直隶县，4州为泰安州（新泰、莱芜）、德州（德平、平原）、武定州（阳信、海丰、乐陵、商河）、滨州（利津、沾化、蒲台），15直隶县为历城、章丘、邹平、淄川、齐河、齐东、济阳、禹城、临邑、长清、长山、新城、肥城、青城、陵县。
东昌府府治聊城县，下辖3州及7直隶县，分别是临清州（丘、馆陶）、濮州（范县、观城、朝城）、高唐州（恩、夏津、武城）及聊城县、堂邑、茌平、莘县、博平、清平、冠县。
兖州府府治滋阳县，下辖4州及11直隶县，分别是东平州（汶上、平阴、阳谷、东阿、寿张）、济宁州（嘉祥、钜野、郓城）、曹州（曹、定陶）、沂州（郯城、费县）及滋阳县、曲阜、宁阳、金乡、单、峄、邹、泗水、滕、鱼台、城武等县。
青州府府治益都县，下辖1州11县，1州为莒州（沂水、日照），11直隶县分别是益都县、临淄、乐安、寿光、昌乐、临朐、博兴、高苑、安丘、诸城、蒙阴。
莱州府府治掖县，下辖2州1县，分别是平度州（潍、昌邑）、胶州（高密、即墨）及掖县。登州府府治蓬莱，辖1州6直隶县，分别是宁海州（文登）及蓬莱县、黄县、福山、栖霞、招远、莱阳6县。
除此之外，山东承宣布政使司还包括辽东都司，领2州25卫。
