唐朝建立以后，在地方设置军政长官，因受职之时，朝廷赐以旌节，故称为节度使。
节度使制度刚刚确立的时候，权利并不是很大，仅仅只有领兵权。后勤补给由中央和地方负责，但由于唐朝时常与周边各族作战，为了粮食补给能够更好的调度，朝廷逐渐将后勤补给的权利下放给节度使。到了在唐玄宗后期，又将地方行政权也交由节度使管辖，逐渐形成了集军、政大权于一身的藩镇集团。甚至出现一人身兼数镇节度使的情况。
唐玄宗时期的安禄山便一人身兼平卢、范阳、河东三镇节度使，手握数十万雄兵。
安禄山本是胡人，李林甫为宰相时，称胡人勇猛善战，忠心为国，建议玄宗任用胡人镇守边疆。所以，安禄山，高仙芝等胡人才能平步青云。
唐玄宗李隆基非常宠信安禄山，曾欲提拔他为宰相，进京为官。这个消息被当时的右相杨国忠知晓，他怕安禄山进京后将取代他的地位，便向唐玄宗进言，说“安禄山野心勃勃，不能任命他为相。”唐玄宗被他说服，也就答应了下来。但此事却被为玄宗起草诏书的张洎知晓，张洎与安禄山是至交好友，私下将消息告诉了安禄山。
一次，张洎与大诗人李白聊天，无意间谈及此事。李白听了，直言不讳的说：“我看安禄山野心很大，有谋反的倾向，你与他交往，恐怕将来会连累到你。你万万不可靠山啊，还是应该向皇上靠拢”。张洎听了，也觉得很对，便与安禄山撇清关系。
后来，安禄山在范阳起兵造反，张洎因早已和安禄山撇清关系，仍然受到玄宗的重用，曾有感而发“幸亏我没有靠山啊”。
于是，靠山一词便流传了下来。
