唐玄宗一路西逃，但忠于朝廷的官员们却纷纷带领军民，奋起抵抗叛军。其中，最早起来打击叛军的，是平原（今山东平原）太守颜真卿和他的堂兄常山（今河北正定）太守颜杲卿。
颜真卿是北齐文学家颜之推、唐代初期的学者颜师古的后代。早在安禄山谋反朝廷的迹象越来越明显时，颜真卿就开始备战了。他借口预防大雨，派军民修缮城墙，召集壮丁，加强城防，还储藏了很多粮食。安禄山叛乱后，河朔（黄河以北地区）一带全都陷入叛军之手，只有平原城的防守是完好的。唐玄宗刚听到河朔沦陷的消息时，悲叹道：“河北二十四郡，难道就没有一个忠臣？”当他听说平原城仍在坚持抵抗时，转悲为喜，说：“不知颜真卿是什么模样，竟能做得这样好。”
颜杲（ｇǎｏ）卿本来是安禄山的部下，安禄山的叛军到达藁（ｇǎｏ）城（在今河北省）时，他就招募了一千多名士兵，准备抵抗。安禄山攻下洛阳后，颜真卿在十天内招募了一万人，并与颜杲卿联合讨伐安禄山。颜杲卿与长史袁履谦，用计占领了井陉关（在今河北井陉），截断了安禄山的退路，河北军民士气大振，二十四郡中有十七郡又归顺了朝廷。大家推举颜真卿为主帅，聚集了二十多万人马，共同抗击叛军。
安禄山见后方不稳，急忙派大将史思明、蔡希德分两路攻打常山。常山的城防工事没修好，兵力又少，颜杲卿带领军民拼死抵抗了四天，最终粮缺弹尽，常山城被攻破。颜杲卿和袁履谦被叛军抓到洛阳，他们受尽酷刑，但仍对着安禄山怒骂不止，最后双双牺牲。
颜杲卿被害后，颜真卿仍在坚持抵抗，直到唐肃宗即位后，他才率领众人辗转来到凤翔（治所在今陕西凤翔），朝见肃宗。
另一位英勇抗击叛军，多次立下战功的名将，是张巡。
公元756年正月，安禄山叛军攻陷宋、曹等州，谯郡（今安徽亳州）太守杨万石投降了叛贼，还逼迫当时任真源县令的张巡，向西去迎接叛军。张巡却率领军民讨伐叛贼，在雍丘（今河南杞县）一举击败叛军大将、原雍丘县令令狐潮。
数月后，令狐潮重整旗鼓，率领四万大军扑向雍丘，想报仇夺城。当时张巡只有四千人，