侍郎、同中书门下平章事，做到了宰相职位，不久又升为最高官职的中书令。

    张九龄从一个校对文字的小官升到宰相，可以说是靠着他的才华一步步爬上来的。可爬到了皇帝身边，光会做事就不行了。张九龄偏偏又是个耿直敢言的人，尽在玄宗面前尽忠言，可是忠言逆耳呀! 因而得罪了晚年昏庸的唐玄宗。开元二十五年（公元737年），玄宗罢张九龄而拜李林甫为相，次年，左迁荆州大都督府长史。李林甫是唐室宗亲，只会甜言蜜语，李林甫在相位十九年，由“开元盛世”进入了“安史之乱”，与张九龄在宰相之位时，前后形成了鲜明的对比。张九龄的罢相被贬，是他政治生涯中的一个重大挫折，对于唐室王朝来说，也未必不是个更大的挫折哩!

    张九龄为官时，一心想着国家和百姓。他建议于河南屯田，引水种稻，主动兼做河南稻田使。他曾上书唐玄宗李隆基，主张重视地方官人选，纠正重内轻外风气；选官应重贤能，不循资历。当唐朝处在全盛时期时，玄宗心生懈怠，只想好好享受晚年清福，而张九龄细心发现隐伏着的种种社会危机，他针对社会弊端，提出以“王道”替代“霸道”的从政之道，强调保民育人，反对穷兵黩武；主张省刑罚，薄征徭，扶持农桑；坚持革新吏治,选贤择能，以德才兼备之士任为地方官吏。他的施政方针，缓解了社会矛盾，对巩固中央集权,维护“开元盛世”起了重要的作用，因而被后世誉为“开元之世清贞宰相”的三杰之一。

    开元二十八年（740），张九龄因病在韶州曲江私邸逝世，葬于今韶关市武江区。安史之乱后，唐德宗派使臣来韶祭墓，并下诏赠司徒。