张玄素任景州录事参军时，唐太宗召见他，询问他为政之道。张玄素说：“隋炀帝喜欢专断大小事务，不信任大臣，以一个人的智慧来决断天下的事，最终走向了灭亡！陛下要是能够谨慎选择大臣，观察和考核他们的政绩而加以赏罚，何必忧虑国家治理不好呢！另外，我观察到隋末战乱不止，其实真正想夺取天下的不过就那十几个人，为非作歹的很少，大多数都是为了保卫自己的家乡，等待着归附有道的明主。很少有人了解百姓为什么作乱，只是人君不会安抚而已！”太宗就擢升他为侍御史。
　　
　　贞观四年，唐太宗要重修洛阳宫乾阳殿。张玄素说：“我曾经见过隋朝修宫殿，在豫章（今南昌）伐木材，两千人拉一根大木，铁做的车毂走不了几里就坏了，需要几百人抬着备用的车毂跟着，一天走不上三十里地。从前阿房宫修成了，秦朝就灭亡了；章华宫修成了，楚国也衰败了；乾阳殿完工了，隋朝也解体了。现在我们国力不及隋朝，百姓刚刚遭受战乱——我恐怕陛下的过错比隋炀帝还大。”太宗说：“你说我还不如隋炀帝了吗？”就停修了。
　　
　　魏征知道了，说：“张公论事，有回天之力。”
　　
　　“回天之力”比喻能挽回严重局势的力量。
　　
　　（出自《新唐书?张玄素传》）