王安石罷相以后，宋神宗還把王安石定下的新法維持了將近十年。公元１０８５年，宋神宗病死，年才十歲的太子趙煦（音ｘù）即位，就是宋哲宗。哲宗年幼，由他祖母高太后臨朝。高太后是一向反對新法的。她一臨朝，就把反對新法最激烈的司馬光召到東京擔任宰相。

　　司馬光是當時最有名望的大臣，陜州夏縣（今山西夏縣）人。他的名聲，從他幼小的時候已經開始傳開了。他七歲那年，就開始專心讀書。不論是大伏暑天，或者數九寒冬，他總捧著書不放，有時候連吃飯喝水都忘了。他不但讀書用功，而且很機靈。有一次，他跟小伙伴們在后院子里玩耍。院子里有一口大水缸，有個小孩爬到缸沿上，一不小心，掉到缸里。缸大水深，眼看那孩子快要沒頂了。別的孩子們一見出了事，嚇得一面哭喊，一面往外跑，找大人來救。司馬光不慌不忙，順手從地上拾起一塊大石塊，使盡力氣朝水缸砸去。“砰”的一聲，水缸破了，缸里的水流了出來，被淹在水里的小孩也得救了。

　　這件偶然的事情，使幼小的司馬光出了名。東京和洛陽有人把這件事畫成圖畫，廣泛流傳。

　　宋神宗在位的時候，司馬光擔任翰林學士。司馬光和王安石本來是要好的朋友，后來王安石主張改革，司馬光思想保守，兩個人就談不到一塊兒去了。

　　王安石做了宰相以后，提出的一件件改革措施，司馬光沒有一件不反對。有一次，司馬光向宋神宗提出要求取消青苗法，同時，以老朋友的資格，寫了一封信，責備王安石侵犯其他官員的職權，惹是生非，搜刮財富，還拒不接受別人的意見。

　　王安石寫了一封回信，對司馬光的四條責難針鋒相對地作了反駁。信里說：我受皇上的命令，改革法制，怎能說我侵犯別人職權；為國家辦事，怎能說我惹是生非；為天下理財，怎能說是搜刮財富；駁斥錯誤的言論，怎能說拒絕意見。

　　司馬光接到回信，氣得要命。但是眼看王安石有皇帝撐腰，也無可奈何。最后，他辭去朝廷職務，離開京城，到了洛陽，表示不愿過問政事，關起門來寫書了。

　　原來，司馬光對歷史很有研究，他認為治理國家的人，一定要通曉從古以來的歷史，從歷史中吸取興盛、衰亡的經驗教訓。他又覺得，從上古到五代，歷史書實在太多，做皇帝的人沒有那么多時間看。于是，他很早就動手編寫一本從戰國到五代的史書。宋英宗在位的時候，他把一部分稿子獻給朝廷。宋英宗覺得這本書對鞏固王朝統治有好處，十分贊賞這項工作，專門為他設立一個編寫機構，叫他繼續編下去。