司馬光非常讚賞唐太宗李世民的那句話："為政之要，惟在得人"。為利於朝廷得到更多、更好的人才，他針對當時在用人方面存在的種種弊端，提出了不少好的見解和主張。如建立健全選人、用人制度；改革科舉制，設十科舉士；改進延訪、薦舉和按察制度；破除循資歷、重門第的陳腐觀念等等。
熙寧元年 (1068年)，他又向皇帝提出了選拔和提升對象必備的三個條件：一、"不愛富貴"；二、"重惜名節"；三、"曉知治體"。顯然，前兩條指的是"德"，後一條說的是"才"。"德"、"才"相比，以"德"為先。根據這一標準，司馬光力於薦才，起用了許多清正廉潔之士。據史載，他晚年時，曾將他一生中所薦之人，彙編成冊，讓人們都來檢查自己是否出以公心、所薦人才究竟對社會是否有益有用。後人一一加以考論，結果是"失之者不一二"，司馬光推薦的人中，不賢能者不到百分之一、二。是經得起檢驗的。
司馬光還非常注重人才的保護。早在他擔任諫官時，發現蘇東坡應試的文章立論新穎，多中時弊，富有開拓精神。但考官胡宿，卻對此不感興趣，甚至無意錄取他。為此，司馬光一再表示：蘇東坡有愛國憂民之心，實在是一個難得的賢才，"不宜黜"。對現任官吏，司馬光也常常在皇帝面前開誠佈公地進行評論，他曾多次說：王曾清純廉潔；張知白剛正無私；魯道宗質直如竹；而薛奎則敢言直諫。這些人，都屬社稷之臣，應當重用。相反，馬季良、羅崇勛之流不學無術，只知道阿諛奉承，應當撤銷其一切職務，重加懲治。
有一次，皇帝剛剛為宦官頭子任守忠加官晉職，司馬光馬上上疏議奏·說任守忠是"大姦"，是"國之大賊，人之巨蠹"；還說他"資性貪婪，老而益甚，盜竊官物，受納貨路，金帛珍玩，溢於私家；第宅產業，甲於京師。聚斂之心，曾無紀極"。他還建議皇帝將任守忠"斬於都市，以謝天下。"
二、"王家鑽天，司馬入地"
司馬光基於"懷民以仁"的指導思想和"以德為先"的用人標準，自己率先做出榜樣，始終勤政廉政，兩袖清風，決不為自己及親友謀取任何私益。
隨著職位的升遷和權力的增大，司馬光的同學、同僚、親戚、屬下中，也有不少人想通過他撈些個人好處。但是，卻被他一一拒絕。為避免此類人"拉關係"、"走後門"，他乾脆在自己的客廳內，貼了一張告示。其中寫道：凡來者若發現我本人有什麼過失，想給予批評和規勸，請用信件交給我的書僮轉我，我一定仔細閱讀，認真反思，堅決改正；若為陞官、發財、謀肥缺，或打算減輕罪名、處罰，請一律將狀子交到衙門，我可以和朝廷及中書省眾官員公議後告知；若屬一般來訪，請在晤談中，休提以上事宜。
司馬光不但從來不收任何人送給他的禮物、禮金，而且連皇上的賞賜也不受。有一次，宋仁宗賜給他許多金銀珠寶、絲綢絹帛，他卻力辭再三。並誠懇地表示："國家近來多事之秋，民窮國困，中外窘迫"，應將這些錢用到濟民上。當卻之不成時，他只好謝恩領取，但第二天便將珠寶全部上交自己所在的諫院，作為"公使錢 "（即辦公費），將那些金銀，賙濟了一些貧窮的親戚朋友。
司馬光年老體衰時，他的一位朋友準備花五十萬錢為他買位婢女，以便伺候他。他當即謝絕，說："我幾十年來，食不敢常有肉，穿不敢有純帛，怎敢拿五十萬錢買一婢女？"
當他住在洛陽時，住宅坐落在城郊西北數十里處的一個僻陋小巷中，房子不過是一個僅能避風雨的茅草屋。在夏季，他為了找個納涼避暑之地，便在草屋裡挖地丈餘，用磚砌成一間地下室。
當時，由於王安石的同僚王宜徽、王拱辰在洛陽的宅第都是飛檐鬥獸，高若凌天，華麗無比，所以民間出現了一句諺語："王家鑽天，司馬入地。"
司馬光任官四十年，清廉至簡，只是在洛陽有薄田三頃。他的夫人去世時，無以為葬，只得賣田來置棺葬妻。這就是人們一直傳頌的司馬光"典地葬妻"的故事。
三、向子侄們諄諄施教
兒子司馬康很小的時候，司寫光除了教他讀書、寫字外，還非常注重對他品德的教育，培養他成為誠實、謙遜、節儉、關愛他人的人。待兒子長大後做了官，又教他如何勤政廉政，為百姓謀福利。當他發現兒子在為人、為政、為學方面，表現還可以，便將其教育的重點，放在了節儉方面。
有一次，司馬光特意給兒子寫了一封信，先現身說法，談了自己的經歷和觀點。他說："我們家本來就是清寒的，清白的家風代代相傳。至於我本人，從來不喜歡豪華奢侈。小時候，大人給一件華美的服裝，就不願意穿；考中進士後，別人戴花，自己也不願意戴；只是出於對皇上的尊崇，才不得不勉強插戴一支。我認為，平時穿的能夠禦寒、吃的能夠飽腹，也就行了。但是，許多人卻嘲笑我寒酸。對此，我從未後悔過。古代的人都把儉約視為美德，現在的人竟看儉約為羞恥，真是咄咄怪事!"
為了使子侄們充分認識奢侈所帶來的禍害，司馬光對古往今來因奢侈而導致的嚴重後果，進行了總結。他說：貪得無厭的人，當了官必然收受賄賂，貪贓枉法；不做官，在鄉里也會偷盜行竊，作姦犯科。
接著，司馬光又講了一些以儉樸著稱的人物故事，並重點介紹了宋仁宗時期的宰相張知白。他說：張知白拜相後，生活仍保持過去在地方做小官時的水平。有人不理解，問他，他嘆道："我今天的收入，全家人錦衣玉食足夠。然而，由儉入奢易，由奢返儉難。我今天的收入，不可能永久保持。一旦收入不如今天了，家人久過奢侈的生活又習慣了，一下子改不過來，就可能出事。倒不如無論我在職不在職，生前或死後，總這麼一個標準！"
在信中，司馬光還舉了七件"以儉立名，以侈自敗"的例子，並希望司馬康，不但自己記住這些事例和道理，還要身體力行，並向子孫後代進行同樣的教育。
司馬光擔任宰相時，惟恐在老家的侄子們仗勢作惡，又專門給他們寫了一封信。其中，要求他們安分守己，謙恭退讓，奉公守法，絕不許依仗他的權勢而干擾官府，欺壓百姓，使鄉人討厭。誰若打著他的旗號招搖撞騙、為非作歹，他將命地方官依法嚴處!
司馬光的子侄們，牢記他的諄諄教育，經常照此而自警、自查、自省，確保了"清白的家風代代相傳"，也由此受到了各方面的好評。
四、皇太后並數萬人大哭
元佑元年(1086年)初，司馬光重病臥床，自知將不久於人世。便掙紮著坐起來，給另一位宰相呂公著，寫了一封信，說："吾以身付醫，以家事付愚子，惟國事未有所托，今以屬公。"
司馬光去世後，皇太后大哭，馬上同皇帝一起去弔唁。接著，又贈其太師、溫國公，謚文正，賜碑曰："忠清粹德"。整個京師的人，也主動罷市，紛紛前去相府哀悼。有的人為了致奠，競變賣掉自己身上穿的衣裳。
此外，史書上還說："及葬，哭者如哭其私親"；"四方來會葬者，數萬人"；"都市及四方，皆畫像以祀，飲食必祝。" 可見，其場面之大、哀情之動人 ，在中國歷史上誠屬罕見！
