彪、卢植、蔡邕等典校中书，历位九卿，遂登台辅。后于李傕时期任太傅。曾奉丞相董卓之命，为交战的袁绍和公孙瓒调停。董卓死后，蔡邕被认为与董卓同党，因而被关入监牢待斩，他欲救蔡邕向王允求情，遭拒。秋七月庚子，迁日磾为太傅，录尚书事。八月，遣日磾及太仆赵岐，持节尉抚天下。卒于寿春。
马日磾年轻时已传承了马融的学说，并且以才学入仕朝廷。在东汉曾任谏议大夫，并与议郎卢植、议郎蔡邕、杨彪等一同在东观典校官藏的《五经》记传，并补续《东观汉记》。后来转任光禄大夫。《三国志·孙破虏讨逆传》载：“兴平元年，从袁术。术甚奇之，以坚部曲还策。太傅马日磾杖节安集关东，在寿春以礼辟策，表拜怀义校尉，术大将桥蕤、张勋皆倾心敬焉。