曾公亮于宋咸平二年出身于名宦世家，泉州人，宅在三朝铺，楚国公刑部郎中曾会次子。公亮少时很有抱负，且器度不凡，为人“方厚庄重，沈深周密”。乾兴元年（1022年）受命奉表晋京祝贺仁宗登基。仁宗授予大理评事。公亮立志从正途登官，不愿斜封，未赴调。
天圣二年（1024年）中进士，授越州会稽知县。六年（1028年）他治理镜湖，立斗门，泄水入曹娥江，使湖边民田免受水涝之苦。数年后，晋升入京，任国子监直讲，后改作诸王府侍讲。不久，升任集贤殿校理、天章阁侍讲、知制诰兼史馆修撰。
庆历八年（1048）仁宗下召求言。曾公亮上疏条陈六事，都是针对当时积弊所发的改革建议。由于政绩卓著，因而得了宋仁宗的器重。皇祐三年（1051年）升翰林学士；嘉祐元年 （1056年）吏部侍郎，同中书门下平章事，集贤殿大学士，与宰相韩琦共同主持朝中政事。 曾公亮支持过王安石变法，引起了杨绘、滕甫等保守派的不满。宋神宗问曾公亮，王安石闻名先朝，屡召不至，是真有病吗，还是有所要托呢？曾公亮回答：“王安石确是辅相之才，必不欺罔！”宋神宗乃下诏任王安石为翰林学士。
熙宁四年（1071年）起判永兴军。元丰元年（1078年），公亮逝世，神宗辍朝三日，赠太师、中书令，配享英宗庙廷，谥“宣靖”，神宗曾赞扬说，“公亮谨畏周密，内外无间言，受遗辅政，有始有卒，可方汉张安世。”葬于河南新郑县，墓址在今河南新郑市八千乡辛庄村南一华里处，其墓冢与“重修曾坟寺碑”尚存。墓碑为宋神宗亲笔：“两朝顾命定策元勋之碑”。南宋理宗宝庆二年（1226年），被列为功臣，绘像张挂于昭勋崇德阁。《宋史·曾公亮传》和朱熹《三朝名臣言行录》都赞美他“所至举职，皆有能名。”
曾公亮的父亲当过刑部郎中，曾公亮自己的儿子曾孝宽又当上右丞相，到了南宋又有曾怀、曾从龙等人位极人臣，一家子共出了四位宰相一位状元，人称“曾半朝”或“一门四相”。
北宋曾公亮一生居官，致力于革弊兴利，为富国强兵奋斗。天圣年间，西夏叛宋，朝议兴兵讨伐，皇上拿不定主意。曾公亮上奏《征怀书》，书中奏说，治天下之根本，当采取先怀柔后征伐的策略，否则，师出无功，敌寇益炽而累军。仁宗采用怀柔政策，西夏率服。庆历年间，曾公亮针对时弊提出“择将帅”以加强武备的主张。他认为：择将之道，唯审其才之可用，不以远而遗，不以贱而弃，不以诈而疏，不以罪而废。他认为造成将不称职的原因，并非世无将才，而是选之不得其要，或用人不能尽其才。他建议选将必先试其才，所试有效，方给显官厚禄以重其任，然后委其命而勿制约，用其策而无怀疑。同时他又提出裁减冗兵的方案，以减轻国家财政支出。针对北宋吏治混乱之弊，他提出废除“磨勘法”，对各级官的任用和升迁采取考课督察的办法，即“三考有善政者，则升其官资，两任有善改者，则升其任使，无成绩者则罢黜。”
曾公亮对邻国的无端生衅，总是针锋相对，寸步不让。英宗时候，契丹贺正使在馆，朝廷按例赐宴紫宸殿。当时英宗有疾不愈，命宰臣曾公亮就馆宴之。契丹使者认为这样是破坏惯例，有失他们的尊严，因此不愿即席。曾公亮毫不客气地说：“赐宴不赴，是对君命的不诚！人主不愈，要求其必亲临，居心何在？”使者听了这入情入理的话，无言可答，只好乖乖就席。熙宁七年（公元1074年）春，契丹遣使萧禧来言：“代北对境有侵地，请遣使来共同分画。”神宗皇帝得报，即以手诏赐韩琦、文彦博、曾公亮。手诏言，朝廷与北虏通好已将八十年，近岁以来，生事愈多，代北之地，素无定封，设造衅端，妄来理辩……曾公亮在给神宗的疏奏中说道：“乞选将帅，整兵以待敌。”准备随时给挑衅者以迎头痛击。
