他出生在一个贫寒的读书人的家庭里。母亲是一个有学问有见地的妇女，为了孩子的前途，她省吃俭用供孩子上学，为茅以升日后成才铺平了道路。
茅以升在学堂里，年龄小，个子矮，身上穿的也很破旧。有钱人家的子弟经常讥讽和欺侮他。茅以升十分气愤，全然不顾周围的冷眼和歧视，发愤读书，一直是全班学习成绩最优秀的学生。
小以升学习刻苦勤奋，加上天资聪慧，爷爷十分喜爱他。有一年暑假，爷爷亲自教他学习古文。
爷爷教古文的方法很特别，他先把文章从头到尾抄录一遍，一面抄写一面讲解，等全篇抄完之后，让他练习背诵讲解，这样，一个暑假过去了，小以升能背诵上百首古诗和十几篇古文。
一天，爷爷用毛笔抄写《东都赋》，茅以升站在旁边默诵着。赋文写得很长但也很美，他被深深地吸引住了，他沉入了一片美好的境界之中。
老长时间，爷爷抄完了，他抓住爷爷的衣袖说：“爷爷，让我背诵一遍你听听。”他果真从头到尾熟练地背了出来。
爷爷惊喜地说：“好啊，熟能生巧，巧能出快!”
一年一度的端午节到了。南京秦淮河上要赛龙船，河两岸、小桥上挤满了人。锣鼓喧天，鞭炮齐鸣，人声鼎沸。
忽然嘈杂声变成了一片呼救声。原来，因为看龙船的人太多，把秦淮河上的文德桥挤塌了。不少人掉进了河里，有的人不幸被淹死。
小以升惊呆了，在他幼小的心灵里埋下了理想的种子-长大以后要为人民造桥，造非常非常结实的大桥。从此以后茅以升十分留心各种桥梁。他只要见到桥总是注意观察桥面桥桩，久久不肯离去。
他在读诗文时，读到有关桥的句子或介绍，就立即摘抄在本子上，见到有桥的画面就剪贴起来。
有一天爷爷给茅以升讲“神笔”马良的故事，告诉他得到神笔的秘诀，就是“勤奋”二字。这两个字深深地铭刻在小以升的心灵里，把它看做是得到架桥“神笔”的秘诀。
11岁那年，勤奋好学的茅以升小学没毕业就考进了“唐山路矿学堂。”他在班上年龄最小，但是每次考试总是名列前茅。他的记忆力相当好，背诵圆周率的精确数值，能把小数点后面一百位数都熟练地背诵下来，经久不忘。
有一天，当时任南京临时政府大总统的孙中山到唐山路矿学堂视察，并在礼堂里做了鼓舞人心的讲演。他说革命需要两路大军，一路举行起义，建立民众政权;一路向西方学习，掌握先进的科学技术，因而在学堂里学习也是革命。茅以升牢记在心里，他贪婪地学习着。
1916年，茅以升以第一名的成绩考取清华学堂官费研究生。
新中国成立以后，他担任过武汉长江大桥技术顾问委员会主任，主持修建了武汉长江大桥，还撰写了桥梁方面的许多着作，并为国家培养了大批建桥人才。