蔣夢麟少年時曾參加學潮，但日後卻並不主張學生運動。五四運動后，蔣夢麟告誡學生：「吾人若真要救國，先要謀文化之增進。……深望諸君，本自治之能力，研究學術，發揮一切，以期增高文化。又須養成強健之體魄，團結之精神，以備將來改良社會，創造文化，以負各種重大責任。」

1928年，蔣夢麟出任南京教育部長。當時，販賣文憑的「野雞大學」充斥各大都市。蔣夢麟出於高等教育的素質問題的考慮，嚴格限制私立大學的存在，制定並頒布了《大學組織法》，規定大學分文、理、法、教育、農、工、商、醫八大學院，凡具備三個以上學院者，始得稱大學，否則為獨立學院。對於那些無良的私立大學，蔣夢麟也以鐵腕手段加以整頓，或取締，或警告。

留學歸國后，蔣夢麟與幾位朋友在北京大學和江蘇省教育會贊助下開始發行《新教育》月刊九九藏書，由蔣任主編。雜誌創辦后六個銷售量達到一萬份。它的主要目標是「養成健全之個人，創造進化的社會」。

蔣夢麟說：「我在大學中搞了幾十年，經過許多風潮，發現了一個規律：一個大學中有三派勢力，一派是校長，一派是教授，一派是學生，在這三派勢力中，如果有兩派聯合起來反對第三派，第三派必然要失敗。」

1930年，中央大學校長張乃燕（國民黨元老張靜江之侄）因學生鬧學潮，直接寫信給蔣介石，提出辭職，且不等教育部批准即離開南京。蔣夢麟極為惱火，接受記者採訪時，處處維護中央大學學生，對蔣介石頗有微詞，稱他這個教育部長也是從報紙上才得知張乃燕辭職的消息，並說中央大學位居所有國立大學的首位，校長的去留關係重大，「絕非一二人所能決定」。

蔣夢麟自幼痛恨舊式教育，但後來他卻對舊式九_九_藏_書教育懷有感激之情。他說，如果不是「吃得苦中苦，方為人上人」，「萬般皆下品，唯有讀書高」等名言警句的激勵，他早就跑到上海經商去了。因此，他認為：「理想、希望和意志可以說是決定一生榮枯的最重要因素。教育如果不能啟發一個人的理想、希望和意志，單單強調學生的興趣，那是捨本逐末的辦法。只有以啟發理想為主，培養興趣為輔時，興趣才能成為教育上的一個重要因素。」

蔣夢麟在日本一個月，對日本印象非常好：「整個國家像個大花園，人民衣飾整飭，城市清潔。他們內心或許很驕傲，對生客卻很有禮貌。」他認為：「強迫教育使（日本）國民的一般水準遠較中國為高，這或許就是日本成為世界強國的秘密所在。」這也成為日後蔣夢麟決定投身教育，期許教育改變中國命運的原因之一。

因中央大學校長張乃燕辭職，及取九_九_藏_書締私立勞動大學之事，蔣夢麟得罪了國民黨元老李石曾、吳稚暉、張靜江，被迫辭職。蔣辭職的前夜，吳稚暉到教育部，雙目炯炯有光，質問中央、勞動兩校之事，併為兩校訟冤。在吳看來，部長是當朝大臣，應該多管國家大事，少管學校小事。最後，吳一指蔣夢麟，厲聲說道：「你真是無大臣之風。」蔣恭恭敬敬地站起來回答說：「先生坐，何至於是，我知罪矣。」第二天蔣即辭職。劉半農聽聞此事，贈蔣圖章一方，文曰：「無大臣之風。」

1929年，在教育部長蔣夢麟的建議下，中華教育文化基金會（蔡元培任董事長，蔣夢麟任副董事長）通過決議，將北平圖書館與北平北海圖書館合組，成立「國立北平圖書館」，即中國國家圖書館的前身。

到美國留學，蔣夢麟懷抱著改良農業以救國人的志向，進入加州大學農學系就讀。一天清早，蔣正準備到農場ｒｅad.99csｗ•com看擠牛奶的情形，路上碰到一群蹦跳雀躍的小孩子去上學。他忽然想：「我在這裏研究如何培育動物和植物，為什麼不研究研究如何培育人材呢？」於是，他也不去農場了，一直跑上伯克利的山頭，坐在一棵古橡樹下，凝望著旭日照耀下的舊金山和金門港口的美景，腦子裡思潮起伏，細數著中國歷代興衰的前因後果。忽然之間，他眼前恍惚有一群天真爛漫的小孩，像凌波仙子一樣從海灣的波濤中湧出，要求他提供給他們讀書的學校，於是他毅然決定轉到社會科學學院，選教育為主科。后蔣夢麟又到哥倫比亞大學攻讀教育學博士，師從美國著名實用主義哲學家、教育學家杜威。

五四運動后，學生日益激進，胡適和蔣夢麟乃聯名發表《我們對於學生的希望》。文中寫道：「荒唐的中年、老年人鬧下了亂子，卻要未成年的學子拋棄學業，荒廢光陰，來干涉糾正，這是天下rｅａd•９９ｃｓｗ•cｏｍ最不經濟的事！」

北大學生林德揚自殺，羅家倫寫文章《是青年自殺還是社會殺青年？》高談社會醜陋，沒有教會年輕人如何尋找到更多活下去的理由。蔣夢麟隨即在報刊上著文嚴詞反駁，強調社會本來就不能自己改良，必須要個人去改良它。而自殺是示其弱，不道德，不是為奮鬥，是「一個大罪惡」。他疾呼，生命只有一個，要常保樂觀才好，要求青年在面對社會險惡的環境時，不能選擇自殺逃避，應該積極地「奮鬥到極點還要奮鬥」。

蔣夢麟還頒布教育部令，進行了一系列的教育改革：規定學校一律用國語進行授課；禁止小學用文言文課本；小學須教授英語或其他外語；被派遣的公費留學生，必須通過派遣國的外語考試；對教會學校進行嚴密查察，不符合條件即取締；大學不再招收預科學生，有需要則設立附屬高級中學；大學各附屬高中畢業生不得無實驗直接升入各本大學肄業。