从美国回来后，黄国璋一度彷徨：学了这么多先进的地理科学知识，怎样用来为国家服务呢?去野外考察，绘制山川形势图吗?不是几个人能办到的事;搞地学研究，提高国内地学水平，努力赶上欧美吗?目前国内还没有地学研究机构;到边疆考察，搞清地域疆界及其历史渊源吗?这更是国家行为。他思前想后，一时难以定夺。当他想到在雅礼中学部教地理时的情景，所用地理教材内容陈旧，概念不清;教学方法落后;无论搞考察，作研究，从事地理教学都需要人才。我国地理科学落后，人才奇缺，而中小学地理教师中，不乏滥竽充数之辈，要改变这种状态，关键是要从教育入手，培养地理学科学人才。经过彷徨、思索，他决心献身地理教育事业。从此，他在近40年的地理教学中，殚精竭虑，呕心沥血，为国家培养了一代又一代的地理科学中坚人才。他先后在南京中央大学、北平师范大学、西北联合大学、陕西师范大学地理系任教授兼系主任，是我国创办大学地理系最多、担任系主任时间最长的人。

　　1929年，他被聘为南京中央大学地理系教授，后兼系主任。在这里，他成为传播西方地理科学的主要学者。在教学中，他刻苦努力，对学生循循善诱，用爱国主义思想激发大家学习地理的积极性。学生都喜欢听他讲课。由此而使“地理新潮滚滚东来，在国内新兴科学中，俨如异军之突起”(《地理教学》发刊词)，有力地冲击着我国传统的记述型地志学。

　　1936年，黄国璋被聘为北平师范大学地理系教授兼主任。他认为，在这里可以更好地实现为国家培养地学教育人才的夙愿。为此，他决心把这个系办成全国有影响的系。首先确定地理系的任务和目标有三：改进各中等学校的地理教学;培养中学优秀地理教师;开展地理科学研究工作。据此，他采取一系列措施：打破门户之见，聘请国内外名家学者来系授课;派得力教授到中学任教，从中了解教学情况，探索教改之路，发现和培养地理科学拔尖苗子;自己动手制订教学计划和教学大纲，实行野外考察与教学并举的方针;亲自联系学校，派青年教师出国深造。不到一年，北师大地理系教学与学术研究取得突破性进展。“为地理发展奠定了重要基础，也可以说是北师大地理系发展史上的一个重要里程碑。”(北师大地理系教授宋春青：《黄国璋事略》)他还把几经周折争取到的中英庚款董事会捐赠的两万块银圆，全部用来采购图书和仪器。“凡有利于中等学校地理教学之事项而本系人力物力所及者，无不规划周详，亟图充实”(《国立北平师范大学地理系概况》)。

　　多年教学实践，黄国璋深感基础教育和科学普及的重要，他力主创立了地理丛刊委员会、中小学地理教学研究会、中小学课外读物编纂委员会，编纂出版了《亚洲地形图》、《河北地形图》和其它教学用图。他主持编辑出版的《地理教学》双月刊，是我国最早的地理教学刊物，对指导中学教师教好地理课，发挥了很大作用。一时间，北师大地理系在黄国璋主持下，系风突变，百家争鸣，在全国声誉日隆，为培养高校地理教学人才，推动全国中小学地理教育做出了重大贡献。

　　“卢沟桥事变”爆发，北平各大学西迁城固，组成西北联合大学。他受命筹建联大地理系。在国家艰危、烽火连年的岁月里，他克服重重困难，日夜奔波操劳，使地理系在短时间内筹备就绪，并及时开课。

　　1948年底至1949年春，他顶住反动政府的压力，拒绝出逃台湾，并与广大师生一道护系护校，粉碎了反动派的破坏阴谋，使北师大地理系完整地回到了人民手中。

　　1952年黄国璋受到错误处理，被撤销九三学社中央及中国地学会的一切领导职务，贬出北京。当组织找他谈话时，他不为自己的冤屈申诉，不为留恋北京求情，唯一的请求是允许他继续教地理，从事地理科学，哪怕是到边远山区教中学地理也行。其献身地理科学，热爱地理教学的赤诚之心，闻者莫不为之肃然起敬!后被派往陕西师大筹建地理系。他胸怀宽广，毫无怨言，一到任就亡命工作。他的行动和敬业精神，感动了所有的人，深得院校领导的尊重与信任。

　　黄国璋先后主讲《世界地理》《北美地理》《中国经济地理》《地理学原理》《地理教学法》及英语等课程。他的讲授内容充实，语言风趣，引发学生对地理科学的浓厚兴趣。他在教学中不断吸收科学新成果，充实教材内容。他常说：“地理学家的思想，随着人类对地球的认识而演变，而人类对地球的认识又随着人类活动范围而与时俱进。”同事们评说，黄国璋的地理学思想、地理教育，真正做到了与时俱进。他经常注意在教学中启发学生的爱国主义思想，阐明学习本国地理的要义。他常说：“一个近代公民对于自己国家内的山川气候等自然形势，人口聚落、物产交通等人文现象及相关之理应有一个深刻的了解，只有这样才能培养出共同的国家观念，才能激发出爱国激情。”