1947年,政府任命罗家伦为首任驻印度大使(印度脱离英国独立)。到任后,他很用心去了解印度的文化、历史、政情,并致力于中、印文化交流。当时印度总理尼赫鲁之下的政要、国会议员等经常来请教罗家伦,印度的宪法有些即是仿自我国宪法。印度国旗本想以甘地革命时期纺织土布的纺纱机做图案。罗家伦建议去掉木头架子,只剩一个圆轮,表示生生不息之义,他们欣然接受了。
1949年,国民党政权在内战中失败后退往台湾,12月30日,印度宣布承认中华人民共和国。罗家伦基于“君子绝交,不出恶声”的古训,发表极简短的声明:“在两年八个月以前,我带了我政府和人民热烈的希望到印度来,催促象征印度独立的及早实现。就这方面来说,我的使命是达到了。我很高兴,印度现在是自由的、独立的。”1951年1月25日,罗家伦离开新德里前夕,特偕甘地的媳妇孙儿孙女到甘地的火葬场上,放了一个花圈,行了一个礼后,静默无言地站了一分钟,隔天即飞加尔各答转道抵台北。罗家伦自印返台后,定居台北,担任党史会主任委员。1958年,担任国史馆馆长。1968年,罗家伦记忆力急剧衰退,以身体不适请辞两项职务。