1943年,他刚满15岁就在掘港中学参加共产党领导的抗日地下工作,散发传单,张贴标语。1944 年,他担任地下刊物《寒星》的主编,先后出刊十多期,反对奴化教育,唤醒学生民族意识,揭露讽刺敌伪无耻、罪恶行径。1945年,他加入中国共产党,任支部干事,并担任苏皖一分区掘港青年联合会主席、黄海剧团团长和如东中学学生会主席等职。1946年春,根据组织安排,18岁的管惟炎离开家乡,到东北解放区工作。1949年秋,管惟炎被保送到哈尔滨工业大学学习,同时兼任政治教研室负责人和政治教员。1951年,管惟炎又以优异成绩考取清华大学物理系。1953年通过考试,他被派往前苏联留学,先后在列宁格勒大学、第比利斯国立大学和莫斯科大学物理系学习,专业为低温物理。他在莫斯科大学学习期间,由于成绩突出,被选送到著名物理学家彼得·卡皮查(后来获诺贝尔物理奖)领导的物理研究所完成毕业论文,他以构思巧妙的实验发现了“反向卡皮察热阻”。1958年,他在全苏低温物理大会上宣读了自己的毕业论文,语惊四座。他提前毕业,被学校推荐并由苏联物理问题研究所彼得·卡皮查所长挑选为物理问题研究所的研究生,他把自己的研究成果写成论文《对于固体与超流氦之间界面上温度不连续性的研究》,该文成为此课题研究中的经典之作。管惟炎于1960年毕业,获苏联副博士学位(相当于欧美博士学位)。