第二次世界大战爆发后，德国的机械化部队绕过马其诺防线，突袭法国西北部时，戴高乐才仓促受命组建一个装甲师，并被提升为准将，但为时已晚，法军一溃千里。1940年6月5日，总理雷诺改组政府，任命戴高乐为国防和陆军部次长。这时，副总理贝当和总司令魏刚等投降派在政府中占了上风，当德军逼近巴黎时，他们不组织抵抗，宣布巴黎为“不设防城市”，拱手将巴黎让给了敌人。随后，雷诺政府垮台，贝当出任总理，向德国宣布无条件投降，法军全部解除武装并交出武器。法国北部由德国直接占领，南部由贝当傀儡政府管辖，首都设在维希，史称维希法国。法兰西第三共和国到此结束。
身为国防和陆军部次长的戴高乐，坚决主张把法国政府迁往法属北非，同法西斯德国血战到底。就在法国政府中的投降派酝酿向入侵者无条件投降时，戴高乐出使英国，谋求英、法联合抗击法西斯德国。等他返回法国时，投降的局面已不可挽回了，于是他下决心到英国去领导法国的抵抗运动。
6月17日，戴高乐送英国的斯皮尔斯将军回伦敦。到机场后，就在飞机起动之际，他突然随飞机开始奔跑。那时飞机也小，戴高乐身高腿长，几步就追上了。斯皮尔斯将军恍然大悟，迅速用手抓住戴高乐的胳膊。飞机腾空而起，而戴高乐的腿还在空中乱蹬呢。在场的其他法国官员惊得目瞪口呆。当天晚上传来消息，贝当已经向德国入侵者求降。第二天下午6时，戴高乐在英国广播公司的播音室对法国发表广播演说：“我是戴高乐，我现在在伦敦。我向目前正在英国领土上和将来可能来到英国领土上的持有武器或没有武器的法国官兵发出号召，向目前正在英国领土上和将来可能来到英国领土上的一切军人工厂的工程师和技术工人发出号召，请你们和我取得联系。无论发生什么情况，法兰西抵抗的火焰决不应该熄灭，也决不会熄灭。 ”这是一个伟大的历史性时刻，它标志着由戴高乐领导的反对法西斯侵略和维护民族独立的“自由法国”运动开始了。
少年戴高乐这时，戴高乐还对留在法国的魏刚将军抱有一线希望，写信希望他离开法国本土，领导抵抗运动，可是魏刚甘当傀儡政府的 “国防部长”，并且以军事法庭的名义缺席宣判戴高乐死刑。戴高乐义无反顾地举起了抵抗的旗帜，着手把流落在国外的散兵游勇集合并组织起来，建立起一支7000人的武装部队，并开始引起国际的重视。1943年他把自由法国总部从伦敦迁到阿尔及尔，就任法国民族解放委员会主席。法国共产党领导的游击队和其他抵抗力量统一为“法国内地军”，拥有50万战士，在国内开展了艰苦卓绝的反侵略斗争。戴高乐设法和国内的“法国内地军”取得联系，并且千方百计地把最高领导权，掌握在自己手里。
在整个战争期间，戴高乐念念不忘的是法国作为一个大国的历史地位，力图使法国在战后作为一个殖民大国继续存在。再加上他那十分固执而倔犟的性格，他和英国首相丘吉尔的关系经常处于紧张状态，和美国总统罗斯福的关系可说是相当糟糕。因此，他被排斥在1945年2月雅尔塔三强会议之外，而这次会议却处理着诸如战后欧洲状况等与法国有重大利害关系的问题。戴高乐想方设法取得了出席批准德国投降仪式的代表权，并使法国在德国获得了一块占领区。可是7月举行波茨坦三巨头会议，戴高乐又被排斥在外，这使他在战后一系列重大国际问题上没有发言权，更没有人理睬他的旨在肢解德国的计划。尽管如此，戴高乐为法国争得了联合国安理会常任理事国的资格，享有大国否决权。
1944年8月26日，戴高乐凯旋巴黎。当他来到凯旋门时，欢迎的人们挤满了星形广场和爱丽舍田园大街。他不时举起手臂向含泪欢呼的巴黎人民致意。
