与许奉璋同批赴法的，还有他的老乡兼学长蒋步瀛。出生于1891年的蒋步瀛是黄田畈人，也曾就读浙江省甲种农业学校，毕业后先在安徽芜湖中学任教，一年后赴法国，就读于朗西（南锡）农业专门学校，毕业后却因缺乏盘缠而滞留当地，1924年病逝于法国。
较之蒋步瀛，许奉璋是幸运的。他一边打工一边学习法文，艰难度日。不久后，他考入热努亚克农业学校，仍维持着这种边打工边学习的模式。
1920年秋季以后，法国陷入了一战后的经济危机，工厂纷纷倒闭。1921年初，勤工俭学生大多数失去工作，衣食无着。他们只好聚集在巴黎的华侨协社，靠华法教育会每天发放的5法郎补助费维持生活，致使华法教育会经费亏空越来越大。1921年1月，华法教育会接连发出通告宣布：将于2月28日后，不再发放生活补助费，与勤工俭学生脱离一切经济关系。2月28日，包括许奉璋在内的400余名勤工俭学生为争取生存权、求学权，在蔡和森、向警予、李维汉等人率领下，发起了向中国驻法公使馆请愿行动，亦称“二二八”运动。最终，勤工俭学生被法国警察镇压，许奉璋和部分学生被短暂拘禁后释放。同年6月初，北洋政府谋求向法国政府秘密借款，用于购买军火。旅法华人与勤工俭学生获悉后，又发起了抵制借款运动。许奉璋积极投身运动，与李立三、王臣荣等人多有交集，后由王臣荣介绍加入旅欧中国少年共产党。1923年2月，旅欧中国少年共产党改名为旅欧中国共产主义青年团。
1925年6月，许奉璋为声援国内五卅运动，和王臣荣等人闯入中国驻法公使馆抗议，被法国政府驱逐出境，因无路费回国而被捕入狱。在旅欧中国共青团积极营救下，一个月后许奉璋出狱，并在组织选派和资助下，辗转来到苏联莫斯科东方劳动者共产主义大学学习，系统接受了马克思主义理论培训和共产主义知识教育，后又转入苏联军事学院学习。与许奉璋同一批前往苏联的还有王臣荣、霍家新、贺治华等共36人。