为了适应更多青年留学人员的需求和加强对回国留学人员的服务，2004年，全国青联还在北京成立了中华全国青年联合会留学人员联谊会。该会是由已经回国工作以及仍在国（境）外学习、工作的青年留学人员和热心留学工作的留学人员社团自愿结成的、非营利性的社会团体。其宗旨是：广泛联系海内外青年留学人员，促进海内外青年留学人员的深入交流和不断进步，帮助青年留学人员回国创业和以多种方式为国服务，引导广大青年留学人员积极投身和参与祖国的经济建设和社会发展事业，为实现中华民族的伟大复兴贡献力量。联谊会由著名科学家钱学森担任名誉顾问，全国人大常委会副委员长韩启德、全国政协副主席罗豪才担任顾问，中共中央组织部、中共中央统战部、共青团中央、中国科协、教育部、科技部、人事部、中国科学院等有关部委、机构负责同志担任指导委员会委员。

联谊会秘书处设在全国青联海外学人工作部。其负责人倪邦文博士和秘书处同仁在联谊会成立的筹备中作出了很多的贡献。联谊会由个人会员和团体会员组成。现有会员分布在国内各省、区、市和香港、澳门特别行政区以及美国、加拿大、英国、法国、德国、芬兰、荷兰、瑞典、葡萄牙、日本、韩国、新加坡、澳大利亚等共14个国家。联谊会共有个人会员740余名，主要为青年留学人员的代表性人物，其中国外的会员近200名。国内会员分布在政府机关、科研机构、高等院校、金融机构、内外资企业、中介组织等各行业，国外会员主要是科技界的青年代表人物、企业界的成功人士和知名留学人员社团、华侨华人社团的负责人。