欢迎来到加倍考研网! 北京 上海 广州 深圳 天津
微信二维码
在线客服 40004-98986
推荐适合你的在职研究生专业及院校
深扒杜克大学录取“内幕”,原来顶尖院校这样挑选学生公德

深扒杜克大学录取“内幕”,原来顶尖院校这样挑选学生

美国教育质量无论是其顶尖名校还是总体水平都是世界一流,因此也是世界学生的向往之地,我国前往杜克大学人数也在不断的增多,接下来我们一起深扒杜克大学录取“内幕”,原来顶尖院校这样挑选学生。杜克大学本科申请要求SAT/ACT杜克大学要求SAT/ACT+写作考试成绩,如递交SAT,还需递交2门SAT II考试成绩,如递交ACT,则自愿递交SAT II考试成绩。本科被录取学生的SAT与ACT均分如下:SAT阅读均分:670-760,SAT数学均分:690-790,SAT写作均分:690-780;ACT综合均分为31-34。注:(1)部分学院对SAT II科目有单独要求,如普拉特工程学院要求申请者递交的2门SAT II考试成绩中,须有一门为SAT数学 I或SAT数学 II考试成绩(2)建议申请者在不晚于申请截止日期前的一个月参加考试。虽然申请者可以在申请截止日期再次递交最新一次的考试成绩,但强烈建议在申请截止日期之前尽量递交完整申请材料(3)如申请者递交新SAT成绩,还需递交Essay成绩,如计划申请2018年秋季学期入学,须递交新SAT成绩AP/IB/A-Level杜克大学三一文理学院和普拉特工程学院接受国际课程,如AP/IB/A-Level课程抵学分。上述课程抵学分标准大致如下:AP课程:大部分课程取得4分或5分,方可抵学分,个别课程取得3分,即可抵学分;IB课程:高水准课程取得6分或 7分,方可抵学分;A-Level课程:取得B或A,方可抵学分。杜克大学硕士申请申请要求学位背景要求:本科毕业并取得学士及以上学位语言要求:TOEFL:90分以上,无单项要求IELTS:7.0以上,无单项要求GRE要求:必需,部分项目还需要有GRE Subject成绩,商学院则可以使用GMAT成绩代替GRE成绩,未设定有最低GRE分数要求GPA要求:未设定有最低GPA要求申请时间:以秋季学期为主要入学季,春季学期只有当有空位的时候方才接受申请,申请截止时间统一为10月15日;夏季学期仅有经济学博士(PhD in Economics)和师范硕士(MAT)接受申请,其截止日期视同秋季学期申请费:$80杜克大学世界排名2020年《美国新闻与世界报道》世界大学500强排名 222020年QS世界大学排名252020年《泰晤士高等教育》世界大学排名 202020年CWUR世界大学排名TOP1000 232020年世界大学学术表现排名(URAP)TOP1000 34杜克大学专业设置杜克大学为本科课程提供36门文理专业及46门可选择的第二专业。重点学科:杜克大学本科生课程最好的学科为政治学、公共政策、历史和化学,工程系也很不错,特别是电子工程和生物医学工程更为其强项。大学最多学生选读的学科,依次是:社会科学(30%)、文科(16%)、工程(14%)、生命科学(11%)、心理学(8%)。

霾没了

11年过去了,兰大毕业,杜克大学做博士后的前清华教授,现状如何

2009年,前清华教授陈新,不顾家人极力反对,辞掉美国杜克大学教授一职,毅然选择了回国。他说:“当时下这个决心真的不容易,我是冒着极大的阻力和风险回来的。”言语间陈新教授落下了辛酸的泪水。现在,任常州大学制药与生命科学学院教授的陈新,主要研究方向为新型抗生素和抗癌药物。在2009年,他带头成立了江苏常州宁录生物科技有限公司,从事害虫性信息素迷向产品和诱捕产品的原药和制剂、杀虫剂、生物农药、驱蚊液的研发,为有机农业的安全提供了可靠的保障。11年过去了,他在成果转化及应用方面,相关研究取得了良好成效。信息素产品已经在国内多省得到了广泛推广应用,面积近100万亩,显著减少了化学农药的用量,提高了农产品的质量。一、曾经兰州大学的学霸,清华大学教授,却赴美工作提起陈新,很多人对他并不熟悉,但是翻开他的履历,不由得让人羡慕不已。陈新曾经是兰州大学的学霸,1983年高考,他以优秀的成绩考上有着百年历史的双一流大学——兰州大学,被化学系录取。在兰州大学,他度过了十年的青葱岁月,从本科到硕士再到博士,一直钻研在浩瀚的“化学”海洋中。十年间,他先后获得了“兰州大学十大科技新秀”荣誉称号、甘肃省高等学校科技进步奖一等奖和甘肃省科技进步奖二等奖。1993年,陈新博士毕业后,进入清华大学做博士后,当时师从赵玉芬院士,负责“生物大分子磷酸化的机理研究”。仅仅两年时间,他就被聘为清华大学化学系副教,负责有机磷化学研究,以及教学和人才培养的工作。时间来到1997年,年轻有为的陈新有幸收到了来到美国加州大学的聘书,本着学习的态度,他进入了其河滨分校昆虫学系继续做博士后工作,从事昆虫信息素研究工作。在学习与工作当中,他发现这种信息素产品在美国被应用有机种植,目的就是为了尽可能减少使用农药的次数。他觉得这种技术在中国应该也可以应用,也就在那时,学成归国的念头就深深地埋在他心里。二、不顾家人反对,义无反顾选择回国2000年,陈新来到美国杜克大学,继续做博士后工作,研究方向是治疗冠状动脉疾病的药物研究。2004年至2010年,他受聘为杜克大学化学系小分子合成中心主管和研究助理教授。从1997到2009年,陈新在美国学习与工作已经有12年了。12年来,他没有忘了回家的念头,他觉得此时已经学有所成,而且有一定的经济基础,可以回国创业,把先进的技术应用到中国农业上。可当他把这个想法告诉家人,遭到了极力的反对。家人认为他此时在美国的工作当是稳定的时候,而且前途无量,不应冒险回国发展,弄不好两边也没有着落,还连累家人。而且,当时美国方面也想极力挽留他,对他设置了层层障碍。但是,归心似箭的陈新已经迫不及待想要回家,2009年,他不顾家人反对,冲破重重障碍,踏上了回国之路。三、现状如何?2009年回国后,陈新入选江苏省“高层次创新创业人才引进计划”和常州市“领军型海归创新创业人才计划”,同年8月,在常州市带头创办了常州宁录生物科技有限公司,自己担任公司负责人,开展了害虫性信息素迷向产品和诱捕产品的原药和制剂、杀虫剂、生物农药、驱蚊液的研发,以及植保远程监测及数据分析系统及设备、昆虫诱捕器、诱芯、诱虫板、防虫网、频振式杀虫灯的研发、生产。2010年9月起,陈新被常州大学聘为制药学院教授,正式告别工作了13年的美国,放弃了国外优越的条件和优厚的待遇,只身一人全职回国创业。作为学术带头人,他在常州大学成立了药物化学创新团队,在药物化学、天然产物化学和药理学等方向进行原始创新研究,建立了抗癌药物和抗菌药物的筛选平台,可以对肺癌、胃癌、结肠癌等9种癌细胞进行药物筛选,对革兰氏阳性和阴性细菌进行药效评价,并进行深入的药理学研究。这11年来,在他的带领下,团队先后发表了60多篇SCI期刊论文,其中包括Nature和Science,获得3项美国发明授权、11项中国发明专利授权。作为项目负责人,他完成和正在主持国家自然科学基金3项,国际合作项目1项,江苏省重大科技支撑项目1项,常州市科技项目4项。老百姓的食品安全问题,也是陈新最关心的大事。他带领着团队系统研究了昆虫性信息素,应用于农作物虫害绿色防控,并进行产业化;成功开发了30多种信息素产品,并于2013年获得了江苏省高新技术产品认证。目前,信息素产品已经在江苏、河南、云南、山东、广东、安徽等省的推广应用面积近100万亩,显著减少了化学农药的用量,提高了农产品的质量。如今,家人早已经对他的工作表示理解和全力支持。他特别感谢妻子和孩子,是他们在背后默默地给他精神上的鼓励,他才能取得这么好的成绩。四、结语在一次采访上,陈新对记者说:“希望用自己的经历为大家提供一个借鉴,以吸引更多海外学有所成的人才回国创新创业,为推动我们国家的发展做出自己的一点贡献。”倚天长剑截云孤,报国纵横见丈夫。陈新教授的报国之心堪称现代的“钱学森”,他给大家树立了一个好的榜样,相信未来会有更多的海外学子归来。对于陈新的故事,你有什么看法?欢迎下面留言!(图片来源网络,侵删)

同滥而浴

为什么美国杜克大学吸引了这么多中国留学生?

为什么美国杜克大学吸引了这么多中国留学生?杜克大学美国南部最具声望的私立大学。杜克大学常年被学术机构在美国大学排名上评为最好的十所大学之一。其图书馆藏书量仅次于哈佛大学和耶鲁大学,列全美大学第三。下属商学院、神学院、工程学院、环境学院、法学院、医学院、护理学院和公共政策学院均提供全美顶尖的学术教育。 气候北卡罗莱纳州由于地形起伏很大,因此拥有多样化的气候。杜克大学所在的德勒姆市位于北卡罗莱纳州的中部,年均气温16℃,7、8月多雨,10、11月最干燥。交通杜克大学提供免费的交通,可在校园内和周边一些地区通过杜克过境巴士和面包车进行出行。 连接市中心与杜克大学和医疗设施的交通线路都是对于学生免费的。学生,教职员工和游客可以免费乘坐校园巴士。杜克万斯补充杜克大学的定期巴士服务,提供了一个替代晚上步行回家快捷简便的交通方式。 机场/接机信息: 杜克大学最近的机场为达勒姆国际机场(RDU),可以从纽约、旧金山、底特律等地转机到RDU,机场距离学校只有20分钟车程。学生可以联系杜克大学的CSSA来接机。也可以选择出租,大概30$左右。周边企业北卡罗纳州是美国著名的资讯科技中心有约2400家咨询科技公司。不少美国知名的资讯科技企业及研发中心,都在此设有机构。如国际商业机器公司(IBM)、微软(Microsoft)、戴尔(Dell)、思科网络(Cisco Systems)、北电网络(Nortel Networks)、索尼爱立信(Sony Ericsson)、日本住友电气工业株式会社(Sumitomo Electric)及红帽(Red Hat)等。此外,北卡州最大的城市夏洛特市是美国第二大银行中心,美国银行(Bank of America)及美联银行(Wachovia Bank)的总部皆设于此。这些机构或公司都将给杜克大学的学生带来其他学校无法比拟的就业优势安全周围环境治安不错,校内安全更没得说,除了零星的盗窃事件之外几乎没有重大安全事故。该校所在位置属于中型城市,该区域的毒品/枪支犯罪率(每千人)为0.5。美国杜克大学大学专业排名QS世界大学生命科学与医学专业排名 2020年 第30名QS世界大学农业与林业专业排名 2020年 第51名QS世界大学解剖与生理学专业排名 2020年 第9名QS世界大学医学专业排名 2020年 第16名QS世界大学护理学专业排名 2020年 第15名QS世界大学艺术与人文专业排名 2020年 第44名QS世界大学工程与技术专业排名 2020年 第114名QS世界大学社会科学与管理专业排名 2020年 第39名QS世界大学自然科学专业排名 2020年 第93名QS世界大学人类学专业排名 2020年 第31名QS世界大学会计与金融学专业排名 2020年 第37名QS世界大学生物学专业排名 2020年 第50名QS世界大学化学专业排名 2020年 第101名QS世界大学哲学专业排名 2020年 第101名美国杜克大学奖学金美国杜克大学大学的全额奖学金准备很丰厚,每年约有23%的国际学生获得杜克大学的财政补助,人均补助金额约为33817美元。不过杜克大学的奖学金金额也与家庭总收入有关系,例如:家庭总收入为0--39.9K,奖学金金额为50K以上;家庭总收入为40--59.9K ,奖学金金额为50K;家庭总收入为60--79.9K ,奖学金金额为45K以上;家庭总收入为80--99.9K ,奖学金金额为40K以上;100--199.9K对应奖学金约40K;120--139.9K 对应奖学金约30K;140--159.9K对应奖学金约30K以下。不同的情况可能申请到的奖学金数额有所不同。美国杜克大学专业立思辰留学云介绍,杜克大学可授予学士学位、硕士学位和博士学位,专业设置广泛,开设的主要专业有:艺术史、生物学、生物医学工程、生物物理学、加拿大研究、化学、土木工程、古典文明、计算机科学、文化人类学、经济学、英语、环境工程、进化人类学、法国研究、全球文化研究、全球卫生、历史、国际比较研究、意大利研究、语言学、数学、音乐、神经科学、哲学、物理、政治科学、心理学、公共政策研究、社会学、戏剧研究、视觉艺术、女性研究等等。

霹雳弹

14岁考入清华,22岁博士四年级,杜克大学杨幻睿的AI成长之路

您当年高考多少分呢?“697分。"那具体每个科目的分数呢?“这个啊,一时想不起来了,毕竟都过去七八年了。”作者 | 陈大鑫高考之后七年多,杨幻睿如今22岁了,杜克大学博士四年级在读。9月26日,在杨幻睿正吃晚饭的时候,一封邮件发到了他的手机邮箱里。起初他还没有在意,但是随后看到是微软CMT代发的邮件,他突然意识到了什么......果然,NeurIPS 2020放榜了:邮件以Congratulations!开头。看到这里他突然长舒了一口气,“半年多的付出总算得到了回报,还好,还好。”之后,杜克大学电子与计算机工程系陈怡然教授,在微博上晒出了杨幻睿的成绩——论文被NeurIPS 2020接收为最优等级的Oral 。陈怡然教授微博截图NeurIPS是学术界和业界都广为认可的人工智能顶级会议,本次NeurIPS 2020接收到了破历史纪录的9454篇论文,而只有1900篇论文通过评审,其中包括280篇Spotlight以及105篇Oral,Oral等级论文比例仅为1.1%。至于陈怡然教授所说的家里的领导,就是其爱人李海教授,也即是杨幻睿的导师。两人是杜克大学同一个实验室的教授。近日,AI科技评论通过陈怡然老师联系到了杨幻睿同学,并对他做了一次深度专访。在和杨幻睿同学的交流中,他不凡的求学经历、乐观的人生态度给我们留下了深刻的印象。在详细介绍杨幻睿同学不同寻常的故事之前,AI科技评论先对他这篇Oral论文进行介绍。1集成模型 | 择其善者而从之,其不善者而改之这篇论文主要就是利用集成模型的思想,可以形容为“三人行,必有我师焉,择其善者而从之,其不善者而改之” ——杨幻睿论文标题:《DVERGE:通过“缺陷”多样化构建鲁棒集成模型》论文链接:https://arxiv.org/abs/2009.14720只看标题似乎不太清楚这篇论文讲的是什么?别急,其实这篇论文所做的工作和对抗攻击有关,那什么是对抗攻击呢?对抗攻击指的是对目标机器学习模型的原输入施加轻微扰动以生成对抗样本来欺骗目标模型的过程。对抗攻击可以暴露机器学习模型的脆弱性,从而提高模型的鲁棒性和可解释性,它在图像领域已有广泛的研究。而有关对抗击最为人所熟知的介绍就是下面的例子:在下图中,将微小的噪声加到一张熊猫图片后,原本可被图像分类模型正确识别的熊猫被识别为了长臂猿,尽管人类肉眼完全无法分辨加噪声前后两张图片的区别。熊猫图片加噪声后被图像分类模型识别为长臂猿其实这是因为对于神经网络来说,输入的图片不过是一系列像素点的数值排列,对这些像素点的数值稍微增加一些噪声,神经网络就会“大失分寸”。而今年七月,一篇由美国东北大学和MIT等研究机构,共同提出的基于对抗样本的T恤衫又火了一把。穿上印有对抗样本图案的T恤,在被AI检测时,无论衣服发生任何褶皱或变形,都能达到“隐身”效果!更为关键的是,对抗性攻击还具有很强的迁移性。即使攻击者不知道攻击对象所用的模型细节,只要其利用在相同数据集上训练的“代理模型”生成对抗攻击样本,作用在其他未知的模型上也同样有很强的攻击成功率。这种“迁移攻击”是实际应用中最可能出现的攻击形式。难道人们就看着这种对抗攻击而束手无策吗?当然不是,有对抗攻击相应的就有对抗防御(对抗训练)。对抗性训练是一种通用的鲁棒性提升算法,通过迫使模型学习“鲁棒”特征来消除其缺陷。但这一学习过程是很困难的,即使是用更大规模的模型,也会对模型识别准确率带来不可避免的显著降低。而杨幻睿的这篇论文则提出了另一种可行的鲁棒性提升方案:利用集成模型。只要集成模型中的每一个子模型在面对同一对抗噪声时给出不同的输出,也就是对抗攻击不能在子模型间迁移,即使每个子模型单独并不鲁棒,其平均得到的集成结果也有望在面对迁移攻击时实现高鲁棒性,且往往只会对模型带来很小的识别准确率损失。然而,前人提出的集成学习算法并不能有效多样化子模型面对攻击时的输出。鉴于此杨幻睿及其论文合作者共同提出了“DVERGE”算法:通过提取集合模型的子模型学到的“非鲁棒特征”确定其缺陷所在,并进一步通过多样化子模型的缺陷使其面对对抗性噪声输出不同的结果。这是因为即使单个模型有缺陷,当我们有多个缺陷各不相同的模型时,其平均的输出就有可能是鲁棒的。因此通过集成学习提升鲁棒性的关键,就在于促使子模型的缺陷多样化。这一过程可以形容为“三人行必有我师焉,择其善者而从之,其不善者而改之。”这一新颖的多样性描述与优化方式使DVERGE得到了超出其他集成学习方法的迁移攻击鲁棒性。之前的集成学习方法将这一成功率降低到了60%上下,而本文的方法将子模型间的迁移成功率降低到了5%上下,几乎杜绝了对抗攻击在子模型间迁移,保证了最终集成结果的鲁棒性。关于本论文的更多介绍请参看AI科技评论今日推文第四条。2北京八中 | 恰同学少年,风华正茂北京八中,郭沫若题字在八中少儿班的四年感觉是我最意想不到但又最至关重要的经历,也是我14岁就能参加高考的原因。——杨幻睿1985年经北京市教育局批准,北京八中和中国科学院心理研究所、北京市教育科学研究所合作,创办了北京八中超常教育实验班(简称:少儿班),为北京地区智力超常儿童的健康发展提供了适合他们成长的教育环境。少儿班的学制为四年左右(为适应课改,少儿班现已改成五年制),招收年龄十岁左右的智力超常儿童,经过四年的培养使他们完成初中(含六年级)和高中的全部课程,即普通学生七年的学业,毕业时成为德智体美全面发展的优秀高中毕业生。最初几届少儿班的毕业生已经成长为所在行业的中坚力量,比少如学术界有尹希和王梦迪等,他们已经在顶级学府担任终身教职,在各自的领域做出来了不小贡献。杨幻睿正是在这样一个大神辈出的八中少儿班就读:我是从清华附小考入八中少儿班的,清华附小的教育方式特别快乐,也不搞奥数什么的。不过现在想起来附小的教育对我的各个学科,尤其是语文英语打下的基础还是相当好的,另外当时附小的老师也很支持我在课外自行学奥数扩展思维,我也正是在学奥数的过程中了解到了八中少儿班的招生。杨幻睿入学八中少儿班时,先经全市报名,之后进行初试和复试,选拔60个人进入为期一周的试读夏令营,最终录取29人。杨幻睿于2009年参加八中少儿班复试后留影AI科技评论问杨幻睿在四年的时间里完成七年的学时是否轻松,他谈到:“这肯定不能说轻松,不过就我个人而言压力也不是很大,而且全班都在按照同一个节奏学习,也不会有很快的感觉;虽然全班默认按理科学习,但是文科课程的初中和高一必修部分也都会学,我们只是压缩了时间,初高中所有的知识都是学了的。”八中是最早提倡素质教育的学校之一,少儿班的教学体系也很注重大家综合素质的培养,会组织集体出游,每周有一个下午的自然体育课,春夏秋会组织出去远足爬山等,每年必去香山和八大处,冬天则组织游泳。学期中的假期也会集体组织到北京的远郊或是其他省市进行3-5天的游学。在八中的经历对杨幻睿来说是全方位的提升 ,知识、见识、学习方法、为人处事都是在八中这几年培养出来的。他在八中毕业时写下:在少儿班这四年间,每次旅行都给我不一样的心灵震撼。从百里峡到上方山,从五大连池到科罗拉多大峡谷,旅行向我们展示多彩的世界;从云冈石窟到孔林孔庙,从大同煤矿到大庆油田,游学为我们提供了社会实践的机会。一次次的出行,不仅锻炼自理能力,更增强我们面对陌生世界的勇气。我在阅读中思考,在思考中阅读。从《围城》到《平凡的世界》,从《山居笔记》到《美的历程》,从《唐诗百话》到《人间词话》。从《读者》到《新闻周刊》...... 手捧一卷卷书册,我的心灵自爱阅读中成熟。阅读不仅解释了自然科学的神秘,更展示了丰富的人生,激发我的思考。14岁那年,少年杨幻睿以高考697分的成绩考入了清华大学。3清华大学本科 | 小荷才露尖尖角杨幻睿与清华二校门合影其实我那年是697+50分加分,30分是清华自招,20分是北京市优秀学生干部,因为我本身够分数线了,所以社会加分就没用了。但自招的加分选专业还可以用,所以我理论上是可以去绝大多数的统招专业的。——杨幻睿进入电子系杨幻睿的父亲是清华老师,所以他在填报志愿前对各专业都有一定的了解。当时正值电子系从2007年开始的本科课程改革趋于稳定的时候。作为清华最大的系之一,电子系的课改梳理出了贯穿两个一级学科的知识体系,并在此基础上构建起新以10门核心课为主体的课程体系。电子系课改“宽口径重基础”的培养方式与八中一直强调的“志向高远,素质全面,基础扎实,特长明显”的育人目标十分契合,再加之电子系研究的电子电路、通信网络、信号处理、信息光电子等领域都走在时代发展的前沿,因此,杨幻睿最终选择了电子系作为第一志愿。谈及在电子系学习带来的最大收获,杨幻睿说:“一是扎实的线性代数、信号处理等数理基础和编程、电路设计等工程能力,这让我在后续上手新知识时始终有似曾相识、有据可依的感觉。二则是庞大的校友网络,即使上下差很多届,一提到电子系,大家也很容易产生共鸣。”人工智能入门大二的时候,杨幻睿才开始真正接触人工智能。当时有一篇文章在网上有很多讨论,这篇文章解释了VGG每一层学到的特征。他看到简单堆砌的网络结构可以自发地从数据中学到多样的有一定实际意义的特征,感觉很神奇,之后就开始陆续关注CNN相关的一些应用。VGG特征可视化至于说系统入门,他则是看了吴恩达的coursera课程系统了解机器学习的基本概念,随即又看了Hinton的coursera课程了解深度学习的概念。交换&暑研| 学术生涯早期的“混乱”尝试大三时,杨幻睿去加拿大的阿尔伯塔大学交换了一个学期,当时主要是上原有专业的课,没有很多和AI相关的内容,不过最早有关强化学习的概念是他在阿尔伯塔大学接触到的。大三结束的暑假,杨幻睿去了佐治亚理工大学Le Song老师组里做暑研。当时复现了Deepmind DQN玩Atari game的算法,虽然最后没发出论文来,但他表示这是第一次正经做AI相关的科研和实验,学会了很多的coding技能和阅读论文的方法。之后,因为Deepmind的缘故他又关注过一阵儿强化学习,不过后来感觉兴趣不是很大,于是又关注回深度学习上面来了。毕业设计杨幻睿的本科毕业设计偏硬件,和模型压缩有关,毕设题目是《支持片上训练的全连接神经网络计算架构》,毕设导师是刘勇攀教授。他这篇毕业论文设计了一个加速器的运算架构,在支持高效运行稀疏量化的网络同时,同时支持对权值进行训练。毕设背景是韩松在ICLR 2016的最佳论文:韩松论文截图韩松本科就读于清华大学电子工程系,博士就读于斯坦福大学,师从NVIDIA 首席科学家 Bill Dally 教授,博士期间曾创建深鉴科技,现为MIT 助理教授。韩松前辈是我的学习偶像,他当年也是在电子系,算是我的直系学长,他12年就从清华毕业了,而我是13年入学,很遗憾,我和他并未在清华见过。当时之所以想到要做片上训练,是因为杨幻睿注意到:“在很多物联网的场景下,部署之后的网络可能需要根据输入数据进行微调,而这些微调往往就是在最后的全连接层中进行的,所以设计一个支持训练的全连接层加速器很有意义。最后,杨幻睿的毕业论文被评为清华大学优秀毕业论文其设计的全连接加速器架构也成为课题组设计的STICKER神经网络处理器的一部分,完成了流片与测试,最终发表在2018年VLSI Symposium 上。毕业论文完成,杨幻睿从清华顺利毕业了~杨幻睿毕业季与日晷留影4杜克大学博士 | 直挂云帆济沧海杨幻睿与杜克工学院老系馆合影在毕业设计的导师刘勇攀教授的介绍下,我才能认识现在的博士导师陈怡然教授和李海教授,真的非常感谢刘导。——杨幻睿巧合的是,陈怡然和李海教授两人当年也是在清华电子系同届就读,随后他们二人一起到的普渡大学就读博士,更巧的是,他们二人是98年毕业于清华,杨幻睿则是在98年那个毕业季出生。由于毕业设计和模型压缩相关,偏硬件,而陈老师实验室做的正是软硬件结合的方向,杨幻睿觉得很有前景,于是在2017年两位老师搬来杜克时一起跟着过来了,成为这个组在杜克的第一届学生。杜克大学校园环境十分优美,周边自然环境和治安都很不错,身为北方人的杨幻睿表示他挺喜欢东海岸杜克的宜人气候。杜克礼拜堂(杜克大学李石宇供图)秋天的杜克(杜克大学李石宇供图)杜克大学的整体学术氛围比较自由,硬件设施也很不错,杨幻睿谈道:“组里面陈老师和李老师对我们的管理比较自由,科研的选题之类的只要我们设想的有道理有一个比较明确的计划老师一般都是支持的。”CEI“进化智能”研究中心2018年合照,杨幻睿在二排最左,李教授和陈教授在前排正中(CEI实验室主页:http://cei.pratt.ke.e/ )李老师和陈老师平常出去开会或者social期间会找一些新的项目或者想法,回来再安排给经验相似或者暂时没有项目做的同学来研究。就在今年年初的时候,陈怡然老师还邀请到沈向洋老师来杜克做讲座:讲座之后,大家与沈向洋老师合照留念:而学术之外,在杜克的生活当然也有轻松愉快的一面。当时为欢迎新同学的到来,杨幻睿所在组简单聚餐:杨幻睿博士刚开始时的工作和硬件关系更大一些,参与了两个深度学习加速器架构的工作。与此同时,也逐渐了解了组里关于深度学习模型压缩与神经网络鲁棒性方面的前期工作。微软实习18年的暑假,杨幻睿曾在微软研究院Redmond总部实习了三个月,工作主要围绕通过数据增广提高模型鲁棒性展开,同时也做了一些关于利用矩阵分解进行神经网络压缩的研究。当时科研刚刚起步,他对这个领域的整体还不完全熟悉,因而最终只完成了一篇发表在AAAI workshop上的小文章。不过这是他第一篇以一作撰写、修改和投稿的文章,对后续的科研积累了很多宝贵经验。另外,微软整体宽松的科研氛围和基础研究与工程实现相辅相成的组织结构也给他留下了深刻的印象。科研初遇挫折在博士阶段的前一年半左右的时间,杨幻睿的科研之路并不算顺利。他回忆说:“当时我可能处于一个对未来比较迷茫的阶段。来到杜克后,从组里的学长、其他组的同学、学校丰富的课程与讲座以及自己阅读的论文中,一下子接受了太多的新思想、新方法,却没有来得及对自己的研究领域构建起比较完整的了解与梳理。这导致我的科研方向一度飘忽不定。这一段时间我的很多工作都在试图把自己一些不太成熟的“奇思妙想”,或者可能自己还一知半解的新理论新方法套入到我要解决的问题上,同时对实验的设计和预期又不够充分,这让我的科研走了很多弯路。我先后尝试投稿了ECCV 2018、NIPS 2018、AAAI 2019等会议,但文章或因为创新点不足或因为实验设计有缺陷都没能命中。同时也有一些一开始踌躇满志但进行到一半发现做不下去的项目。”科研渐入佳境这种状态从博士二年级的下学期开始有了改观。这时,杨幻睿学习了信息论与压缩感知的课程,在补齐了自己基础理论知识的同时,也发现很多传统理论可以应用到他正在进行的深度学习研究,这最终促成了他的两篇文章的中稿。其一是对“DeepHoyer”的研究。杨幻睿注意到,压缩感知中的Hoyer正则项在传统问题上取得了很好的性能,却在神经网络压缩的研究中始终被忽视。这后来促使他完成了“DeepHoyer”的研究,投稿NeurIPS 2019。虽然文章第一次投稿并没有命中(最终得分7 6 5 5),但评审偏向正面的评价给了杨幻睿很大的信心。暑假期间,他留在学校进一步完善实验,同时利用帮李老师准备新学期“工程深度学习”课程的契机,从传统方法出发进一步梳理模型压缩与压缩感知理论之间的联系与发展脉络,终于将文章修改完成,中稿ICLR 2020。这之后,他在信息论的学习中了解到了一套用互信息量描述隐私保护的理论框架。当时组里的李昂同学刚好在研究分布式学习的隐私保护问题,他们经过交流将这一框架进行了深度学习背景下的实现,最终完成了一篇KDD 2020的论文,还有幸被评为最佳学生论文(李昂为一作)。在鲁棒性领域,通过系统性的论文阅读和课程讲义的整理,杨幻睿逐渐掌握了常见的研究思路和大家认可的实验评价方法 。再加上与之前模型训练、目标函数设计与优化等的知识与经验相结合,促成了他这次的工作被NeurIPS 2020接收为 Oral。另外,杨幻睿在ICLR 2021也有一篇关于模型压缩的投稿,AI科技评论在此也祝杨幻睿同学中稿。5回首与展望 | 博观约取,厚积薄发从小,他父亲就经常和他一起读书,曾用曹丕《典论 · 论文》中的话教导他:“盖文章,经国之大业,不朽之盛事。年寿有时而尽,荣乐止乎其身,二者必至之常期,未若文章之无穷”。这培养了他后来对科研工作的坚定志向和笃志决心。潜移默化&在教中学关于自己的学习秘诀,杨幻睿总结了两点分享给大家:第一,在潜移默化中学习,上课听到的知识、读的论文、听的讲座、和同学日常的讨论,都能很快地总结出几个关键词记住,之后再遇到可能的应用场景时快速地回去学习一下细节。第二,给别人讲,如果能给别人讲明白,说明自己也明白了。我不喜欢刷题,但喜欢给别人讲题,在当年高三大复习的时候,我经常答疑时间去老师办公室,给暂时排在队尾的同学一对一答疑。每位同学对知识的掌握程度不一样,讲题之前要先解对方知道什么并在此基础上帮对方构建好知识体系,把对方知道的点和新的知识建立起联系,逐渐引到要讲的问题上。当助教全靠学的比学生快杨幻睿在博士二年级的两个学期给系里的两门研究生基础课做助教,分别是计算机系统基础和模式识别。这些基础课的大部分相关知识是杨幻睿在清华期间学习的,时间过去久了,很多概念的具体细节记不清,但好在他对知识点之间的联系还有印象,有人问起来他就快速地看课件复习一下。“没办法,当助教全靠学的比学生快。”他说。在博士第三年的秋季和当前这个学期,杨幻睿帮李老师开了一门新课,作为助教,他谈起自己的心得:“在准备课件的时候要假设大家是零基础,要从最基本的东西开始,一步步为大家建立起对深度学习技术来源与发展的理解,讲清楚为何会有这个技术 ,在这个过程中也是对自己知识的一个梳理。”助教课讲的前三讲,从零开始引出CNN李老师和杨幻睿正在筹划寒假期间把这门课整理上线Coursera,陈老师和其他几个助教也会参与其中。世事洞明皆学问 人情练达即文章杨幻睿科研只做了三四年,但他对教学工作颇有心得,他表示这都是从他父亲那里耳濡目染学习到的。他父亲是一名清华老师,从小对他的教育就不是说教,而是在日常生活中不断激发他对各种新鲜事物的兴趣,比如说带去图书馆、博物馆或者科技馆。他印象比较深的是从小学开始他父亲每年都会带他去一次中国科技馆,他在里面瞎玩,而他父亲则时不时给他讲一讲各种东西的原理。而等到他学完大学物理之后就再也没去过科技馆了,因为学不到新知识了。除了读书之外,杨幻睿还很喜欢 F1、NBA、冰球等各种体育比赛,也喜欢开车在大山里闲逛,时不时以景咏怀,即兴赋诗。冰球比赛现场照片未来展望在未来,随着5G、物联网、大健康、智慧城市等等概念的深入探索与落地应用,基于深度学习的方法将在越来越多的应用场景中提供服务,这也从各种方面对模型提出了更高的要求。除模型的运行效率与鲁棒性之外,杨幻睿也会更多关注有关于隐私、可迁移性、可解释性等对实际应用有重大意义的基础方法研究,并将其与新出现的智慧医疗,智能家居等应用场景相结合,为阔步迈入崭新的智能化时代扫清障碍。杨幻睿的偶像,除了之前提到的韩松学长,还有恺明大神,他对其十分敬佩,ResNet是他最喜欢的网络,恺明大神提出的很多东西都给他一种“四两拨千金”的感觉:理论简洁、效果强大、直达本质。“感觉自己的学术生涯还刚刚起步,发的论文也还不多,我会继续努力,漫漫其修远兮,吾将上下而求索。"当下22岁的杨幻睿对未来的学术之路充满了探索的决心和信心,显示了一位正当风华正茂之年岁的学术青年的昂扬姿态。采访结束第二天,AI科技评论又一次联系到杨幻睿同学:还有最后一个问题,您想起来当年高考每科目的具体分数了吗?“哦这个问题啊,没太记起来,但是昨天采访结束我问了我爸,他说是:语文125、数学143、英语138、理综291。”文末附上杨幻睿在北京八中毕业时撰写的一篇短文:[赠书福利]在10月19日头条《专访吴军:未来10年,AI的发展方向是应用,不会出现重大的理论突破》留言区留言,谈一谈吴军博士对你的启示,或你对信息技术发展的理解。AI 科技评论将会在留言区选出 10 名读者,每人送出《信息传》一本。活动规则:1. 在留言区留言,留言点赞最高的前 10 位读者将获得赠书。获得赠书的读者请联系 AI 科技评论客服(aitechreview)。2. 留言内容会有筛选,例如“选我上去”等内容将不会被筛选,亦不会中奖。3. 本活动时间为2020年10月19日 - 2020年10月23日(23:00),活动推送内仅允许中奖一次。NeurIPS 2020论文接收列表已出,欢迎大家投稿让更多的人了解你们的工作~

华尔街

Pivot学员说|横扫普渡、杜克、UCSD等博士,科研才是申请秘籍之一

Pivot学员:Z学长学校及专业:波士顿大学/电子信息硬件成绩:GPA 3.83 GRE 328目前录取:Pure、Duke、UCSD电子与计算机工程博士全奖,Vanderbilt、BU电子工程博士全奖读博需要早准备决定出国留学是初中时候了,高一开始准备,高二就去美国读了高中,然后大学申到了BU。主要原因还是比较喜欢国外的开放式的个性化教育,有兴趣的事情都会被支持鼓励,所以就出国啦~大一开始就决定毕业在美国读博士,所以很早就开始准备。大二找到了第一个科研项目,是等离子物理方面的研究;大三上了一门傅里叶光学,对光学开始特别有兴趣,所以也去问这门课的教授要了项目开始做科研。大三暑假又在同学推荐下在做ultrafast optics的实验室做了暑研。暑假快结束前又找了激光的老师要到一个非线性光学的科研项目,并且一直做到了现在。做过的项目长短不一,最忙时四个项目同时进行,的确是很有收获但没有办法专心在一个上面,所以大四时我就选择留在了非线性光学组里。推荐信方面我就找了做科研项目的几个老师,因为都上过他们的课,也和他们做过科研,所以都是很有说服力的。申请的筹备工作申请方向与选校 申请方向就是光学,因为对于博士来讲,导师是最重要的,所以我选校的方面基本上是导师≥学校≥专排≥地理位置。Pivot给了我学校列表、教授及研究项目表后,我就去寻找是否有老师和我match,再去看看有没有自己感兴趣的方向。满满的科研收获 科研方面我觉得我准备得相对充分。大二开始做的等离子物理研究,主要是研究ionospheric plasma和 一些理论上的instability的研究。我和这个老师上了六门课,其中EM theory和plasma physics让我对于电磁方向变得很感兴趣,所以后面再学Fourier optics 的时候,核心知识都是大相径庭。解Maxwell’s equation,这个时候我看到了光学上的各种应用,所以就再这门课结束后和教授开始做科研了。一开始做的一个Electric soliton项目我其实不是很感兴趣,所以我和老师去交涉后,就重新转到做nanoantenna 的COMSOL建模和设计上,也在实验室学了很多fabrication和characterization的方法。大三的暑研主要是研究Defect Generation in Novel Materials with Femtosecond Laser Interaction,去做这个科研是因为刚学完激光原理和应用, 想在实验室看看怎么把知识应用出来,大四到现在的科研也是我最感兴趣的,主要是光纤里的非线性光学。这是我真正意义上第一次自己建一个光学setup,自己设计做实验以及改进,从怎么在光纤里激励模式,到研究光纤里的soliton, 自己对实验的兴趣越来越大,所以再选校和选老师上我都会去找偏实验的组。科研经历除了对于CV、PS等有帮助外,我觉得最重要的是真正懂自己做的科研内容,在提交完申请和老师面试的时候,需要能很清楚条理的讲出来自己做的是什么,有什么贡献,遇到什么困难。难忘的申请经历申请时候我和我导师也聊过人生规划,因为我以后想走学术界所以对于直接申博,然后博士后再走教职这个路线一直是没什么疑问的。但我的导师跟我讲说你没有进过工业界你就不知道现在市场需要什么,什么方向的科研是能被实际应用的,当教授很重要的还是要申请funding,而funding agency看重的不是你想做什么,而是你这个项目的前景和实际用途。他当年是去了Bell Lab这种research和instry一体的地方,所以对这个深有体会,导师也建议我还是要去工业历练一下,这个对于我之后的规划也有了一定的影响。 牵手Pivot选校方面,就是靠着Pivot给我推荐的选校列表和自己方向的教授名单来选的。然后在申请前Pivot老师和我很细致的聊了怎么套磁,老师回复后怎么约面试。文书基本就是交给Pivot啦~我写好初稿,老师跟我一遍一遍改,补充新的内容,去掉不必要的。网申方面也是Pivot老师一直在管理,截止日期,送成绩单,推荐信提交很细节的东西都是一直在叮嘱我。申请结果已经非常的满意啦!非常感谢Pivot老师在申请中专业的指导并且有问必答的及时回复,没有Pivot的帮忙在申请季中肯定也不会拿到怎么多优秀的录取啦~一些申请上的小建议想出国读博我觉得一定要早开始科研,第一是可以尽早找到自己喜欢的方向,可以对那个方向有一定深度的了解。像我在大一就一直在想EE这么广的学科我究竟喜欢什么,所以选课也很重要,能很大的帮助自己找到喜欢的方向。具体科研方面我不是很建议像我这样同时做很多project,这也是导致我在申请的时候没有论文的主要因素,而且和老师关系处理上也非常费心。最后我专心在一个方向,一个多学期就有了一篇论文,虽然申请没用到,但也是为之后做了准备;第二是标化方面,GRE还是要尽早考,暑假或者寒假专心冲刺两个月一般都不会有什么问题。

齐物

拿到8所Top30大学录取,杜克大学研究生谈如何申请美国名校?

在上海市实验中学高中读书,在香港理工大学物理系读本科,即将赴美国杜克大学攻读电子计算机工程硕士学位,任思邈的求学经历可谓是精彩纷呈。在近期的启德海星汇分享活动中,这位获得杜克大学、哥伦比亚大学、康柰尔大学、UCLA、Brown、CMU、JHU、Umich八份offer的学霸说,申请美国名校,重在知己知彼,方能百战不殆。资源利用:从同学到老师,从线下到线上首先任思邈强调一定要把握身边的所有资源。“第一要与周围的同学交流,不要吝啬于把自己的信息分享给他们,这样他们也不会吝啬于把他们的信息分享给你。在同校的环境里面,基本上是合作大于竞争。由此你会了解到非常非常多有用的信息与资源。第二是善用学校的英文教育机构,在申请过程中,你可以让他们去修改你的个人简历,而且也不要钱。”“第三在线上论坛可以得到非常多有用的信息,还能找到合适的人,去问一些你想要问的问题。比如说寄托天下、一亩三分地,都是非常好的论坛,包括看一些通知书,看看往年拿到这个通知书的人是什么样的条件。”第四个重要的资源是教授,在任思邈求学的过程中,一直把教授当作人生导师。“他们基本上都是PHD。我当时也从他们的身边了解到很多申请研究生的信息。包括GRE的subjecttest有没有必要,我能不能够跨专业的申请,教授想要一个什么样的申请者当他的硕士?包括教授的人脉资源,如果想要去转专业,可以问教授周围有没有这样的同事,他也会很乐意地把你推给那个人,可能就做个暑研,甚至是之后的博士,都是非常有机会的。所以一定要去跟教授们多多交流,不光是问学习的一些问题,多问问生活规划的打算。”避坑经验:最大的坑是自己“世界第一大坑就是自己,在申请过程中一开始都给自己定了目标,三十天内考完托福,二十天内背完三千个单词,但是最后基本上都没完成,这就是很大的坑。”任思邈认为目标固然重要,但是一定要具体与细化,不是空泛地一个星期要背三千个台词,而是星期一要背多少个台词,每天进行打卡,这样才不至于被自己坑到。“第二大坑就是单打独斗,如果不给别人知道信息,而你又总想知道别人的信息,那你已经落入世界第二大坑了。那么你会发现你的信息非常地闭塞,因为很多很好的资源你都没有机会接触到。”“第三个坑就是信息不对称,很多应该知道的不知道。”任思邈以自己申请耶鲁大学的挫败为例进行了说明,“耶鲁官网开了EE的Master,我申了之后就被无情拒绝了。耶鲁EE的系主任说,我们今年并不招EE的Master,这对我来说就是完全白丢了一份申请费,针对耶鲁的这篇文书相当于也是白费了。你可能会觉得这些信息可能没有办法拿到,但其实多做一些调查,找一个在耶鲁上学的EE的学长,一定是能找到的。所以说这个信息是可以被知道的,但是我没有去挖这个信息,这个不对称就把我坑了。”第四是轻易相信别人的信息。任思邈认为信息固然是好的,但是一定要有自己的见解,通过真实性的调查反馈,去看这个信息到底是真还是假。了解招生信息:项目喜欢什么样的学生在所有的信息中,了解招生情况尤为重要。申请项目一共招多少人,往年招了多少人?有多少中国人能够进去,中国人进去的水平又是怎么样?他们的托福大概是多少分,GRE大概是多少分?任思邈认为,只要作过以上了解后,才能对自我有一个很好的定位,知道自己大概能上什么样的学校。“研究生的选择专业选择,不像本科,你一定要去看官网,下载课程安排与课程大纲,看看到底教什么,能在这个项目里面学到什么东西?本科还可以换专业,研究生要换专业非常难,基本上专业就与就业直接挂钩,所以一定要了解申请项目,是偏管理的工程,还是纯工程?是计算金融方面的,还是纯金融方面的?要不要求数学的模型,还有编程能力?”第三就是项目是不是适合自己?“怎么样看这个项目适不适合自己?就是了解项目之后同学的出路。一定会有很多同学在网上报offer,告诉你自己申哪个大学,读的体验是什么?去问那个同学他的专业都去干吗?是就业的多,还是去读博士的多?”第四是衡量项目招生的那条线,一般是以GPA、托福、GRE三个为纬度。第五,项目到底喜欢什么类型的学生?任思邈认为这种个性化信息也很重要,“比如说今年我申请了宾夕法尼亚大学的MCI级的项目,是一个转专业,非计算机学位转全计算机学位的一个项目,但是我直接就被退拒了,第一轮就被拒了。为什么?是因为这个项目只招零基础。虽然我是物理系的,但是并不是完全零基础转过来的,还是有一些CS背景,而且还学了编程语言。所以只要大家多去问,包括找一些专业的人,到一些论坛上都去问,一定能够问到这些信息的,信息都在那里,主要是你能不能找到。”

尧舜

改开后首批留美学霸,3位获博士学位后入籍美国,皆不回国

“我赞成留学生数量增大,主要搞自然科学,要成千成万地派,不是只派十个八个。”——邓小平1978年,邓小平作出了关于扩大派遣留学生的重要指示,中国改革开放新时期的留学工作由此掀起。许多成绩优异的学生纷纷响应号召,迈出国门,进入别国顶尖学府继续学习,他们有的学成归来成为国家栋梁,有的选择留在外国生活,还有一部分则是选择放弃中国国籍,终生留在外国。董欣年董欣年的人生堪称那个时代的传奇故事。董欣年身为京城闺秀,出身书香门第,父母都是武汉大学的毕业生,而她也如愿进入了武汉大学深造。1982年的那个秋天,当时只有23岁的学霸董欣年在武汉大学生物系本科毕业之后,一路过五关斩六将,通过了中美生物化学联合招生项目的严格测试,成为了第二批通过这个测试进入位于美国西北地区的芝加哥大学继续深造的中国留学生。在得到了分子生物学理学博士之后,她也并没有停下求学的脚步,求知若渴的她考入了哈佛大学医学院,成为了博士后,继续她的研究事业。从1992年开始,来自中国的学霸董欣年来到了美国杜克大学生物系,成为了一名生物系的教授,还取得了美国国籍。在她的成功背后,还有着一段少有人知的、堪称“模范”的爱情故事:1978年的那个夏天,小学就被迫辍学的王小凡第二次参加了高考,殊不知这次高考改变了他的命运,也改变了他的人生走向。一天他被公司派到武汉出差,在完成任务后,王小凡与同事一时兴起来到武汉东湖划船,两人泛舟湖上的时候,王小凡便被不远处珞珈山上的武汉大学所惊艳。巧合的是,下午王小凡便接到电报,要求他马上回去填报高考志愿。最终王小凡如愿以偿的被武汉大学生物系所录取,还在这里遇到了他的毕生所爱:董欣年。两人在武汉大学相知相恋,在董欣年告诉父亲自己与王小凡恋爱的时候,父亲也没有问王小凡的身份,只说健康就好。四年本科毕业后,两人先后通过中美生物化学联合招生项目的测试,一起漂洋过海来到美国求学,在董欣年拿到杜克大学的offer之后,王小凡也立刻申请来到杜克大学就职,两人的办公室只挨得很近,夫妻两人婚姻幸福,琴瑟和鸣。夫妻二人虽然已是美籍华人,但这也丝毫不影响两人对于祖国的热爱。四十多年来,两人始终秉持着严谨的科研态度,为中国的科学研究事业建言献策,还帮助了中国科学院和清华大学等一系列高端科研机构建立科研项目,助力中国科学研究发展。当问到为什么入美国国籍时,董欣年说:“我喜欢这里宽松的人际关系和简单的科研氛围。”郁彬郁彬出身于一个文艺世家,成长于特殊时期。在那个动荡的年代,数学让小郁彬暂时忘却了时代给家人带来的伤痛,完全沉浸在数学之中。郁彬来自近代史上有名的郁氏家族,也就是文人郁达夫的家族。郁彬的爷爷是中国有名的戏剧教育家,奶奶是莎菲女士的妹妹,妈妈是一名画家。在大家都认为郁彬会和家族前人一样走上文学与艺术的道路时,郁彬却选择了通过恢复高考后的第三年进入北京大学数学系继续学习,走上了和文学与艺术相反的理科道路。在北京大学数学系本科就读阶段,郁彬加入了英语俱乐部自学,而毕业后,郁彬并没有停下学习的脚步,而是努力获得了来自一个数学交流项目的资助,独自一人前往加州大学伯克利校区继续深造,并且一直在加州大学伯克利校区学习,直到获得博士的学位证书。在博士毕业后,郁彬想要走出伯克利看看其他的学校,她来到了美国威斯康星大学的麦迪逊校区当老师,可仅仅四年,郁彬又再次回到了加州大学伯克利校区担任数门科目的教授,最后担任了统计系的系主任。除却令人惊叹的学业成绩和显赫的家族背景,郁彬在求学期间还干了一件有些“疯狂”的事情:与一个两年都没有见过面的人结婚。郁彬的男朋友是一名建筑史在读的研究生,在婚后一年,郁彬的丈夫也考入了伯克利的建筑学院,两人由此相聚,伉俪情深。文小刚2018年,作为美籍华人的文小刚获得了狄拉克奖,赢得了理工界的广泛赞誉,也让更多人重新关注起了这位毕业于堪称“中国科研教育第一”的高校中国科学技术大学的毕业生、曾经李政道奖学金的状元得主:文小刚。1977年参加恢复高考后的第一届高考的文小刚以优异的成绩考入中国科学技术大学物理系,怀揣梦想的文小刚在本科毕业之后,同年便参加了中美联合培养的物理类研究生的招生计划,取得了状元的好成绩,成功来到了美国普林斯顿大学继续深造,并于六年后从普林斯顿大学成功博士毕业。追求上进的文小刚并没有因此骄傲自满止步不前,两年后,他受聘于美国麻省理工学院,目前已经成为了麻省理工的物理系教授。身为世界一流院校麻省理工教授的文小刚并没有忘记祖国的栽培,在担任教授一职之后,文小刚兼任了清华大学的讲座教授,为清华学子传道、授业、解惑,以报答祖国。进入21世纪,文小刚入选了2017年中国留学人员50人榜单,一年之后又当选了美国国家科学院院士,这些称呼都肯定了文小刚作为一个美籍华人对于祖国和世界的贡献。改革开放眨眼间已过四十余年,而董欣年、郁彬、文小刚这三人作为首批改革开放后赴美的留学生,他们的科研成就和学术精神都为现在的青年留学生做出了极好的榜样。人有国界,但是知识无界、理论无界,他们三人虽然都没有选择回国,但都在以另一种方式向祖国和世界贡献自己的力量。

为了爱

美国杜克大学“禁讲中文”事件:教授致歉承认不当

中国侨网1月29日电 据美国《世界日报》报道,日前,美国北卡罗来纳州杜克大学生物统计学研究生项目主任梅根尼利(Megan Neely)被曝光的一封发给学生的电邮截图显示,她提醒该系的中国学生在校园内只能说英语,否则他们将面对不可预知的后果。电邮经社交媒体曝光,引起轩然大波。尼利迅速在27日被解除主任一职,杜克校方并发函道歉,及保证调查此事,杜克的中国研究生也致函校方要求调查。美国广播公司新闻网(ABC News)报道,杜克大学生物统计学研究生项目主任梅根尼利(Megan Neely)已在27日与杜克医学院院长玛莉克洛特曼(Mary Klotman)联名发给学生的电邮中表示,她对这起风波深表歉意,并在声明中承认26日发出的电邮内容不当。据该校学生独立报纸《纪事报》报道,截至27日下午,已逾2000名学生签名联署,要求成立独立委员会,对此事进行全面调查,调查对象包括上述电邮中未具名教职员扬言要采取的行动。报道同时指出,各方联系尼利请求响应的电邮都未获答复。教师“说英语”电邮 遭学生上传推特尼利这封电邮26日立刻在美国的推特和跨过太平洋的中国微博网站广为流传,网友批评她仇视外国人,对异国文化漠不关心。35岁的尼利向项目所有研究生发出的电邮中说,两名教授向她抱怨,声称听到外国学生用中文在学生休息区大声喧哗。但电邮最后用粗黑体字指出,他们(两位教授)感到很失望,这些学生未能利用机会改进英语,并且交谈使用的语言,让同层楼的所有人都听不懂,行径无礼。这封1月25日发出的电邮中还写道:“这两名教授电邮回复表示,他们希望能记下这些外国学生的名字,一旦这些学生申请实习或要求参与硕士研究计划时,能记得他们。”两名教授还要求尼利提供经过指认的中国学生姓名,以便日后做为参考,拒绝这些中国学生的申请。该电邮经署名“华思睿”(中文,Hua Sirui)26日上传社交网站,他制作@NowThisNews推特网页,写道:一名杜克大学教授传发电邮,要求中国学生在学校大楼里不要说中文。同时上传尼利的电邮截图。医学院院长:使用何种语言不受限制针对这一风波,尼利的上司、杜克医学院院长玛莉.克洛特-加龙省曼(Mary Klotman)在发给学生的电邮中表示,尼利的项目主任职位已被撤除,学校管理阶层并要求进行内部调查,尼利目前仍保留助理教授一职。克洛特-加龙省曼写道:“我了解,许多人因这封电邮内心受伤、愤恨不满,我在此澄清,你们交谈、沟通使用何种语言,绝对不受限制。你们的前程和师长推荐,也绝不会因在课堂外使用的语言而受影响。”她同时表示,已要求学校制度平等办公室(Office of Institutional Equity)就此事进行彻底调查,并提出改进办法。他表示,已立刻解除尼利博士的主任职务。涉歧视的教师 被爆2018年也曾寄电邮尼利2018年2月发给生物统计系学生的电邮,27日也被网友挖出来。这则标题为“说英语,还是不说英语”的电邮写道:“我不想做语言警察,你们除了应利用机会多加磨练英语,在系里说母语,会给老师印象,你们不想尽力改进英语能力,导致他们雇用或招募外国学生共事时,更加犹豫,因为沟通能力是身为生物统计学者的重要条件。”电邮写道:“最重要的是,继续这种做法,可能让你和未来的国际学生更难争取到参与研究的机会。”有人挺教师称:她可能是出于善意在1月27日,微博网站话题为“杜克禁止说中文”(Duke University bans speaking Chinese)的贴文,浏览人数已超过670万人次。其中一则留言说:“我认为,这位教授的行为可能是出于善意,真正有种族成见是抱怨的那两名教职员。”另一留言说:“中国学生将永远不会知道他们被拒绝的真正原因,很难说,这倒底是不是种族成见。”杜克大学政治系研究员张晨晨则写道:“我很好奇,美国人在欧洲或中国用英语交谈,他们是否会觉得自己很无礼。”杜克大学表示,该校生物统计学硕士项目的54名学生中,约有36名是中国人;该项目的50名教师中,约有10名是中国人。2017年杜克大学的外国学生有1500余人,约六成来自中国。(张玉琴)

红河劫

杜克大学博士生温伟:云雾深度学习|分享总结

雷锋网AI科技评论按:如今,基于深度学习的 AI 系统日趋产业化,如何有效地在云端和雾端进行落地成为一个核心问题。相对于传统机器学习,深度学习无论是训练还是部署都对计算和通信等提出了很大的挑战。在云端(如 Google Cloud、Amazon AWS、Microsoft Azure、Facebook Big Basin),深度神经网络的训练依赖于分布式系统,其可扩展性受限于通信带宽。 在雾端(Fog Computing,如移动手机的 Face ID、无人机、去中心化自动驾驶系统等),便携设备的计算等资源有限,深度神经网络的高效部署依赖于模型压缩与加速技术,以完成轻量级部署。近期,在雷锋网 GAIR 大讲堂上,来自杜克大学四年级博士生温伟同学分享了云雾深度学习一些最新进展。视频回放地址:。温伟,杜克大学四年级博士生,导师是 Hai Helen Li 教授和 Yiran Chen 教授。主要研究方向是机器学习、分布式深度学习、模型压缩与加速、神经形态计算芯片等。其研究工作曾在 NIPS、ICCV、ICLR、CVPR、DAC 等发表,是 ASP-DAC 2017 最佳论文获得者,也是 DAC 2015 和 DAC 2016 最佳论文提名者。温伟是 Microsoft Research、HP Labs 和 Facebook Research 的实习生。分享主题:云雾深度学习:RNN 隐藏结构稀疏化和超低精度梯度下降法分享提纲:1.云端与雾端 AI 部署的挑战。2.雾端加速 [ICLR 2018]:结构化稀疏递归神经网络,以提高推理速度。3.云端优化 [NIPS 2017 oral]:三元化随机梯度下降方法,以降低通信带宽。分享内容:我想先介绍一下云端和雾端深度学习的一些挑战,然后针对这些挑战介绍我们的解决方案。方案涉及两个比较重要的方面,一是在雾端部署了神经网络之后如何让他进行高效推演, 二是如何在云端和雾端加速训练。先来说第一个部分即云雾深度学习大背景和相关挑战。大家很熟悉云计算的概念,云计算就是把数据、计算、服务全部放在中心的服务器上,边缘设备通过网络去访问就可以了。雾计算是个比较新的概念,它和云计算的方式是相反的,所有的数据、计算不再依赖于第三方服务器,而是利用本地设备(手机、平板、电脑)进行协同计算。云端目前落地的产品有谷歌的TPU云,微软、亚马逊、脸书等也有自己的云服务。在雾端的AI落地产品有iphone X的人脸识别,无人机等。那么AI在云雾端的落地有什么具体的挑战吗?第一是大量服务器协同计算时的通信瓶颈。第二个挑战是在雾端的小型终端设备上处理数据有实时性要求。如何在计算量很大、计算能力相对较弱的情况下达到实时性的要求也是一个亟待解决的问题。针对这些挑战,我们研究了如何在雾端部署又小又快还不影响识别性能的网络。 我着重介绍一下我们在结构化的稀疏神经网络方面相关的工作,还有加速训练方面的相关工作。首先介绍结构化的稀疏神经网络,在此之前先讲解一下什么是稀疏卷积网络。稀疏卷积网络就是利用学习的方法对原网络进行连接剪枝之后得到的网络。稀疏卷积网络可以明显减少“理论上”的计算量。。但稀疏卷积网络也存在明显的问题。我们在AlexNet上做的实验显示这种方法存在低效计算的问题,加速并不明显,有时甚至会变慢。我们分析这问题的出现是因为剪枝后的网络没有结构化,随机的稀疏数据分布导致了计算时的稀疏存储访问,而现有硬件体系结构是针对密集数据高效定制的,这种随机稀疏性打破了对现有计算硬件的友好性。非结构化稀疏在CPU和RNN上同样存在类似问题,但结构化稀疏可以解决这个问题。讲了非结构化的稀疏卷积网络,那么什么是结构化的稀疏神经网络?结构化的稀疏神经网络并不是一个一个的删去原网络的连接,而是一组一组的删除。由上可见如何对权重进行分组决定了我们可以得到哪种结构化的稀疏卷积网络。在递归神经网络里面我们也可以进行分组来得到我们想要的结构化的稀疏网络。再具体方法方面,我们使用Group Lasso来得到结构化的稀疏网络。上图中的SSL方法可以一组一组去掉连接,我接下来解释一下为什么能办到。然后我们再讲一下怎么在LSTM中应用它。我们希望通过SSL的方法对蓝色部分进行稀疏化,实际就是让LSTM的隐藏结构变小。最后我们看一下LSTM最后稀疏化的结果。除了在传统的LSTM上测试,我们还在Recurrent Highway Networks上也进行了实验。我们的方法听起来很复杂,其实实现起来很简单,这是我们在TensorFlow上的代码。我为这部分做一个小结,我们的方法在很多的数据集、网络、应用上已经证明是可行的。如果是做AI硬件相关我建议先找到合适的结构化稀疏,再用SSL去学习该结构化稀疏。推演部分讲完了,接下来讲如何在训练部分提升速度。前面已经提到处理器进行协同计算时会遇到通信瓶颈,我们就讲怎么解除这样的瓶颈,在此之前先介绍下背景—分布式深度学习。分布式深度学习就是把训练数据分给不同的设备,训练完再汇总同步,但问题是处理器增加后,通信和同步的压力会使处理速度降低。由于在深度神经网络训练中的通信是梯度的通信,我们可以用量化的方法来处理,我们的量化方法叫TernGrad 。然后这是TensorFlow上TernGrad的代码。我们看一下TernGrad的实验效果,首先是AlexNet。然后这是在AlexNet上的收敛曲线。再看在GoogLeNet上的实验效果,实际上因为所有超参都是Google针对浮点SGD调好了的,我们直接用,所以有些精度损失,但平均小于2%。如果我们有时间针对TernGrad调参,精度差异会减小。还有我们加速的表格,总的来说机器越多,带宽越小,全连接层越多则加速越多。最后总结一下我今天的分享。一是AI系统已经在云端和雾端开始部署,二是我们使用TernGrad减少梯度通信,三是提出结构化的稀疏去压缩模型,使其云雾端推演得更快。我们还有更多的工作,大家有兴趣可以直接去我们的网站上看我们相关的工作。网站链接:#Publications 以上就是雷锋网对全部分享的整理,大家如果感兴趣可以直接去看视频回放:。

物质

报名|KDD 2020最佳学生论文出炉,杜克大学一作线上分享

ACM SIGKDD 知识发现和数据挖掘会议(KDD) 始于 1989 年,是数据挖掘领域历史最悠久、规模最大的国际顶级学术会议,也是首个引入大数据、数据科学、预测分析、众包等概念的会议。今年,第 26 届 KDD 于太平洋标准时间 8 月 23 日 - 27 日以虚拟方式召开。本届大会共有 1279 篇论文提交到 Research Track,接收 216 篇,接受率 16.8%。不久之前,KDD 2020 公布了最佳论文、最佳学生论文等多个奖项。其中,最佳学生论文奖由杜克大学的李昂、杨幻睿、陈怡然和北航段逸骁、杨建磊摘得。这篇论文的亮点在于作者们提出了一个任务独立、尊重隐私的数据众包框架——TIPRDC。它带有匿名中间表征。该框架的目标是学习一个能够向中间表征隐藏隐私信息的特征提取器,同时最大限度地保留嵌入在原始数据中的原始信息,以供数据收集器完成未知的学习任务。为了帮助读者们更细致的了解这篇论文,最新一期的机器之心线上论文分享邀请到最佳学生论文一作李昂,为我们介绍该研究。分享主题:基于匿名中间表征的任务独立和尊重隐私的数据众包框架个人简介李昂目前就读于杜克大学,是电子和计算机工程系在读博士,导师为陈怡然教授。李昂的主要研究方向是深度学习,移动和边缘计算,隐私保护等。在进入杜克大学之前,他曾在 2018 年获得阿肯色大学计算机科学博士学位,2013 年获得北京大学软件工程硕士学位,2010 年获得河南大学计算机科学本科学位。分享概要本讲座重点介绍 2020 KDD 最佳学生论文《TIPRDC: Task-Independent Privacy-Respecting Data Crowdsourcing Framework for Deep Learning with Anonymized Intermediate Representations》。文章提出了一个基于匿名中间表征的任务独立、尊重隐私的数据众包框架——TIPRDC。该框架的目标是学习一个特征抽取器,它可以隐藏中间表征中的隐私信息,同时最大限度地保留原始数据中嵌入的原始信息,以供数据收集器完成未知的学习任务。作者设计了一种混合训练方法来学习匿名中间表示:(1)利用对抗学习隐藏中间表征中的隐私信息;(2)使用基于神经网络的互信息估计器最大限度地保留原始信息。通过对该框架进行广泛评估,并将其与现有方法在两个图像数据集和一个文本数据集进行了比较。结果表明,该框架大大优于其他现有的方法。论文链接:https://dl.acm.org/doi/pdf/10.1145/3394486.3403125直播时间:北京时间 9 月 3 日 20:00—21:00参与方式:添加机器之心小助手(syncedai5),备注「KDD」,进群一起看直播。