几何深度学习读书会启动:破解自然法则,启发科学智能

几何深度学习作为一种新兴的研究领域,专注于处理结构化数据,相较传统的深度学习方法,几何深度学习能够有效地处理具有复杂结构和拓扑特性的非欧几里得数据,如点云、网格、图谱、流形等。近年来,几何深度学习在多个领域,特别是科学智能(AIforScience)领域取得了显著进展,展现了其理解复杂系统与预测、生成复杂结构的巨大潜力。

报名参与读书会

为确保专业性和讨论的聚焦,本读书会谢绝脱离读书会主题和复杂科学问题本身的空泛的哲学和思辨式讨论;不提倡过度引申在社会、人文、管理、政治、经济等应用层面的讨论。我们将对参与人员进行筛选,如果出现讨论内容不符合要求、经提醒无效者,会被移除群聊并对未参与部分退费,解释权归集智俱乐部所有。

每周进行线上会议,与会者可以广泛参与讨论,会后可以获得视频回放持续学习。

第一步:扫码填写报名信息。

扫码报名

第二步:填写信息后,付费299元。

参与共创任务,共建学术社区:

读书会笔记:在交互式播放器上记录术语和参考文献

集智百科词条:围绕读书会主题中重要且前沿的知识概念梳理成词条。例如:

论文摘要翻译:翻译社区推荐论文中的摘要和图注

阅读材料

参考文献

推荐语:牛津大学教授MichaelBronstein、图灵奖得主YannLecun等人于2017年提出几何深度学习这一概念,结合几何学(或拓扑学)与深度学习,以便处理具有复杂结构和拓扑特性的非欧几里得数据,如点云、网格、图谱、流形等。

Bronstein,MichaelM.,etal."Geometricdeeplearning:goingbeyondeuclideandata."IEEESignalProcessingMagazine34.4(2017):18-42.

推荐语:美国GenerateBiomedicines公司提出了一种新颖的等变图扩散模型Chroma,创造了自然界中以前未发现的具有可编程特性的新型蛋白质。

Ingraham,JohnB.,etal."Illuminatingproteinspacewithaprogrammablegenerativemodel."Nature623.7989(2023):1070-1078.

推荐语:谷歌DeepMind公司基于图神经网络构建了一种晶体材料稳定性预测模型GNoME,发现了多达220万种理论上稳定的新型材料。

Merchant,Amil,etal."Scalingdeeplearningformaterialsdiscovery."Nature624.7990(2023):80-85.

推荐语:2023年图灵奖得主YoshuaBengio与数十位人工智能专家在顶级学术期刊《Nature》上发表综述论文,指出几何深度学习是科学智能研究的重要工具之一。

Wang,Hanchen,etal."Scientificdiscoveryintheageofartificialintelligence."Nature620.7972(2023):47-60.

Chami,I.,Ying,R.,Ré,C.,&Leskovec,J.(2019)."HyperbolicGraphConvolutionalNeuralNetworks."NeurIPS(2019).

Bodnar,Cristian,etal."Weisfeilerandlehmangotopological:Messagepassingsimplicialnetworks."ICML(2021).

Papamarkou,Theodore,etal."PositionPaper:ChallengesandOpportunitiesinTopologicalDeepLearning."arXivpreprintarXiv:2402.08871(2024).

Hajij,Mustafa,etal."Topologicaldeeplearning:Goingbeyondgraphdata."arXivpreprintarXiv:2206.00606(2022).

Papillon,Mathilde,etal."Architecturesoftopologicaldeeplearning:Asurveyontopologicalneuralnetworks."Arxiv.SubmittedtoTransactionsonPatternAnalysisandMachineIntelligence(2023).

Papillon,Mathilde,etal."Icml2023topologicaldeeplearningchallenge:Designandresults."Topological,AlgebraicandGeometricLearningWorkshops2023.PMLR,2023.

CohenT,WellingM.Groupequivariantconvolutionalnetworks[C]//Internationalconferenceonmachinelearning.PMLR,2016:2990-2999.

ThomasN,SmidtT,KearnesS,etal.Tensorfieldnetworks:Rotation-andtranslation-equivariantneuralnetworksfor3dpointclouds[J].arXivpreprintarXiv:1802.08219,2018.

SatorrasVG,HoogeboomE,WellingM.E(n)equivariantgraphneuralnetworks[C]//Internationalconferenceonmachinelearning.PMLR,2021:9323-9332.

推荐语:这是一篇综述性论文(两个版本),从数据结构、模型、任务等多个维度总结了几何图神经网络的发展历程和重要应用例子。

HanJ,CenJ,WuL,etal.ASurveyofGeometricGraphNeuralNetworks:DataStructures,ModelsandApplications[J].arXivpreprintarXiv:2403.00485,2024.

HanJ,RongY,XuT,etal.Geometricallyequivariantgraphneuralnetworks:Asurvey[J].arXivpreprintarXiv:2202.07230,2022.

推荐语:这篇论文针对2D分子设计了具备亿级参数的图神经网络GROVER,在千万级无标签分子数据上进行了预训练,是分子图大模型的开创性工作之一。

RongY,BianY,XuT,etal.Self-supervisedgraphtransformeronlarge-scalemoleculardata[J].Advancesinneuralinformationprocessingsystems,2020,33:12559-12571.

推荐语:这篇论文设计了能同时处理分子的图Transformer模型Graphormer,在OGB、OpenCatalyst等著名榜单上取得了很好的实验结果。

YingC,CaiT,LuoS,etal.Dotransformersreallyperformbadlyforgraphrepresentation[J].Advancesinneuralinformationprocessingsystems,2021,34:28877-28888.

推荐语:这篇论文设计了能处理3D分子的预训练图神经网络Uni-Mol,在分子性质预测、蛋白质性质预测、蛋白质-小分子对接等下游任务上取得了良好效果。

ZhouG,GaoZ,DingQ,etal.Uni-mol:Auniversal3dmolecularrepresentationlearningframework[J].2023.

JiaoR,HanJ,HuangW,etal.Energy-motivatedequivariantpretrainingfor3dmoleculargraphs[C]//ProceedingsoftheAAAIConferenceonArtificialIntelligence.2023,37(7):8096-8104.

推荐语:这篇论文将生成式模型VAE与图神经网络了进行结合,并且提出了一种主子图的概念,实现了分子图的有效生成。

KongX,HuangW,TanZ,etal.Moleculegenerationbyprincipalsubgraphminingandassembling[J].AdvancesinNeuralInformationProcessingSystems,2022,35:2550-2563.

推荐语:这篇论文将生成式模型Diffusion与等变图神经网络进行结合,实现了3D分子构象的多样性生成。

XuM,YuL,SongY,etal.Geodiff:Ageometricdiffusionmodelformolecularconformationgeneration[C]//InternationalConferenceonLearningRepresentations(ICLR),2022.

推荐语:这篇论文将生成式模型BFN与等变图神经网络进行进行结合,实现了3D分子的高效生成。

SongY,GongJ,ZhouH,etal.UnifiedGenerativeModelingof3DMoleculeswithBayesianFlowNetworks[C]//TheTwelfthInternationalConferenceonLearningRepresentations.2023.

推荐语:这篇论文利用等变图神经网络CDVAE实现了晶体生成,是该方向的开创性工作之一。

XieT,FuX,GaneaOE,etal.Crystaldiffusionvariationalautoencoderforperiodicmaterialgeneration[J].arXivpreprintarXiv:2110.06197,2021.

推荐语:这篇论文将扩散模型与等变图神经网络进行结合,很好建模了晶体的对称性,实现了晶体3D结构的精准生成。

JiaoR,HuangW,LinP,etal.Crystalstructurepredictionbyjointequivariantdiffusion[J].AdvancesinNeuralInformationProcessingSystems,2024,36.

推荐语:这篇论文基于图神经网络构建了一种晶体材料稳定性预测模型GNoME,发现了多达220万种理论上稳定的新型材料。

MerchantA,BatznerS,SchoenholzSS,etal.Scalingdeeplearningformaterialsdiscovery[J].Nature,2023,624(7990):80-85.

推荐语:这篇论文提出了一种多通道等变图神经网络MEAN,有效实现了抗体CDR区域的设计与优化。

KongX,HuangW,LiuY.Conditionalantibodydesignas3dequivariantgraphtranslation[J].ICLR,2023.

推荐语:这篇论文提出了一种新颖的等变图扩散模型Chroma,创造了自然界中以前未发现的具有可编程特性的新型蛋白质。

IngrahamJB,BaranovM,CostelloZ,etal.Illuminatingproteinspacewithaprogrammablegenerativemodel[J].Nature,2023,623(7989):1070-1078.

推荐语:这篇论文提出了一种全原子建模方法RoseTTAFoldAll-Atom,利用等变图神经网络实现了蛋白质、小分子、核酸、共价修饰等多种分子的结构预测与设计。

THE END
1.AI工具集AI工具集汇总了多种AI开发和实现所需工具的集合。这些工具包括AI写作、视频、音频、对话、办公等AI工具网站 热门工具 GPT-4o OpenAI最新推出的旗舰生成式AI模型 Claude2 ChatGPT的最为有力的竞争对手之一 青泥学术 青泥学术推出的大数据学术写作辅助系统 https://www.xueshuchuangxin.com/AITools/Home
2.秒杀AlphaFold!Science:用AI一秒设计自然界全新蛋白质(2)DeepMind的AI for Science团队负责人Pushmeet Kohli说。「ProteinMPNN是这种范式转变的另一个证明,从此我们可以为特定任务设计蛋白质」。「这仅仅是机器学习在蛋白质设计中的一个开始。在接下来的几个月里,我们会努力改进这些工具,争取创造出更具动态性和功能性的蛋白质。」Baker说。https://developer.aliyun.com/article/1207985
1.探讨AIforScience的影响与意义:现状与展望以Chat GPT为代表的新一轮人工智能技术浪潮正推动人类社会全面变革,科学研究范式正加速转换,一场人工智能驱动的科学研究(AIforScience,AI4S)革命正在到来。分析了AI4S的基本概念和特点,从数学、物理、生物、材料等角度简要综述了AI4S的发展现状。大力发展AI4S对提高国家竞争力、发展社会经济、加强技术储备都具有十分重要...https://wap.cnki.net/touch/web/Journal/Article/ZNJS202301001.html
2.31w赛题奖金!当AIforScience撞上“先导杯”,会擦出什么样的火花...基于这一背景,一年一度的比赛盛事第三届“先导杯”计算应用大奖赛(以下简称“先导杯”)利用其“明星赛题”——开放应用,以AI for Science为主题,旨在吸引各领域学科人才应用AI理论工具解决学科问题。 大赛专家咨询委员会专家们认为,AI for Science进入“先导杯”开放应用赛题,有望为鄂维南院士所期待的“产研共同体...https://blog.csdn.net/Datawhale/article/details/125230238
3.降低AIforScience门槛实现生命科学领域新突破而如今在前沿科学研究中的AlphaFold2模型则是人工智能(AI)应用的另外一个标志,它因展现出AI for Science的巨大潜力,而受到了各界人士的青睐。 AlphaFold2助蛋白质结构预测,树AI for Science新高度 蛋白质是组成人体细胞组织的重要成分,对蛋白质三维结构开展有效解析与预测,可为生物学、医学、药学乃至农业、畜牧业等行...https://www.xakjgzz.com/news_show.rt?contentId=4443&channlId=32
4....围绕科创中心建设举行专题协商座谈会钱锋就AIforScience...建议:聚焦上海重点产业高端化、智能化、绿色化发展的重大需求,部署AI for Science市级科技重大专项,重点布局分子与过程工程、生命科学与工程、材料与原子制造工程等领域的AI for Science创新;建设AI for Science大科学基础设施,重点攻关面向AI for Science的物理建模、智能算法、高性能计算等通用研发工具,赋能传统大科学...https://www.sh93.gov.cn/detailpage/ywdt-0f651a3d-875f-4416-a1c8-8aa5bd8dd35f.html
5.Seamless值得注意的是,该工具完全免费,每用户每天可生成20篇文献综述。 Seamless – AI文献综述生成器工具,能够根据论文描述起草文献综述 Seamless官网打不开的几种可能原因及解决方案 如果你经常无法打开"Seamless官方网站",可能有以下三种原因。这里有一些解决方案: https://pidoutv.com/sites/11225.html
6.火山引擎AIforScience研讨会与Bio11月12日,以“AI 创引,科学新境”为主题的2024年火山引擎 AI for Science 闭门研讨会暨第二届 Bio-OS 开源开放大赛颁奖典礼在广州成功举办。百余位来自科研、生信、教育、医疗、AI 等领域的企业领导和专家学者们汇聚一堂,聚焦 AI for Science,共同探讨了如何利用 AI 进https://www.zgswcn.com/news.html?aid=230467
7....仪式暨人工智能与社会研究AI4SR(AIforSocialResearch)(2023)学术...复旦提出AI for Science的总体战略,希望发挥科学智能的“发动机”作用。本次学术研讨会既是“社会学学科周”中极为重要的一场活动,也是哲学社会科学学科对接学校的AI for Science总体战略的有效举措。希望复旦师生拥抱科研新范式,踊跃学习和参与开发新工具、新方法、锻炼“AI+创新”能力,积极投身这场重塑人类知识边疆的...https://www.cssn.cn/skgz/bwyc/202311/t20231103_5694802.shtml
8.论文解读人工智能时代的科学发现腾讯云开发者社区然而,这一显著的发现前景也伴随着“人工智能对科学”(AI4science)这一新兴领域面临的重大挑战。与任何新技术一样,AI for science的成功取决于论文将其整合到常规实践中,并理解其潜力和局限性的能力。人工智能在科学发现中被广泛采用的障碍包括发现过程中每个阶段特定的内部和外部因素,以及对方法、理论、软件和硬件的...https://cloud.tencent.com/developer/article/2338937
9.2023IDC易贸新药研发影响力大会会议频道·AI与大数据驱动的下一代蛋白工程 陈闻涛,平台研发主管,MLAB ·AI技术与实验结合加速生物药发现 赖力鹏,联合创始人、首席创新官,晶泰科技 ·AI for Science新范式驱动药物研发新工具与新流程 孙伟杰,创始人兼CEO,深势科技 ·AI驱动蛋白设计赋能抗体发现 https://www.medvalley.cn/activity/1112.html
10.mindscience:MindScienceisscientificcomputingkitsfor...MindScience是基于MindSpore融合架构打造的科学计算行业套件,包含了业界领先的数据集、基础模型、预置高精度模型和前后处理工具,加速了科学行业应用开发。 AI+科学计算 将AI与科学计算相结合,即AI+科学计算,是指利用人工智能技术如机器学习、深度学习等,对科学难题进行实计算和分析。这种结合使得科学计算不再局限于传统的...https://gitee.com/mindspore/mindscience/
11.AI撬动科研范式变革鄂维南告诉科技日报记者,新一轮科技革命中很重要的一点,就是科学研究从“小农作坊”模式向“平台科研”模式转变,AI for Science正是推动“平台科研”的主要动力。AI技术不仅极大提高了科研活动中共性工具的效率和精度,更重要的是,它可以助力建立一个由产业需求推动科研的有效体系。 http://m.cnhubei.com/content/2023-03/28/content_15627888.html
12.Seamless:AI驱动的科研文献综述生成器AI科研 7 个月前 文章目录 Seamless是什么 Seamless的主要特点 Seamless的应用场景 Seamless是什么 Seamless是一个专为科学研究设计的工具,它利用人工智能技术帮助研究人员快速撰写文献综述。用户可以输入论文描述,Seamless将基于真实论文生成文献综述。该工具搜索Semantic Scholar数据库中的科学论文(覆盖大多数科学主题),并将...https://www.aihub.cn/tools/science/seamless/
13.GPT为了应对这些挑战,团队提出了名为 SciGuard 的大语言模型驱动的 agent,帮助 AI For Science 模型进行风险控制。 SciGuard 与人类价值观对齐,并且加入了各种科学数据库与监管(危险化合物)数据库等。 并且,该 agent 可以使用各种科学工具和 AI4Science 模型来提供额外信息,来辅助 SciGuard 对用户意图进行判断。 https://www.ithome.com/0/740/081.htm
14.2024年诺贝尔化学奖授予AlphaFold:开启AI+Science新纪元物理学、化学、生命科学与人工智能的协同合作推动了各领域的突破性进展,充分展现了AI在跨越传统学科界限中的巨大潜力。这些奖项不仅标志着一个新时代的到来,更暗示着AI在科学研究中正逐步走向核心地位。在推动科学创新的过程中,AI将持续发挥关键作用,AI for Science 正在带来科学发展的新纪元。https://www.thepaper.cn/newsDetail_forward_28982526
15."KAN"AI4Science?「下」在接下来的部分,我们提出了一种新的“AI for Math”范式,这种范式不包含在Deepmind的论文中,我们旨在使用KAN的无监督学习模式发现结构不变量中的更多关系(除了签名)。无监督学习正如我们在第4.2节中提到的,无监督学习是一种更有前景的设置,因为它避免了输入和输出变量的手动分区,这些变量可能有着组合多种可能性。https://maimai.cn/article/detail?fid=1831393348&efid=clF3pnR4SmAcQ6C5xbGDRw
16.人工智能AI for Science 的新成果、新动态、新视角—— 由DeepMind 拆分的 AI 药企首次达成制药合作,价值 30 亿美元 微软协助科研人员发现 3,200 万种新电池材料 网传TikTok 在美国各地招募计算生物学、量子化学、分子动力学和物理方面的人才 科大讯飞拟分拆医疗业务在港交所主板上市 ...https://segmentfault.com/a/1190000044554108
17.麻省理工重磅《Science》:基于AI的逆合成路线设计,这台机器人全...8月9日,最新一期《Science》杂志发表了来自美国麻省理工学院(MIT)研究人员一篇题为“A robotic platform for flow synthesis of organic compounds informed by AI planning”的论文,文章描述了一种结合AI设计合成路线和机器人执行的自动化合成平台,该方法基于美国专利和Reaxys数据库中的反应训练了人工智能算法,能够为给...http://www.vastprotech.com/news_detail/id/142.html