「范畴论与机器学习」前言说明范畴论与机器学习的交叉是一个令人兴奋且富有潜力的研究方向。将范畴论的概念和方法与机器学习相结合,可以为机器学习领域带来新的理论和实践进展,同时也可以为范畴论提供更广阔的应用领域。这一交叉研究还处于初级阶段,仍然存在许多挑战和待解决的问题。但正是这种交叉研究的努力和探索,有望为机器学习领域带来新的突破和进展,同时也为范畴论的应用领域拓展开辟新的道路。为了帮助大家对这一交叉领域有深入的了解,理解机器学习方法背后的范畴意义,集智学园联合日本成蹊大学助理教授贾伊阳,计划推出「范畴论与机器学习」系列课程,旨在面向机器学习领域并且希望深入到理论思想层面、身在数学领域想要利用人工智能解决问题的、以及希望了解一些范畴论应用前景(例如和人工智能、量子计算融合的可能)的研究者,科普机器学习前沿领域论文中出现的范畴论知识。本次宣讲课是系列课程的一次概览性介绍。宣讲课简介本次课程将以机器学习与范畴论的报告、论文、和教材为课程材料,介绍其中的一些概念,以及更重要的是在这些概念背后隐藏的思想。由范畴观点切入机器学习的时候,包括对机器学习的某些方法论建立背景的具体范畴的研究方法,以及从神经网络架构等出发研究在范畴上的某些结构,例如“层”,“纤维”,“topos”等的研究方法。这些繁琐的术语,复杂的概念如果从纯粹数学的角度出发,全然理解要耗费数年时间。在本课程以及后续系列课程中,贾伊阳老师的主要目的是引导大家在避免过度消耗精力的同时快速了解这些概念和范畴架构在机器学习理论及应用中的意义。阅读材料:Belfiore, Jean-Claude, and Daniel Bennequin. "Topos and stacks of deep neural networks." arXiv preprint arXiv:2106.14587 (2021). https://arxiv.org/pdf/2106.14587.pdf https://arxiv.org/abs/2106.14587https://www.laurentlafforgue.org/Expose_Lafforgue_topos_AI_ETH_sept_2022.pdfBradley, Tai-Danae, John Terilla, and Yiannis Vlassopoulos. "An enriched category theory of language: from syntax to semantics." La Matematica 1.2 (2022): 551-580. https://link.springer.com/article/10.1007/s44007-022-00021-2Shiebler, Dan, Bruno Gavranović, and Paul Wilson. "Category theory in machine learning." arXiv preprint arXiv:2106.07032 (2021). https://arxiv.org/abs/2106.07032Seven Sketches in Compositionality: An Invitation to Applied Category Theory https://math.mit.edu/~dspivak/teaching/sp18/7Sketches.pdf主讲老师贾伊阳,日本成蹊大学助理教授。研究重点是计算复杂性,算法,以及范畴相关理论。分享信息与交流群分享时间:2023年12月20日 19:30-20:30分享流程:19:30-20:10 主题分享20:10-20:30 互动交流分享方式:1. 腾 讯会议(加入交流群可见)2. 集智俱乐部视频号直播填表入群:我们为本次公开宣讲课程,创建了微信交流群,欢迎填表加入。表单链接:https://campus.swarma.org/form/activity/95填写问卷,让我们听到你的需求集智学园与日本成蹊大学助理教授贾伊阳老师计划合作开发“范畴论与机器学习”主题系列课程,本系列课程的目的是帮助大家能快速理解范畴论的概念和框架在机器学习理论及应用中的意义,看到范畴论与一些前沿领域,如AI和量子计算融合的可能性。我们希望获得你的反馈,来做出更好的课程设计。你认真填写的问卷对我们非常有用,感谢你的时间!问卷链接:https://swarma.feishu.cn/share/base/form/shrcnVd4rIm9NxF94hZpHZNLaab推荐加入范畴论入门系列课程,我们以 “人人可学范畴论” 为宗旨,从相当低的起点组织内容,帮助大家用范畴的角度看待熟知的问题,感受范畴论的思维方式,获得从例子中学习抽象的范畴论知识的能力。课程中补充了必要的前置数学知识,以便更多的学员破除门槛登堂入室。站在新的起点上,更多关注范畴论内在的问题,而不用过于关注具体的问题背景。例如在范畴论中,可以直接抽象地讨论一个作为函子的箭头如何运动到另一个函子箭头,这样需要理解函子范畴和自然变换的概念。通过掌握这些越来越抽象的思维工具,学员将逐渐感受到范畴论的强大抽象简化能力,感受到为何不同领域的研究前沿不约而同地应用这些工具。第一季详情及试看:https://campus.swarma.org/course/2723第二季详情及试看:https://campus.swarma.org/course/3456从AI for math和math for AI两个方面深入探讨了人工智能与数学的密切联系。读书会概述了人工智能在数学的应用,并深入探讨大模型与数学推理,定理自动证明, AI发现数学规律,符号计算等方向的研究工作。读书会还展开了大模型与神经网络的数学基础的梳理,并深入探讨几何与拓扑在机器学习的应用。详情及试看:https://pattern.swarma.org/study_group/32围绕通用人工智能的基础理论与发展路线,梳理里智能的定义与度量、智能的原理、大语言模型与信息世界的智能、感知与具身智能、多视角下的人工智能、对齐技术与AGI安全性、AGI时代的未来社会七个板块的内容。重点梳理了大语言模型的底层机理,并针对多模态感知、具身智能等实现通用人工智能的路径进行了探讨。详情及试看:https://pattern.swarma.org/study_group/33