钱学森:工程控制论简介

中关村力学所你可以自己进去看,走廊都有墙报。钱学森写东西文风和毛主席很像,都是剥葱,真相大白。举的例子也一样,都是人走路。我加一个,怎么看是进入状态,你走路不会想你先迈哪一步。毛主席是讲战略,看运动状态,波浪式地向前发展,这同人走路一样,走一阵要休息一下。钱学森是测控,我是搞无语言,只需要进入状态,这就是三位一体,就是方向盘,控制系统,司机也要进入状态,最终进入系统控制状态。[捂脸]控制论是最简单也最难的,因为不看具体专业,要的是平平无奇。这个叶嘉莹老师也提过“好诗,没讲头”,只有吟诗,叶嘉莹就致力于诗词吟诵。凡是好的,对真正的高手只有两种结果:叫好,过招。而不是说挂个幌子自称“什么门下走狗”,招摇撞骗,或者“大神啊”!

任正非:世界走向AI潮流,不可阻挡

谈人工智能:潮流不可阻挡

三十年内不会出现自主意识

提问:您好,我来自瑞典。我想了解您对未来AI的看法,它会作为工具取代人类的工作,让人们有更多时间享受生活吗?

任总:世界走向人工智能的潮流是不可阻挡的。由于芯片、算力等各种技术的发达,促进了智能时代的到来,就像英国发明了火车、纺织机械、轮船一样,它产生了时代的转折点。

现在这个时代的转折点是人工智能的应用。如果有机会去参观中国的天津港,从装船、运输、堆垛,包括通过海关,一百多平方公里的土地上,几乎没有一个人。

炼钢是很苦的,火很烤,现在炼钢炉前没有人,轧钢机前也没有人;以前要舀出钢水来检验钢铁的成份,现在戴眼镜就可以判断钢水是否合格。说到煤炭,几百多米深的地下,可以用人工智能挖煤了。

这个时代一定会降低对人力的需求,但是创造的总财富增加了,可以养活被裁掉的人。被裁掉的人不干活,少拿点钱;干活的人多拿钱。社会总价值由于技术进步是在增加,而不是在减少。任何国家只有可能在总财富增加的情况下完成对社会财富的合理分配,这是一个社会问题,我们讨论的是技术问题。

谈教育与就业:教育系统需要宽容,短板“补不起来就算啦”

提问:我来自北京大学。有两个问题:第一,您认为对下一代的教育,就当前的教育体制应该做哪些改革?第二,我们有一个担心,今天在座的都是最优秀的学生,在教育时我们有一个平衡和疑惑的问题,我们把最好的学生教得更好,是否会使得在偏远地区或教育不发达地区的学生更落后。我们应该如何达到这种平衡?教育如何均衡发展?

任总:我认为小孩一定要快乐,一定要有点精气神,在快乐中自我发现自己的潜力。教育系统对小孩也要宽容一些,允许他们适当的差异化。现在都是先进的网络了,乡村可以通过网络平台教育,填平知识鸿沟,他们也能知道世界的最先进。

现在都有先进的计算工具,许多知识是可以查阅的,孩子主要学会方法论。学生要快乐,心理要舒畅,社会才安宁。不是人人都能创造社会的,但是人人都要遵纪守法,为社会做出一点贡献。

只有少数杰出的人有可能成为社会的栋梁,这些人学习很苦、生活很苦,一生很苦,他们要去点燃新世界的火花,拿着火把去照亮这个世界,那他们要担负的责任就多。

我非常支持某些名校的录取条件,他们面试的前两项就是“你是否照顾过孤儿,是否照顾过孤寡老人”,如果没有,你就没有履行社会责任。这些名牌大学,培养的都是企业领袖、国家领袖、社会领袖等等,如果你不爱社会,只是为了多赚钱,你就是社会价值观的破坏者,而并不是社会的建设者。

我支持电子考试,在全世界各个角落都可以考试,你可以使用计算机或其他工具等各种方式来帮助你解决问题。确认他的学习能力,可以通过面试来评定,面试也可以用电子。

我们现在都是强调过去的方法,死记硬背,消耗孩子大量的精力去记一些不需要记的东西,这些东西网上随便都能搜到。昨天有人告诉我,现在有些10岁左右的小孩,左手ChatGPT,右手豆包,用两种人工智能的模型讨论一个问题,自己与自己打,这样的小孩不就有可能是未来的天才吗?

我们的社会要让各种各样的孩子快乐地成长,每个小孩应该在音乐、舞蹈、体育等领域上选择有一样爱好,这不就非常好吗?教育一定要让孩子拥有快乐的精神,快乐不是以金钱为中心。

绝大多数人在工作中都快乐,而不是去比较金钱,给自己心里造成压力。这样的教育制度可以慢慢使得社会和谐,大家不会产生这么多矛盾,社会不就更美好了吗?这是我的简单体会。

任正非:AI 潮流不可阻挡,华为要向美国学习开放与包容 (qq.com)

智能已来,大模型应用新阶段:从 Chat 走向 Act

GLM-PC 的设计理念是模拟人类的电脑使用方式——眼睛观察屏幕、脑海中进行规划,再通过手部操作执行指令。

这和图灵机的诞生思路一致,图灵机是模拟人的计算过程和状态。

人脸识别是一项技术,人脸识别开门/支付/验证,才是一个应用,一个应用进而形成一个业务。人脸识别从12年开始吧,两三年之内,港口酒店物品都应用了,形成了智能经济,这是智能经济的第一阶段,基于物联网的智能经济,是静态的智能经济。

chatGPT是一个生成式预训练技术,结合到购物消费,工作办公等生活生产,劳动创作活动中,自动完成一个任务一个创作活动,形成新的人机无接触交互的进而基于日常习惯的未来式智能创作与劳动,这是智能经济的第二阶段。

最终就是工业自动化的过程,古典控制,经典控制,智能控制,自适应。

这都是人工智能,自动完成劳动的能力,在人和物之间。

AutoGLM-Web清言插件:https://new-front.chatglm.cn/webagent/landing/index.html?channel=ads_news_opendayautoglm-安卓:https://agent.aminer.cn/glm-pc:https://www.wjx.top/vm/mOs9cHw.aspx

智谱放大招:大模型从「Chat」走向「Act」 (msn.cn)

智谱 COO 张帆谈到,智能设备在大模型的加持下,将会焕发出新的机会。

随着端侧性能及算力持续提升、为 AI 原生设备适配的模型和端云同源的协同架构出现,Agent 不仅在操作系统 OS 和应用上实现用户体验变革,还能将其推广到各类智能设备上,从手机到电脑,再到汽车、眼镜、家居和各种 edge side 设备,各种 AI 原生设备正在争相涌现。

随着 Agent 技术的发展,AI 与人类的互动模式将不再局限于简单的对话,未来的机器将不仅能听懂人类的指令,还能够主动思考、决策并执行任务。

2025 年或许会成为 Agent 技术爆发的关键年份,Agent 将进一步改变我们与机器的关系,带来更加智能化、个性化和高效的生活与工作方式。

快慢思考的Google AI, Agent

Google GiMi是上下文最差的GPT,不超过3句。这个图人为的把思考与直觉分开,不符合矛盾论,其实就是我常说的一句话“思想不矛盾语言才能矛盾”,即直觉即撕开,最快音响最深的最本能的思考。但凡高手都是凭本能或练到本能,半步崩拳的自发,“当思维停止时”功夫就出来了,洪金宝讲的李小龙,“我刚出拳,他腿意见到我脸上了”,包括深度学习教父辛顿“我的直觉一直都是对的”,这就相当于战场的嗅觉,千锤百炼,不断思考,用心思索,长期形成的一个自发的本能反应,潜移默化,自然反应,直觉即审美,一见钟情。

用中国词语讲就是:念兹在兹,心灵感应。

https://arxiv.org/abs/2410.08328v1

构建全新物理架构,寻找人工智能的另一条路

“想象一下,如果有一种物理架构与人脑的工作原理是相同的,那么我们是不是可以通过这种物理架构或者说用某种材料制备的器件来实现人脑的某些功能,最终通过不同的器件‘拼接’成一个类脑计算机呢?”这也是复旦大学微纳电子器件与量子计算机研究院院长、物理学系沈健正在进行的探索,而这类与传统计算机架构完全不同的类脑计算机,最大的特点就是低功耗、高效率,而这两者正是目前智能计算要进一步发展面临的最大瓶颈。

沈健团队提出基于物理过程的自主学习机制,探索了基于不同物理体系构成的物理神经网络及其无需外界干预便可进行“自我训练”的能力。目前,其团队在“面向低能耗智能计算的材料和器件”方面的研究已开始有成果陆续发布,其中“智能”磁性薄膜材料制备的器件就具备自主学习能力。通过将图像转化成电信号输入到该器件中,磁性材料中的磁畴在电信号刺激下自适应演化,于是该器件无需外部算法干预就自主实现了权重的计算和调整。通过将这一器件构筑成Hopfield网络,可以进行联想记忆任务,比如,给定部分或噪声图像时网络会自动恢复完整的原始图形模式,相关成果已物理学界的顶尖杂志接收。

物理学与人工智能的相辅相成

物理学与人工智能之间存在着深刻而密切的联系。从历史发展来看,物理学的基础理论为机器学习技术的发展做出了重要贡献。今年的诺贝尔物理学奖就是最典型的物理学推动人工智能发展的例证,是Science For AI的最佳例证。

自20世纪40年代第一台计算机诞生以来,信息技术的发展呈现明显的不连续、阶越性特征。这些突破性进展往往由关键物理材料和器件的创新所驱动,如硅基半导体材料实现了高密度高速信息处理,巨磁阻材料推动了海量信息存储并加速了大数据时代的到来。

另一方面,物理学也在人工智能技术的推动下快速进展,比如希格斯粒子的发现、引力波测量噪声的减少、系外行星的寻找、分子和材料性质的计算、蛋白质结构的预测以及高效太阳能电池的开发等都离不开人工智能。物理学与人工智能之间的协同发展,不仅体现了科学领域的交叉融合之美,更为未来科技创新开辟了广阔空间。

但是,当下的智能计算主要面向语音、文字、图像、视频等具有强关联性的模拟信息。传统的冯诺依曼架构的计算机在处理这类信息是效率低下,因为,现有计算机的硬件架构本身就不是为了智能计算而设计的,所以我们就不得不在软件和算法上不断地去突破。而这一问题在现代大型神经网络处理数百甚至上千亿权重时表现得尤为突出,导致对算力和能源的需求急剧攀升。巨量的能耗和算力,成为人工智能进一步发展的一个瓶颈问题。

从物理学角度突破人工智能进一步发展的瓶颈

沈健团队正在寻求的正是从基础物理研究的角度突破人工智能发展的瓶颈。大模型诞生后,一直有观点认为,人类正处于人工智能突破的前夜,但实际上能耗和算力已经成为人工智能技术进一步发展的瓶颈问题。

沈健团队成员青年研究员余伟超说,尽管目前的瓶颈多来自于算力,但从长远来看,能耗将成为更为根本的限制。尽管现有的人工智能实现方式在计算资源利用和架构设计上确实存在优化空间,但不同的神经网络架构和硬件加速技术(如专用AI芯片、神经形态计算)正在不断探索更高效的计算范式,以提高人工智能系统的能量效率和计算性能。

物理体系的特性为人工神经网络提供了重要的灵感,尤其是若能在物理体系中直接实现人工神经网络,即物理神经网络,必将显著提升人工智能的能力与效率。因此,利用物理体系构建人工智能有可能成为实现可持续强人工智能的重要途径。

目前国际上的研究主要集中于物理神经网络在推断任务中的应用,而网络的训练部分仍需依赖外部算法或计算实现,这与人脑的自我学习能力存在明显差异。基于物理体系的神经网络理论上可以通过内在的物理过程,实现无需外部干预的自主学习。

“人脑的可塑性是自主学习能力的重要基础。这种存算一体的的计算机架构与传统的冯诺依曼计算机架构完全不同。”沈健说,这就需要从更基础的层面设计物理架构,尤其是通过新材料和新器件的特性,如记忆性、相干性、非线性、涨落性、可塑性等,来构筑高能效的计算架构与范式。

从2018年开始,沈健团队就开始思考,是否有一些硬件或者是否有一些物理体系,天生就能处理人工智能的任务,通过这样的物理体系大幅度提升处理数据的密度。“确实有一些材料被称为‘smart material’,也就是智能材料,它们在外界‘刺激’下,具有自组织自适应的自我演化能力,同时自我演化的过程往往是纳秒级的。通过这样的材料,我们可以把这些硬件架构与创新的计算范式结合,从而找到一条智能计算的发展新路。”沈健告诉记者。目前团队已经发现了某些磁性薄膜体系具备类似的能力,不过他也坦承,这还仅仅是开始。

从关注成果本身到关注从0到1的实现

虽然这些成果还仅仅是起步,沈健说,S4AI(Science for AI)的发展也改变了他们团队的研究范式,过去像他这样的凝聚态物理学家更关注材料的物理性质,至于这个物理性质实现了会给现实带来改变其实并不真正关注,但如今,通过发现新的物理体系改变智能计算的范式,让他们“不得不”更开始渴望走通从0到1甚至到10的路。

目前,沈健团队正和复旦大学、清华大学、南京大学等全国顶尖高校的材料科学、集成电路领域的学者合作,推动低功耗智能计算器件的发展。据介绍,他们未来的研究方向包括探索新型物理系统,如光子学、自旋电子学、超导约瑟夫森结等平台,在多种材料体系中实现高效的网络架构;开发物理自学习能力,通过研究增量赫布学习、平衡传播等策略实现高效的物理自主学习;同时致力于新型量子材料的理论和实验研究,探索具备量子特性的材料以实现算力转化;此外,还将物理自主学习概念扩展到其他网络结构,并结合前端设备开展多模态传感器计算的应用研究。

沈健谈到,展望未来,也许我们的人工智能工具未必是一个“全能型选手”,也许是某些方面的“特长生”,“总之,未来的人工智能工具的形态还很难预料,但是当我们通过全新的物理架构发展出诸多‘特长生’之后,也许最终也会实现‘全能型选手’的‘培养’,找到人工智能发展的另一种新的发展范式。”沈健说。

【来源:文汇】

何谓大语言模型的“大”

再去北大,找朱良志老师聊聊。我考试看过他的(美学十五讲),周末把椅子搬到单位院里看,感觉太玄(游心太玄),去哲学系找书画的杨辛,王博说退休了,快90了。然后就去找易中天,易中天也不教美学了,易中天写了本笔记(美学入门),我一半时间都在看这些书,顺便想了个科研奖。

主要是去西湖时间不对,8月宁波开会,晚上去的,没啥意境。9月末贼嘹,书上写的就是西湖。早点去就直接考北大中国美学了。

中央台拍的“陕西美食就一个字:香”,醋要香,辣子要汪,油要香,其实因为没有海味山珍。海外要去,山珍要出。都没有是就要提味填香。

他们是“无声”,“无色”,这毕竟感官。
我是“无语言”,因为我不做艺术,也不研究艺术,大部分是念书,念书就要“无语言”,无“语言”的限制,科学和艺术,功夫只是语言的一种而已。

现在大语言模型,最根本作用就是:打破了语言的限制,专业语言的限制,语言形式的限制。你说话就能画画,唱歌,生成视频,小说,编程。这就是没有“专业”的限制,没有“语言”形式的限制,也可以说统一了语言。

具体不太清楚“无语言”的限制,什么时候,什么缘由出现的。应该是11年前,李小龙截拳道灵感的。

美国计算机行业提出“大语言模型”,但何谓“大”,并没有多少人讲,就像我以前写过“大数据的大”,大语言模型也是建立在“大数据”上的。这就是哲学Doctor博士的原因。我就是博士。我是黄海轮渡上想的,学问在字,文化在词,连词造句成一家之言,就是我的博士论文。现在美国计算机人员做出来了。

PowerPoint的“真水无香”就是“一句,大白话”。罗丹说,当真正的思想出现时,一切都消逝了,颜色,线条……

我一直都是对的

Hinton 坐了十多年学术界的冷板凳。在他决定把神经网络作为自己的研究目标时,没有人看好这个方向,都觉得做不出名堂。然而,多年后,当神经网络为自己正名后,Hinton 经常在接受采访中被问到,是什么让他选择了一个冷门方向。

他每次都轻描淡写地答到,「我相信我是对的」。

这也是他对年轻人的建议之一,「去找这样一个地方:在那里,你觉得每个人都做错了。然后相信你的直觉,直到你弄清楚为什么你的直觉是错误的。当你觉得每个人的做法都是做的,选择那个不一样的做法。

事实是,要么你有很好的直觉,要么你没有。如果你有好的直觉,应该倾听它们,遵循它们,一直努力,直到你发现它为什么是错的。如果你有糟糕的直觉,那你做什么其实也不重要,那还不如遵循自己的直觉。」

我的直觉也是一直都是对的。

成功的秘诀?找一堆天才学生

OpenAI 的前首席科学家、联创之一 Ilya Sutskever 是 Hinton 的学生,在多伦多大学读本科时就决定了自己的方向。他是直接走到 Hinton 的办公室,敲开门问,能不能加入深度学习实验室。Hinton 说,那约个时间聊聊吧。

Sutskever 说,「行啊,现在怎么样?」

Hinton 给了他一些经典论文,一周后,Sutskever 回来了,说「我不理解。」

「你训练一个神经网络来解决一个问题,然后又训练一个新的网络解决另一个问题——你为什么不用一个网络解决所有的问题呢?」

—-这个就是真美,我们在解决问题的时候,往往带来了新的问题,这都不是真美,真正的解决了这个问题,真美是有其优而无其所带之缺。

Hinton 意识到,眼前这个二十多岁的年轻人,有着超乎经验的研究直觉,遂邀请他加入自己的实验队伍。

诺贝尔奖快被 AI 包圆了,这10 个冷知识带你重新认识 AI 教父 (msn.cn)

战略

战略之所以是战略,是因为它可以放宽战术的要求让我们去追求。