AI应用实践的思考

近两年AI太火了,认真体验及分析后, 决定尽量跟上, 最少要把相关工具使用好。恰好工作中也在做相关工具,遂梳理之, 以加深对这块的理解。 打败马车夫的不是汽车本身,而是会开车的司机 生成式AI的爆发 AI 这个领域很早就开始了,这个理念也很早就有了,比如早期图像处理,语音识别,阿尔法go等。可以回溯之前很多年。为何最近两年开始爆火了。我认为原因有几点: 技术突破: 大模型的底层基于神经网络的深度学习推出了 transformer 架构。改变了大模型深度学习的格局带来了质的飞跃 基础设施发展: 一个模型巨量的计算,消耗大量资源。硬件基础设施的发展能降低训练成本,试错成本,让更多想法去实现 数据的积累: 互联网发展至今产生了大量数据,可以作为训练知识来让模型学习,这些都是人类发展产生的财富。 简单说下 Transformer 最早是在论文 Attention is all you need 提出注意力的机,以解决在序列生成中,长序列情况下的精度,简单一点来说是通过空间位置编码,扩充之前神经网络里的一些信息,使得即使再有更多长度,也不会让精度下降。 现代架构里添加了很多其他模块:比如多头自注意力机制,并行机制等。 总之结果是:推理精读更好,训练效率更高。这是当今 AIGC 爆发的技术基础 能改变什么 有人说任何行业都可以重新再做一遍 人类的进步,从来离不开工具,有了轮子就有了车,马车,有了蒸汽机就有了汽车,这些都是革命性的改进,都是依赖工具的。工具改变了生产力,进一步质变为影响生产关系。促进了社会整体变化。 总结下来当前影响最大的几个面: 广告/自媒体行业的商业模式 剪辑,修图,这种体力活完全可以用AI帮忙做了 教育教培,学习方式 对于家长可以用 AI 辅助教养小孩子,学生也可以方便的用AI自助学习。 工作效率提升 有些细节直接用AI生成即可,员工负责更高一层的控制 软件开发程序员 我本身就在程序员行当里,对这个提效深有体会 局限性 正如人类能想象到的东西都是现有认知范围内现有知识体系内的东西一样,AI 学习能力目前还处于理解现有知识体系的状态。无法突破知识界限,只有在有限的知识范围内做一个最强大脑。 所以局限性在于,他只是一个只能基于现有知识的超强大脑,无法升维无法突破边界。 当然如果有了一个这样超强大脑,本身就是一件很厉害的事情。至于突破编辑,升维知识,这个还要考我们人类,然后再喂给AI,形成一个循环。 一旦AI具备 公理,定律等级别的创新,是非常恐怖的,人类的一切迷惑将不再是迷惑,我是谁?来自哪里?要去哪里?上帝是谁,造物主是谁,各方神灵,神明又是谁?宇宙之外在哪里?生命是什么?为什么活着,为啥又要死去 模型 百花齐放,百家争鸣。通用,垂类,领域模型等太多了,发展过于迅速,具体模型此处不多谈。 要谈的是: 深度学习模式的变革,基于 Transformer 架构的深度学习促进了当下模型厂商的发展,多层 Transformer 架构使得大模型更像人类大脑。 向量化,万事万物皆是向量,皆是数据,向量这个结构让事物之间的关系拉平了。就像分子,化学元素一样,构成了物质世界,而向量则在虚拟世界里描述这个世界 基于这两个重要的底层知识,模型的发展,飞起来了。 菩提本无树,明镜亦非台,本来无一物,何处惹尘埃 AI应用 大模型还毕竟只是一个最强大脑,一个超强CPU。我们知道通用计算机,不止CPU,还有一些外围设备才能通用工作,人类也是,不止大脑,还有眼睛,手,等外围设备。 所以 AI 应用,或则 Agent 的概念,可以如此类比。 技术工具 开源的技术工具很多,目前我在用 Langchain。但是不能局限于这些上层工具 ...

<span title='2024-03-22 09:16:11.373 +0000 UTC'>三月 22, 2024</span>&nbsp;·&nbsp;1 分钟&nbsp;·&nbsp;zhongling

深度思考

深度思考的重要性就不多强调了,该如何做好呢? 如何做好深度思考? 多维度 我这里说的多维度可以理解为多视角。 做一个技术分享,在听众的视角下如何的,主办方的视角如何,分享者的视角又如何,领导视角,同事视角如何…… 多层次 一个事物是处于整体系统里的那一层,与其他层的依赖关系。都是可以考虑的 比如日常技术问题处理,问题本身是如何的,处理及反馈流程是如何的,技术依赖的其他系统大概如何的…… 现象与本质 有哲学基础的都会知道,事物的发展变化都会有表现与本质的区别。这一点有点像我们使用技术框架时,能掌握好框架的使用层以及底层原理,才能以正确的姿势使用。 同样道理,思考问题的表现以及底层逻辑如何,才能做好深度思考。实际中可能会更加复杂:人的关系,系统的关系,技术本身的关系 刻意练习 所谓学而不思则茫,有了理论基础,加上一些刻意练习,才能真正掌握。具体落地点: 多总结 多复盘 多积累方法论 多接触不同系统的案例

<span title='2022-04-18 10:08:36 +0800 +0800'>四月 18, 2022</span>&nbsp;·&nbsp;1 分钟&nbsp;·&nbsp;zhongling

蛙泳学思

最近开始学习蛙泳,其实很早之前下水练习过几次,但是没有系统的整理。最近开始了系统性的练习:看了些视频讲解,纠正了些错误,总算有些小进步。 过程中发现了自己之前很多动作,模式,思考是不对的。但是纠正这些不对的点花费了很久时间。学习效率比较低。而纠正错误的技巧以及思路是一个通用的学习理论,对于工作,生活应该都适用。所以做了此快速学习新技能技巧的总结,或者称之为方法论也好。 学习速度 掌握好正确的路径,学习资料,其余的就是练习了。理论与实践相辅相承。在实践中遇到问题,可能是理论没有吃透,可以多补充。比如不知道动作该怎么连贯(划手蹬腿结合)的时候,可以补充下理论。理论充足不等于实践也厉害,因为都有个人,环境的因素。 所以 理论和实践结合 互相补充 来提速 基础比较关键 最重要的基础点是: 划手 蹬腿 协调 切记欲速不达的道理: 我之前基础练习的不够好,蹬腿,划手导致在完整动作时漏洞百出,出了问题没有头绪,然后再回过头一点一点练习基础才能做好完整动作,这个过程就比较浪费时间了。 在看专业运动员每一个细节都特别好,大概就是基础比较扎实了吧。所以想要快速达到目标,不要忽视了基础。稳扎稳打可能是速度最快的方式 好的老师 个人在实践中总是会有很多点会偏离最优,有些思想也会偏离。有的时候会卡在某个环节出不来,这个时候如果自己有良好的资料可以参考,最好了。 比如我在呼气练习的时候,水下一直是哈气的动作,水上就不能很好的吸气了,知道看到有个解说提醒说水下吐气,才知道,这个环节练习错了。这个哈气矫正为吐气的过程是看了讲解。但是假如有个好教师帮忙点一二,可以快速解围解困惑的。 类似的工作中也比较强调有好的导师,好的领导的重要性,所谓读万卷书不如行万里路,不过阅人无数,不如良师指点。 所以如何发现好老师?正规的学习指南,学习资料是大家当前最合适的,有真人最好了。 最后发现总结的都是些大道理,这些大道理大家应该都懂,但是怎么与实际结合并帮助实践是比较关键的。 总结 本文通过个人蛙泳学习过程中遇到的问题做了些反思,总结了一些快速学习技能的通用技巧方法论。并强调这些大道理如何与实际结合的技巧才是关键。希望对做其他事情有帮助,也不枉这次辛苦练习了。最后学习的过程是没有银弹的,前进吧少年

<span title='2022-04-15 14:34:21 +0800 +0800'>四月 15, 2022</span>&nbsp;·&nbsp;1 分钟&nbsp;·&nbsp;zhongling