大模型思维导图
人工智能大模型详解
树图思维导图提供 大模型 在线思维导图免费制作，点击“编辑”按钮，可对 大模型 进行在线思维导图编辑，本思维导图属于思维导图模板主题，文件编号是：462c4eb61146f82a9bf5395832132986
思维导图大纲
大模型思维导图模板大纲
GPT
什么是chatGPT？
Chat Generative Pre-trained Transformer基于Transformer技术的预训练聊天生成模型
为什么会产生“智能”？
不同于先前的应答式机器，而是一个基于上下文的文本预测机
神经网络对下一个词的预测
人工神经网络，对生物神经网络在微观结构上的简单模仿
收到用户提示后，网络内部进行一轮正向传播，输出一个词，把这个词和前文一起打包，重新送回输入端，如此进行多轮正向传播后得到最终的结果
人类语言中固有的思维范式
语言对人类影响之深，远超我们的想象。语言的特殊性在于它可以表征一切，是某种意义上的通用信息。大脑本质上是一种实时预测系统，预测并生成语言是思考产生的关键环节。
文本中经常出现的一种统计模式（特征），依照模式生成句子的过程表现出类似于思考的现象，背后牵扯着非常复杂的统计相关性，正是这种在语言表征上从微观向宏观的复杂度涌现，让gpt产生出”智能“
本质是统计能力，即所谓的自下而上的涌现出“智能”
每个词都是独立的个体，词与词之间存在多个不同维度上的关系，转化到几何维度上，每个词都可以视为高维空间内的点，坐标之间的几何关系就是统计关系
与之产生的概念就是高维空间内的一片区域，每个词都可以在不同的概念区域游动，取决于上下文的其他词，如此便可以共同定位出具体概念
1.把句中每个词转换成高维向量，即语义空间的点 2.找出每个词之间的相关性 3.根据相关性精确定位每个词的位置，即当前的微妙含义
性能为什么这么强？
人类的知识结构并没有清晰的边界层，是一种多维度的复杂堆叠，传统的“知识图谱”和“知识库”是无法表征的，而新一代的神经网络架构却可以拟合出来。人类不再帮助机器分析语法、句式及复杂的知识结构，全靠神经网络自身进行“深度学习”
按层次逐级学习（分层学习），人类文本的信息是分层级的，先理解语法、句式，再抵达语气、风格、情绪，甚至是意图、偏好、文化、心理，最终逼近价值观、意识形态
目前存在的缺陷
胡言乱语（幻觉）
所有的知识是被抽象加工过的，被编码成了网络参数，保存在神经网络中，因此不完全精确
幻觉的本质是生成不符合事实的数据，可能是人类想象力和抽象能力的来源
没有判断和纠错机制
训练数据的稀缺和干扰
”过拟合“也会导致幻觉
什么是chatGPT？
洞悉语言和信息的部分本质后，计算机统计能力在人工神经网络加持下的极致演绎
AlphaGo
一款围棋人工智能程序
为什么下棋这么厉害？
全新的设计理念，不同于之前依靠算力的遍历选点，而是基于卷积神经网络在识别图片方面的优秀表现，把逻辑范式转化为几何特征，根据几何上的分层统计逼近最优解
围棋的规则是有固定标准的，可以飞快的进行自我学习演化
人工神经网络
什么是人工神经网络？
基于神经科学，使用电子元器件对生物神经网络进行模仿
为什么能进行模仿？
神经元之间通过电化学机制（离子机制）进行相互通信，类似于二进制的0和1。神经元可以视为相互连接的二进制器件，理论上能够拟合任何逻辑运算
发展里程碑
人工神经元模型的组成
偏置（激活阈值）：调节该神经元的灵敏度
权重（连接强度）：调节两个神经元之间的连接度
激活函数（输入与输出的对应关系）：调节神经元输出值的大小
分层架构及反向传播的提出
通过对猫咪视觉皮层的研究，意识到认知是有分层结构的，由此明确神经元的连接为多层网络，并提出了“反向传播”方法，赋予神经网络自我学习的能力
卷积架构（识别图片）
输入层
卷积层
多个并行的卷积核，每个卷积核都有识别功能（一种独特视角），这种功能是基于“反向传播”自行生长演化而来的
全连接层
对上述多层卷积层输出的内容（重要特征）进行汇总鉴定
输出层
transformer架构（识别语言文字）
相关思维导图模板
树图思维导图提供 党的二十届三中全会提出数据有关部署 在线思维导图免费制作，点击“编辑”按钮，可对 党的二十届三中全会提出数据有关部署 进行在线思维导图编辑，本思维导图属于思维导图模板主题，文件编号是：eb169195ef5c3bca99a88585a2661c06
树图思维导图提供 新公司成立发言大纲 在线思维导图免费制作，点击“编辑”按钮，可对 新公司成立发言大纲 进行在线思维导图编辑，本思维导图属于思维导图模板主题，文件编号是：ba6526aa400db7c447cc576a608af85f
沪公网安备 31011502019485号
上海工商