TreeMind树图在线AI思维导图

大模型思维导图

  收藏
  分享
免费下载
免费使用文件
U161889687 浏览量:1012024-03-22 12:18:02
已被使用13次
查看详情大模型思维导图

人工智能大模型详解

树图思维导图提供 大模型 在线思维导图免费制作,点击“编辑”按钮,可对 大模型  进行在线思维导图编辑,本思维导图属于思维导图模板主题,文件编号是:462c4eb61146f82a9bf5395832132986

思维导图大纲

大模型思维导图模板大纲

GPT

什么是chatGPT?

Chat Generative Pre-trained Transformer基于Transformer技术的预训练聊天生成模型

为什么会产生“智能”?

不同于先前的应答式机器,而是一个基于上下文的文本预测机

神经网络对下一个词的预测

人工神经网络,对生物神经网络在微观结构上的简单模仿

收到用户提示后,网络内部进行一轮正向传播,输出一个词,把这个词和前文一起打包,重新送回输入端,如此进行多轮正向传播后得到最终的结果

人类语言中固有的思维范式

语言对人类影响之深,远超我们的想象。语言的特殊性在于它可以表征一切,是某种意义上的通用信息。大脑本质上是一种实时预测系统,预测并生成语言是思考产生的关键环节。

文本中经常出现的一种统计模式(特征),依照模式生成句子的过程表现出类似于思考的现象,背后牵扯着非常复杂的统计相关性,正是这种在语言表征上从微观向宏观的复杂度涌现,让gpt产生出”智能“

本质是统计能力,即所谓的自下而上的涌现出“智能”

每个词都是独立的个体,词与词之间存在多个不同维度上的关系,转化到几何维度上,每个词都可以视为高维空间内的点,坐标之间的几何关系就是统计关系

与之产生的概念就是高维空间内的一片区域,每个词都可以在不同的概念区域游动,取决于上下文的其他词,如此便可以共同定位出具体概念

1.把句中每个词转换成高维向量,即语义空间的点 2.找出每个词之间的相关性 3.根据相关性精确定位每个词的位置,即当前的微妙含义

性能为什么这么强?

人类的知识结构并没有清晰的边界层,是一种多维度的复杂堆叠,传统的“知识图谱”和“知识库”是无法表征的,而新一代的神经网络架构却可以拟合出来。人类不再帮助机器分析语法、句式及复杂的知识结构,全靠神经网络自身进行“深度学习”

按层次逐级学习(分层学习),人类文本的信息是分层级的,先理解语法、句式,再抵达语气、风格、情绪,甚至是意图、偏好、文化、心理,最终逼近价值观、意识形态

目前存在的缺陷

胡言乱语(幻觉)

所有的知识是被抽象加工过的,被编码成了网络参数,保存在神经网络中,因此不完全精确

幻觉的本质是生成不符合事实的数据,可能是人类想象力和抽象能力的来源

没有判断和纠错机制

训练数据的稀缺和干扰

”过拟合“也会导致幻觉

什么是chatGPT?

洞悉语言和信息的部分本质后,计算机统计能力在人工神经网络加持下的极致演绎

AlphaGo

一款围棋人工智能程序

为什么下棋这么厉害?

全新的设计理念,不同于之前依靠算力的遍历选点,而是基于卷积神经网络在识别图片方面的优秀表现,把逻辑范式转化为几何特征,根据几何上的分层统计逼近最优解

围棋的规则是有固定标准的,可以飞快的进行自我学习演化

人工神经网络

什么是人工神经网络?

基于神经科学,使用电子元器件对生物神经网络进行模仿

为什么能进行模仿?

神经元之间通过电化学机制(离子机制)进行相互通信,类似于二进制的0和1。神经元可以视为相互连接的二进制器件,理论上能够拟合任何逻辑运算

发展里程碑

人工神经元模型的组成

偏置(激活阈值):调节该神经元的灵敏度

权重(连接强度):调节两个神经元之间的连接度

激活函数(输入与输出的对应关系):调节神经元输出值的大小

分层架构及反向传播的提出

通过对猫咪视觉皮层的研究,意识到认知是有分层结构的,由此明确神经元的连接为多层网络,并提出了“反向传播”方法,赋予神经网络自我学习的能力

卷积架构(识别图片)

输入层

卷积层

多个并行的卷积核,每个卷积核都有识别功能(一种独特视角),这种功能是基于“反向传播”自行生长演化而来的

全连接层

对上述多层卷积层输出的内容(重要特征)进行汇总鉴定

输出层

transformer架构(识别语言文字)

相关思维导图模板

大学生创新训练项目计划申请书思维导图

树图思维导图提供 大学生创新训练项目计划申请书 在线思维导图免费制作,点击“编辑”按钮,可对 大学生创新训练项目计划申请书  进行在线思维导图编辑,本思维导图属于思维导图模板主题,文件编号是:167d18232023198c8d22f0f156e1475c

群体消费者概述思维导图

树图思维导图提供 群体消费者概述 在线思维导图免费制作,点击“编辑”按钮,可对 群体消费者概述  进行在线思维导图编辑,本思维导图属于思维导图模板主题,文件编号是:e7e352b770f9f85811e915620a5c51b8