万本电子书0元读

万本电子书0元读

顶部广告

GPT图解 大模型是怎样构建的电子书

1、结构清晰,全面解读N-Gram至GPT-4等突破性技术,带读者轻松读懂NLP发展脉络,掌握AI核心,启未来之旅! 2、书中含有多个插图及结构图,以生动的笔触、缤纷的图画,让技术细节变得轻松愉快,让读者能够轻松读懂知识,有趣,又有料! 3、配有丰富学习资料,提供源代码,带读者动手实操,搭建大模型,成为语言模型构建达人。

售       价:¥

纸质售价:¥39.90购买纸书

31人正在读 | 0人评论 6.5

作       者:黄佳 著

出  版  社:人民邮电出版社有限公司

出版时间:2023-12-01

字       数:24.3万

所属分类: 科技 > 计算机/网络 > 软件系统

温馨提示:数字商品不支持退换货,不提供源文件,不支持导出打印

为你推荐

  • 读书简介
  • 目录
  • 累计评论(0条)
  • 读书简介
  • 目录
  • 累计评论(0条)
人工智能(AI),尤其是生成式语言模型和生成式人工智能(AIGC)模型,正以惊人的速度改变着我们的世界。驾驭这股潮流的关键,莫过于探究自然语言处理(NLP)技术的深奥秘境。本书将带领读者踏上一段扣人心弦的探索之旅,让其亲身感受,并动手搭建语言模型。本书主要内容包括N-Gram,词袋模型(BoW),Word2Vec(W2V),神经概率语言模型(NPLM),循环神经网络(RNN),Seq2Seq(S2S),注意力机制,Transformer,从初代GPT到ChatGPT再到GPT-4等一系列突破性技术的诞生与演。 本书将以生动活泼的笔触,将枯燥的技术细节化作轻松幽默的故事和缤纷多彩的图画,引领读者穿梭于不同技术的时空,见证自然语言处理技术的传承、演与蜕变。在这场不断攀登技术新峰的奇妙之旅中,读者不仅能深理解自然语言处理技术的核心原理,还能自己动手,从零始搭建起一个又一个语言模型。 无论你是在校学生还是人工智能从业者,这本书都将成为一盏明灯,照亮你探索人工智能无限奥秘的道路。<br/>【推荐语】<br/>1、结构清晰,全面解读N-Gram至GPT-4等突破性技术,带读者轻松读懂NLP发展脉络,掌握AI核心,启未来之旅! 2、书中含有多个插图及结构图,以生动的笔触、缤纷的图画,让技术细节变得轻松愉快,让读者能够轻松读懂知识,有趣,又有料! 3、配有丰富学习资料,提供源代码,带读者动手实操,搭建大模型,成为语言模型构建达人。<br/>【作者】<br/>黄佳,笔名咖哥,新加坡科技研究局人工智能研究员。主攻方向为 NLP 大模型的研发与应用、持续学习、AI in FinTech。黄佳深耕人工智能领域多年,积累了丰富的科研项目和政府、银行、能源、医疗等领域 AI 项目落地实战经验,目前正与 PlatoX.AI 展富有前景的技术合作。曾著有《零基础学机器学习》《数据分析咖哥十话》等多部热销书。同时,在极客时间设专栏《零基础实战机器学习》《LangChain 实战课》,在深蓝学院设视频课程“生成式预训练语言模型:理论与实战”。<br/>
目录展开

内容提要

前 言

资源与支持

序章 看似寻常最奇崛,成如容易却艰辛

GPT-4:点亮人工通用智能的火花

人工智能演进之路:神经网络两落三起

现代自然语言处理:从规则到统计

何为语言?信息又如何传播?

NLP是人类和计算机沟通的桥梁

NLP技术的演进史

大规模预训练语言模型:BERT与GPT争锋

语言模型的诞生和进化

统计语言模型的发展历程

基于Transformer架构的预训练模型

“预训练+微调大模型”的模式

以提示/指令模式直接使用大模型

从初代GPT到ChatGPT,再到GPT-4

GPT作为生成式模型的天然优势

ChatGPT背后的推手——OpenAI

从初代GPT到ChatGPT,再到GPT-4的进化史

第1课 高楼万丈平地起:语言模型的雏形N-Gram和简单文本表示Bag-of-Words

1.1 N-Gram模型

1.2 “词”是什么,如何“分词”

1.3 创建一个Bigram字符预测模型

1.4 词袋模型

1.5 用词袋模型计算文本相似度

小结

思考

第2课 问君文本何所似:词的向量表示Word2Vec和Embedding

2.1 词向量 ≈ 词嵌入

2.2 Word2Vec:CBOW模型和Skip-Gram模型

2.3 Skip-Gram模型的代码实现

2.4 CBOW模型的代码实现

2.5 通过nn.Embedding来实现词嵌入

小结

思考

第3课 山重水复疑无路:神经概率语言模型和循环神经网络

3.1 NPLM的起源

3.2 NPLM的实现

3.3 循环神经网络的结构

3.4 循环神经网络实战

小结

思考

第4课 柳暗花明又一村:Seq2Seq编码器-解码器架构

4.1 Seq2Seq架构

4.2 构建简单Seq2Seq架构

小结

思考

第5课 见微知著开慧眼:引入注意力机制

5.1 点积注意力

5.2 缩放点积注意力

5.3 编码器-解码器注意力

5.4 注意力机制中的 Q、K、V

5.5 自注意力

5.6 多头自注意力

5.7 注意力掩码

5.8 其他类型的注意力

小结

思考

第6课 层峦叠翠上青天:搭建GPT核心组件Transformer

6.1 Transformer架构剖析

6.1.1 编码器-解码器架构

6.1.2 各种注意力的应用

6.1.3 编码器的输入和位置编码

6.1.4 编码器的内部结构

6.1.5 编码器的输出和编码器-解码器的连接

6.1.6 解码器的输入和位置编码

6.1.7 解码器的内部结构

6.1.8 解码器的输出和Transformer的输出头

6.2 Transformer代码实现

6.3 完成翻译任务

6.3.1 数据准备

6.3.2 训练Transformer模型

6.3.3 测试Transformer模型

小结

思考

第7课 芳林新叶催陈叶:训练出你的简版生成式GPT

7.1 BERT与GPT争锋

7.2 GPT:生成式自回归模型

7.3 构建GPT模型并完成文本生成任务

7.3.1 搭建GPT模型(解码器)

7.3.2 构建文本生成任务的数据集

7.3.3 训练过程中的自回归

7.3.4 文本生成中的自回归(贪婪搜索)

7.4 使用WikiText2数据集训练Wiki-GPT模型

7.4.1 用WikiText2构建Dataset和DataLoader

7.4.2 用DataLoader提供的数据进行训练

7.4.3 用Evaluation Dataset评估训练过程

7.4.4 文本生成中的自回归(集束搜索)

小结

思考

第8课 流水后波推前波:ChatGPT基于人类反馈的强化学习

8.1 从GPT到ChatGPT

8.2 在Wiki-GPT基础上训练自己的简版ChatGPT

8.3 用Hugging Face预训练GPT微调ChatGPT

8.4 ChatGPT的RLHF实战

8.4.1 强化学习基础知识

8.4.2 简单RLHF实战

小结

思考

第9课 生生不息的循环:使用强大的GPT-4 API

9.1 强大的OpenAI API

9.2 使用GPT-4 API

小结

思考

后记 莫等闲,白了少年头

累计评论(0条) 0个书友正在讨论这本书 发表评论

发表评论

发表评论,分享你的想法吧!

买过这本书的人还买过

读了这本书的人还在读

回顶部