浅谈大语言模型推理相关技术之一:综述
引言
随着ChatGPT应用的爆火出圈,大模型相关的技术被广泛关注。利用大模型技术来生成文字、图像、音频、视频、3D模型等多种模态数据的应用也层出不穷,诸如ChatGPT(文字)、Midjourney(图像)、Suno(音频)、Sora(视频)、Meshy(3D)等。同时,融合文本、图像、视频、音频等多种模态数据的大模型研究也日益增多。这些大模型以其庞大的参数量著称,对计算和内存资源的需求巨大,给模型训练和推理部署带来了挑战。
随着ChatGPT应用的爆火出圈,大模型相关的技术被广泛关注。利用大模型技术来生成文字、图像、音频、视频、3D模型等多种模态数据的应用也层出不穷,诸如ChatGPT(文字)、Midjourney(图像)、Suno(音频)、Sora(视频)、Meshy(3D)等。同时,融合文本、图像、视频、音频等多种模态数据的大模型研究也日益增多。这些大模型以其庞大的参数量著称,对计算和内存资源的需求巨大,给模型训练和推理部署带来了挑战。
数据库中的索引我们都是知道,最常见的就是用B+数来索引我们存储在数据库中的数据。顾名思义,空间索引就是一种用来索引空间数据(例如2维数据)的索引结构。
一年又过去了,希望自己可以每年都写一篇总结,曾子说“吾日三省吾身”,我做不到每天反省自己,但希望自己至少一年能总结一下自己。
这一年一直坚持读书,也看过一些电影,希望把自己看过的书和电影简单归纳一下,推荐少量我觉得最值得一看的书和电影。
前两天配置了一台 CentOS 7 的服务器双网卡双IP,一个内网IP,一个外网IP。这样为这台服务器配置转发规则,内网网段的所有机器都可以通过它作为网关转发来上网了。
ACR122U 是一种基于13.56MHz非接触式的智能卡读写器,详细资料可以参考官方网站。
前段时间本来想要更新一台 Centos 5.5 服务器SSH,所以打算先 yum remove openssl,当时也是粗心大意,没仔细看卸载所依赖的包,结果没曾想把系统的一些 bash 指令都卸载掉了,什么 ls、cp 这些基本指令都不能用了,顿时人就傻了,当时是远程 ssh 连接到服务器的,当时都不敢断开连接,知道断开连接肯定就连不上了,最后还是断开连接了。
伴随大数据系统基础课程项目展示结束,就完成了本学期的所有课程,同时2015年也快结束了,觉得该说点什么了。