2023年11月20日 每日一猜答案：。 答案：ABC。
每日一猜答案分析：

机器学习学习后的数据通常存放在模型参数中，这些模型参数可以被保存在磁盘上或者在内存中保持活动状态以进行推理。

在训练过程中，模型使用训练数据来更新模型参数，这些参数在模型中被保存并用于进行预测。一旦模型训练完成，模型参数可以保存在磁盘上，以便将来进行推理或者使用。

保存模型参数通常有多种方式，例如：

1. 保存为二进制文件：可以将模型参数保存为二进制文件，这样可以在需要时轻松地加载模型并进行推理。
2. 保存为文本文件：也可以将模型参数保存为文本文件，这种方式可能更易于理解和解释。
3. 保存为数据库：还可以将模型参数保存在数据库中，这样可以轻松地存储和管理多个模型。

无论使用何种方式保存模型参数，都需要考虑到数据的安全性和保密性。因为这些参数可以用于生成预测结果，所以需要采取适当的安全措施以保护这些数据。

在机器学习中，模型参数是模型内部用于描述数据的变量。这些变量通常是在训练期间学习到的，以最小化模型预测与真实数据之间的误差。

具体来说，模型参数可以是权重、偏差或者其他可调整的变量。这些参数通过在训练数据上进行迭代来不断调整，以使模型更准确地预测新的数据。

例如，在神经网络中，模型参数是每个神经元的权重和偏差。在线性回归中，模型参数是回归系数和截距。在支持向量机中，模型参数是决策边界和支持向量。

这些模型参数可以用数值来表示，并且在训练过程中会不断调整以使模型更准确地预测新数据。在训练结束后，这些参数将用于进行预测，以便根据新数据的输入来生成相应的输出。

其中模型参数是变量数据还是常量数据？

在深度学习中，模型参数是变量数据，而不是常量数据。在模型训练过程中，模型参数的值是随着训练迭代而不断更新的，这些更新是通过计算损失函数梯度来实现的。因此，模型参数是在训练过程中不断变化的。在训练完成后，这些变量数据会被保存为模型的参数，供后续的推理或使用。但是，在推理或使用过程中，这些参数仍然可以被修改或更新，以适应不同的应用场景或任务。因此，模型参数是变量数据，而不是常量数据。

模型参数到底是一种什么样的参数，里面具体含有哪些数据？

在深度学习中，模型参数指的是神经网络中的权重和偏置，这些参数是用来定义模型的基本结构和特征表示能力的。

具体来说，模型参数包括两部分数据：权重和偏置。

1. 权重（Weights）：指的是神经网络中连接不同层之间的权重值，也称为连接权重（connection weights）。权重值是神经网络中非常重要的参数，决定了输入和输出之间的映射关系。在前向传播过程中，权重值被用来计算每个神经元的输出。在训练过程中，权重值是模型需要优化的参数之一。
2. 偏置（Biases）：指的是神经网络中每个神经元的偏置值，也称为偏移量（offset）。偏置值通常被添加到权重值乘以输入值的结果中，用来引入非线性变换。偏置值在训练过程中也是需要被优化的参数之一。

在深度学习中，模型参数的数量通常非常庞大，可能有数百万甚至数亿个参数，这也是深度学习需要大量数据和计算资源的原因之一。这些模型参数在训练过程中通过反向传播算法不断更新和优化，最终得到的模型参数可以用来进行预测、分类、生成等任务。

模型参数是否含有文本数据？

在深度学习中，模型参数通常不包含文本数据。模型参数是一些数值数据，它们的值被优化来使模型能够更好地拟合训练数据并具有更好的泛化能力。这些数值数据是由机器学习算法根据训练数据和损失函数计算得到的。

然而，在自然语言处理（NLP）中，通常需要将文本数据转换为数值数据，以便将其输入到深度学习模型中。这通常通过将文本数据进行词向量化、字符向量化、句子向量化等方式来实现，以便深度学习模型可以对其进行处理和学习。这些向量化操作的结果可能被用作模型的输入数据，而不是作为模型参数。因此，虽然深度学习模型可以处理文本数据，但模型参数本身通常不包含文本数据。

在自然语言处理中，中文的字通常存储在计算机中的内存或者磁盘上，以便进行处理和分析。

中文的字是使用Unicode编码进行表示的，每个中文字符都由多个Unicode码点组成。Unicode是一种字符编码标准，它将世界上所有的字符映射到唯一的数字标识符上。在计算机中，中文的字通常使用UTF-8编码进行存储。

对于文本处理任务，比如中文文本分类、中文文本生成等，中文的字可以存储在内存中的对于文本处理任务，比如中文文本分类、中文文本生成等，中文的字可以存储在内存中的字符串类型变量或者列表中。对于较大的文本数据集，中文的字也可以存储在硬盘上的文本文件中，并使用相应的读取方式将其加载到内存中进行处理和分析。

在中文的自然语言处理中，通常需要对中文的字进行分词、词性标注、命名实体识别等预处理操作，以便更好地理解和处理中文文本数据。在这些预处理操作中，中文的字也可以被存储在内存中的数据结构中，例如字典、数组、链表等，以便进行高效的数据访问和处理。

ChatGPT3.5是一个深度学习模型，它的训练需要使用大量的数据来进行参数优化和模型训练。据报道，ChatGPT3.5使用了45TB的数据进行训练，这些数据是如何存入模型的呢？

在训练过程中，数据通常会被分批次加载到模型中进行处理和优化。由于数据量非常大，不可能一次性将所有数据都加载到内存中。因此，ChatGPT3.5使用了分布式训练的方法，将训练数据分配到多个计算节点上进行并行处理。

具体来说，ChatGPT3.5使用了特殊的分布式数据存储系统，将45TB的数据存储在多个计算节点上的本地硬盘或者网络存储设备中。在训练过程中，数据会被分批次地读取到内存中的缓存区域中，供模型进行处理和优化。

在分布式训练过程中，多个计算节点上的模型参数会定期地进行同步，以确保所有节点上的模型参数保持一致。这可以通过使用特殊的同步算法和网络通信机制来实现。

总之，对于如此大规模的数据集，ChatGPT3.5使用了分布式存储和并行计算的技术，将数据存储在多个计算节点上，并使用分布式训练方法进行模型优化和训练。

再细节一些的话，ChatGPT3.5的45TB数据是如何存储和处理的，具体如下：

1. 存储介质：ChatGPT3.5的训练数据被存储在多个服务器的本地硬盘或网络存储设备上，采用分布式文件系统（如HDFS）进行管理和存储。
2. 数据格式：ChatGPT3.5的训练数据是由大量文本数据组成，这些文本数据通常以文本文件的形式进行存储，每个文件包含若干行文本，每行文本是一个训练样本。
3. 数据预处理：在训练之前，需要对数据进行一定的预处理，例如分词、去噪、去重、统计词频等操作，以提高训练效果和速度。
4. 数据分片：为了提高训练效率和并行性，ChatGPT3.5将训练数据分成多个分片（shard），每个分片包含若干个文件，每个文件包含若干行文本。
5. 数据读取：在训练过程中，每个计算节点从分布式存储系统中读取对应的分片数据，并将数据加载到内存中进行处理。
6. 数据处理：ChatGPT3.5使用多线程和异步IO的方式，对训练数据进行并行处理，以提高训练效率。具体地，每个线程从内存中读取一定数量的数据样本，并将其转化为张量（tensor）形式进行处理。
7. 数据同步：为了确保模型参数在多个计算节点上保持一致，ChatGPT3.5使用了特殊的同步算法和网络通信机制，定期将各个节点上的模型参数进行同步。

综上所述，ChatGPT3.5在训练时需要处理海量的文本数据，采用了分布式存储、分片、并行计算和参数同步等技术，以实现高效的训练过程。

在深度学习中，张量（tensor）是一种多维数组（或矩阵）的数据结构，是深度学习算法中最基本的数据类型之一。张量的每个元素都是一个实数或整数。

在ChatGPT3.5的训练过程中，由于涉及到大量的矩阵计算和神经网络的搭建，因此需要将训练数据转化为张量形式，方便进行计算。

在具体实现上，ChatGPT3.5使用了深度学习框架来进行模型的搭建和训练，例如TensorFlow、PyTorch等。这些框架提供了丰富的张量操作接口，可以快速地实现各种神经网络模型和算法。

在使用这些框架时，张量通常需要定义为特定的数据类型和形状，例如浮点型张量、整型张量、二维张量、三维张量等等。通过这些定义，可以对张量进行各种数学运算和神经网络操作，例如加减乘除、卷积操作、池化操作、归一化操作等等。

总之，在深度学习中，张量是一种非常重要的数据结构，它的高效处理和操作是实现深度学习算法的关键。ChatGPT3.5的训练数据经过预处理后被转化为张量形式，供模型进行处理和优化。

ChatGPT3.5模型训练后的模型文件非常大，达到了数百GB甚至数TB的规模。具体的模型大小取决于模型的参数数量和存储格式等因素。

根据OpenAI官方的描述，ChatGPT3.5模型使用了16位和32位浮点数混合精度（mixed precision）训练，并采用了分布式训练策略，以加快训练速度和提高训练效果。在训练过程中，模型参数被存储在多个GPU的显存中，以提高训练的效率。

在训练结束后，ChatGPT3.5模型需要被保存到硬盘中，以便后续的推理和应用。根据OpenAI的文献和官方描述，ChatGPT3.5的最终模型文件大小为约350GB，这包括了所有的模型参数、配置文件以及相关的元数据信息。这个大小仅仅是一个粗略的估计，具体的文件大小可能会因为不同的存储格式、压缩算法和硬件平台等因素而有所不同。

总之，由于ChatGPT3.5模型参数数量巨大，训练和保存的过程需要大量的计算和存储资源。这也是为什么只有像OpenAI这样的巨头公司才有能力进行这样规模的模型训练和研究。

ChatGPT3.5的最终模型文件大小为约350GB，其中包含了以下几类数据：

• 模型参数

模型参数是模型训练的核心，也是模型文件中占用空间最大的部分。ChatGPT3.5模型中的参数包括了模型的所有权重、偏置、卷积核、池化核等等，这些参数对应着深度神经网络中的连接权重。ChatGPT3.5模型共有1750亿个参数，这是一个巨大的数字，需要大量的存储空间来存储这些参数。这些参数是模型的核心，直接影响模型的性能和效果。

• 配置文件

配置文件是模型的一些基本配置信息，例如模型的输入和输出形状、激活函数类型、损失函数类型、优化器类型等等。这些配置信息可以帮助用户了解和使用模型。ChatGPT3.5模型的配置文件通常是以JSON格式存储的，可以使用文本编辑器或相关工具进行编辑和查看。

• 元数据信息

元数据信息包括了模型的一些附加信息，例如训练的迭代次数、学习率、批量大小等等。这些信息可以帮助用户了解模型的训练过程和性能。在ChatGPT3.5模型中，元数据信息通常是以文本文件的形式存储的。

• 模型格式转换工具

由于ChatGPT3.5是在特定的深度学习框架下训练的，因此在不同的框架或平台上使用时，可能需要将模型格式进行转换。因此，模型文件中可能包含了一些格式转换工具或代码。例如，OpenAI提供了一个名为TorchScript的工具，可以将PyTorch模型转换为可在C++或Java等环境下使用的格式。

• 其他附加信息

除了上述数据之外，模型文件中可能还包含了一些其他的附加信息，例如模型的版本号、作者信息、使用条款等等。这些信息通常是以文本文件的形式存储的，可以使用文本编辑器或相关工具进行编辑和查看。

总之，ChatGPT3.5的最终模型文件非常庞大，包含了大量的数据和元信息。这些数据可以帮助用户使用和理解模型，但同时也需要大量的计算和存储资源来训练和保存。

深度学习模型通常包含以下几种类型的数据：

1. 模型结构：描述模型的架构，包括模型的层数、每层的类型、每层的参数等。模型结构通常由模型定义代码生成，并且在模型训练和推理过程中不会发生变化。
2. 模型参数：描述模型中各层的权重和偏置等参数。这些参数在模型训练过程中被不断优化，以最小化损失函数，并在推理过程中用于对新数据进行预测。
3. 优化器状态：描述优化器的状态，包括学习率、梯度等信息。这些信息用于在训练过程中更新模型参数。
4. 其他辅助数据：例如词典、词向量、卷积核、偏置项等。这些数据在模型的训练和推理过程中都可能被使用，但不属于模型参数。

需要注意的是，这些数据中的模型结构和模型参数通常是最重要的，它们定义了模型的基本属性和功能，并直接影响着模型的性能和精度。而其他辅助数据通常是用于支持模型训练和推理的辅助性数据，如词向量等。

词向量是一类什么样的数据？

词向量是一类用于表示自然语言中单词或短语的向量，通常被用于自然语言处理（NLP）任务中，如文本分类、情感分析、机器翻译等。词向量的本质是将自然语言中的单词或短语映射到向量空间中，使得相似的单词或短语在向量空间中的距离更近。

常见的词向量模型包括 Word2Vec、GloVe、【【微信】】 等，这些模型通常是在大规模语料库上训练的。在训练词向量模型时，首先需要将语料库中的单词或短语转化为数值向量，然后通过训练模型来学习这些向量的表示方式。训练完成后，词向量通常以嵌入矩阵的形式存储，其中每行代表一个单词或短语的向量表示。

词向量的好处在于可以将自然语言中的语义信息转化为数值信息，从而可以被深度学习模型所使用。通过使用词向量，深度学习模型可以更好地理解文本中的含义，并提高文本处理任务的准确性。

有趣！深挖推特开源算法；ChatGPT封号对策汇总；ControlNet最全教程；搭建ChatGPT应用；构建开源项目阅读工作流 ｜ ShowMeAI日报

ShowMeAI日报，一览AI领域发展前沿，抓住最新发展机会！一起在信息浪潮里扑腾起来吧！

日报&周刊合集 | 生产力工具与行业应用大全 | 点赞关注评论拜托啦！

3月31日，Twitter 对其推荐算法进行了开源。Steven Tey 持续研究这份推荐算法源码，分析出了一些有意思的规律：

1 关注多但是粉丝少的用户被降权 2 TwitterBlue 用户 (付费会员) 被升权 3 推特识别出4个不同的用户群体，以追踪和比较他们的推文给用户留下的印象频率：Power users、Democrat users、Republican users、@elonmusk (已被官方删除) 4 喜欢推文、点击推文并回复/停留超过2分钟、查看个人资料等互动行为，会增加推送概率 5 被投诉、举报、拉黑、禁言等负反馈会降低声誉得分 6 从影响权重的重要程度来看，转发[x738]>> 互评[x150]> 评论[x54]> 点击主页&互动[x24]> 点击超过2分钟[x22]> 喜欢[x1] 7 必要时政府可以对Twitter算法进行干预：GovernmentRequested 8 算法中有专门的板块涉及大选，包括推荐候选人、压制错误信息等 9 搜索 Twitter 两个算法库后，传说中的一些操作技巧并未得到验证：带外链会降权，给推文打标签会升权 10 当前轻排名模型 (Earlybird)中，推文带图像和视频可以获得2倍升权 (但之后可能会改变) 11 TweepCred 高的账户，推文会获得更多的曝光机会 12 推文相关性会随着时间的推移而降低，具体数字是每6小时降低50%

3月31日，Bing Blog 发文梳理了近期的功能更新。除了 New Bing 每天使用次数被提升至 20/200 (每轮对话最多20次，每天最多200次)，本次最大的更新就是集成了图像和视频搜索功能。

图像和视频的搜索结果，将以答案卡的形式显示在聊天答案的下方，点击 See more 即可进一步探索。如果搜索答案不匹配，建议使用 Image Creator 进行创建。

昨天，ShowMeAI 社群不断有小伙伴表示 ChatGPT 账号被封。结合各方消息判断，这次大规模封号的原因是综合的，包括批量注册、节点切换、账号代充、账号共享、使用中文等等。结合社群和网络讨论，给出以下近期的安全操作建议：

1 别用共享账号，自己的账号自己用 2 如无必要，尽量别频繁切换 IP，别频繁切换节点 3 不要使用批量注册的邮箱账号，典型如以 【【微信】】 结尾 4 注册电话号码和充值银行卡走正规渠道，接码平台和代充有风险 5 国内很多镜像站需要你输入 key，谨慎使用 6 非专业人士，别自己调用 API

【【淘密令】】 是微软推出的一款免费 App，使用 AI 技术将生活环境中的视觉体验转换为听觉体验，帮助盲人和低视力人群打开新的世界体验。

【【淘密令】】 提供了各种工具来帮助完成各种日常任务，例如：朗读手机摄像头前的文本、扫描产品条形码并念出商品名称和包装信息、保存人物面孔/年龄/性别并在见面时识别人物和表情、识别货币、跟随摄像镜头描述当前环境、室内导航、识别颜色、识别环境光的亮度、识别并描述其他App中的图像、识别并描述设备中的照片等。

【【淘密令】】 基于 ChatGPT 技术将内容以语音的形式反馈给视障人士，很大程度解决了他们之前日常生活中曾经无法做到的事情。下载

Maeiee 分享了他自己使用AI技术搭建的开源项目阅读工作流，并表示：太幸福了！科技都赋能到这份儿上了，这再不好好学，都过意不去了……

1 使用 Cursor 通过 AI 理解项目源码 2 使用 Obsidian Canvas 建立脑暴笔记，更好地建立知识关联 3 使用 New Bing，哪里不明白，还有这个助手解答。Maeiee

OpenAI 创始人 Sam Altman 的经历可谓传奇：2005年19岁的他成立了位置服务提供商 Loopt，并在2012年以 4300 万美元的估值被收购；2014年他上任 Y Combinator总裁；2019年他与马斯克共同创立 OpenAI。

也正是这一年，意气风发的 Sam 写下了这篇 How To Be Successful 博客，基于他对成千上万初创企业创始人的观察、基于对赚大钱或搞个大事情的思考，整理成了这13条关于成功的认知。

1 选择非线性增长 Compound yourself 2 要有绝对自信 Ha【【微信】】belief 3 学会独立思考Learn to think independently 4 做一个好“销售” Get good at “sales” 5 让自己习惯风险 Make it easy to take risks 6 保持专注 Focus 7 努力工作 Work Hard 8 做大胆的决定 Be Bold 9 执拗一点 Be Wilful 10 找到你的独特竞争力 Be Hard to Compete With 11 建立人际网络 Build a Network 12 资产决定财富 You Get Rich by Owning Things 13 要有内驱力 Be Internally Driven 原文

AI生成图像带来最大的问题就是不可控，随机性过大造成很难真正的产生出可被日常工作环境应用的图像。作者这篇文章，以详细的步骤讲解了 Controlnet 教程，让AI生成的100%可控，大大提高文生图的应用场景。

前期准备工作

1 魔法上网工具2 Stable Diffusion

插件安装步骤

1 启动 Stable Diffusion2 在 Extension tab 进入 Installed 界面，点击 Apply and restart UI 启用 Controlnet3 点击链接 () 进入，下载 【【淘密令】】 至 SD 文件夹：extensions:sd-webui-【【淘密令】】s

插件使用教程

1 点击 SD 界面左下方 Controlnet 选项，打开它. 2 选择 Enable，把生成图像需要模仿的参考动作图拖入框内，点击下方 Pre【【微信】】 就可以看到 controlnet 识别的动作效果. 3 常规参数设置：Preprocessor/model、Weight、Can【【微信】】/Canvas Height、Annotator Resolution. 4 几个Preprocessor：Canny、depth、hed、openpose. 全文

作者首先解释了 ChatGPT、OpenAI、API Key、ChatGPT Plus 等高频词汇的定义，并分享了搭建一个 ChatGPT 应用的核心环节和代码。并且！详细说明了各模型接口的价格，非常详细！仔细看，绝不花冤枉钱！

价格影响因素

• 模型类型
• 模型 Tokens 使用数

Tokens 分词器

• OpenAI Tokenizer
• Tiktokenizer
• openai/tiktoken

接口使用

• Chat completions 文档
• 创建 Chat completion

第三方可靠吗？ 目前市面上有很多支持 API Key 的第三方应用，如果你不了解它的运作方式，大概率会为此支付高昂的接口费用。 全文

订阅合集 #ShowMeAI日报 ，一览AI领域发展前沿，抓住最新发展机会！点击 生产力工具与行业应用大全，一起在信息浪潮里扑腾起来吧！