xgboost 理解
为了理解 XGBoost，我们需要对监督分类、决策树和提升算法等更广泛的概念有所了解，这些内容将在本章中详细介绍。首先，让我们简要回顾一下…… 本文将介绍监督学习及其方法可以应用于哪些类型的问题。监督学习的核心（XGBoost 可以…
阅读全文 ↗10 分钟
文章
机器学习、AI 实践，以及一些生活中的思考。
Claude code
pending = 排队等待，running = 正在干活，completed = 干完了，failed = 干砸了
阅读全文 ↗1 分钟
PPO 与 DPO：两种对齐方法的理解
PPO（Proximal Policy Optimization） 是一种强化学习算法，常用于训练在连续动作空间（如机器人关节或游戏角色控制）中的智能体。其核心目标是稳定且可靠地提升智能体的决策策略（policy）。 PPO 的核心…
阅读全文 ↗2 分钟
Python的进程、线程、协程
理解进程、线程和协程之间的区别，以及如何有效地利用它们，至关重要。 Process
阅读全文 ↗1 分钟
ballTree
当你想要计算出某一点和所有库存点中距离最近的一个点时，最简单的方法无非就是遍历，暴力计算所有点的距离，最小的即是当前所要找的点。但是这样涉及到一个问题，这个点都需和全量的所有点进行计算，这样会费时间和计算资源， 而balltree正…
阅读全文 ↗2 分钟
量化——下
量化与精度优化 模型结构优化决定“做什么计算”，而计算效率高度依赖数值精度——优化框架的第二维。 数值精度决定权重与激活的表示方式，直接影响内存使用、计算效率和功耗。许多最先进的模型使用高精度浮点格式如 FP32（32 位浮点），虽…
阅读全文 ↗12 分钟
怎么跟豆包说话，它才听得懂？
什么是提示词？ 过年时，我发现家里人虽然知道“豆包”这样的智能助手，但真正用的时候总觉得它不好使，输出的内容总是“差点意思”。 其实，要让豆包回答得更贴心、更准确，靠的不是运气，而是会用提示词。 提示词（Prompt）就是对任务的描…
阅读全文 ↗5 分钟
机器学习基础知识
构建机器学习模型包括数据收集和准备、选择合适的算法、在准备好的数据上训练模型，以及通过测试和迭代评估其性能。 训练数据 -- 机器学习算法 -- 模型 机器学习过程始于训练数据的收集和处理。糟糕的数据通常被称为 “垃圾进 ， 垃圾出…
阅读全文 ↗4 分钟
深度学习基础知识
深度学习领域的灵感来源于大脑的结构和功能。它运用人工神经网络，这是一种旨在模仿人脑处理信息方式的计算模型。 神经网络 深度学习的核心是神经网络。就像我们的大脑由相互连接的神经元组成一样，神经网络也由许多称为节点的微小单元连接而成。这…
阅读全文 ↗2 分钟
Generative AI Fundamentals 生成式人工智能基础知识
生成式人工智能基础知识 机器学习技术已经存在数十年了，这不禁让人发问：是什么促成了生成式人工智能的兴起？答案其实很简单：巨额资源投入。组建庞大的团队、投入计算资源，以及至关重要的——愿意投资并开发创新理念，这些都是生成式人工智能崛起…
阅读全文 ↗10 分钟
记录
To summarize, an Agent is a system that uses an AI Model (typically an LLM) as its core reasoning engine, to: 总而言之，智…
阅读全文 ↗4 分钟
SARSA 是什么？和 Q-learning 的区别
什么是 SARSA？ SARSA（状态-动作-奖励-状态-动作）是一种策略强化学习（RL）算法，它通过与环境交互帮助智能体学习最优策略。智能体探索环境，采取行动，接收反馈，并持续更新其行为以最大化长期奖励。 和其他算法（如 Q-le…
阅读全文 ↗5 分钟
模型量化
量化 Float 转 int 的过程就是量化，在这个转换过程中想办法尽量减少量化后的模型的误差 为什么需要量化？ 想象你有一张图片，但是你手机内存不够了，那怎么办，只有两个办法，要么压缩图像大小，要么压缩像素点数量。量化就是在确保还…
阅读全文 ↗2 分钟
LoRA，P-Tuning 微调原理
微调基础概念 在大语言模型中，微调是一种帮助模型学会新知识的一种方式。如果你的微调数据集包含了特定领域的新信息，模型在训练过程中就会学习这些内容，并将其融入到自己的响应中。事实上，微调确实能够教会模型新的知识与规律。 训练范式与 R…
阅读全文 ↗5 分钟
强化学习--DQN
强化学习--DQN 什么是 DQN？ DQN 流程图 本质上 DQN 仍然是一个 Q 网络，只不过由原来的 Q 表转换为了神经网络，但他的目标依然还是最大化动作价值函数， 下棋根据 S 来决定下一步，需要策略，然后需要通过数学计算计…
阅读全文 ↗10 分钟
浅显易懂 理解 蒙特卡洛树搜索（MCTS）
蒙特卡洛方法（Monte Carlo Method）是一类利用随机抽样来近似解决复杂数学或计算问题的方法。核心思想是： 当一个问题的搜索空间太大、太复杂、传统分析或精确计算难以进行时，可以通过大量随机样本来估计整体的统计特性，从而获…
阅读全文 ↗6 分钟
GPT都在用的估计法，最大似然估计（MLE）
什么是最大似然估计？ 最大似然估计，简单讲，就是一种“贴合”的方法。 贴合什么？贴合模型参数与真实数据之间的关系。 在理解它之前，先看一个基本概念： 在一个模型里，只要给定输入数据并指定一组参数，模型就会生成对应的输出，也就是预测结…
阅读全文 ↗3 分钟
不搞公式！轻松看懂生成式 vs 判别式，联合/条件概率、贝叶斯思维（白话讲解）
什么是生成式？ 生成式模型会从大量样本中学习这些数据“是怎样被产生的”。它通过分析数据背后隐藏的生成规律，既能理解已有样本，也能按照这些规律“创造”新的数据。 因为它学的是生成规律，所以它不仅能理解已有样本，还能创造出符合原来规律的…
阅读全文 ↗7 分钟
L1，L2正则化
为什么我们需要正则化？ 正则化是在模型训练时抑制模型过拟合，提升模型的性能的一种方式，同时它还能提高稳定性、减少噪声影响、提升泛化。 什么是过拟合？ 过拟合就是模型在训练集上表现很好，但在测试集上表现很差，说明它可能不是在学习规律，…
阅读全文 ↗7 分钟
图结构思维的演进：从概率图模型到 LangGraph
什么是图？ 图是一种关系型的语言表达方式，它是一个抽象的概念，用它我们可以很好的表达事物之间的关系 核心概念： 节点：表示事物，比如“天气”、“状态” 边： 表示关系，比如“因果”、“联系” 而有向图无向图的核心区别，就是要看这个边…
阅读全文 ↗5 分钟
标准化、归一化、有量纲无量纲
什么是 有/无 量纲？ 量纲是一个类别，并不是一个具体的单位，它是具有宽泛性的，可以表述为时间，而时、分、秒为具体的单位数值。 有量纲就是有单位，比如时间（s），距离（m），速度（v=m/s） 这种可测量的，大小和单位有关的就叫做有…
阅读全文 ↗3 分钟
强化学习---马尔可夫决策过程
马尔可夫性 随机过程是一个很浅显的概念，是一个随机的现象随着时间的变化而随机进行演变的过程，比如气候，马尔可夫性说的是——当前状态 St 已经充分包含了所有会影响未来的信息，不需要再知道 S\{t-1}， S\{t-2}， … 的具…
阅读全文 ↗5 分钟
Agent Skills是个啥？
Agent Skills是个啥？ 熟悉Linux(所有类unix系统)的开发者都知道，在linux中，一切都是文件，无论是磁盘上的文本、设备、网络接口、进程通信、甚至内核状态信息。因此所有的动作都可以通过相同的操作系统调用（open…
阅读全文 ↗3 分钟
融入个人理解的强化学习 Q-learning 理论及简单实现
什么是 Q-learning 算法？ 假设我们在开发一款井字棋游戏，我们都知道井字棋由九宫格组成，及 3\3 的网格，我们想训练一款能够利于不败之地每步都精准定位的 AI，这个时候就可以用到 Q-learning 算法， 原理 Q …
阅读全文 ↗5 分钟
强化学习基础
强化学习（Reinforcement Learning，简称 RL）是机器学习的一个重要分支，其核心思想是让智能体（Agent）在一个环境中通过不断地试错和学习，来最大化某个奖励信号。中国象棋，作为一项策略性极强的双人博弈游戏，是理…
阅读全文 ↗6 分钟
面试模板
条目 --- 微调 RAG Agent
阅读全文 ↗1 分钟
一文搞定迁移学习（下）：BERT ，nlp 的语义觉醒之路
当前背景： 自然语言处理的核心任务之一，是把人类文字变成计算机能“看懂”的数值。早期最朴素的做法是 One-Hot 编码：词表有多大，向量就有多长，每个词独占一维 1，其余全是 0。它简单、易实现，却带来三重麻烦：维度灾难、内存浪费…
阅读全文 ↗13 分钟
一文搞定迁移学习（上）：核心思想与通用流程
核心观点 - 定义：迁移学习 （Transfer Learning） 是一种机器学习技术，它将一个在大型数据集（源任务）上预训练好的模型，应用到一个新的、相关的目标任务（通常数据量较少）上。 - 目标：解决目标任务训练数据不足的问题…
阅读全文 ↗5 分钟
CNN 卷积神经网络
在最基础的神经网络中，常见的连接方式是全连接层，即上一层的每一个神经元都与下一层的每一个神经元相连。然而这种方式在处理图像时存在明显局限。首先，它需要将图像展平成一维向量，导致参数量极其庞大，计算开销巨大；其次，它无法保留图像的空间…
阅读全文 ↗3 分钟
简单科普一个有监督算法 KNN！
简单科普一个有监督算法 KNN！ 搬家后的第一课：邻居告诉我的生活智慧 开场：新小区的选择困难症 刚搬到新小区，面对陌生环境，什么都不熟悉： - 哪家超市东西新鲜？ - 哪个菜市场便宜实惠？ - 哪家餐厅值得一试？ - 孩子上哪个兴…
阅读全文 ↗5 分钟
简单科普什么是机器学习无监督两兄弟
开头引入 你有没有想过，为什么淘宝总能精准推荐你想要的商品？为什么地图 App 能准确识别拥堵路段？背后的秘密就是聚类算法！ 今天我们用最简单的方式，揭秘两大经典聚类算法的奥秘。不需要复杂的数学公式，只要你上过学、加过微信群，就能秒…
阅读全文 ↗6 分钟
简单科普什么是机器学习
机器学习作为人工智能（AI）的一个子集，主流范式通常概括为三大类，那就是有监督学习、无监督学习及强化学习。细分的话行业里还有半监督学习、自监督学习、迁移学习等分支，感兴趣可自行了解… 机器学习核心定义 让计算机从数据中自动学习规律，…
阅读全文 ↗5 分钟
一个有点意思的小科普--你的电脑的图像是怎么呈现的
随着科技的发展，我们的生活有了游戏的存在，而你在电脑里看到的任何 3D 物体，无论是游戏里的角色，还是电影里的飞船，其本质都是由无数个微小的三角形“面片”拼接而成的。 第一步：定位 - “三维空间”中的每个点都需要坐标 三角形有三个…
阅读全文 ↗9 分钟
Trae solo，初体验
在某一个月黑风高的傍晚，知道了 trae 出新玩意了，还得是高贵的 pro 用户才能体验，刚好上个月自动续费的 pro 没到期，正好可以体验一波。。。 结果一打开天塌了，这 tmd，得等个三小时不能睡觉。。。 不辱使命也是 到手了，…
阅读全文 ↗4 分钟
kiro? 一键轻松白嫖 Claude 4，送安装包！！！
这是一款类似 vs code 的 IDE，但是可以免费白嫖满血版 claude 4，而且功能直逼 cursor，碍于 cursor 的抽象收费，以及不适应 cc 终端，喜欢 IDE 的朋友值得下载体验一波。 支持 windows，l…
阅读全文 ↗1 分钟
Kimi 王炸 Kimi-Researcher！开玩！
第一部分：开聊：Kimi-Researcher——是个啥？ 1.1 它是谁？是干嘛的？ 都说 2025，agent 智能体年，各家厂商都在疯狂内卷，在这样浪潮驱动下，qwen、豆包、claude、gemini 等各家都在不断推进技术…
阅读全文 ↗8 分钟
机器学习（无监督篇）
k个簇 初始化k个点，随机初始化，基于这两个点 算其他点是蓝的还是红的 算距离，比如到x，x2趋势，距离越小越相似，做一个便利 所有点都算，大量迭代，离红的近就是红的，离蓝的近就是蓝的 效果不好--更像 质心随机不准，所有红点重新计…
阅读全文 ↗3 分钟
五分钟 傻瓜式部署 N8n 以及汉化，开玩！！！
n8n 是什么意思？ 它的意思是“节点”，发音为 n-eight-n。顾名思义，是个工作流。 Dify 与 n8n 核心功能与定位 Dify 作为专注于大型语言模型（LLM）应用开发的平台，其核心在于简化 AI 应用的创建，包括可视…
阅读全文 ↗6 分钟
A2A （Agent-to-Agent） 协议
什么是 A2A？ A2A，即 Agent-to-Agent，是一种多智能体协作架构。从字面意思看，A2A 就是多 Agent 协作，但这里存在一个重要的理解误区：多 Agent 并不代表各个 Agent 之间直接相互协作，而是需要通…
阅读全文 ↗8 分钟
一文讲清楚 Prompt、MCP、Function Call、Agent 和 LLM 之间的关系和区别
一文讲清楚 Prompt、MCP、Function Call、Agent 和 LLM 之间的关系和区别 想象一下，你要计划一次完美的旅行，这里有一位专业的旅行顾问（LLM），你们的沟通方式（Prompt），他能联系的各种服务商（Fu…
阅读全文 ↗6 分钟
Python 环境管理入门指南
本文的编写目的是帮助 Python 初学者理解 Python 环境配置的相关知识，重点介绍使用 Anaconda 和直接安装 Python 来管理项目环境的区别，帮助大家更好理解代码编辑器与环境之间的联系与区别。 Python 解释…
阅读全文 ↗11 分钟
RAG与微调对比
RAG 与微调：对比分析 - RAG： 在查询时使用外部知识增强 LLM；更适合动态知识，并且以更具成本效益的方式整合新信息 。 - 微调： 在特定数据集上进一步训练 LLM，使其适应特定任务或领域；更适合学习数据集中的特定风格或模…
阅读全文 ↗4 分钟
RAG基础-概述和面临的问题
RAG基础-概述和面临的问题 RAG是什么？ RAG（Retrieval-Augmented Generation）可称为 检索 增强 生成。 检索增强生成是指对大型语言模型输出进行优化 使其能够在生成响应之前引用训练数据来源之外的…
阅读全文 ↗6 分钟
健康人生的困境与觉醒：为何我们总觉一事无成，只因出发点错了
你是否曾在深夜辗转反侧，心中萦绕着一个挥之不去的问题：为什么我如此努力，却依然感到一事无成？你努力遵循着所有人生"应该"的轨迹，却在某个瞬间，被一种深深的空虚感击中。这不是你的错——这是我们集体被误导的旅程。 原初创伤：被偷走的童年…
阅读全文 ↗7 分钟
Git 协作开发完整操作手册
Git 协作开发完整操作手册 Git 团队协作速成指南：10分钟从菜鸟到高手 团队开发中，Git 是每位程序员必备的技能。但对于新手来说，各种分支、拉取、推送的操作常常让人望而生畏。别担心，这份实操指南将带你清晰理解整个协作流程，让…
阅读全文 ↗5 分钟
别再被AI割韭菜了！技术与智慧的平衡艺术
别再被AI割韭菜了！技术与智慧的平衡艺术 如同一棵树越想茁壮成长、枝繁叶茂，就越要在黑暗中向下扎根；一个人越想在AI洪流中保持清醒，就越需要在喧嚣之外寻找真知。 作为一名潜心研究不断学习AI进行应用开发的AI工程师，我常在朋友圈看到…
阅读全文 ↗7 分钟
共 46 篇记录，也可以在文章地图中按主题浏览。