【vLLM 学习】Encoder Decoder Multimodal
vLLM 是一款专为大语言模型推理加速而设计的框架,实现了 KV 缓存内存几乎零浪费,解决了内存管理瓶颈问题。更多 vLLM 中文文档及教程可访问 →go.hyper.
Agent 开发(一):LLM 是什么?
上一篇 Agent 开发到底该学什么[1] 里,我把学习路线拆成了十块,第二块是「LLM 基础认知」。这一篇就把这块讲透。目标很朴素:看完之后,你能回答三个问题——这个需求,LLM 到底能不能做?它为什么会产生幻觉、为什么会忘记、为什么同样的输入两次结果不一样?
平均成功率91%!苹果研究团队披露机器人“大脑”进展:调用千问模型在宇树G1上验证
苹果研究团队披露机器人“大脑”研究进展。当地时间11月4日,苹果研究团队在预印本平台arXiv提交论文《Perceptive Humanoid Motion from Simulation》,披露了人形机器人自主控制系统HALO。
ChatGPT 的底层,到底是怎么"读懂"一句话的?一篇讲透 Transformer
先做一道小学英语题。"The keys to the cabinet near the door ____"(钥匙放在门边的柜子里),空格里该填 is 还是 are?答案是 are。主语是 keys(复数),哪怕离空格最近的 cabinet 和 door 都是单数。
三万字长文:大语言模型从零入门
从图灵测试到香农的熵,从单个神经元到千亿参数,这篇文章用猜数字和接龙游戏串起大语言模型的完整原理。人脑里没有反向传播,没有 Q、K、V,思考时也不是一个 token 一个 token 地往外蹦;
大模型下个范式:文本生成先写提纲,速度能快31倍
他们把 NeurIPS 2024 最佳论文 VAR 在图像上的「下一尺度预测」配方搬进文本,让模型先并行写出几句话的「概念大纲」,再逐层并行填充细节,直到还原成完整文字。
Transformer 的编码器与解码器:一文分清"读"和"写"
一个负责"读懂输入",一个负责"逐词写出答案"|续《什么是 Transformer?
netty 使用文档
基于 Netty 4.1.x(当前生产标准版本线,示例兼容 4.1.122)整理,2026-10。[选项] 表示可选参数。常用组件与工具类前置;每章附场景 Demo 与注意事项(重点标注线程卡死、内存泄漏等生产事故级风险)。一、版本选择与 Maven 依赖1.
硬科技早报|上微光刻机亮相进博;中移动千亿投算力;苹果在宇树上做验证
【11月8日观网硬科技早报】1.上海微电子新一代前道光刻机平台模型亮相进博会11月5日至10日,第九届进博会在上海举行,上海微电子装备集团自主研发的新一代前道干式光刻机通用技术平台模型正式亮相。