试题试做

共 11335 道。先按知识点进入练习,也可以从下面的最新题目直接试做。

最新试题 · 第 402 页

模型量化(如 INT4)的主要目的通常是? - A. 提升模型精度 - B. 减小模型体积并加速推理、降低显存占用 - C. 增加训练速度 - D. 改善数据质量 - **答案:** B - **解析:** 量化用更低比特表示权重(FP16→INT8/INT4),可显著减小体积、降低显存与带宽压力,从而加速本地推理。

推测解码主要加速的是推理的哪个阶段? - A. 预填充(prefill)阶段 - B. 解码(decode)阶段 - C. 词表嵌入阶段 - D. 位置编码阶段 - **答案:** B - **解析:** 推测解码针对自回归逐 token 生成的解码阶段做并行化;长上下文的 prefill 延迟主要取决于显存带宽,推测解码帮助有限。

llama.cpp 合入 MTP 后,在支持的模型上大致能带来什么效果? - A. 预填充速度翻倍 - B. 解码阶段吞吐约翻倍 - C. 显存占用减半 - D. 模型精度提升 - **答案:** B - **解析:** 社区基准显示,在 Qwen3 27B/35B 等支持 MTP 的模型上,正确配置后解码阶段 token 生成速度约 1.7–2 倍提升。

多 Token 预测(MTP)与传统推测解码的关键区别是? - A. MTP 需要单独的草稿模型 - B. MTP 的预测头内置于模型架构本身 - C. MTP 只用于训练阶段 - D. MTP 会显著降低质量 - **答案:** B - **解析:** MTP 利用模型自带的辅助预测头并行预测多个未来 token,无需维护独立的小草稿模型,部署更简单、显存…

接受率 α 越高,推测解码的加速比会? - A. 不变 - B. 越小 - C. 越大 - D. 先增后减 - **答案:** C - **解析:** 接受率越高,每个大步保留的 token 越多,GPU 算力摊薄到更多 token 上,加速比随之增大。

在理想批处理下,平均每个"大步"产出的 token 数主要取决于哪两个变量? - A. 模型参数量与显存 - B. 猜测步数 γ 与接受率 α - C. 上下文长度与温度 - D. 批大小与学习率 - **答案:** B - **解析:** 加速比的核心变量是草稿模型一次猜测的步数 γ 和目标模型对草稿 token 的接受概率 α,公式约为 (1-α^(γ+…

推测解码加速后,目标模型的输出分布会如何变化? - A. 变得更随机 - B. 变得更确定 - C. 与不加速时完全一致 - D. 质量略有下降 - **答案:** C - **解析:** 验证步骤只在"是否采用草稿猜测"上做判断,拒绝时回退到目标模型自身采样,因此输出分布与逐 token 自回归完全一致,属于"免费"加速。

推测解码(speculative decoding)的核心思想是? - A. 用更大模型替换小模型以提升质量 - B. 用小草稿模型并行猜测多个 token,再由大模型一次性验证 - C. 把模型蒸馏成更小的版本 - D. 增加批大小以提升吞吐 - **答案:** B - **解析:** 推测解码让轻量草稿模型先并行猜出若干 token,目标模型一次性验证,…

前沿展望:结合今日所有热点(Astro7/Rust97/rust-gpu/LongCat/Hy3/Astryx/JetSpec),预测未来 12-18 个月前端/AI 开发工具链的最大变革方向。

比较分析三种 Rust 重写前端工具的策略差异:渐进替换(SWC in Next.js)、全面重构(Astro 7.0)、新工具抢占(esbuild vs webpack)。各适用于什么场景?

架构设计题:假设你要设计类似 Astryx 的自主编码 Agent 系统,请描述其核心模块及各模块间的数据流。

深度思考:推测解码与 Multi-Token Prediction (如 Hy3 MTP 层) 是否可以在同一模型中叠加使用?分析可行性与潜在冲突。

综合分析:如果让你为一个中型 TS 全栈项目制定迁移到 Rust 工具链的路线图,你会按什么优先级排序?请考虑风险、收益和团队成本。

uv 作为 pip 替代品的核心架构优势是?

在 Astryx 的工程设计中,为什么说'harness 固定'是传统 Agent 编程的瓶颈?

AstroBurst 使用 Tauri 而非 Electron 的关键性能优势源于?

Rust 的 trait object 与泛型(generic)在何时应该优先选择 trait object?

分析 JetSpec 的候选树方法相比传统推测解码的优势?

Hy3 的 MTP (Multi-Token Prediction) 层的作用机制是?

rust-gpu 将 shader 代码编译为的目标格式是?

试题试做 第402页 - 生命科学与前沿科技学习平台 | 必学必会