关于 RAG 的一些可能优化方案的研究报告 本文叙述了一种在 RAG 上可能的优化方案。 研究环境 本实验与研究的运行环境为 iOS,使用 Minis Agent 进行辅助,内接模型为 Deepseek V4 Flash。数据分析等在 Minis 内置的 ISH 终端环境完成,... 2026-08-11
从“为什么”理解注意力机制:从直觉、QKV 到工程现实 在一切开始之前,我们应当先强调,深度学习这个领域至今仍然没有太多的可解释性。了解神经网络的人都应当知道,我们在网络结构上所做的创新,大多是因为在某种启发性的思想下对网络的结构进行一些改变,剩下的全部交给梯度下降。这样改变出来的结构,它... 2026-08-10