RAG

使用 RAG(Retrieval-Augmented Generation)模型的原因主要在于它将检索(Retrieval)和生成(Generation)这两种技术结合起来,以提高问答系统、对话系统等自然语言处理任务的效果。

常见的损失函数整理

损失函数主要用于衡量模型预测值与真实值之间的差异或者用于定义模型的优化目标,选择合适的损失函数是非常重要的一环。

关于Self-Attention工作机制

Attention是LLMs的核心,如何简单理解?

关于深度神经网络的实际应用方法论

在深度神经网络应用当中什么样的方法流程值得借鉴?为啥神经网络难以训练?