2 篇博文 含有标签「机器学习」

引言​

在人工智能快速发展的今天,如何让 AI 系统提供更准确、更全面的回答成为一个关键挑战。 本文将深入介绍一种创新的技术方案 - RAG-Fusion,这是对传统检索增强生成(RAG)技术的全新突破。

RAG-Fusion 是什么?​

RAG-Fusion 是一种结合了检索增强生成(RAG)和倒数排名融合(RRF)的创新技术。它通过以下方式工作:

1. 接收用户的原始查询
2. 利用大语言模型生成多个相关的搜索查询
3. 对每个查询进行向量搜索获取相关文档
4. 使用 RRF 算法对文档进行重新排序和融合
5. 将重排序后的文档连同查询一起送入语言模型生成最终答案

与传统 RAG 的对比​

传统的 RAG 系统工作流程相对简单:

1. 将产品文档转换为文本并创建向量嵌入
2. 收到查询后直接进行向量搜索
3. 将检索到的文档和查询一起送入语言模型生成答案

相比之下,RAG-Fusion 通过生成多个查询视角和文档重排序,能够提供更全面和准确的答案。

实际应用效果​

在英飞凌(Infineon)的实践中,RAG-Fusion 在以下三个场景都展现出了优秀的表现:

1. 工程师技术支持​

对于工程师的技术问题,系统不仅能提供准确答案,还能补充相关的技术背景和使用建议。例如在回答产品 IP 防护等级问题时,除了给出具体数值,还会解释其含义和应用场景。

2. 销售团队支持​

系统能够结合产品知识和市场洞察,为销售人员提供完整的销售策略建议,包括:

• 产品优势分析
• 目标客户定位
• 竞争力对比
• 销售要点提炼

3. 客户咨询服务​

在处理客户咨询时,系统可以:

• 准确理解客户需求
• 提供产品适用性分析
• 给出专业的应用建议
• 解答常见问题

技术优势与挑战​

优势:​

1. 答案全面性: 通过多角度查询提供更完整的信息
2. 准确性提升: 文档重排序确保最相关信息优先使用
3. 知识整合: 可以结合预训练知识和专业文档

挑战:​

1. 响应时间: 比传统 RAG 慢约 1.77 倍
2. 查询相关性: 需要确保生成的查询与原始意图相符
3. 评估方法: 缺乏有效的自动化评估框架

未来展望​

RAG-Fusion 技术还有很大的发展空间:

1. 多语言支持: 扩展到日语、中文等多语种服务
2. 性能优化: 改进实时响应速度
3. 质量保证: 开发自动化质量评估体系
4. 场景拓展: 探索更多垂直领域应用

结论​

RAG-Fusion 代表了 AI 问答系统的一个重要进步。 虽然在响应速度等方面还有待优化,但其在准确性和全面性上的优势使其成为构建下一代智能问答系统的重要选择。

参考资料​

• Retrieval-augmented Generation across Heterogeneous Knowledge
• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
• Forget RAG, the Future is RAG-Fusion
• RAG-Fusion: 检索增强生成的创新突破

JAX 是 TensorFlow 和 PyTorch 的新竞争对手。 JAX 强调简单性而不牺牲速度和可扩展性。 由于 JAX 需要更少的样板代码，因此程序更短、更接近数学，因此更容易理解

• 使用 import jax.numpy 访问 NumPy 函数，使用 import jax.scipy 访问 SciPy 函数。
• 通过使用 @jax.jit 进行装饰，可以加快即时编译速度。
• 使用 jax.grad 求导数
• 使用 jax.vmap 进行矢量化，并使用 jax.pmap 跨设备进行并行化。

JAX 遵循函数式编程理念。 这意味着您的函数必须是自包含的，或者说是纯函数：不允许有副作用。

从本质上讲，纯函数就像数学函数。拥有输入，输出，但不与外界通信。

• 以下代码片段是一个非纯函数式的示例

import jax.numpy as jnp

bias = jnp.array(0)
def impure_example(x):
   total = x + bias
   return total

在编译期间，偏差(bias)可能会被缓存，因此不再反映偏差(bias)的变化。

• 这是一个纯函数的例子。

def pure_example(x, weights, bias):
   activation = weights @ x + bias
   return activation

在这里，pure_example 是独立的：所有参数都作为参数传递。