近年来，大模型文本检索（LLM-based Text Retrieval）技术发展迅猛，SOTA 的 LLM Embedding Model 参数量普遍在 7B 以上，相关性搜索性能提升的同时，部署成本也大幅增长。众所周知，LLM Embedding Model 是一种对称式双塔结构，Query 和 Doc 侧常共享同一个完整的 ...

开放题评估天然缺乏"唯一正解"：主观性强、标准多元、人工贵且慢。我们一直在找兼顾"理解深度"与"规模化"的方法，却长期受制于两难。直到LLM展现出接近人类的推理能力，评估才开始有了工程化的可能。我们写这篇论文，是想把LLM-as-a-Judge从碎片 ...

为了克服这些限制，研究人员使用4500万篇开放获取的科学论文对OpenScholar进行了训练。该团队还设计了该AI工具，使其能够整合训练期间未使用的最新信息。为此，他们采用了一种称为检索增强生成的技术。（背景延伸：检索增强生成（Retrieval-Augmented Generation, ...

OpenAI 最近发布的 o1 系列模型堪称迈向强人工智能的一次飞跃，其强大的推理能力为我们描绘出了下一代人工智能模型的未来图景。近日，伦敦大学学院（UCL）人工智能中心汪军教授撰写了一份「LLM 推理教程」，深入详细地介绍了 OpenAI ο1 模型背后的相关方法。

本文提供了关于大型语言模型领域专业化技术的全面概览，这是大型语言模型应用的一个关键的新兴方向。 大语言模型（LLMs）在自然语言处理（NLP）领域取得了显著的进步，为广泛的应用提供了一种非常有用的、与任务无关的基础。然而，直接应用 LLMs 去解决 ...

谷歌云推出了Model Armor的公开预览版，这是一个集成到Apigee API管理平台的原生大语言模型（LLM）治理框架。一篇社区帖子中详细介绍了Model Armor，它引入了针对LLM特定策略的即开即用执行，例如提示验证、输出过滤和API层的token级控制。 Model Armor直接在Apigee的代理 ...

小羊驼和排位赛的「幕后英雄」 打「排位赛」的大模型们背后秘密武器曝光！UC伯克利重磅开源神级LLM推理系统——vLLM，利用 ...

8月29日，国际首个月球科学多模态专业大模型在2024中国国际大数据产业博览会上发布。 On August 29, the world's first professional, multimodal large language model (LLM) for the field of lunar science has been released at the China ...