# LLM 大语言模型

## 对比

langchain：基于python，可以进行复杂的开发，并且提供了Prompt、Loader、Chain、Agent、Memory一些框架工具 dust：构建了低代码的开发平台 LlamaIndex (GPT Index)：基于langchian构建

## langchain

<https://langchain.com/>

参考：[大语言模型集成工具 LangChain](https://zhuanlan.zhihu.com/p/599688026)

## dust

> Dust是一个大语言模型应用程序的设计和部署工具，用户可以通过Dust来快速建立并部署自然语言理解的应用程序，例如智能客服、智能问答系统或智能聊天机器人。Dust可以帮助用户快速搭建和部署应用程序，从而节省时间和精力。 by chatgpt

[Dust - Design and Deploy Large Language Models Apps](https://dust.tt/)

## LlamaIndex (GPT Index)

[GitHub - jerryjliu/llama\_index: LlamaIndex (GPT Index) is a project that provides a central interface to connect your LLM's with external data.](https://github.com/jerryjliu/llama_index) [Welcome to LlamaIndex 🦙 (GPT Index)! — LlamaIndex documentation](https://gpt-index.readthedocs.io/en/latest/index.html)

## llamahub.ai

旨在降低对接LlamaIndex和LangChain的成本。

> 这是一个由社区创建的简单数据加载器/读取器库。它的目标是让连接大型语言模型和各种知识来源变得非常简单。这些工具是通用的，可以用于LlamaIndex（例如构建索引时）和LangChain（例如构建代理使用的不同工具时）。例如，这个库包含了解析Google Docs、SQL数据库、PDF文件、PowerPoints、Notion、Slack、Obsidian等多种文件格式的加载器。请注意，不同类型的加载器产生相同类型的文档，因此您可以在同一个索引中轻松使用它们。

<http://llamahub.ai> [GitHub - emptycrown/llama-hub: A library of data loaders for LLMs made by the community -- to be used with GPT Index and/or LangChain](https://github.com/emptycrown/llama-hub)

## qdrant

> Qdrant是一个矢量搜索引擎，能够快速检索大规模矢量数据。它的使用场景非常广泛，例如信息检索、推荐系统、生物信息学、视频分析等领域。对于那些需要频繁搜索大量矢量数据的应用程序，Qdrant可以提供有效的解决方案。 by chatgpt

矢量搜索引擎 [qdrant](https://qdrant.tech/)

## Labelbox: 开发和管理文本和图像注释项目的平台，可用于从大规模数据集中进行标注

[Labelbox](https://labelbox.com/)

## 参考

[使用 LangChain + OpenAI GPT 来构建问答知识库的聊天机器人](https://blog.chaos.run/dreams/build-question-answering-chatbot-using-langchain-openai-gpt/)


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://book.rizon.top/zhuan-ti/llm.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.