一、长时间显示:Task is queued
多半是因为模型确实在队列中排队的原因,要么是内存一直在被占用中,要么是CPU或GPU一直在被占用中,可以首先检查硬件利用率:
如果是内存导致的队列缓慢,可以将.env文件中的MEM_LIMIT 改为 26073741824
如果是GPU或者CPU的原因,得具体排查,终止无用进程,如果都不是,检查docker容器的日志看看是否有任何异常:docker logs -f ragflow-server,并依次检查mysql、es、minio的日志
二、GraphRAG消耗大量Token
这个问题目前是避免不了,graphrag这个速度目前正在改进,因为是每一个文件做了一次graphrag,最终导致合并graph时累计请求llm次数过多。
三、error: Microsoft Visual C++ 14.0 or greater is required. Get it with “Microsoft C++ Build Tools“
在使用终端中的pip命令安装datrie程序包时,遇到了报错信息。报错提示需要安装Microsoft Visual C++ 14.0或更高版本。
为了安装这个环境,可以选择直接安装Visual Studio,它会自动安装所有需要的包,但体积较大,包含很多不必要的组件。为了更精简,我们选择只安装Microsoft Visual C++ Build Tools:https://visualstudio.microsoft.com/ru/visual-cpp-build-tools/。访问Microsoft Visual C++ Build Tools下载页面,并根据页面指引下载并安装。
选择这两个进行安装,如果是Win10的话选择对应的Win10的包
四、ModuleNotFoundError: No module named 'infinity.common'; 'infinity' is not a package
提示报错:
Traceback (most recent call last):
File "/home/ragflow/ragflow/api/ragflow_server.py", line 33, in
from api import settings
File "/home/ragflow/ragflow/api/settings.py", line 20, in
import rag.utils.infinity_conn
File "/home/ragflow/ragflow/rag/utils/infinity_conn.py", line 24, in
from infinity.common import ConflictType, InfinityException, SortType
ModuleNotFoundError: No module named 'infinity.common'; 'infinity' is not a package
Traceback (most recent call last):
File "/home/ragflow/ragflow/rag/svr/task_executor.py", line 22, in
from graphrag.general.index import WithCommunity, WithResolution, Dealer
File "/home/ragflow/ragflow/graphrag/general/index.py", line 21, in
from api import settings
File "/home/ragflow/ragflow/api/settings.py", line 20, in
import rag.utils.infinity_conn
File "/home/ragflow/ragflow/rag/utils/infinity_conn.py", line 24, in
from infinity.common import ConflictType, InfinityException, SortType
ModuleNotFoundError: No module named 'infinity.common'; 'infinity' is not a package
按照教程安装pip install infinity-embedded-sdk==0.6.0.dev3后出现:
No matching distribution found for infinity-embedded-sdk==0.6.0.dev3
这个应该下载的是infinity-sdk
pip install infinity-sdk==0.6.0.dev3
五、ModuleNotFoundError: No module named 'tavily'
Tavily Search API是专为大语言模型(LLM)设计的搜索引擎,旨在帮助开发者和自主人工智能体实现高效、精准的信息检索。
pip install tavily-python
安装完可以测试一下:
from tavily import TavilyClient
import pprint# 初始化 TavilyClient
tavily_client = TavilyClient(api_key="tvly-**********9") # 这里你需要去注册账号,申请api_key, 注册地址:https://tavily.com/# 执行搜索查询
response = tavily_client.search("地震的形成原因")# 打印搜索结果
pprint.pprint(response)
六、ImportError: DLL load failed while importing onnxruntime_pybind11_state: 动态链接库(DLL)初始化例程失败。
ImportError: DLL load failed while importing onnxruntime_pybind11_state: 动态链接库(DLL)初始化例程失败。 错误表明在导入 onnxruntime 时,Python 无法加载其依赖的动态链接库(DLL)。
主要原因还是因为Python 版本与 ONNX Runtime 版本不兼容,ONNX Runtime 对 Python 版本有特定要求,ONNX Runtime 通常支持 Python 3.6 到 3.10。
安装1.13.1版本一般可以,pip install onnxruntime==1.13.1