diff --git a/dsRag/Start.py b/dsRag/Start.py index 478b45dc..6394f36c 100644 --- a/dsRag/Start.py +++ b/dsRag/Start.py @@ -42,6 +42,11 @@ console_handler.setFormatter(logging.Formatter( logger.addHandler(file_handler) logger.addHandler(console_handler) +# 初始化异步 OpenAI 客户端 +client = AsyncOpenAI( + api_key=Config.MODEL_API_KEY, + base_url="https://dashscope.aliyuncs.com/compatible-mode/v1", +) async def lifespan(app: FastAPI): # 抑制HTTPS相关警告 @@ -135,18 +140,13 @@ async def rag(request: fastapi.Request): 1. 严格保持原文中图片与上下文的顺序关系,确保语义相关性 2. 图片引用使用Markdown格式: ![图片描述](图片路径) 3. 使用Markdown格式返回,包含适当的标题、列表和代码块 - 4. 对于提供Latex公式的内容,尽量保留Latex公式 - 5. 直接返回Markdown内容,不要包含额外解释或说明 - 6. 依托给定的资料,快速准确地回答问题,可以添加一些额外的信息,但请勿重复内容 - 7. 如果未提供相关信息,请不要回答 - 8. 如果发现相关信息与原来的问题契合度低,也不要回答 - 9. 确保内容结构清晰,便于前端展示 + 4. 直接返回Markdown内容,不要包含额外解释或说明 + 5. 依托给定的资料,快速准确地回答问题,可以添加一些额外的信息,但请勿重复内容 + 6. 如果未提供相关信息,请不要回答 + 7. 如果发现相关信息与原来的问题契合度低,也不要回答 + 8. 确保内容结构清晰,便于前端展示 """ - # 初始化异步 OpenAI 客户端 - client = AsyncOpenAI( - api_key=Config.MODEL_API_KEY, - base_url="https://dashscope.aliyuncs.com/compatible-mode/v1", - ) + async def generate_response_stream(): try: # 流式调用大模型