|
|
|
@ -42,6 +42,11 @@ console_handler.setFormatter(logging.Formatter(
|
|
|
|
|
logger.addHandler(file_handler)
|
|
|
|
|
logger.addHandler(console_handler)
|
|
|
|
|
|
|
|
|
|
# 初始化异步 OpenAI 客户端
|
|
|
|
|
client = AsyncOpenAI(
|
|
|
|
|
api_key=Config.MODEL_API_KEY,
|
|
|
|
|
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
|
|
|
|
|
)
|
|
|
|
|
|
|
|
|
|
async def lifespan(app: FastAPI):
|
|
|
|
|
# 抑制HTTPS相关警告
|
|
|
|
@ -135,18 +140,13 @@ async def rag(request: fastapi.Request):
|
|
|
|
|
1. 严格保持原文中图片与上下文的顺序关系,确保语义相关性
|
|
|
|
|
2. 图片引用使用Markdown格式: 
|
|
|
|
|
3. 使用Markdown格式返回,包含适当的标题、列表和代码块
|
|
|
|
|
4. 对于提供Latex公式的内容,尽量保留Latex公式
|
|
|
|
|
5. 直接返回Markdown内容,不要包含额外解释或说明
|
|
|
|
|
6. 依托给定的资料,快速准确地回答问题,可以添加一些额外的信息,但请勿重复内容
|
|
|
|
|
7. 如果未提供相关信息,请不要回答
|
|
|
|
|
8. 如果发现相关信息与原来的问题契合度低,也不要回答
|
|
|
|
|
9. 确保内容结构清晰,便于前端展示
|
|
|
|
|
4. 直接返回Markdown内容,不要包含额外解释或说明
|
|
|
|
|
5. 依托给定的资料,快速准确地回答问题,可以添加一些额外的信息,但请勿重复内容
|
|
|
|
|
6. 如果未提供相关信息,请不要回答
|
|
|
|
|
7. 如果发现相关信息与原来的问题契合度低,也不要回答
|
|
|
|
|
8. 确保内容结构清晰,便于前端展示
|
|
|
|
|
"""
|
|
|
|
|
# 初始化异步 OpenAI 客户端
|
|
|
|
|
client = AsyncOpenAI(
|
|
|
|
|
api_key=Config.MODEL_API_KEY,
|
|
|
|
|
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
|
|
|
|
|
)
|
|
|
|
|
|
|
|
|
|
async def generate_response_stream():
|
|
|
|
|
try:
|
|
|
|
|
# 流式调用大模型
|
|
|
|
|