main
HuangHai 6 days ago
parent 66c0614648
commit f059f9fce4

@ -3,15 +3,15 @@ ALY_AK = 'LTAI5tE4tgpGcKWhbZg6C4bh'
ALY_SK = 'oizcTOZ8izbGUouboC00RcmGE8vBQ1'
# 大模型 【DeepSeek深度求索官方】训练时用这个
LLM_API_KEY = "sk-44ae895eeb614aa1a9c6460579e322f1"
LLM_BASE_URL = "https://api.deepseek.com"
LLM_MODEL_NAME = "deepseek-chat"
# LLM_API_KEY = "sk-44ae895eeb614aa1a9c6460579e322f1"
# LLM_BASE_URL = "https://api.deepseek.com"
# LLM_MODEL_NAME = "deepseek-chat"
# 阿里云提供的大模型服务 【阿里云在处理文字材料时,容易引发绿网拦截,导致数据上报异常】
#LLM_API_KEY = "sk-f6da0c787eff4b0389e4ad03a35a911f"
#LLM_BASE_URL = "https://dashscope.aliyuncs.com/compatible-mode/v1"
#LLM_MODEL_NAME = "qwen-plus" # 不要使用通义千问,会导致化学方程式不正确!
#LLM_MODEL_NAME = "deepseek-v3"
LLM_API_KEY = "sk-f6da0c787eff4b0389e4ad03a35a911f"
LLM_BASE_URL = "https://dashscope.aliyuncs.com/compatible-mode/v1"
# LLM_MODEL_NAME = "qwen-plus" # 不要使用通义千问,会导致化学方程式不正确!
LLM_MODEL_NAME = "deepseek-v3"
#LLM_MODEL_NAME = "deepseek-r1" # 使用更牛B的r1模型
EMBED_MODEL_NAME = "BAAI/bge-m3"

@ -61,8 +61,9 @@ async def rag(request: fastapi.Request):
if output_model == "txt":
user_prompt = "1、如果资料中提供了图片的一定要严格按照原文提供图片输出绝对不能省略或不输出"
user_prompt = user_prompt + "\n 2、不要提供引用信息"
user_prompt = user_prompt + "\n 3、提供给你的材料中与问题完全相关的需要完整保留"
user_prompt = user_prompt + "\n 4、提供给你的材料中与问题不完全相关的一定不要输出"
user_prompt = user_prompt + "\n 3、依据提供的材料判断是否与问题强相关强相关的可以适当发挥"
#user_prompt = user_prompt + "\n 3、提供给你的材料中与问题完全相关的需要完整保留"
#user_prompt = user_prompt + "\n 4、提供给你的材料中与问题不完全相关的一定不要输出"
user_prompt = user_prompt + "\n 5、资料中提供化学反应方程式的一定要严格按提供的Latex公式输出绝对不允许对Latex公式进行修改 "
user_prompt = user_prompt + "\n 6、发现输出内容中包含Latex公式的一定要检查是不是包含了$$或$的包含符号,不能让Latex无包含符号出现"
elif output_model == 'html':
@ -106,7 +107,7 @@ async def rag(request: fastapi.Request):
# 使用PG库后这个是没有用的,但目前的项目代码要求必传,就写一个吧。
WORKING_DIR = './output/'
async def generate_response_stream(query: str):
async def generate_response_stream(query: str, workspace: str):
try:
logger.info("workspace=" + workspace)
# 使用锁确保线程安全
@ -128,7 +129,7 @@ async def rag(request: fastapi.Request):
# 发送流结束标记
yield "data: [DONE]\n\n"
return EventSourceResponse(generate_response_stream(query=query))
return EventSourceResponse(generate_response_stream(query=query, workspace=workspace))
@app.post("/api/save-word")

@ -170,8 +170,7 @@ async def initialize_pg_rag(WORKING_DIR, workspace):
graph_storage="PGGraphStorage",
vector_storage="PGVectorStorage",
auto_manage_storages_states=False,
vector_db_storage_cls_kwargs={"workspace": workspace}
)
vector_db_storage_cls_kwargs={"workspace": workspace})
await rag.initialize_storages()
await initialize_pipeline_status()

Loading…
Cancel
Save