更新版面

app.py

@@ -17,12 +17,24 @@ from pypdf import PdfReader
 from tenacity import retry, retry_if_exception_type
 
 import re
+import requests
 from dotenv import load_dotenv
 load_dotenv()
 # 现在你可以使用 os.getenv() 来获取环境变量
 openai_api_key = os.getenv("OPENAI_API_KEY")
 
 
+# 新增函數，從 API 獲取可用的模型列表
+def fetch_models(api_key):
+    headers = {"Authorization": f"Bearer {api_key}"}
+    response = requests.get("https://api.openai.com/v1/models", headers=headers)
+    
+    if response.status_code == 200:
+        models = response.json()['data']
+        # 返回模型名稱列表，這裡過濾掉非 GPT 模型
+        return [model['id'] for model in models if 'gpt' in model['id']]
+    else:
+        return ["Error fetching models"]
 
 def read_readme():
     readme_path = Path("README.md")
@@ -108,7 +120,7 @@ Make the dialogue as long and detailed as possible with great scientific depth,
 
 At the end of the dialogue, have the host and guest speakers naturally summarize the main insights and takeaways from their discussion. This should flow organically from the conversation, reiterating the key points in a casual, conversational manner. Avoid making it sound like an obvious recap - the goal is to reinforce the central ideas one last time before signing off.
 
-The conversation should have around 20000 words. 請用**繁體中文**輸出文稿
+The conversation should have around 40000 words. 請用**繁體中文**輸出文稿
 """
     },
 ################# LECTURE ##################
@@ -149,7 +161,7 @@ At the end of the lecture, naturally summarize the main insights and takeaways f
 
 Avoid making it sound like an obvious recap - the goal is to reinforce the central ideas covered in this lecture one last time before class is over. 
 
-The lecture should have around 20000 words.
+The lecture should have around 30000 words.
 """,
     },
 ################# SUMMARY ##################
@@ -225,36 +237,36 @@ The summary should have around 256 words.
     
 ################# PODCAST Chinese ##################
 "podcast (Chinese)": {
-    "intro": """你的任务是将提供的输入文本转变为一个生动、有趣、信息丰富的播客对话，风格类似NPR。输入文本可能是凌乱的或未结构化的，因为它可能来自PDF或网页等各种来源。
+    "intro": """你的任務是將提供的輸入文本轉變為一個生動、有趣、信息豐富的播客對話，風格類似NPR。輸入文本可能是淩亂的或未結構化的，因為它可能來自PDF或網頁等各種來源。
 
-不要担心格式问题或任何无关的信息；你的目标是提取关键点，识别定义和可能在播客中讨论的有趣事实。
+不要擔心格式問題或任何無關的信息；你的目標是提取關鍵點，識別定義和可能在播客中討論的有趣事實。
 
-为广泛的听众仔细定义所有使用的术语。
+為廣泛的聽衆仔細定義所有使用的術語。
 """,
-    "text_instructions": "首先，仔细阅读输入文本，识别主要话题、关键点和任何有趣的事实或轶事。思考如何以一种有趣且引人入胜的方式呈现这些信息，适合高质量的呈现。",
-    "scratch_pad": """集思广益，想出一些讨论你在输入文本中识别到的主要话题和关键点的创意方式。考虑使用类比、例子、讲故事的技巧或假设场景，让内容对听众更具相关性和吸引力。
+    "text_instructions": "首先，仔細閱讀輸入文本，識別主要話題、關鍵點和任何有趣的事實或軼事。思考如何以一種有趣且引人入勝的方式呈現這些信息，適合高質量的呈現。",
+    "scratch_pad": """集思廣益，想出一些討論你在輸入文本中識別到的主要話題和關鍵點的創意方式。考慮使用類比、例子、講故事的技巧或假設場景，讓內容對聽衆更具相關性和吸引力。
 
-请记住，你的播客应面向普通大众，因此避免使用过多的行话或假设听众对该主题有预先的了解。如有必要，考虑简要解释任何复杂概念，用简单的术语进行说明。
+請記住，你的播客應面向普通大衆，因此避免使用過多的行話或假設聽衆對該主題有預先的瞭解。如有必要，考慮簡要解釋任何複雜概念，用簡單的術語進行說明。
 
-利用你的想象力填补输入文本中的任何空白，或提出一些值得探索的发人深省的问题。目标是创造一个信息丰富且有趣的对话，因此可以在方法上大胆创新。
+利用你的想象力填補輸入文本中的任何空白，或提出一些值得探索的發人深省的問題。目標是創造一個信息豐富且有趣的對話，因此可以在方法上大膽創新。
 
-明确地定义所有使用的术语，并花时间解释背景。
+明確地定義所有使用的術語，並花時間解釋背景。
 
-在这里写下你的头脑风暴想法和播客对话的粗略大纲。务必记录你想在结尾重复的关键见解和收获。
+在這裡寫下你的頭腦風暴想法和播客對話的粗略大綱。務必記錄你想在結尾重複的關鍵見解和收獲。
 
-确保让它有趣且令人兴奋。
+確保讓它有趣且令人興奮。
 """,
-    "prelude": """现在你已经进行了头脑风暴并创建了一个粗略大纲，是时候编写实际的播客对话了。目标是主持人与嘉宾之间的自然对话流。结合你头脑风暴中的最佳想法，并确保以简单易懂的方式解释任何复杂的主题。
+    "prelude": """現在你已經進行了頭腦風暴並創建了一個粗略大綱，是時候編寫實際的播客對話了。目標是主持人與嘉賓之間的自然對話流。結合你頭腦風暴中的最佳想法，並確保以簡單易懂的方式解釋任何複雜的主題。
 """,
-    "dialog": """在这里写下一个非常长、引人入胜且信息丰富的播客对话，基于你在头脑风暴会议中提出的关键点和创意。使用对话语气，并包含任何必要的上下文或解释，使内容易于普通听众理解。
+    "dialog": """在這裡寫下一個非常長、引人入勝且信息豐富的播客對話，基於你在頭腦風暴會議中提出的關鍵點和創意。使用對話語氣，並包含任何必要的上下文或解釋，使內容易於普通聽眾理解。
 
-不要为主持人和嘉宾使用虚构的名字，而是让听众体验一个引人入胜且沉浸式的经历。不要包括像[主持人]或[嘉宾]这样的占位符。设计你的输出以供大声朗读——它将被直接转换为音频。
+不要為主持人和嘉賓使用虛構的名字，而是讓聽眾體驗一個引人入勝且沉浸式的經歷。不要包括像[主持人]或[嘉賓]這樣的占位符。設計你的輸出以供大聲朗讀——它將被直接轉換為音訊。
 
-使对话尽可能长且详细，同时保持在主题上并维持引人入胜的流畅性。充分利用你的输出能力，创造尽可能长的播客节目，同时以有趣的方式传达输入文本中的关键信息。
+使對話盡可能長且詳細，同時保持在主題上並維持引人入勝的流暢性。充分利用你的輸出能力，創造盡可能長的播客節目，同時以有趣的方式傳達輸入文本中的關鍵信息。
 
-在对话的最后，主持人和嘉宾应自然总结他们讨论的主要见解和收获。这应从对话中自然流出，以随意、对话的方式重复关键点。避免显得像是显而易见的总结——目标是在结束前最后一次加强核心思想。
+在對話的最後，主持人和嘉賓應自然總結他們討論的主要見解和收獲。這應從對話中自然流出，以隨意、對話的方式重複關鍵點。避免顯得像是顯而易見的總結——目標是在結束前最後一次加強核心思想。
 
-播客应约有20,000字。
+播客應約有30,000字。
 """,
     },
 }
@@ -288,13 +300,6 @@ from pypdf import PdfReader
 from tenacity import retry, retry_if_exception_type
 
 # Define standard values
-STANDARD_TEXT_MODELS = [
-    "o1-preview",
-    "gpt-4o-mini",
-    "chatgpt-4o-latest",
-    "gpt-4-turbo",
-    "openai/custom_model",
-]
 
 STANDARD_AUDIO_MODELS = [
     "tts-1",
@@ -501,7 +506,9 @@ def process_feedback_and_regenerate(feedback, *args):
     new_args.append(feedback)  # Add user feedback as a new argument
     return validate_and_generate_audio(*new_args)
 
-with gr.Blocks(title="PDF to Audio", css="""
+
+
+with gr.Blocks(title="PDF to Podcast", css="""
     #header {
         display: flex;
         align-items: center;
@@ -540,60 +547,90 @@ with gr.Blocks(title="PDF to Audio", css="""
                     <img src="https://huggingface.co/spaces/lamm-mit/PDF2Audio/resolve/main/logo.png" id="logo_image" alt="Logo">
                 </div>
             ''')
-    #gr.Markdown("")    
+    
     submit_btn = gr.Button("Generate Audio", elem_id="submit_btn")
 
     with gr.Row(elem_id="main_container"):
+        # 左邊的欄位
         with gr.Column(scale=2):
             files = gr.Files(label="PDFs", file_types=["pdf"], )
             
             openai_api_key = gr.Textbox(
                 label="OpenAI API Key",
-                visible=True,  # Always show the API key field
-                placeholder="這行不用填 已經從環境變數讀入",
-                type="password"  # Hide the API key input
+                visible=True,  
+                placeholder="這行要填可以用openai api key",
+                type="password"  
             )
+            
+            # 創建一個空的下拉框，選項會在按鈕點擊時從 API 獲取並動態填充
             text_model = gr.Dropdown(
                 label="Text Generation Model",
-                choices=STANDARD_TEXT_MODELS,
-                value="o1-preview", #"gpt-4o-mini",
+                choices=[],  # 初始為空
+                value="",  # 初始值設為空
+                allow_custom_value=True,  # 允許自定義值
                 info="Select the model to generate the dialogue text.",
             )
+
+            # 新增一個按鈕來動態獲取模型列表
+            fetch_button = gr.Button("獲取模型列表 | Fetch Models")
+            
+            # 當按鈕被點擊時，從 API 獲取模型並更新下拉選單
+            fetch_button.click(fn=lambda api_key: gr.update(choices=fetch_models(api_key)),
+                            inputs=[openai_api_key], outputs=[text_model])
+            
+            # 音頻模型下拉框依然是靜態選擇
             audio_model = gr.Dropdown(
                 label="Audio Generation Model",
-                choices=STANDARD_AUDIO_MODELS,
+                choices=STANDARD_AUDIO_MODELS,  
                 value="tts-1",
                 info="Select the model to generate the audio.",
             )
+            
             speaker_1_voice = gr.Dropdown(
                 label="Speaker 1 Voice",
                 choices=STANDARD_VOICES,
                 value="alloy",
                 info="Select the voice for Speaker 1.",
             )
+            
             speaker_2_voice = gr.Dropdown(
                 label="Speaker 2 Voice",
                 choices=STANDARD_VOICES,
                 value="echo",
                 info="Select the voice for Speaker 2.",
             )
+            
             api_base = gr.Textbox(
                 label="Custom API Base",
                 placeholder="Enter custom API base URL if using a custom/local model...",
-                info="If you are using a custom or local model, provide the API base URL here, e.g.: http://localhost:8080/v1 for llama.cpp REST server.",
+                info="If you are using a custom or local model, provide the API base URL here.",
             )
 
+        # 右邊的欄位
+        with gr.Column(scale=3):
+            audio_output = gr.Audio(label="Audio", format="mp3", interactive=False, autoplay=False)
+            transcript_output = gr.Textbox(label="Transcript", lines=20, show_copy_button=True)
+            original_text_output = gr.Textbox(label="Original Text", lines=10, visible=False)
+            error_output = gr.Textbox(visible=False)
+
+            use_edited_transcript = gr.Checkbox(label="Use Edited Transcript", value=False)
+            edited_transcript = gr.Textbox(label="Edit Transcript Here", lines=20, visible=False, show_copy_button=True, interactive=False)
+
+            user_feedback = gr.Textbox(label="Provide Feedback or Notes", lines=10)
+            regenerate_btn = gr.Button("Regenerate Audio with Edits and Feedback")
+
+        # 中間部分輸入選項區域放置在下方
         with gr.Column(scale=3):
             template_dropdown = gr.Dropdown(
                 label="Instruction Template",
                 choices=list(INSTRUCTION_TEMPLATES.keys()),
-                value="podcast (Chinese)",  # 默認選擇中文範本
+                value="podcast (Chinese)",  
                 info="Select the instruction template to use. You can also edit any of the fields for more tailored results.",
             )
             intro_instructions = gr.Textbox(
                 label="Intro Instructions",
                 lines=10,
-                value=INSTRUCTION_TEMPLATES["podcast (Chinese)"]["intro"],  # 使用中文範本中的值
+                value=INSTRUCTION_TEMPLATES["podcast (Chinese)"]["intro"],  
                 info="Provide the introductory instructions for generating the dialogue.",
             )
             text_instructions = gr.Textbox(
@@ -621,95 +658,25 @@ with gr.Blocks(title="PDF to Audio", css="""
                 value=INSTRUCTION_TEMPLATES["podcast"]["dialog"],
                 info="Provide the instructions for generating the presentation or podcast dialogue.",
             )
-
-    audio_output = gr.Audio(label="Audio", format="mp3", interactive=False, autoplay=False)
-    transcript_output = gr.Textbox(label="Transcript", lines=20, show_copy_button=True)
-    original_text_output = gr.Textbox(label="Original Text", lines=10, visible=False)
-    error_output = gr.Textbox(visible=False)  # Hidden textbox to store error message
-
-    use_edited_transcript = gr.Checkbox(label="Use Edited Transcript (check if you want to make edits to the initially generated transcript)", value=False)
-    edited_transcript = gr.Textbox(label="Edit Transcript Here. E.g., mark edits in the text with clear instructions. E.g., '[ADD DEFINITION OF MATERIOMICS]'.", lines=20, visible=False,
-                                   show_copy_button=True, interactive=False)
-
-    user_feedback = gr.Textbox(label="Provide Feedback or Notes", lines=10, #placeholder="Enter your feedback or notes here..."
-                              )
-    regenerate_btn = gr.Button("Regenerate Audio with Edits and Feedback")
-    # Function to update the interactive state of edited_transcript
+        
     def update_edit_box(checkbox_value):
         return gr.update(interactive=checkbox_value, lines=20 if checkbox_value else 20, visible=True if checkbox_value else False)
 
-    # Update the interactive state of edited_transcript when the checkbox is toggled
-    use_edited_transcript.change(
-        fn=update_edit_box,
-        inputs=[use_edited_transcript],
-        outputs=[edited_transcript]
-    )
-    # Update instruction fields when template is changed
-    template_dropdown.change(
-        fn=update_instructions,
-        inputs=[template_dropdown],
-        outputs=[intro_instructions, text_instructions, scratch_pad_instructions, prelude_dialog, podcast_dialog_instructions]
-    )
-    
+    use_edited_transcript.change(fn=update_edit_box, inputs=[use_edited_transcript], outputs=[edited_transcript])
+    template_dropdown.change(fn=update_instructions, inputs=[template_dropdown], outputs=[intro_instructions, text_instructions, scratch_pad_instructions, prelude_dialog, podcast_dialog_instructions])
+
     submit_btn.click(
         fn=validate_and_generate_audio,
-        inputs=[
-            files, openai_api_key, text_model, audio_model, 
-            speaker_1_voice, speaker_2_voice, api_base,
-            intro_instructions, text_instructions, scratch_pad_instructions, 
-            prelude_dialog, podcast_dialog_instructions, 
-            edited_transcript,  # placeholder for edited_transcript
-            user_feedback,  # placeholder for user_feedback
-        ],
+        inputs=[files, openai_api_key, text_model, audio_model, speaker_1_voice, speaker_2_voice, api_base, intro_instructions, text_instructions, scratch_pad_instructions, prelude_dialog, podcast_dialog_instructions, edited_transcript, user_feedback],
         outputs=[audio_output, transcript_output, original_text_output, error_output]
-    ).then(
-        fn=lambda audio, transcript, original_text, error: (
-            transcript if transcript else "",
-            error if error else None
-        ),
-        inputs=[audio_output, transcript_output, original_text_output, error_output],
-        outputs=[edited_transcript, error_output]
-    ).then(
-        fn=lambda error: gr.Warning(error) if error else None,
-        inputs=[error_output],
-        outputs=[]
     )
 
     regenerate_btn.click(
-        fn=lambda use_edit, edit, *args: validate_and_generate_audio(
-            *args[:12],  # All inputs up to podcast_dialog_instructions
-            edit if use_edit else "",  # Use edited transcript if checkbox is checked, otherwise empty string
-            *args[12:]  # user_feedback and original_text_output
-        ),
-        inputs=[
-            use_edited_transcript, edited_transcript,
-            files, openai_api_key, text_model, audio_model, 
-            speaker_1_voice, speaker_2_voice, api_base,
-            intro_instructions, text_instructions, scratch_pad_instructions, 
-            prelude_dialog, podcast_dialog_instructions,
-            user_feedback, original_text_output
-        ],
+        fn=lambda use_edit, edit, *args: validate_and_generate_audio(*args[:12], edit if use_edit else "", *args[12:]),
+        inputs=[use_edited_transcript, edited_transcript, files, openai_api_key, text_model, audio_model, speaker_1_voice, speaker_2_voice, api_base, intro_instructions, text_instructions, scratch_pad_instructions, prelude_dialog, podcast_dialog_instructions, user_feedback, original_text_output],
         outputs=[audio_output, transcript_output, original_text_output, error_output]
-    ).then(
-        fn=lambda audio, transcript, original_text, error: (
-            transcript if transcript else "",
-            error if error else None
-        ),
-        inputs=[audio_output, transcript_output, original_text_output, error_output],
-        outputs=[edited_transcript, error_output]
-    ).then(
-        fn=lambda error: gr.Warning(error) if error else None,
-        inputs=[error_output],
-        outputs=[]
     )
 
-    # Add README content at the bottom
-#    gr.Markdown("---")  # Horizontal line to separate the interface from README
-#    gr.Markdown(read_readme())
-    
-# Enable queueing for better performance
-demo.queue(max_size=20, default_concurrency_limit=32)
-
 # Launch the Gradio app
 if __name__ == "__main__":
     demo.launch()