LLM 控制項

本控制項預設使用 Llama3.1 8B 模型之 API 由長庚醫科 技術研發處 AI推論中平台 共同開發

生成式 AI 概論

結構化工具可由三個途徑使用 生成式 AI 工具

1. LLM 控制項 可制定提示詞預設使用 Llama3.1 8B 模型推論，詳見 LLM 控制項說明。

2. 巨集按鈕 使用 LLMQUERY() 函數指定，可選用不同語言模型: 詳見 LLMQUERY 函數 說明。

3. 使用 AI 小助手 : 開箱即用體驗 LLM 預設功能，也可選用其他助手表單，詳見 AI 小助手 說明。

其中 LLM 控制項 可在表單中實現生成式 AI功能 。控制項以按鈕形式呈現，在控制項設定提示詞，指定回覆帶回控制項 ID，可實現彙整病歷，摘要病歷內容，提示鑑別診斷，或是分析檢驗數據等需求。

LLM 控制項說明

參數:

• 按鈕名稱: 執行LLM按鈕的名稱。

• LLM 回覆ID: LLM 回覆綁定的控制項ID，因為回覆內容為段落文字，故建議綁定段落輸入框。

• Prompt 函數: 結果需為文字，使用者可透過函數，以及資料欄位內容組合，自動產生合適的提示詞，預設使用 Llama3.1 8B 模型。更多使用提示詞技巧請參閱 Prompt 文字指令。

範例:

// prompt

CONCATENATE("Please use a medical professional tone to analyze and summarize the following medical records, the summary should be less than 150 words. the summary should present by items related to present illness, history, and active problems, please ignore if there is no related information, each item may contain a number of points.  ", A16)

使用控制項:

LLM 控制項

控制項內容示範

LLM 控制項實際運作畫面

LLM 控制項實際運作畫面

引用地端生成式工具

本控制項使用 ollama API，預設會使用醫院的AI推論中心算力以及模型，使用者如果有配置比中心更好的模型或是算力設備，可通過設定以下參數，使用地端算力。

• ck_LLMapiUrl: 例如: 'http://localhost:11434/api/generate'

• ck_LLMmodel: 模型名稱，例如: 'llama3:latest'

• ck_LLMctx: context window，例如: 64000

將以上參數放置在 JS script 區塊即可

控制項使用及HIS運作影片介紹