# LLM 控制項

## 生成式 AI 概論

結構化工具可由三個途徑使用 生成式 AI 工具

1. **LLM 控制項** 可制定提示詞預設使用 [Llama3.1 8B](https://cgmh-kj.gitbook.io/strucmed/biao-dan-bian-ji/jin-jie-kong-zhi-xiang/gong-ju-bei-jing#id-2.-llama-3.1-8b-meta) 模型推論，詳見 [LLM 控制項說明](#llm-kong-zhi-xiang-shuo-ming)。
2. **巨集按鈕** 使用 LLMQUERY() 函數指定，可選用不同語言模型: 詳見 [LLMQUERY 函數](https://cgmh-kj.gitbook.io/strucmed/biao-dan-bian-ji/jin-jie-kong-zhi-xiang/han-shu-ju-ji-zhuan-yong/sheng-cheng-shi-ai-ju-ji-han-shu) 說明。
3. 使用 [AI 小助手](https://cgmh-kj.gitbook.io/strucmed/biao-dan-shi-yong/ai-xiao-zhu-shou-beta) : 開箱即用體驗 LLM 預設功能，也可選用其他助手表單，詳見 [AI 小助手](https://cgmh-kj.gitbook.io/strucmed/biao-dan-shi-yong/ai-xiao-zhu-shou-beta) 說明。

其中 **LLM 控制項** 可在表單中實現生成式 AI功能 。控制項以按鈕形式呈現，在控制項設定提示詞，指定回覆帶回控制項 ID，可實現彙整病歷，摘要病歷內容，提示鑑別診斷，或是分析檢驗數據等需求。

## LLM 控制項說明

參數:

* 按鈕名稱: 執行LLM按鈕的名稱。
* LLM 回覆ID: LLM 回覆綁定的控制項ID，因為回覆內容為段落文字，故建議綁定段落輸入框。
* Prompt 函數: 結果需為文字，使用者可透過函數，以及資料欄位內容組合，自動產生合適的提示詞，預設使用 [Llama3.1 8B](https://cgmh-kj.gitbook.io/strucmed/biao-dan-bian-ji/jin-jie-kong-zhi-xiang/gong-ju-bei-jing#id-2.-llama-3.1-8b-meta) 模型。更多使用提示詞技巧請參閱 [Prompt 文字指令](https://cgmh-kj.gitbook.io/strucmed/biao-dan-bian-ji/jin-jie-kong-zhi-xiang/llm-kong-zhi-xiang/prompt-wen-zi-zhi-ling)。

範例:

{% code overflow="wrap" %}

```json
// prompt

CONCATENATE("Please use a medical professional tone to analyze and summarize the following medical records, the summary should be less than 150 words. the summary should present by items related to present illness, history, and active problems, please ignore if there is no related information, each item may contain a number of points.  ", A16)
```

{% endcode %}

使用控制項:

<figure><img src="https://1792893123-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FdwFoogk3W80yJlNR060h%2Fuploads%2FS3lwEtHPlwH6mzS1Eu49%2Fllm1.jpg?alt=media&#x26;token=baafb814-43c3-4f0e-bcfb-6a731f948cff" alt=""><figcaption><p>LLM 控制項</p></figcaption></figure>

控制項內容示範

<figure><img src="https://1792893123-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FdwFoogk3W80yJlNR060h%2Fuploads%2FdWHdEvRxkJ6RRUCIWwEL%2Fllm2b.jpg?alt=media&#x26;token=0dd89b31-a70c-431a-9b04-0e4df0542247" alt=""><figcaption></figcaption></figure>

LLM 控制項實際運作畫面

<figure><img src="https://1792893123-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FdwFoogk3W80yJlNR060h%2Fuploads%2Fq90C4YCRXhly3IFhtlOP%2Fllm2.jpg?alt=media&#x26;token=d94d6ec1-6734-4516-b122-2cae0a4a850f" alt=""><figcaption><p>LLM 控制項實際運作畫面</p></figcaption></figure>

## 引用地端生成式工具

本控制項使用 ollama API，預設會使用醫院的AI推論中心算力以及模型，使用者如果有配置比中心更好的模型或是算力設備，可通過設定以下參數，使用地端算力。

* ck\_LLMapiUrl: 例如: '<http://localhost:11434/api/generate>'
* ck\_LLMmodel: 模型名稱，例如: 'llama3:latest'
* ck\_LLMctx: context window，例如: 64000

將以上參數放置在 JS script 區塊即可

<figure><img src="https://1792893123-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FdwFoogk3W80yJlNR060h%2Fuploads%2FKvHuFDlrc7DhokMdkZA4%2FLLM-setup.gif?alt=media&#x26;token=0adad8aa-19da-4bc1-94ab-4c0047fb0c77" alt=""><figcaption></figcaption></figure>

控制項使用及HIS運作影片介紹

{% embed url="<https://youtu.be/im1UaC5A-HM?si=MULl8PQXVeLPXqe0>" %}