張榮貴 博士

Ai3 co. 董事長

國科會 台灣AI卓越中心(AICoE)策略委員

工研院 人工智慧應用策略諮議委員

中華軟協常務理事暨AI大數據智慧應用促進會會長

生成式AI(Generative Artificial Intelligence，簡稱GAI)是指利用人工智慧技術，依照需求自動生成符合特定目的內容，如文章、圖像、聲音、音樂、及影像等內容，而GAI的生成內容就稱為Artificial Intelligence Generated Content，簡稱AIGC。GAI的應用範圍廣泛，從創意產業到商業分析，從教育培訓到社會服務，都能運用GAI來產生更多的創新與更高的效率。

然而目前GAI技術存在一個自然特性的問題，就是會產生幻覺(Hallucinations)，生成內容會有錯置與錯亂現象。所以GAI的應用就要考慮適合的應用及場景，就是要選對題目，才能發揮其效益。GAI的選題需要考慮多方面的因素，如果選題不當，可能會造成產品失敗、用戶不滿。因此GAI應用如何選題，是一個值得探討的問題。

本文將以個人發展GAI應用的經驗，來分享GAI的應用情境、應用做法、以及選題的建議，希望能夠為企業提供一些參考與啟發。

生成式AI的應用情境

應用情境指的是要解決的具體問題及其環境場景，GAI重視是依照使用者需求的環境場景與知識背景來理解運作，透過知識與流程設計來引導GAI完成，所以要以應用情境來設計。運用GAI在產業的應用情境，有兩個重點做考慮。一是避開需要一定正確情境，二是由內而外，由企業內部提升效率而到企業外部服務。

• 避開需要一定正確情境
  • 這類情境是指GAI的生成內容不需要保證絕對的正確性，而是可以提供創意或變化。如行銷文案、創意發想、廣告用語、故事發想…等。這些應用特性是利用GAI閱讀過大量廣的文章，具有非常好的想像力與創意能力的特性，而這些應用生成內容只有「好與不好｣的問題，而沒有「對與不對｣的問題，這是非常適合GAI可以應用的場景。
  • 另一個應用情境是GAI生成的內容雖需要正確性，但生成內容是提供給企業員工做為參考，然後經由人的確認或修改，成為符合需求的內容，這也是適合的場景。如將GAI技術應用於知識管理系統，發展成為對話知識管理系統。過往知識管理系統是經由關鍵字查詢，系統列出具有查詢關鍵字的知識，由人一條條打開、閱讀、理解，以尋找期待的知識。這樣花費較多查詢時間，也需由人統整不同知識內容。而運用GAI就可以直接用問句詢問，經由GAI理解查詢問題的相關知識，而直接提供答案，並同時提供參考出處，這樣使用者可以判斷答案的內容是否符合，依參考出處做調整。另外如產生郵件回信、文章翻譯、會議記錄…等都適合。這類情境的好處是，可以避開GAI幻覺產生的影響，並且可以提高用戶的接受度和信任度。
• 由內而外應用
  • 由企業內部協助員工提升效率，再往外部服務提供前進。這類情境是指GAI成為員工助理角度來應用，GAI生成的內容提供給企業員工，經由員工的專業知識判斷然後修正成為可用的內容，提升員工作業效率。這協助企業的員工完成一些繁瑣或重複的工作，同時也讓企業員工學習與累積使用GAI的經驗，以為GAI找到更適合的應用場景。如GAI可以用於報告生成、撰寫郵件、企劃文案、內容創作…等。
  • 當有足夠GAI運用經驗，較能有經驗慎選用於面對顧客的應用場景。一般適合用於除能回覆正確答案外，使用者也允許若生成的回覆未完整時，能接受經由參考資料來查證的應用場景。如知識性、規範性查詢任務或互動性為主任務，於回答顧客問題外，同時提供回覆的參考來源，顧客願意查看更多資訊。這類情境的好處是，可以增加GAI的商業潛力和社會影響，並且可以擴大GAI的應用範圍和用戶群。

生成式AI的應用做法

GAI的應用做法，可以用「AI生成，人做審核｣這句話所提出的兩個步驟來達成。如上述的對話知識管理系統就是一種例子，GAI透過人的提問，參考知識而提供回覆，由人做最終審核，這大幅提升人們工作效率。

• AI生成：
  是指利用GAI的技術，根據使用者的需求或輸入，自動生成符合目的或標準的內容。GAI的生成可以協助過往需要人做的蒐集、歸納、整理、生成這些工作，節省人力。這步驟需要注意選擇合適的GAI模型，以確保生成式AI的生成內容品質和效率。
• 人做審核：
  是指由對GAI的生成內容，透過人的專業知識做判斷，進行審核、修改、優化或驗證，對生成的內容進行邏輯、準確性、一致性等方面的檢查或改進。以確保生成內容符合期望和需求，並且避免出現錯誤、偏差、歧義或不合適的內容。

GAI的應用做法，需要在AI生成和人做審核之間，找到一個平衡點，既要充分發揮生成式AI的優勢，又要兼顧人工的角色和責任。一般來說，如果生成內容需要高度的正確性或專業性，則人的審核比例應該增加；如果生成內容只需要基本的可讀性或合理性，則人的審核比例可以減少。

生成式AI的選題建議

生成式AI的選題，需要根據不同的情況，做出不同的考量。以下提供幾點選題建議。

1. 從熟悉領域開始，跨單位整合是考慮

GAI應用的選題，應該從熟悉或擅長的領域開始，這樣在審核生成內容時減少不確定性，確認生成內容的適用性與做調整，能快速提升企業作業效率。在應用上也可以考慮跨單位或跨部門的整合，這樣可以增加GAI的應用場景和價值，可以促進企業的數位轉型。

2. 找「小而美｣的應用開始，盡早應用，累積經驗

「小而美｣的「小｣是指有限的範圍，「美｣是指有用的應用，這讓GAI應用的投入，能夠在可控的範圍內，盡快看到成果。當要讓一個GAI應用成功，必須要投入資源做資料品質的提升、應用場景的設計、生成內容的驗證、知識與流程的優化，這如果是沒有效用的應用，是不會用心投入，那失敗的機會就很大。所以專注解決一個具體的問題、滿足一個特定的需求、提供一個獨特的價值…等，這樣可以降低GAI選題的難度和風險，並且可以快速驗證GAI應用的可行性和有效性，這樣能夠快速建立成功經驗，這正展現「小而美｣的精神。

3. 結合平台業者，獲得算力與技術，加速應用落地，借力使力

GAI的應用不一定一開始要自己建立機器設備，維護大語言模型，這將是非常專業且投入資源巨大的工作。建議可以從非機敏資料的應用開始，運用如Microsoft、Google、AWS、聯發科、台智雲…等平台業者提供的算力、大語言模型及技術，來加速應用落地。平台業者可以提供的優勢，一是提供強大的算力和儲存空間，支援GAI的推理、模型訓練和部署；二是提供豐富的技術和資源，如豐富的GAI模型、應用案例、開發API等；三是提供廣泛的用戶和市場成功經驗，來幫助GAI選題為企業找到合適的目標和需求。

從平台業者提供的服務與資源，讓企業先專注在創造有價值的應用上，並累積成功經驗。當獲得的學習與經驗後，就能更精準地規劃雲端或落地的應用，創造企業最大價值。

GAI帶來產業發展的新應用思維，在台灣正面臨少子化的人力不足趨勢，「人力不足，AI來補足」正是一個解方。GAI是具有巨大潛力和挑戰的技術領域，它可以為各行各業帶來創新和效益，但這也是剛剛起步正在發展的技術，需要面對技術和市場的不確定性與變化。企業應用GAI的選題，是最重要的一步，這將影響了企業GAI應用的成敗和價值。