NVIDIA 認證課程

使用提示工程技術打造LLM 應用
Building LLM Applications with Prompt Engineering

大語言模型（LLM）具有強大的能力，全球的企業機構都在嘗試將其整合到產品和內部應用中，例如文本生成、大規模文檔分析和聊天機器人助手等等。

在各種應用中融入 LLM 的最快方法是通過使用先進的提示工程技術，這也是相對于檢索增強生成（RAG）、參數高效微調（PEFT）等更高級 LLM 技術的基礎技能。在本課程中，您將使用由開源 Llama-3.1 大語言模型驅動的 NVIDIA NIM™（一套用於部署 AI 模型的推理微服務，是一個預構建容器工具），和當前流行的 LangChain 庫，學習使用提示工程一系列基本技能，以用於構建基於 LLM 的應用。

學習目標

參加本實作坊可學會：

  • 理解如何應用反覆運算式提示工程最佳實踐，以創建基於LLM的應用程式，用於各種與語言相關的任務
  • 熟練使用 LangChain 來組織和編排 LLM 工作流
  • 編寫應用代碼，利用 LLM 執行生成任務，比如文檔分析、聊天機器人等

實作坊大綱

時程 程序項目
15 分鐘   概覽
  • 認識講師
  • 在 learn.nvidia.com/join 建立帳號
45 分鐘   提示工程
  • 瞭解為什麼提示工程是與大語言模型（LLM）交互的核心
  • 討論如何使用提示工程來開發多種基於 LLM 的應用
  • 瞭解 NVIDIA LLM NIM，它被用於部署本課程中使用的 Llama 3.1 LLM
60 分鐘   提示詞入門
  • 熟悉課程環境
  • 使用 OpenAI API 和 LangChain 創建並查看你的第一個提示回應。
  • 學習如何資料流 LLM 回應，以及批量發送 LLM 提示，比較性能差異
  • 練習反覆運算式提示開發的過程
  • 創建並使用你的第一個提示範本
  • 完成一個小項目，在一批輸入上執行分析和生成任務
60 分鐘 休息時間
80 分鐘   LangChain 運算式語言 (LCEL)，可執行單元，鏈
  • 瞭解 LangChain 運行時，以及用 LangChain 運算式語言（LCEL）將它們組合成鏈的能力
  • 編寫自訂函數並將其轉換為運行時，以包含進 LangChain 鏈中
  • 將多個 LCEL 鏈組合成一個更大的應用鏈
  • 通過組合並行 LCEL 鏈來發揮並行工作的能力
  • 完成一個小項目，借助 LCEL 和並存執行，對一批輸入執行分析和生成任務
45 分鐘   訊息提示
  • 瞭解兩種核心聊天消息類型：人類消息和 AI 消息，以及如何在應用代碼中明確地使用它們
  • 通過一種被稱為少樣本提示的技術，為聊天模型提供指導性示例
  • 明確使用系統消息，這將允許您為聊天模型定義一個總體的角色和職責
  • 使用思維鏈提示來增強 LLM 執行複雜推理任務的能力
  • 管理消息以保留對話歷史，構建聊天機器人
  • 完成一個小項目，構建一個簡單但靈活的聊天機器人應用，能夠擔任各種角色
15 分鐘 休息時間
60 分鐘   結構化輸出
  • 探索一些基本方法，使用 LLM 批量生成結構化資料以供下游使用
  • 結合 Pydantic 類和 LangChain 的 `JsonOutputParser` 生成結構化輸出
  • 學習如何從長篇文本中提取資料和進行標記
  • 完成一個小專案，使用結構化資料生成技術對非結構化文本文檔執行資料提取和文檔標記
75 分鐘   使用工具、構建智慧體
  • 建立名為「工具」的 LLM 外部功能，並讓你的 LLM 知道這些工具可供使用。
  • 建立一個能夠判斷何時使用工具並將工具使用結果整合進回應中的代理模型（Agent）。
  • 執行一個小型專案，建立一個能夠使用外部 API 呼叫以即時資料增強其回應的 LLM 代理模型。
30 分鐘   評估與Q&A
  • 回顧關鍵學習內容並回答問題。
  • 獲得本次研討會的能力認證證書。
  • 完成研討會問卷調查。

實作坊詳情

時間： 8 小時

必備基礎能力：

  • 具備 Python 程式設計經驗，對 LLM 基礎知識有扎實的理解，推薦學習《構建基於大語言模型 (LLM) 的應用》

使用的工具、庫和框架： NVIDIA NIM™, LangChain, Llama 3.1。

認證證書： 完成測驗後，參與者將會收到 NVIDIA DLI 認證證書，證明他們具有相關主題的能力，支援其專業職涯成長。