什麼是人工智慧應用影響評估（AIAIA）？
人工智慧 (AI) 如今已成為我們日常生活的重要組成部分，並正在改變企業和社區的運作方式。隨著人工智慧的普及，人們對隱私、偏見、倫理困境和社會危害等議題的擔憂日益加劇。
AIAIA 是一種風險管理工具，旨在幫助組織識別和降低潛在風險，以確保負責任的人工智慧部署。 AIAIA 使組織能夠評估人工智慧系統在其整個生命週期中對使用者和社會的影響。為了促進這一過程，香港特別行政區政府發布了一份指南，供那些不熟悉負責任人工智慧實踐的人士參考。
人工智慧應用影響評估（AIAIA）框架？
安全 : OWASP LLM十大風險
OWASP 大型語言模型 (LLM) 應用程式十大標準是開放 Web 應用程式安全專案 (OWASP) 發布的一份基於共識的意識文件。
- LLM01 : 即時注入 - 攻擊者透過精心設計的輸入來操縱 LLM 以繞過安全措施。
- LLM02 ：敏感資訊外洩－LLM 意外洩漏來自訓練集或使用者輸入的敏感資料。
- LLM03 ：供應鏈－受損的預訓練模型或資料集會引入後門。
- LLM04 ：資料和模型中毒－惡意訓練資料破壞模型行為。
- LLM05 ：不正確的輸出處理－未敏感的 LLM 輸出會導致程式碼/SQL 注入。
- LLM06 ：過度代理－擁有過多特權的法學碩士會採取危險的自主行動。
- LLM07 ：系統提示洩漏－提取暴露 API 金鑰或規則的內部提示。
- LLM08 ：向量和嵌入弱點 - RAG 系統傳回中毒或未經授權的資料。
- LLM09 ：錯誤訊息－法學碩士 (LLM) 產生看似合理但卻是虛假的內容。
- LLM10 ：無限制消耗－資源密集型查詢會造成財務/效能損害。
隱私權：PDPO 道德發展與使用 AI Guidelines
PCPD 發布的本指南概述了資料管理價值觀和道德原則，以確保合法、合乎道德的人工智慧發展，並培養利害關係人的信任。
人工智慧應用影響評估（AIAIA）工作流程
人工智慧應用影響評估（AIAIA）服務諮詢
我們收集和使用您的個人資訊僅用於解答您對我們服務的諮詢。與您聯繫後，我們將不再保留您的個人訊息，包括您的姓名、電話號碼和電子郵件。我們將確保刪除這些資訊。