想像一下，一家完全依賴人工智慧平台的單人新創公司，由於一系列不受控制的錯誤而倒閉，將最初的微小人工智慧錯誤變成了災難性的損失。誰該為此負責？如何保護投保人免受人工智慧使用相關的風險？正如最近發布的 GPT-5、Grok Imagine 和 Genie 3 所表明的那樣，人工智慧能力不斷加速發展，其風險也在增加。 Karthik Ramakrishnan 利用其技術經驗，與被許多人視為人工智慧教父的 Yoshua Bengio 博士合作，創立了 Armilla AI，專注於人工智慧系統的風險識別、緩解和轉移，並使用先進的模型驗證和預測分析來促進信任和穩健的承保。在本次訪談中，我們將探討精算師（包括資深精算師和新興精算師）如何利用其獨特的優勢來驗證模型、預測故障並確定能夠管理人工智慧風險並將該職業拓展到人工智慧領域的保險策略。 

您是如何思考將保險與人工智慧風險連結起來的？  

在科技業摸爬滾打多年後，我有機會在2017年至2019年間與Yoshua Bengio博士一起在各行各業建立真正的人工智慧應用。在此期間，許多客戶回饋稱，這些（人工智慧）系統並非完美無缺；它們基於機率，因此難免存在錯誤。既然這些機器從一開始就存在缺陷，公司怎麼能輕易地將控制權交給它們呢？儘管如此，我的論點是，許多現有的流程最終將實現智慧自動化。雖然這些流程實現了智慧自動化，但它們也存在引發骨牌效應的風險。這只是一方面。另一方面，當我偶然與保險業的朋友分享我的論點時，我的觀點也變得清晰起來。他們告訴我，如果我的論點成立，那麼保險業最終將需要重新考慮如何為公司提供承保。雖然外部承保範圍或風險敞口可能不會改變，但風險來源（人工智慧）和風險因素會有所不同；風險狀況也會有所不同；精算模型也需要調整和重新承保。這就是我與保險產生連結的地方。在此之前，我從未考慮過保險，但這種新興風險確實存在。事實上，它如此真實，以至於我得出結論：人工智慧需要保險。  

您能否詳細說明人工智慧流程引發骨牌效應的風險，並解釋為什麼這對精算師來說是一個機會？ 

隨著人工智慧系統越來越受歡迎，越來越多的公司正在廣泛使用它們。一個極端的例子就是一家完全依賴人工智慧工具運作的單人新創公司。如果任何一個人工智慧系統出錯，都可能引發骨牌效應；一個人工智慧系統的小錯誤可能會波及其他系統。想像一下，一個人工智慧系統在一份10,000萬美元的保險索賠單上多加了一個零，導致索賠金額變成了100,000萬美元。如果這個錯誤影響到其他人工智慧流程，後果可能非常嚴重。人工智慧的機率設計必然會導致偶爾的失敗，這引發了責任問題（這可能會給小型企業帶來毀滅性的打擊）。因此，隨著人工智慧的廣泛應用，這些風險變得切實可行，而防範此類風險至關重要，這也為精算師貢獻價值提供了機會。 

精算師如何發揮作用並建立對人工智慧系統的信任？ 

精算師受過專業訓練，能夠洞察模型背後的數學原理。建立對人工智慧系統的信任是當前最迫切的問題，而這正是精算師可以提供幫助的地方。精算師可以協助進行模型驗證和模型測試（例如，從多個維度（例如偏差）進行模型評估），以便公司了解：1）模型將如何失效；2）失效將造成的影響。我們能否安心地預測模型將如何失效？建立信心的關鍵因素是數據，而這需要大量的數據。 

如果您只能與精算界分享一條有關人工智慧保險的關鍵訊息，您會說什麼？ 

人工智慧是一種技術性極強的風險，管理這種風險與精算師的教育在許多方面有重疊。精算師可以整合所有技能，審視客戶模型，然後說：“我了解這個風險”，並評估與模型相關的風險程度。技術技能對於評估人工智慧系統並預測系統可能出現的問題至關重要；而精算師非常適合這項工作。  

Ramakrishnan 的願景展示了精算師如何將其角色從傳統的風險評估者拓展為“AI守護者”，精準預測AI風險並進行風險定價，從而增強人們對AI技術的信任，並保護企業免受未知因素的影響。 AI風險不僅是一個新興的利基市場，更是精算師提升影響力的機會。

您可以透過 cawg@casact.org 聯繫 CAWG。工作小組每年接受候選代表的申請。今年的申請截止日期為 2025 年 9 月 30 日。更多資訊請造訪 CAS 網站。