新加坡推出全球首個由政府主導的「代理式人工智慧監管模式架構」,指導企業負責任採用人工智慧
一、依據新加坡「資訊通信媒體發展局」(IMDA)本(2026)年1月22發布的新聞稿指出,星國「數位發展及新聞部」(MDDI)部長楊莉明於瑞士達佛斯出席「世界經濟論壇」期間宣布,星國將推出全球首個由政府主導的「代理式人工智慧監管模式架構」(Model AI Governance Framework for Agentic AI,下簡稱:監管架構),旨在為人工智慧技術開發商,以及正在探索如何使用「代理式人工智慧」(Agentic AI)的機構,提供更明確的指引,協助其瞭解應注意的事項,並負責任採用該項技術。
二、上述「監管架構」由IMDA負責制定,該架構將圍繞四大重點:(1)預先評估與界定風險;(2)確保人類對智慧體承擔實質責任;(3)在智慧體的全生命週期中實施技術管控與流程管理;(4)透過透明化處理及教育培訓,增強終端用戶的責任意識。
三、新加坡為較早採取管理人工智慧行動的國家之一,2020年已推出「人工智慧監管模式架構」(Model AI Governance Framework);2022年推出全球首個「人工智慧治理測試架構與工具箱」(AI Verify)。
四、IMDA表示,Agentic AI為過去兩年加速崛起的一項新興技術,在此之前全球並沒有任何由政府推出專為該領域制定的權威性指導原則。有別於傳統的AI,Agentic AI能主動判斷與行動、代替用戶執行任務,以及協助機構將重複性的工作自動化,員工則執行較高價值的任務,藉此推動領域轉型。較常見的應用場景包括智慧客服代理、自動處理郵件,以及在物流領域自動優化排班與庫存等。
五、IMDA指出,Agentic AI可能獲取一些敏感資料,並且有能力對所處的環境做出改變,例如更新顧客資料庫或執行付款,因此採用該項技術或將帶來一些潛在風險。AI可能執行錯誤的行動,使用者亦可能因系統的能力與自主性增加而過度依賴自動化系統,導致難以對使用者落實有效的問責制。
六、楊部長指出,目前Agentic AI在星國處於初步發展階段,例如聊天機器人。隨著下來更多機構可能採用該項技術,一旦這些Agentic AI系統設計成型,將會較難改變。因此,新加坡選擇儘早推出「監管架構」,以制定遵循的方向,並適用於任何尋求發展自家Agentic AI或尋求相關第三方服務的機構。該架構將協助星國企業與機構降低Agentic AI應用的風險,確保人工智慧的運作最終必須由人來負責。「監管架構」下來將持續更新,IMDA的目標為一年內完成該項工作。(資料來源:經濟部國際貿易署) |