近日，人工智慧（artificial intelligence, AI）在各個領域的應用引起了全球範圍內的廣泛關注和討論。雖然人工智慧可以協助人們寫作或產出文章，但同時也需要注意AI在撰寫文件時的使用範圍與風險。
位於巴西南部的城市阿雷格里港（Porto Alegre），市議會通過了一項由ChatGPT撰寫的法案，目的為防止市民為被盜的水錶負擔費用。這是自有記錄以來首次由AI撰寫的法案被立法者通過，展示了AI在法律文件撰寫領域的應用潛力。然而，議員Ramiro Rosário在法案通過後才將這項資訊公之於眾，引發了關於AI在法律條文方面可行性的廣泛討論。
另一起引人矚目的案例發生在紐約。今年五月，一名律師因使用ChatGPT撰寫法律訴狀而面臨法庭聽證會。該名律師使用了ChatGPT尋找類似案例撰寫訴訟摘要，但在聊天中ChatGPT使用了錯誤的引用和內部引述，導致該名律師引用了數個並不存在的法律案例，被對方律師質疑，最終導致法官對該律師團隊進行罰款並駁回訴訟。這一事件凸顯了AI在法律領域應用的風險和局限性，特別是在涉及具有法律效力的文件時。
面對AI技術在法律領域的快速發展與應用，歐盟針對AI的使用開始制定明確規範，以確保技術創新同時保障人權和個人隱私。歐盟《人工智慧法》草案的目標是要求在歐盟境內使用的AI技術必須尊重基本人權、歐盟價值，並確保其安全性。
目前草案初步公布的主要內容包括：
- 對可能造成系統性風險的高衝擊通用AI模型（high-impact general-purpose AI models）以及高風險AI系統制定規範。
- 對治理體系進行修法，使其在歐盟層級具有一定的執法權。
- 擴大禁用清單，但允許執法機關在遵守相關保障措施的前提下，於公共場所利用AI進行遠端生物識別。
- 要求高風險AI系統的使用者在系統投入使用前進行基本權利影響評估。
隨著AI技術的迅速發展，這些新興的規範和倫理問題將繼續引起全球範圍內的關注和討論。歐盟的這一立法嘗試可能為其他國家和地區提供模範，指引著如何在促進技術創新和維護公共利益之間找到平衡點。
| 本文內容純屬筆者個人意見，並不代表TWNIC立場 |
相關連結：
Katyanna Quach(2023).Law secretly drafted by ChatGPT makes it onto the books.TheRegister.檢自：https://www.theregister.com/2023/12/02/chatgpt_law_brazil/(Dec 2, 2023)
李昱德(2023). 率全球之先 歐盟AI管制草案出爐 歐公司憂阻礙創新.台灣英文新聞. 檢自：https://www.taiwannews.com.tw/ch/news/5056118(Dec 9, 2023)
Kathryn Armstrong(2023).ChatGPT: US lawyer admits using AI for case research.BBC. 檢自：https://www.bbc.com/news/world-us-canada-65735769(May 30, 2023)
