《使用生成式人工智能的指引》是香港司法機構首套發出關於利用生成式人工智能協助執行司法與行政職務的指引,列出了使用生成式AI的七項指導原則,包括必須確保使用AI只是便利工作,而不會奪去法庭的司法職能;須注意內容的安全保密,以及不會令內容流出到公共領域。
指引提醒法官要小心答案有可能錯誤、誤導、偏頗、侵犯版權,甚至可能會有「產生幻覺」捏造虛構案例。更甚者,即使生成式AI提供的資訊不準確,但被問及資訊是否準確時,它也會確認是「準確」。法官務必確保答案準確才能採納,並須為生成式AI平台的最終成品負責。
指引並提出使用生成式AI的四個潛在用途,都是圍繞文書處理及行政工作,並強調由於生成式AI是基於「概率」而非透過理解行文間的微妙差別和對上下文語境而撰文,可能得出不準確的結論,故除非生成式AI模型有足夠保密技術、以及可確保內容準確及可靠的內置查核機制,否則不建議將生成式AI用於法律分析。
至於進一步的AI應用,司法機構回覆《堅雜誌》查詢時就表示,司法機構一直致力探究及運用不同科技(包括人工智能技術),以在確保法官及司法人員能專業、獨立、信實和穩妥地執行司法工作的前提下,持續提升法庭的運作效率。
因應生成式人工智能技術的發展,司法機構近期公布首套《使用生成式人工智能的指引》,指示法官和司法人員及司法機構的支援人員,於合適的工作上使用相關技術時,須以審慎及盡責的態度,並依循一系列重要的規則及指導原則。
其中主要的指導原則,是司法機構在使用任何人工智能(包括生成式人工智能)工具時,必須確保有效維護司法公正;所有司法決定應繼續由法官和司法人員獨立和親自作出,任何情況下絕不能讓人工智能代替他們履行其司法職能。即使應用了生成式人工智能產生的資料,法官和司法人員也要對以其名義製作的任何材料承擔個人責任。在使用相關技術前,必須明白和評估人工智能的能力和限制,並先處理潛在的風險;從生成式人工智能所取得的資料必須查證核實,以確保資料準確可靠。這些原則,跟其他普通法管轄區已公布的相關指引大致相若。
基於以上的原則,並鑑於目前市場上可用的生成式人工智能工具所潛在的風險和限制(尤其在核實資料的準確性、確保法律分析的專業和公正性、保障私隱和機密資科方面),司法機構現階段無意將生成式人工智能技術應用於法律分析及撰寫判詞等相關司法工作。
司法機構會持續留意資訊科技的發展和應用,並按情況需要和經驗檢視相關指引。
此外,司法機構近年積極推動利用語音轉文字的人工智能技術記錄法庭程序,並一直在實體聆訊中測試市場上不同的語音辨識軟件產品,特別是語音辨識的準確度。
司法機構計劃由今年年底開始分階段在各級法院試行使用語音轉文字技術,以協助法官及司法人員撰寫筆記。此外,司法機構現正研究以語音轉文字技術協助製備謄本,以期長遠提升製作準確謄本的效率。