算法影响评估制度的实践路径分析
网络安全与数据治理
王宇晓1,2，吴少卿2，张静怡1,2
1.中国信息通信研究院； 2.移动应用创新与治理技术工业和信息化部重点实验室
摘要： 算法影响评估制度作为国内外算法治理的基础性制度，是当前阶段算法治理的主要方案，但在应用实施过程中仍存在评估对象泛化、评估方法透明性不足的问题，需进一步细化。聚焦分析算法影响评估制度在应用实施过程中应关注的评估对象、评估内容和评估方法，提出在实际评估过程中应根据初步风险对算法评估对象分类分级，加强对以机器学习为基础的复杂算法的评估，重点关注算法的应用环节，重点评估算法输入的数据与特征、输出的目标与结果、干预与保障措施以及个人权利响应。
中圖分類號：TN919;D922.16文獻標識碼：ADOI:10.19358/j.issn.2097-1788.2024.10.009
引用格式：王宇曉，吳少卿，張靜怡.算法影響評估制度的實踐路徑分析［J］.網(wǎng)絡安全與數(shù)據(jù)治理，2024，43（10）：57-61.
引用格式：王宇曉，吳少卿，張靜怡.算法影響評估制度的實踐路徑分析［J］.網(wǎng)絡安全與數(shù)據(jù)治理，2024，43（10）：57-61.
Practical solutions of algorithm impact assessment system
Wang Yuxiao1,2,Wu Shaoqing2, Zhang Jingyi1,2
1.China Academy of Information and Communications Technology；2.Key Laboratory of Mobile Application Innovation and Governance Technology, MIIT
Abstract： As the basic system proposed in the first stage of algorithm governance, the algorithm impact assessment system is the main solution for algorithm governance at the current stage. However, during the application and implementation process, there are still problems of generalization of assessment objects and insufficient transparency of assessment methods, which need to be further elaborated. This article focuses on analyzing the objects, assessment content and assessment methods that should be assessed during the application and implementation of the adjustment impact assessment system. During the actual assessment process, it is proposed to initially classify and grade the adjustment assessment objects based on risks, and strengthen the use of machine learning-based algorithms. Evaluation focuses on the application stage of the algorithm, focusing on the input data and feature complexity of the algorithm, the output goals and results, intervention and safeguard measures, and individual rights responses.
Key words : algorithmic impact assessment;algorithmic risk;algorithmic governance;classification and grading
引言
隨著人工智能技術的迅速發(fā)展，算法廣泛應用于社會生活的方方面面，與此同時，算法帶來的安全風險引起了廣泛關注［1］。面對日益攀升的算法治理壓力，算法影響評估制度（Algorithm Impact Assessment）作為重要的治理方法被提上中外立法議程，成為當下算法治理實踐中矚目的焦點［2］。算法影響評估制度是指依據(jù)系統(tǒng)制定的衡量標準對算法自動化決策系統(tǒng)的系統(tǒng)設計、應用流程和數(shù)據(jù)使用等內(nèi)容進行全面評估，以明確該系統(tǒng)的風險等級和影響范圍的一種算法治理實踐［3］。本文主要剖析在算法實際應用過程中，算法影響評估制度應重點關注的評估對象與范圍、評估內(nèi)容中的要點和細化方法，以及對推動算法影響評估制度落地提出相關建議。
本文詳細內(nèi)容請下載：
http://m.ihrv.cn/resource/share/2000006197
作者信息：
王宇曉1,2，吳少卿2，張靜怡1,2
（1.中國信息通信研究院，北京100010；
2.移動應用創(chuàng)新與治理技術工業(yè)和信息化部重點實驗室，北京100010）
此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權禁止轉載。