首页 > 原创文化 > 原创文化 > 强调人工监督,香港发布《人工智能:个人资料保障模范框架》

强调人工监督,香港发布《人工智能:个人资料保障模范框架》

发布时间:2024-06-15 16:30:01来源: 15210273549

6月11日,香港个人资料私隐专员公署发布《人工智能 (AI): 个人资料保障模范框架》(下称《模范框架》)。

《模范框架》涵盖4大范畴,具体包括:制订AI策略及管治架构;进行风险评估及人为监督;实行AI模型的定制与AI系统的实施及管理;以及促进与持份者的沟通及交流。

个人资料私隐专员钟丽玲12日向媒体表示,香港企业使用AI呈现上升的趋势,希望《框架》为机构使用人工智能系统时提供指引,持续监督AI系统,降低个人资料外泄的风险,特别是风险高的环节,应加强人为监督。

据悉,《模范框架》是亚太区首个在人工智能领域针对保障个人资料隐私制定的指引性框架。

2021年9月26日,中国国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》(以下简称“《规范》”),旨在将伦理道德融入人工智能全生命周期,为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。

《规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。其中,数据与隐私安全内容贯穿了人工智能管理、研发、供应等特定活动的具体伦理要求。

相比于《规范》,《模范框架》给出的建议更加细化。其中对机构提供包括制定、进行、实行和促进四个阶段的调整反馈机制,在四个阶段中,又分别提出了细化的步骤和考虑项目。


比如,在第一部分《AI策略及管治》中,《模范框架》指出,AI策略可包含:界定AI系统在机构的科技生态系统中提供的功能、参考AI道德原则,制定特定适用于机构在采购、实施及使用AI方案方面的道德原则、列明AI系统在机构中不可接受的用途等等。

而在“列明AI系统在机构中不可接受的用途”一条中,《模范框架》特别指出,机构应识别潜在风险高至应禁止采用的AI用例,这些用例应随着AI技术的发展、新风险的出现及/或新风险缓解措施的采用而增加、删除或调整用例。

《模范框架》作为指引性框架,也对打算投资购入AI方案的机构提出了可供参考的建议,其中包括方案使用AI的目的、预计使用AI的用例,AI供应商应遵循的有关隐私和保安的主要责任和道德规定、技术性和管治方面的国际标准等等。

针对风险因素,《模范框架》也给出了较为细化的指导。其中包括识别和评估AI系统可能带来的各种风险,采取措施减少AI系统带来的隐私风险。此外《模范框架》指出,对于AI方案需要以风险为本的方式进行人工监督。

《模范框架》建议,在决定人工监督的程度时,需要考虑AI系统的风险程度,若是高风险AI系统,即可能对个人或群体造成严重及长期的损害、输出结果可能影响到个体的基本权利和自由,包括财务损失、身体伤害、歧视、个人资料控制权的丧失、自主权的缺乏、心理伤害等的系统,则应采用“人在环中”(human-in-the-loop)模式,在此模式中,人类在决策过程中保留控制权,以防止或减少AI出错或作出不当的决定。

高风险AI系统包括用于医疗诊断、信用评估、工作或求职评估等对个人或社会有重大影响的领域。

若是低风险AI系统,则可以采用“人在环外”(human-out-of-the-loop)模式,在此模式中,AI系统在没有人为介入的情况下作出决定,以实现完全自动化的决策过程。

若这两者都不适用,则可以使用适中风险AI系统,例如当风险程度不可忽视或“人在环中”方式不符合成本效益或不可行时,可以采用“人为管控”(human-in-command)模式。在此模式中,人类决策者利用AI系统的输出结果监控其运作,并在需要时介入。

原创文化更多>>

德国发布电动车创新指数!吉利第一,比亚迪第三! 闪充·大空间·新乐趣:方程豹钛7EV闪充版上海上市 豹5/豹8闪充版上市,但皮卡能不能顶住压力? 试驾奔驰EQS:古典豪华纯电遗珠,销量不能代表产品力 主打低成本城市物流,零跑T03推出货运版本秒变“拉货神器” 4月轻卡表现稳健:远程增势猛!福田3.7万断层领先!长安同比领涨 4月MPV销量榜出炉 岚图梦想家夺冠 魏牌高山冲进前三甲 大众纯电高尔夫推迟至2030年前后上市,SSP平台延期成主因 埃安N60以“128项全系标配”重新定义10万级纯电SUV价值标准的有力宣言 法式大7座SUV真香!标致 5008 智能混动深度试驾! 华为出技术,江淮生产?玛莎拉蒂电车将国产,归属尊界 当别人还在卷充电峰值、卷增程油箱、卷电池容量时,蔚来已经把“补能确定性”变成了销量 吉利银河星耀7 5月22日上市!配雷神AI电混2.0,预售11.28万元起 吉普发布全新牧马人美国250周年特别版,自带美国队长盾牌,这才是他的新座驾 越野圈地震!方程豹豹 8 / 豹 5 闪充版上市,3 轮能开、3 分钟换胎! 吉利银河TT定位中大型轿车,采用纯电动力,车长为4999mm,轴距为2920mm 单月破13万同比大涨70.9%,比亚迪全球化实力全面爆发 全国一口价10.99万元起,和起亚新狮铂拓界纵享初夏好时光 smart 全新一代精灵1号 用激光雷达让小车也配高阶智驾 不跟风、不妥协:212如何用“野”字对抗行业的“卷”? 新款红旗H5和HQ9将于5月20日上市。对心现款车型新款会在内饰部分进行一些升级调整 三大车企一季度财报横评:比亚迪在换挡,吉利在加速,上汽在磨合 订单10万台!30万的大唐“一夜爆红”,越贵的比亚迪越不愁卖? 限时售价8.79万元 配备专属徽章 吉利博越十周年冠军版上市 “8系、9系”扎堆申报,集体冲击高端旗舰 科技比亚迪:以首创之姿筑不可超越之基 1-3月硬派越野销量榜 仅一款销量过万 普拉多第六 销量六连冠,星光730凭什么成为家庭MPV“满分座驾”? 比起“谁更智能”,一汽奥迪强调“把驾驶感抢回来” 15.08万元起!领汇汽车正式推出C级闪充商务轿车e9