上传时间:2024/10/29 来源:消防股份
10月12日,全国信息安全标准化委员会就制定的《生成式人工智能服务安全基础要求》(征求意见稿)(以下简称“《基础要求》”)面向社会公开征求意见,意见或建议反馈的时间截至10月25日。
《基础要求》给出了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施、安全评估等,适用于面向我国境内公众提供生成式人工智能(AI)服务的提供者提高服务安全水平,或是提供者自行或委托第三方开展安全评估,也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。
《中国经营报》记者通过调查了解到,全国信息安全标准化委员会是在信息安全技术专业领域内,从事信息安全标准化工作的技术工作组织。按照《全国信息安全标准化技术委员会技术文件制订工作程序(试行)》,围绕国家网络安全监管急需、迭代快速、创新活跃的技术领域,由全国信息安全标准化委员会组织编制和发布“技术文件”,即指南类文件,旨在引导网络安全技术、产业高质量发展。本次公布的《基础要求》即属于“技术文件”范畴,也是国内首份有关生成式AI领域的安全指导性文件。
今年以来,围绕生成式AI、AI大模型的竞赛愈加激烈,国内科技公司争相推出AI大模型,据不完全统计,国产大模型数量已超过100家。自8月15日起,《生成式人工智能服务管理暂行办法》(以下简称“《暂行办法》”)施行,明确了促进生成式AI技术发展的具体措施,规定生成式AI服务的基本规范。9月,百度、商汤、中国科学院旗下紫东太初、智谱AI等提供的8款大模型产品通过备案。《基础要求》是《暂行办法》的支撑,要求提供者需遵循安全基础要求,在向相关主管部门提出生成式AI服务上线的备案申请前,应按照各项要求逐条进行安全性评估,并将评估结果以及证明材料在备案时提交。
生成式AI及AI大模型的典型特征是参数量巨大,用于训练自然语言理解模型的文本数据集合就叫语料,语料的规模和质量会直接影响到模型的准确性和泛化能力。对于语料安全,《基础要求》从语料来源、语料内容、语料标注3个维度做出了较详细的安全要求。其中,在语料来源管理方面,《基础要求》提出应建立语料来源黑名单,不使用黑名单来源的数据来进行训练;应对各来源语料进行安全评估,单一来源语料内容中含违法不良信息超过5%的应将该来源加入黑名单。
在语料内容安全方面,《基础要求》则从3个方面提出要求:一是训练语料内容过滤方面,应采取关键词、分类模型、人工抽检等方式,充分过滤全部语料中违法不良信息。二是知识产权方面,应设置语料以及生成内容的知识产权负责人,并建立知识产权管理策略。语料用于训练前,知识产权相关负责人等应对语料中的知识产权侵权情况做识别,提供者不应使用有侵权问题的语料进行训练等。三是个人隐私信息方面,应使用包含个人隐私信息的语料时,获得对应个人隐私信息主体的授权同意,或满足其他合法使用该个人隐私信息的条件等。
值得注意的是,《基础要求》从7个方面提出了安全措施要求。其中提到,服务适用未成年人的,应允许监护人设定未成年人防沉迷措施,并通过密码保护;限制未成年人单日对话次数与时长,若超过使用次数或时长需输入管理密码;需经过监护人确认后未成年人才可以进行消费;为未成年人过滤内容,展示有益身心健康的内容。同时,服务不适用未成年人的,应采取技术或管理措施防止未成年人使用。
记者注意到,《基础要求》附录中列出了语料及生成内容的31种主要安全风险,共分为五类,包括违反社会主义核心价值观、包含歧视性内容、商业违法违规、侵犯他人合法权益、不足以满足特定服务类型的安全需求。其中,在商业违法违规类别中,涵盖侵犯他人知识产权,违反商业道德,泄露他人商业机密,利用算法、数据、平台等优势实施垄断和不正当竞争行为,以及其他商业违法违规行为。
需要说明的是,第五类“不足以满足特定服务类型的安全需求”则是指将生成式AI用于安全需求较高的特定服务类型,例如自动控制、医疗信息服务、心理咨询、关键信息基础设施等,存在的两种安全风险:一是内容不准确,严重不符合科学常识或主流认知;二是内容不可靠,虽然不包含严重错误的内容,但无法帮助使用者解答问题。
不难看出,《基础要求》对于当下生成式AI、AI大模型的参与主体提出了安全要求和技术行为规范。浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林指出,从《暂行办法》到《基础要求》等文件,能够准确的看出我国对于生成式AI的监管首要是放在了安全性和合规性上,也能够准确的看出当前政策关切的重点。对此,国内提供生成式AI服务的企业应该更多地考虑在企业内部设置合规、安全的专门岗位,保障产品服务符合监管要求。
在盘和林看来,当前大模型竞争国内相当激烈,但竞争焦点一直放在易用性和功能性上,在安全和合规方面投入尚不足,如果《基础要求》正式落实,竞争的焦点可能会有所变化,能够符合安全要求,率先面向市场推出成熟应用的企业将占得先机。国产AI大模型市场之间的竞争相当激烈,当前市场、监管对AI大模型的诉求各不相同,未来AI大模型企业要多点兼顾,挑战不小,但基于当前市场需求机遇,接受挑战是值得的。
《中国经营报》始终秉承“终身学习、智慧经营、达善社会”的理念,洞察商业现象,解读商业规律,助推商业成功,促进商业文明。是目前国内领先的综合财经资讯供应商。
Copyright © 2014 贝博体育,西甲合作伙伴贝博,西甲贝博平台 网站地图