探寻合规之道,共筑数据保障之堡。专注为数据安全管理者、技术专家、隐私法务、律师等专业人士打造的知识共享与交流平台。
跨年直播分享荟第一场
即便是接入的大模型完成了算法备案,本算法它仍然需要进行算法备案。
且在特定情形下,只有我们接入的大模型完成了算法备案,我们这个算法才能进行算法备案。这取决于接入大模型的方式。
第一种:使用其他大模型的开源代码形式。
本算法完成备案,并不要求接入了大模型已完成算法的备案,也就是本算法并不依赖于前置的大语言模型的备案才能完成。
第二种:以 API 接口形式接入。
要完成本算法备案的前提一定是接入的大模型已经完成算法备案。
生成式人工智能服务备案的备案,接近于个案审查的方式。
以上海为例,所有可能涉及该领域AIGC产品提供者,应向上海网信办邮箱([email protected])发送本公司AIGC产品情况,包括:
1.AIGC产品载体:网页、APP、小程序;
2.接入的基础大语言模型:如文心一言,书生大语言模型;
3.大语言模型接入方式:API接口或开源代码产品形态:
4.引入新的训练数据,是否对于原模型有影响:例如给原模型提供训练数据,致使原模型发生改变,或训练数据仅为参照(搜索引擎)的使用方式。最终网信办会根据提供的信息情况告知企业是否需要进行生成式人工智能服务备案/认定。如果网信办回复到无需备案,其实这个关于这个合规义务的闭环也是完成了。如果需要备案的话,网信办会继续提供相应的备案材料。
因此,生成式人工智能服务备案,它的启动方式其实更接近于个案审查。建议还是跟网属地网信办进行良好的沟通来确认自己的产品是否需要进行这样的一个备案。
1.算法公开透明:是指向公众提供有关算法及其决策过程的信息。
《生成式人工智能服务管理暂行办法》:
第十条 提供者应当明确并公开其服务的适用人群、场合、用途,指导使用者科学理性认识和依法使用生成式人工智能技术,采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
《互联网信息服务算法推荐管理规定》:
第十二条 鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。
《关于加强互联网信息服务算法综合治理的指导意见》:
(十三)推动算法公开透明。规范企业算法应用行为,保护网民合理权益,秉持公平、公正原则,促进算法公开透明。督促企业及时、个合理、有效地公开算法基本原理、优化目标、决策标准等信息,做好算法结果解释,畅通投诉通道,消除社会疑虑,推动算法健康发展。
《生成式人工智能服务安全基本要求》:
在司法实践中,算法可解释性对算法服务提供者至关重要。
企业需要对自身的算法规则及其解释程度承担举证责任。
这一点在诉讼中尤为关键,因为算法的透明度和可解释性是《生成式人工智能服务管理暂行办法》和《互联网信息服务算法推荐管理规定》中明确规定的义务,这意味着企业在诉讼中需承担相应举证责任以及举证不能的不利后果。
《生成式人工智能服务管理暂行办法》
1.开源语料:
是否遵循开源许可证。
开源许可证的兼容性。
开源许可证的传染性。
2.通过自动化方式采集:
数据爬取行为合规性。
3.通过提供其他相关服务收集:
取得相关用户授权,授权内容应包括用户同意将其数据用于算法训练。
4.自第三方采购:
数据提供方应提供语料来源、质量、安全等方面的承诺以及相关证明材料时。
应对该等训练语料数据进行合规审查。
签署协议,协议之中应包含数据条款。
5.使用者使用而产生的数据:
应取得用户授权,并提供退出机制。
1.个人信息:考虑语料中是否包含未经授权的个人信息。
2.商业秘密:关注语料中是否涉及商业秘密,防止泄露。
3.著作权:检查语料的使用是否可能侵犯著作权。
4.专利权:评估语料中是否包含专利技术,是否已获得授权。
5.商标权:确认语料中是否包含未经授权的商标。
6.肖像权:考虑语料中是否涉及肖像权,是否合法使用。
7.声音权:评估语料中是否涉及声音权,是否合法使用。
8.名誉权:考虑语料是否可能侵犯个人或企业的名誉权。
9.隐私权:关注语料中是否涉及隐私权,是否合法使用。
……
1.语料内容安全:
应采取关键词、分类模型、人工抽检等方式,充分过滤全部语料中的违法不良信息。
2.模型生成内容:
训练过程中,将生成内容安全性作为主要衡量指标;
每次对话,应对使用者输入信息进行安全性检测;
建立常态化监控手段,及时发现并优化可能的安全问题。
3.向使用者提供服务:
对使用者输入信息进行检测,使用者多次输入违法不良信息或明显诱导生成违法不良信息的,暂停服务;
对明显偏激以及明显诱导生成违法不良信息的问题,应拒绝回答;对其他问题,应均能正常回答;
设置监看人员,并及时根据监看情况提高生成内容质量及安全。

▲《大模型安全、监管与合规》获得机械工业出版社2024年度优秀图书奖
原文始发于微信公众号(合规社):AI算法合规的14个常见问题 | Q&A
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论