自chatgpt问世以来,人工智能行业高速发展,已成为当前社会一大主流趋势。然而,高速发展的新行业不可避免的带来一些弊端,生成式人工智能带来的风险也日益显现。例如生成技术可能被用于制造虚假信息或进行网络攻击,对网络安全构成威胁;生成内容难以与真实内容区分,可能误导公众;AI生成内容可能触及道德和伦理底线,如生成违法或不道德的内容。其中与网民最息息相关的还是信息泄露问题,AI需要收集更多类型的用户信息作为“养料”,增加了个人信息泄露的风险。

  在此背景下,中国信息通信研究院(简称“中国信通院”)联合抖音、百度、阿里巴巴、科大讯飞、合合信息等科技企业,共同参与了《生成式人工智能个人信息保护技术要求》系列标准(下称“标准”)的编制。

  经过充分的研讨,《生成式人工智能个人信息保护技术要求》系列标准覆盖了生成式人工智能的设计、训练与应用三个阶段,主要围绕总则、隐私声明告知、训练数据构建、模型规制控制、供应链保障、二次开发管理、输出阶段管理、个人权利响应,共计从八个方面提出个人信息保护指引。

  从用户角度看,标准的制定有利于保护个人合法权益;从企业发展角度看,标准为企业研发生成式人工智能降低了不确定性;从行业发展角度看,能为监管机构指导企业活动提供参考和依据,引导生成式AI行业健康发展。除此之外,标准也有利于企业积极承担个人信息保护义务,为用户提供更安全、更可靠的信息服务。

  在数据安全和隐私保护方面,合合信息积极响应号召,针对产品设计、运营多个维度建立起了一套标准完善的体系、流程、控制措施和规范,获得了多方认可。合合信息曾荣获上海市网信办“2023年度网络数据安全风险评估试点工作优秀单位”称号,旗下的扫描全能王、名片全能王、启信宝等产品在中国网络安全产业联盟(CCIA)数据安全工作委员会个人信息保护影响评估专题工作(简称“PIA专题工作”)中荣获“PIA二星级标识”。

  此外,合合信息还发布了AI图像安全技术方案,包括AI图像篡改检测、生成式图像鉴别等重点技术,可用于对抗恶意的图像篡改、虚假生成图片和非法个人信息的获取。

  科技向善不仅是一项理念,更是一个实践过程。合合信息将始终坚持拥抱创新,用技术的力量造福社会群众,发现潜在风险,积极寻求行业共识和解决方案,让人们在AI发展的高速列车上享受科技带来的便利生活。