AIGC爆火的背后 《办法》打造可信AI护城河

众所周知,新兴技术的发展是把双刃剑,当人工智能从1.0时代迈入2.0时代,aigc(生成式人工智能)为千行百业带来市场红利的同时,也催生了不少行业安全隐患。
诸如技术滥用、虚假信息传播、个人信息权益被侵害、数据泄露或偏见歧视等安全问题,已然成为aigc产业持续发展的阻碍。因而,基于实际国情,适合我国社会环境、产业发展和技术创新等监管政策的出炉成为当务之急。
一、风险凸显
众所周知,ai发展的三驾马车“算法、算力、数据”,数据尤为重要,其安全性则是重中之重。而作为ai下一个风口的aigc,更需要海量优质数据为训练模型提供支撑,其训练参数量从亿级飙升到万亿级。
数据显示,2018年gpt预训练模型参数量突破1亿,2020年的cpt-3模型参数量达到1750亿,gpt-4的参数量高达1.8万亿,gpt-4的参数量规模是gpt-3的10倍以上。
可见,动辄千亿、上万亿参数的模型训练,不仅试错成本高昂,而且很难在训练过程中进行修正。aigc的训练模型数据需求量大,如若喂给大模型的样本数据存在虚假、不准确性或涉及到用户个人隐私安全,其生成内容归属难定,或将涉及到安全或隐私纠纷。
当前,aigc持续大热,其应用场景不断拓展,覆盖千行百业多个领域。当通用大模型向行业大模型转型升级,对细分行业的数据需求更多,数据质量要求更高,也对海量数据的真实性、准确性、安全性提出更高要求。
二、可信ai的挑战
聚焦国内市场,伴随着ai技术的快速迭代和应用场景商业化落地,aigc的发展也亟待解决可释性、公平性、鲁棒性等核心挑战。
通俗来讲,可释性就是“知其然不知其所以然”。例如当购物网站为用户推荐了一个商品,我们不仅希望用户看到推荐的结果,还要告诉用户为什么推荐这个商品。就是从“知道这个结果”到“为什么是这个结果”的溯源,但在人工智能的不断深度学习中,越来越缺少系统的可解释性。
公平性缺失意味着,在同样的商品推荐中,基于图神经网络结构隐藏在数据中的偏见,对性别、年龄、种族等产生不同的推荐效果,从而降低了对用户和对推荐物的公平性。
鲁棒性的挑战则指系统、算法或模型在存在异常输入、算法错误或深度伪造数据时,容易被欺骗犯错,从而造成ai系统的不可控和不准确。
综上来看,要做到可信ai,需要从可释性、公平性、鲁棒性、伦理性、正确性、安全性等多维度进行考量,才会更好地驱动aigc的未来发展。
由此可见,aigc的“超能力”将逐步赋能千行百业,有必要提前预防可能产生的安全风险。因而,为了规避新技术带来的陷阱,对aigc或将产生的不良影响,亟待政策层面的保障。
三、多国监管政策出炉
在aigc技术逐步向细分行业商业化的落地过程中,其引发的安全问题已受到全球关注,并引发监管层面的关注和行动。
今年4月,ai早期创始人马斯克联合业内千名高管和专家发布公开信,倡议所有人工智能实验室应立即暂停训练至少6个月,以应对ai脱离人类掌控的威胁。
5月,美国政府机构强调对chatgpt在伦理道德方面的监管,研究和制定针对chatgpt的监管政策和指南,以确保chatgpt的发展和应用符合法律法规和伦理标准。
6月,欧盟议会宣布《人工智能法案》进入最终讨论阶段,对aigc生成图像和文本的智能模型制定限制性规则。意大利、爱尔兰、德国、法国等或将停用chatgpt,并调查它是否符合通用数据保护条例。
7月,联合国安理会也在开展ai风险问题研讨。这是该机构第一次举行类型会议,各国政府积极探讨如何降低新兴ai技术在全球经济和国际安全方面带来的风险。
同是7月,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局发布《生成式人工智能服务管理暂行办法》(以下简称《办法》),自8月15日正式施行。
从上述各国对待aigc技术带来的风险挑战和应对措施来看,在aigc带来“超能力”之时,也需要对其引发的多重风险“立规矩”,助力aigc更好地落地应用。
四、《办法》打造护城河
历时3个月,伴随着aigc产业发展的高歌猛进,其监管政策也从征求意见阶段进阶到正式落地阶段,助力aigc成为真正的“可信ai”。正如业内人士所言:“《办法》的出台,就是打造可信ai的护城河”。
《办法》的出台,可谓顺势而为。其中,第七条提到生成式人工智能服务提供者需“使用具有合法来源的数据和基础模型;采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性。
具体规定包括:1)使用具有合法来源的数据和基础模型;2)涉及知识产权的,不得侵害他人依法享受的知识产权;3)涉及个人信息的,应用取得个人同意或符合法律、行政法规规定的其他情形;4)采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性;5)《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
可以说,《办法》的出台,即是在政策认可前提下的风险管控,可以为大数据确权、云计算自主性、网络安全等ai配套产业打造增量需求和服务,更好地实现“技术向善”。
随着aigc技术端的突破,将能更好地解决“安防+ai”遇到的个性化需求少、交付速度慢、长尾需求的算法精度差、定制化算法成本高等壁垒,助推“安防+ai”的二次变革,也助力安防产业收获第一波aigc应用市场的红利。
而安防产业在享受大数据、云计算、物联网、aigc算法生成等带来的红利时,也必须更高效地应对数据安全带来的安全挑战。特别是安防设备对图片、视频等数据的真实性和防伪性要求级别更高,《办法》的出台,为aigc在安防行业的落地应用提供了监管保障。
国家互联网信息办公室有关负责人也表示,出台《办法》,旨在促进aigc健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。
总结:
纵观aigc的发展轨迹,当前其应用领域侧重于to-c领域,涵盖对话、图片、音频、视频等内容生成,而未来涉及to-b领域的更多落地化应用场景对行业大模型的需求也不少,但苦于资金、技术和算力的掣肘,还需要“通用大模型+应用场景+训练调优”进行迭代,从而提升行业大模型能力,深化技术和应用场景。
可预见的是,基于aigc应用场景的普及和商业化落地,保护隐私和数据安全已刻不容缓。在此时间点,《办法》的出台则及时也很必要,可以降低aigc发展引发的多重风险,以促进行业整体健康发展。

蔬菜加工清洗流水线有哪些注意事项
2.0 模拟运输振动台 纸箱跌落试验机 是否忍受环境振动
65机色母粒双螺杆EVA挤出造粒机
你知道生物制药纯水系统在工艺分几种么
如何排除A52-012系列德国buschjost电磁阀故障
AIGC爆火的背后 《办法》打造可信AI护城河
订购电缆滑线导轨须注意那些问题?
湿式静电除尘器的几类挑选方式
磷酸酯-单酯含量和磷酸含量的测定
美国进口透析袋 宽度MD44 1000D 分子量 5.0米/卷398元
陈腐垃圾处理设备的利用有以下优势
ATOS阿托斯比例阀的优点和缺点
新型-水泥渗透硅质板设备-硅质保温板设备生产方法
小型气流超微粉碎机在中药行业的应用
信伟慧诚植物光合作用测试系统配置清单!
塑料悬臂梁冲击试验机用途及技术参数
seca834型【婴儿+儿童】多功能体重秤
自增压液氮罐一般使用年限多久
液相色谱仪在电子电气产品测试中的应用
电子织物强力机 织物强力试验机