TOP榜写作榜手机小说

最近更新新书入库全部小说

三月天 >> 入编的那些事儿 >> 第307章 风险与控制:论生成式人工智能应用的个人信息保护

第307章 风险与控制:论生成式人工智能应用的个人信息保护

其一,建立可信的数据来源和算法模型。数据来源和算法模型分别是生成式人工智能的基础和核心技术,直接影响了生成式模型的质量和可信度,建立可信的数据来源和算法模型可以减少误差和漏洞的产生,从源头防范生成式人工智能生成虚假信息。根据《互联网信息服务深度合成管理规定》等相关规定,可以从以下方面来建立可信的数据来源和算法模型。一方面,应当确保所使用的数据来源的合法性和合规性,符合数据保护法、隐私保护法和知识产权法等相关法律和规定。并且应当通过数据清洗、数据归一化和数据转换等措施,以减少数据中的误差,确保数据来源的质量和准确性。当前,以ChatGPT未代表的生成式人工智能既未公开其数据获取方式,也未标明语料库数据获取来源,致使语料库中数据和信息来源的合法性和真实性无从判别。为确保生成内容的真实、可信,应当根据上述规定强化这方面的合规要求。另一方面,应当使用正则化和交叉验证等技术减少算法模型过拟合,以确保模型在面对各种攻击和恶意操作时也能保持其准确性和可靠性。同时生成式人工智能技术服务提供者应当定期对其产品进行合规审查,识别和解决潜在的技术安全隐患,以保障生成文本的真实性和避免潜在的风险。

其二,建立透明、可解释的算法模型。为保证生成式人工智能生成内容客观、真实、可信,建立透明、可解释的算法模型尤为重要。与其他语言模型一样,生成式人工智能并非完全客观、中立的工具。其对世界的“认识”取决于算法和设计者所做的决定,如使用哪类数据进行文本训练或使用何种生成方式进行内容回复。生成式人工智能算法的难以理解和非直觉性特点为其价值判断和意识形态安全风险带来了挑战。为此,算法透明原则应运而生,旨在揭开算法生成内容的真实面貌,从而增强其可解释性和可问责性。遵循该原则,通过公开和披露算法设计原理、数据输入输出等要素,可保障算法公正性和可信性,确保生成内容的真实性和客观性。在此基础上,为用户赋予获取算法解释的权利,将用户协议转化为实质上的平等,进而形成用户对虚假信息生成风险的主动防御。为了更好地实现算法透明和可解释的原则,一些国家和组织也发布了相应的指导方针。例如,英国信息专员办公室在2020年发布了《人工智能决策说明指南》,其中涵盖了AI决策说明的六种类型,为生成式人工智能技术服务提供者提供参考和指导。我国可以此为参照构建完善生成式人工智能算法解释相关规则。

其三,进行深度合成标识。深度合成标识是控制生成式人工智能虚假信息传播的重要手段之一,可以帮助监管部门有效追踪虚假信息的来源,提高虚假信息的识别率,促进生成式人工智能的透明化。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法》等相关规定反复提到对深度合成内容进行标识。生成式人工智能技术服务提供者应当对生成内容中可能导致公众混淆或者误认的,在生成内容合理位置、区域进行显着标识,向公众提示深度合成情况。尤其是在涉及医疗、金融、教育等问答的时候,应进行更加显着的风险提示。然而,现有规定只是概括性的,并未对深度合成标识的技术标准和规范进行明确规定。未来还应建立成式人工智能技术行业深度合成标识的技术标准和规范,明确该行业深度合成标识的要求和实现方法,提高深度合成标识的可行性和普适性,以促进深度合成标识规定在生成式人工智能应用中的切实落实。

其四,建立虚假信息鉴别与处置机制。在部分虚假信息已经生成的既定事实下,为了及时发现和处置生成式人工智能产生的虚假信息,减少其对社会、经济和个人造成的负面影响,还应当构建虚假信息鉴别与处置机制。通过建立用于识别违法和不良信息的特征库、建立健全虚假信息质疑和辟谣机制、对接信息发布平台实施暂停服务等措施及时识别和控制虚假信息,并防止其进一步扩散。此外,还应建立严格的责任制度。生成式人工智能研发人员、所有者、运营者和发布平台根据其过错在各自责任范围内承担虚假信息生成的法律责任。在责任分配时应遵循支配原则,即风险属于谁的管辖范围,谁便需要对风险及由此产生的结果来负责。

(四)健全基于风险的个人信息保护合规制度体系

随着《个人信息保护法》的正式实施,越来越多的企业开始建立个人信息保护合规管理体系,以规范企业内部的个人信息处理行为,预防个人信息泄漏等安全事件的发生。尤其对于大型个人信息处理者来说,建立个人信息保护合规管理体系是实现个人信息安全保障的必要之举。《个人信息保护法》第58条明确规定对“超大互联网平台”课以“建立健全个人信息保护合规制度体系”的义务。因此,生成式人工智能服务提供者作为大型个人信息处理者,同样应承担起健全个人信息保护合规制度体系的义务。今后应努力在生成式人工智能信息安全保障体系中嵌入个人信息保护合规内容,并着重从以下两方面入手:

小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!

入编的那些事儿最新章节 - 入编的那些事儿全文阅读 - 入编的那些事儿txt下载 - 基建工程兵子弟的全部小说 - 入编的那些事儿 三月天

猜你喜欢:我不是戏神官场:被贬后,我强大身世曝光官场从秘书开始重生:权势巅峰重生60带空间四合院:垂钓诸天万物年代1960:穿越南锣鼓巷,盖世神医权力巅峰:从借调省委大院开始官场:救了女领导后,我一路飞升权欲:从乡镇到省委大院分手后,五个高官女儿爱上我官场:从市委办开始主政一方健身教练!我的极品女老师阿姨的诱惑我在精神病院学斩神官场:美女领导带我青云直上师娘,请自重重生1958:发家致富从南锣鼓巷开始官家天下诸神愚戏仕途人生医权在握斩灵少女:我契约的全是上古神兵重生日常修仙
完本推荐:十日终焉全文阅读我不是戏神全文阅读疯批小师叔她五行缺德全文阅读重生之将门毒后全文阅读全职法师全文阅读兽世种田:反派崽崽超粘人全文阅读退婚后,高冷女帝后悔了全文阅读仕途人生全文阅读全球高考全文阅读仙逆全文阅读将军,夫人喊你种田了全文阅读大奉打更人全文阅读惹金枝全文阅读诡舍全文阅读重生大时代之1993全文阅读凡人修仙传全文阅读官海沉浮之美人泪全文阅读天官赐福全文阅读豪门大小姐她撕了白月光剧本全文阅读宰执天下全文阅读
最近更新:玄天轮回路九劫凰焰传迷案诡影召唤武侠:大秦云王,镇压群雄被渣男分尸后,我从坟里爬了出来60年能透视打猎寻宝带全家吃肉村花遍野,小神医太快活了一人:纯阳未破,雷法称霸异人界九幽御兽录:不死骷髅王征战万界近战无敌,你管这叫奶妈?遮天:我王腾,绝不可能重蹈覆辙爆兵系统之开局怒杀女帝惊爆!真千金她是马甲大佬快穿之纠正男主原神:我是BUG调试员玄鼎凌仙途渣男换娶绿茶后糙汉军官惜我如命出狱被断亲?幸好我无敌了!梧桐街记事绾星恋语轮回归来召唤天下!从流亡公子开始崛起时空守护者及永生人女扮男装被养兄发现后老太太重生七零,断亲离婚逆袭了让我医武双绝,你管这玩意儿叫诅咒?兵中王者传奇医者道心红杏妻出轨?暴揍奸夫后开始复仇尸潮,与绝望同行

入编的那些事儿最新章节手机版 - 入编的那些事儿全文阅读手机版 - 入编的那些事儿txt下载手机版 - 基建工程兵子弟的全部小说 - 入编的那些事儿 三月天移动版 - 三月天手机站