需求发布 成果发布 科创案例库 揭榜挂帅
技术路演 会议展览 科创联合体 项目申报
前沿动态 科技政策 院士开讲 青托工程
科技服务团 学术资源
试点城市(园区) 双创活动周
协作站点 学会服务
问题库 项目库 开源库
English
您所在的位置: 需求库 技术需求 安全

安全

发布时间: 2023-10-02
来源: 科技服务团
截止日期:2023-10-07

价格 双方协商

地区： 北京市 市辖区 海淀区

需求方： 北京***公司

行业领域

电子信息技术

需求背景

⼤语⾔模型的内容安全问题主要包括以下⼏个⽅⾯：

1.不当内容⽣成：由于⼤语⾔模型是基于海量的训练数据，它们有时候会⽣成不当、冒犯性或有害的内容，例如仇恨⾔论、歧视性语⾔、暴⼒内容等。2.虚假信息传播：这些模型有时候会⽣成虚假的信息，可能会被滥⽤来散播谣⾔、误导信息，对社会产⽣负⾯影响。3.隐私问题：⼤语⾔模型可能会在⽣成的⽂本中包含个⼈敏感信息，导致隐私泄露的⻛险。4.版权问题：这些模型有可能⽣成侵犯版权的内容，如未经授权的⽂本剽窃。5.滥⽤问题：不法分⼦可能利⽤⼤语⾔模型来⽣成诈骗信息、恶意软件说明等，从⽽增加⽹络安全⻛险。

需解决的主要技术难题

1.预训练内容安全增强研究；2.模型安全对⻬；3.模型安全性评测⽅法；4.安全攻击⼿段研究等。

期望实现的主要技术目标

课题⽬标是需要结合技术⼿段和道德规范，在保持模型创造性和有⽤性的同时，最⼤程度地减少模型可能带来的负⾯影响。这可能涉及到数据清洗、预训练、模型对⻬、安全性评测等各个阶段。

需求解析

解析单位：“科创中国”工业互联网产业科技服务团（中国计算机学会） 解析时间：2023-10-13

李华康

西交利物浦大学

副教授

综合评价

解决大模型的安全问题对于产业发展具有重大意义。随着人工智能和大数据技术的快速发展，大模型在各个领域的应用越来越广泛，但同时也面临着安全风险。保护大模型的安全性不仅关乎企业和用户的利益，也涉及到信息安全和隐私保护的重要问题。技术解决路径：数据保护和隐私保护、访问控制和身份验证、安全监测和日志记录、安全意识培训。
查看更多>
更多

处理进度

  1. 提交需求
    2023-10-02 22:41:40
  2. 确认需求
    2023-10-10 16:12:10
  3. 需求服务
    2023-10-12 10:27:05
  4. 需求签约
  5. 需求完成
服务方

“科创中国”江苏科技服务团 , “科创中国”工业互联网产业科技服务团 , “科创中国”江苏科技服务团（江苏省学会服务中心）