腾讯安全团队:谷歌AI学习系统有安全漏洞
首页>>信息安全>>正文

目录

          腾讯安全平台部Blade团队日前对外发布消息称,该团队在对谷歌人工智能学习系统Tensorflow进行代码审计时,发现该系统存在重大安全漏洞,利用该系统进行编辑的AI场景,有遭受恶意攻击的可能。

      据腾讯安全平台部负责人杨勇介绍,Tensorflow是目前谷歌免费开放给AI设计者的编程平台,程序员可以在该平台上进行AI组件的设计工作。杨勇表示,当含有安全风险的代码被编辑进诸如面部识别或机器人(19.510, 0.49, 2.58%)学习的AI使用场景中,攻击者就可以利用该漏洞完全接管系统权限,窃取设计者的设计模型,侵犯使用者隐私,甚至对用户造成更大伤害。


      杨勇说:“通俗地讲,如果设计人员在给机器人编程时恰好使用了含有该漏洞的组件,那么恶意攻击者就有可能利用漏洞控制该机器人,这是非常可怕的。目前我们在AI安全领域还只是迈出了一小步,未来期待更多的技术人员一起完善AI,让AI更安全……”

        Blade团队表示,Tensorflow是目前应用最为广泛的机器学习框架之一,已被运用在诸多AI场景中,如语音识别、自然语言理解、计算机视觉、广告、无人驾驶等;其一旦被黑客控制,后果不堪设想。目前Blade团队已将漏洞的运用机理致函谷歌公司,而该漏洞需要谷歌安全团队对代码重新编辑。


      对此,一些业内专家也表达了担忧。上海信息安全行业协会专委会副主任张威认为,当前从事人工智能开发的企业几乎无一例外地将算法和数据相融合,一些数据可能涉及企业和用户的核心秘密,一旦出现安全漏洞,风险较高。


      张威建议,有关企业应尽快自查是否使用过该平台进行AI编程,同时行业内应加强联系沟通,消除安全隐患。

    文章编辑:人工智能技术社区

    文章来源:腾讯Blade安全团队


    给TA打赏
    共{{data.count}}人
    人已打赏

    相关文章

    加拿大禁止华为和中兴通讯 5G 设备,下令到 2024 年全部移除

    加拿大禁止华为和中兴通讯 5G 设备,下令到 2024 年全部移除

    加拿大政府宣布,已禁止在其 5G 网络中使用华为和中国科技巨头中兴通讯的设备。在一份声明中,它引用了此举的国家安全问题,称供应商可能被迫遵守“外国政府的法外指示”,其方式可能“与加拿大法律相冲突或损害加拿大利益”。 到今年 9 月,电信公司将被禁止从这些公司采购新的 4G 或 5G 设备,并且必须在 2024 年 6 月 28 日之前从其网络中移除所有中兴和华为品牌的 5G 设备。设备还必须再2027 年底由 4G 网络中移除。加拿大政府在声明中写道:“政府致力于最大限度地提高 5G 的社会和经济效益以及获得大量电

    谷歌发布 Android 安全公告,40 多个漏洞被利用

    谷歌发布 Android 安全公告,40 多个漏洞被利用

    谷歌周一发布了 6 月份的 Android 安全公告,其中包含 40 多个影响 Android 设备和相关补丁的安全漏洞的详细信息。 在公告中,这家技术巨头解释说,这些问题中最严重的是系统组件中的一个严重安全漏洞,它可能导致远程代码执行 

    被金钱诱惑!90后IT青年参与开发涉诈App,不少来自知名高校

    被金钱诱惑!90后IT青年参与开发涉诈App,不少来自知名高校

      几个月前,湖北省黄冈市浠水县的陈女士,在手机应用市场下载了一款炒虚拟货币的App。没想到,没用多久,这款App居然打不开了,她充值进去的74万元也随之“灰飞烟灭”……   在北京市顺义区,郭女士下载了一款财富管理App,这款App看起来和身边朋友们的毫无二致,郭女士投资其中、收益颇丰。没想到,在投入200余万元巨款后,系统显示“账户异常”无法提现,这款App再也无法登录……     警方调查发现,她们下载的这些App,外观设计都很“高大上”,起初各类功能看似正常,实际上都

    美国安全局NSA、CISA 发布 Kubernetes 强化指南

    美国安全局NSA、CISA 发布 Kubernetes 强化指南

      美国国家安全局 (NSA) 和网络安全与基础设施安全局 (CISA)今天发布了网络安全技术报告“ Kubernetes 强化指南”。该报告详细介绍了对 Kubernetes 环境的威胁,并提供了配置指南以最大限度地降低风险。 Kubernetes 是一个开源系统,可自动部署、扩展和管理在容器中运行的应用程序。Kubernetes 集群通常托管在云环境中,并提供比传统软件平台更高的灵活性。 Kubernetes 的攻击目标通常有以下三个原因:数据窃取、计算能力窃取或拒绝服务。传统上,数据盗窃是主要动机;
    信息安全

    验证码已失效:彻底打败图灵测试安全机制的生成视觉模型

    2017-10-30 2:41:40

    信息安全后端开发

    Fastjson <=1.2.68全版本远程代码执行漏洞通告

    2020-5-31 12:07:15

    0 条回复 A文章作者 M管理员
      暂无讨论,说说你的看法吧
    个人中心
    购物车
    优惠劵
    今日签到
    有新私信 私信列表
    搜索