腾讯安全团队:谷歌学习系统存在的问题


腾讯企业邮箱安全平台刀片团队近日对外发布消息称，在审核谷歌人工智能学习系统TensorFlow代码时，发现该系统存在重大安全漏洞。系统编辑的AI场景可能受到恶意攻击。
TensorFlow安全平台部门负责人表示，TensorFlow目前是一个面向AI设计师的免费编程平台，允许程序员设计AI组件。当包含安全风险的代码被编辑到人工智能使用场景中，如人脸识别或机器人学习，攻击者可以完全接管系统特权，窃取设计者的设计模型，侵犯用户隐私，甚至对用户造成更大的伤害。
杨勇说:“一般来说，如果设计师在给机器人编程时碰巧使用了含有漏洞的组件，那么恶意攻击者可能会利用这个漏洞来控制机器人，这是非常可怕的。目前，我们在人工智能安全领域只迈出了一小步。在未来，我们期待更多的技术人员共同努力，提高人工智能，使人工智能更加安全。
Blade团队表示，TensorFlow是应用最广泛的机器学习框架之一，已被应用于许多人工智能场景，如语音识别、自然语言理解、计算机视觉、广告、无人驾驶等。一旦被黑客控制，后果不堪设想。目前，Blade团队已经向谷歌编写了漏洞机制，需要谷歌安全团队重新编辑代码。
对此，一些业内专家也表示关注。据上海信息安全产业协会特别委员会副主任介绍，几乎所有从事人工智能开发的企业都在合并算法和数据。有些数据可能涉及企业和用户的核心秘密。一旦存在安全漏洞，风险就会更高。
因此，所有相关企业都应该尽快检查自己是否使用过AI编程平台。同时，行业应加强沟通，消除潜在的安全隐患。腾讯企业邮箱、qq企业邮箱、企业QQ邮箱与微信完美结合的企业QQ邮箱，腾讯QQ企业邮箱上安全、稳定、高效、便捷，企业qq邮箱每账号每年100元起，企业邮箱用户越多越优惠,腾讯企业邮箱首页:www.tjwlt.com