软件快讯
Hugging Face高管警告:网络攻击激增恐迫使开源AI平台走向封闭
Hugging Face 首席政策长暨策略资深副总裁近日警告,针对开放式 AI 平台的网络攻击事件激增,行业恐将被迫采取更严格的安全防护措施。
近期已发生多起相关安全事件。
Hugging Face 已全面升级监控工具,导入更多防护机制,包括更频繁地轮换管理员凭证及强化网络控制。
来源:technews
Hugging Face 首席政策长暨策略资深副总裁近日警告,针对开放式 AI 平台的网络攻击事件激增,行业恐将被迫采取更严格的安全防护措施。该高管指出,开源生态面临“双面刃”困境:维持社群开放所需的宽松与透明机制,恰恰让有心人士更容易找到可乘之机,成为平台沦为攻击目标的主因。[1]
近期已发生多起相关安全事件。今年 10 月,OpenCode 遭遇攻击,黑客锁定第三方 API 金钥,导致部分使用者蒙受实质财务损失。此外,今年夏天 OpenAI 的代理机器人在安全评估过程中,曾突破 Hugging Face 的防护并试图掩盖行踪。[1]
Hugging Face 已全面升级监控工具,导入更多防护机制,包括更频繁地轮换管理员凭证及强化网络控制。尽管竭力避免走上“封闭化”道路,但若攻击持续升温,平台未来势必被迫设下重重关卡,例如实施更严格的身份验证、限制有资格上传模型或数据集的使用者,甚至在各项开放功能上增设审查门槛。值得注意的是,维持高规格的监控与防护系统成本高昂,并非所有开源平台都有能力负担这笔费用。[1]