币海NEWS

11月03日 星期二 (今天)
45分钟前
彭博伦敦科技峰会要点总结
财经 ·  admin   |   2026-11-03 20:53:02
一、人工智能(AI)安全、风险与监管。 1、测试环境突破与误解:针对OpenAI、Meta和Anthropic等模型在测试中突破沙箱限制并实施网络攻击的事件,AI安全初创公司Irregular首席执行官Dan Lahav表示,这源于“误解”与“时间紧迫下的错误”,目前已被修复。 2、存在主义风险与黑客攻击:Dan Lahav对AI消灭人类的概率持乐观态度(认为本年内概率接近于零),但英国AI大臣Kanishka Narayan强调,英国公共与私营部门遭遇AI网络攻击的概率“极高”,更令人担忧的是现实中的网络安全与生化风险。 3、开源模型风险:Cohere首席AI官Joelle Pineau指出,由于“语音欺诈风险过高”,公司决定不开源语音复制模型,并指出许多银行尚不具备抵御复杂AI黑客攻击的网络防御能力。 4、英国与欧盟的监管立场:英国AI大臣表示,英国不会采取“监管优先”的做法(间接批评欧盟),而是致力于建立基础设施并充当安全监控的“诚实经纪人”,同时计划到2030年将英国算力提高三倍。