AI安全新独角兽诞生:Irregular获巨额融资,模拟环境预测模型风险
随着人工智能模型能力快速提升,AI安全问题日益凸显。周三,专注于AI安全评估的公司Irregular宣布完成8000万美元新一AI轮融资,由红杉资本和红点创投领投,网络安全公司Wiz首席执行官阿萨夫·拉帕波特也参与投资。知情人士透露,此轮融资对Irregul安全ar的估值达到4.5亿美元。 "我们的观点是,很快,大量的经济活动将来自人与人工智能的互动以及人工智能与人工智新独能的互动,这将在多个方面打破安全体系,"联合创始人丹·拉哈夫告诉TechCrunch。这一判断反映了Irregular对AI时角兽代安全挑战的深刻洞察。 Irregular前身为Pattern Labs,现已成为AI评估领域的重要参与者。该公司的研究成果被广泛诞生应用于业界顶级模型的安全评估,包括Claude3.7Sonnet以及OpenAI的o3和o4-mini模型。更值得关注的是,该公:I司开发的模型漏洞检测评估框架SOLVE已在行业内获得广泛应用。 虽然Irregular在现有模型风险评估方面已有丰富积rr累,但此次融资的核心目标更加宏伟:在风险和危险行为真正出现之前就能预先发现并防范。公司构建了一套精密的模拟环境系统,能够在模型发布前进行eg密集测试。 "我们拥有复杂的网络模拟环境,其中AI既扮演攻击者角色,也扮演防御者角色,"联合创始人奥默·内沃解释道,"当新模型推出时ul,我们就能提前知道哪些防御措施有效,哪些无效。" 随着前沿AI模型潜在风险日益凸显,安全已成为整个AI行业的核心关切。OparenAI今年夏天全面改革其内部安全措施,以防范潜在的商业间谍活动,体现了头部公司对安全问题的重视程度。 同时,AI模型在发现软件漏洞获巨方面的能力不断增强,这对攻击者和防御者都带来了严重影响。对于Irregular的创始人而言,这只是大型语言模型不断增强功能所引发的众额融多安全挑战中的第一个。 "如果前沿实验室的目标是创造出越来越复杂、越来越强大的模型,那么我们的目标就是确保这些模型的安全资,,"拉哈夫表示,"但这是一个不断变化的目标,所以未来必然还有很多工作要做。" 这一表态清楚地勾勒出了AI安全领域的本质挑战:这是一模拟场AI能力提升与安全防护之间的持续竞赛,需要前瞻性的技术创新和持续投入。前瞻性安全防护理念
创新模拟环境技术
行业安全意识觉醒
安全与能力的赛跑
- 最近发表
-
- 云安全日报211021:思科网络管理软件发现命令注入漏洞,需要尽快升级
- 寒武纪宣布全面适配DeepSeek-V3.2-Exp 模型,推理引擎开源来袭!
- 标签: 苹果 库克 iPhone Apple 50周年
- 标签: 黑芝麻智能 华山A2000 理想Livis AI眼镜
- 标签: Abot-world 阿里巴巴高德 Agibot WorldArena
- 标签: 天农集团 清远鸡 生猪养殖 港交所上市
- IETF推出新标准草案:让机器识别网页AI内容成为可能
- 标签: 思格新能源 AI+光储一体化 许映童 港股IPO
- 阿里国际发布多模态大模型 Ovis2.5,推动视觉感知与深度推理新进展
- Github1.3万星,迅猛发展的JAX对比TensorFlow、PyTorch
- 随机阅读
-
- 云计算核心技术Docker教程:Docker Hub使用链接的私有子模块构建存储库
- 标签: 小鹏机器人 IRON 施晓鑫 鹏行智能
- 标签: 加特兰微电子 毫米波雷达芯片 UWB芯片 中金公司
- Reflection AI 融资 20 亿美元欲成为美国开源 AI 先锋,挑战 DeepSeek
- TikTok推AI剪辑新工具“Smart Split”,助力创作者轻松剪辑与内容策划
- 美国国家安全局授予亚马逊云服务价值100亿美元云计算合同
- 标签: 驭势科技 自动驾驶 IPO备案 AI驾驶
- 苹果iOS15.4.1正式版发布 修复电量消耗过快问题
- 微软的新玩具:LinkedIn推自由职业平台瞄准Upwork
- 云安全日报210928:思科多个产品服务器发现数据泄露漏洞,需要尽快升级
- 未来已来!Lyft将于2027年推出数百辆智能机器人出租车
- 图样图森破-pyecharts之时间轴
- AI 助力百万大奖!女子用 ChatGPT 选号中奖后全数捐出
- 标签: 安踏 FILA DESCENTE KOLONSPORT
- 京东:将京东云计算和人工智能业务分拆给京东数科
- 标签: 苹果 Meta Alan Dye iOS
- 标签: 乐欣户外 Solar 迪卡侬 钓鱼装备
- 标签: 小米汽车 SU7 雷军 宇树科技
- 云计算开发:Python练习实例-输出一个随机数
- YouTube Studio大升级!AI助手上线,创作者可一键检测盗用面孔
- 搜索
-
- 友情链接