Scale AI

类别： 公司/项目
相关来源： wiki/sources/ai-project-batch-su

概述

随着 AI 代理开始在网上采取实际行动，我们如何防止意外伤害？。

融资进展

创建 WebGuard：第一个用于评估 Web 代理风险和为在线环境构建真实世界安全护栏的数据集。🧵WebGuard 将抽象的安全性变成了可衡量的东西。它从 22 个不同领域的 193 个不同网站捕获，是一个包含 4,939 个人工注释作的作级数据集，其中每个步骤都按其潜在影响进行分类。早期结果令人担忧。即使是前沿法学硕士也有超过 40% 的时间错过高风险行动。在企业环境中，金融交易或客户互动中的一个失误可能至关重要，这种误差幅度不仅有风险，而且是不可接受的。

技术方向

游戏AI, AI安全

与 OpenClaw 的关系

作为AI行业的代表性项目，Scale AI 的技术方向和市场表现对 OpenClaw 的发展具有参考价值。