随着人工智能研究和应用的迅猛发展，与之相关的风险也在不断增加。面对这一复杂局面，麻省理工学院等机构的研究人员发布了人工智能风险库，风险库详细记录了由人工智能系统带来的数百种风险。该库可以为政府、研究和工业决策者提供评估人工智能风险的参考。

      为了应对当前人工智能风险分类的不协调问题，人工智能风险库应运而生。许多组织和研究人员已经认识到了这一重要性，但缺乏统一的分类系统导致了分类体系的碎片化。麻省理工学院未来科技中心博士后研究员、项目负责人彼得·斯拉特里在接受采访时表示：“启动这个项目的初衷是想理解组织如何应对来自人工智能的风险。我们希望有一个全面的人工智能风险概览，作为清单使用，但当我们查看文献时，我们发现现有的风险分类像拼图的碎片一样，单独看有趣且有用，但不完整。”

      为了解决这一问题，人工智能风险库整合了来自43个现有分类的信息，包括同行评审的文章、预印本、会议论文和报告。这一细致的整理过程产生了一个包含700多个独特风险的数据库。该库采用了二维分类系统，首先根据风险的原因进行分类，考虑责任实体、意图和风险发生的时间。其次，风险被划分为七个不同的领域，包括歧视和毒性、隐私和安全、错误信息和恶意行为者以及滥用。

▲ 人工智能风险的因果分类法对人工智能风险发生的方式、时间和原因进行了分类。

      人工智能风险库是一个动态更新的数据库，公开可访问，组织可以下载它供自己使用。研究团队计划定期更新数据库，包括新的风险、研究发现和新兴趋势。

      对于不同行业的组织来说，人工智能风险库是一个实用的资源。对于开发或部署人工智能系统的组织，该库提供了风险评估和缓解的清单。研究人员指出，使用人工智能的组织可以利用人工智能风险数据库和分类作为全面评估其风险暴露和管理的基础。分类还有助于识别需要执行以缓解特定风险的特定行为。

      研究团队强调，人工智能风险库提供了全面的基础，但组织需要根据自身的具体情况来定制风险评估和缓解策略。拥有一个集中和结构良好的库可以减少忽视关键风险的可能性。

▲ 人工智能风险领域分类法将人工智能风险分为 7 个领域和 23 个子领域。

      麻省理工学院未来科技实验室的负责人尼尔·汤普森表示：“我们预计该库将随着时间的推移对企业越来越有用。”研究团队计划在项目的后续阶段添加新的风险和文件，并请专家审查风险并识别遗漏。这将有助于提供有关专家最关注的风险以及对特定行为者最相关的风险的更多有用信息。

      人工智能风险库对于人工智能风险研究人员来说也是一个宝贵的资源。数据库和分类提供了一个结构化的框架，用于综合信息、识别研究差距和指导未来的调查。斯拉特里表示：“这个数据库可以为进行更具体工作时提供基础。”研究团队计划将人工智能风险库作为他们自己研究下一阶段的基础，并使用该库来识别组织在解决风险方面的潜在差距或不平衡。

      随着人工智能风险格局的演变，研究团队将更新人工智能风险库，并确保它对研究人员、政策制定者和行业专业人士保持有用。