首页> 关注此文用户还关注:

人工智能发展中的风险感知研究

产出机构: 中国科学技术信息研究所
提交机构: 中国科学技术信息研究所
产出日期: 2020-07-01   
发布日期: 2021-08-16   
作者: 高芳;徐峰;侯慧敏;

 

摘要: 

本报告采用地平线扫描研究方法,依循动态监视、态势感知和对象刻画的情报研究技术路线,利用网络、会议、期刊文献等多维信息源,对美国、英国、法国等世界主要国家人工智能战略和政府、企业、高校三个层面的核心机构研发(项目)情况进行扫描监视。通过解读《智能时代的风险管理》《美国国家人工智能安全委员会国会中期报告》等重要报告,计量中外人工智能风险研究学术文献,分析医疗、教育等人工智能行业赋能风险,本报告形成了对人工智能发展中赋能风险的认识,即一方面表现为对人工智能产生赋能影响的应对无能,另一方面表现为支持人工智能发展应用体系能力的不足或缺失。

在总体国家安全观的指导下,本报告感知识别人工智能发展中“军事-AI”“政治-AI”“经济-AI”“社会-AI”“科技-AI”“信息-AI”“文化-AI”等多个场景下的赋能风险,并结合风险管理理论,构建人工智能赋能风险感知框架,具体包括以下步骤:第一,人工智能赋能风险感知识别。(1)对人工智能技术发展进行地平线扫描:理解人工智能发展基础,监测智能技术相关主体,追踪关键人工智能技术进展,观察智能技术应用领域。(2)结合人工智能技术监测和地平线扫描,评价相关对象智能技术的发展水平和趋势,并结合政治、军事、社会、经济、信息、文化、科技等人工智能的赋能场景,识别具体赋能情境下可能产生的人工智能风险。第二,人工智能赋能风险感知分析。人工智能赋能风险感知分析主要是通过风险分析建立对赋能风险的理解,为风险评价、决策是否有必要进行风险应对、选择最恰当的风险应对战略和方法提供输入。包括:感知分析人工智能赋能风险来源/事件/成因;感知分析人工智能赋能风险发生可能;感知分析人工智能赋能风险潜在后果和影响。第三,人工智能赋能风险评价应对。在本研究中,将情报感知意识融入风险评估过程中,更强调对风险的前瞻预警;关注的不是直接事件而是能力变化可能带来的赋能风险,层次更加深入,强调的是风险应对能力的提升。

综上,本研究提出人工智能发展中的赋能风险防范对策建议如下:第一,强化危机意识,让国家安全观念深入到人工智能各个行业与领域;第二,开展前瞻布局,为人工智能技术监测扫描建立专门的制度和队伍;第三,聚焦能力关切,系统审视人工智能技术发展基础并开展赋能评估;第四,实现引领预警,充分发挥科技情报机构“醒早眺远”研判能力优势。

关键字: 人工智能;风险感知框架;文献计量

目录

第一章世界人工智能发展现状调研

1.主要国家人工智能战略

1.1美国

1.2英国

1.3法国

1.4德国

1.5日本

1.6新加坡

1.7韩国

1.8小结

2.核心机构智能技术研发

2.1政府层面

2.2高校层面

2.3企业层面

第二章人工智能发展中的风险感知分析

1.人工智能风险报告解读

1.1《智能时代的风险管理》解读

1.2《美国国家人工智能安全委员会国会中期报告》解读

2.人工智能风险计量分析

2.1国外数据

2.2国内数据(万方)

2.3国内数据(CNKI)

3.人工智能行业赋能风险

3.1医疗领域风险感知

3.2教育领域风险感知

3.3人文艺术领域风险感知

3.4自动驾驶领域风险感知

3.5机器人领域风险感知

3.6智能家居领域风险感知

第三章人工智能发展中的赋能风险感知框架

1.国家安全视角下的人工智能赋能风险

1.1军事-AI场景下的赋能风险

1.2政治-AI场景下的赋能风险

1.3经济-AI场景下的赋能风险

1.4社会-AI场景下的赋能风险

1.5科技-AI场景下的赋能风险

1.6信息-AI场景下的赋能风险

1.7文化-AI场景下的赋能风险

2.人工智能赋能风险感知框架

2.1人工智能赋能风险感知识别

2.2人工智能赋能风险感知分析

2.3人工智能赋能风险评价应对

第四章人工智能发展中的赋能风险防范对策建议

1.强化危机意识,让国家安全观念深入到人工智能各个行业与领域

2.开展前瞻布局,为人工智能技术监测扫描建立专门的制度和队伍

3.聚焦能力关切,系统审视人工智能技术发展基础并开展赋能评估

4.实现引领预警,充分发挥科技情报机构“醒早眺远”研判能力优势