“随着人工智能应用的广度和深度不断拓展，也慢慢显露出一些风险与隐患，算法的安全、数据歧视、数据滥用等诸多问题引发人们对人工智能信任的思考。”7月9日，中国信息通信研究院院长余晓晖在2021世界人工智能大会同期举办的以“AI向善，全球共治”为主题的可信AI论坛上说。
面对人工智能引发的全球信任焦虑，发展可信人工智能已经成为共识。《每日经济新闻》记者注意到，围绕可信AI话题，论坛上，多国院士、可信AI领域专家学者，政府及行业协会、AI企业代表等就这一关乎人工智能长远发展的重要议题展开探讨。
可信AI论坛发起《促进可信人工智能发展倡议书》面向全球正式发布
随着AI在商业场景中愈发广泛和深入的应用，AI产品引发的事故和纠纷时有发生，在这些场景下，如何区分各个主体的责任和权利，是产业界和监管机构面对的新问题。
什么是“可信AI”？采用何种标准评价和监督AI的安全性？
京东探索研究院院长、澳大利亚科学院院士陶大程在论坛上谈道，要实现可信AI，主要是两个方面：一个是观念的建立，再一个是技术的落地。“从2017年到今年，不同的白皮书都提出了可信的概念。我们在探讨的过程中，把它汇聚成了四个方面的性能来度量‘可信’：稳定性、可解释性、隐私保护性、公平性。有了这四个能力范畴之后，我们希望这四个能力能够做到未来的明确责任，即人工智能系统一旦出现问题的时候，我们需要定责，出现责任到底谁来承担，以什么样的方式承担，需要有明确的指标，这就是‘找到合适度量的方式度量可信人工智能’。”
此外，《每日经济新闻》记者注意到，当前，AI技术正在全方位多角度地渗透到社会生活的方方面面。无论是个体，还是组织都身处这场巨大的变革之中。生物信息识别、购物推荐、智能制造、自动驾驶、智慧医疗、在线教育等都在AI的推动下迅猛发展。
那么，技术朝着哪个方向改变才能兼具功效和可解释性？
联合国教科文组织人工智能伦理特设专家组专家曾毅认为，可信人工智能系统必须有在线连续学习和随时纠正能力。“从技术的角度看，最新人工智能技术进展模型现在看来都是不可信的。研究可信人工智能，这不是一个终点，现在人工智能的技术还不足够谈到真正的可信，所以，它是一个起始点；另一方面，可信人工智能绝对不仅仅是技术问题，还有社会的视角。在构建人工智能模型服务于全人类时，有时候在跨文化的交互过程当中，文化之间互信最终会影响可信人工智能部署到全球以及全球化发展。如何利用技术赋能跨文化的互信，在我看来是真正实现可信人工智能不得不做的事情，甚至是最后成功的关键。”
蚂蚁集团副总裁、首席AI科学家漆远教授在会上分享了蚂蚁集团在可信AI技术领域的多项技术和应用成果。他表示，融入经济学“博弈理论”的“智能对抗”技术，能够借助“双手互博”的演习机制，让AI模拟黑产发起对自身的攻击演练，从而帮助AI在风险识别、抗打击能力上持续、自动进化升级。
在解密可信AI中的“风险”、“信任”与“公平”三大问题时，漆远表示，“未来的风控将不再是人和人的斗争，而是AI与AI的博弈，”漆远说，“在支付宝上，每天上亿笔交易背后，发起攻击的早已不是散户，而是专业的黑产团伙。”他透露，继“隐私计算”和“图学习”技术取得实践成果后，蚂蚁集团在可信AI技术体系中的又一项重要“智能对抗”技术现已正式上线，支持反欺诈等多个风控场景。
上海是中国人工智能发展的领先城市，上海市在可信人工智能上的探索和实践，对于中国和全球人工智能发展都会有非常重要的意义。
在谈到上海在开展人工智能治理和可信AI的研究和探索问题时，上海市经信委主任吴金城透露目前的工作包括：一、上海不断推动治理框架的加快形成，上海市人工智能产业安全专家咨询委员会，国家新一代人工智能创新发展试验区专家咨询委员会治理工作组等相继成立；二、推动制度规范不断完善，在国家数据安全法框架下，加快制定上海市数据条例，推动公共场所人工智能分级分类应用规范等地方标准的立项；三，推动开放协作深化拓展，发布人工智能创新治理上海宣言，参与国际人工智能治理问题研究交流。
中国信通院云大所何宝宏所长则谈道，“随着全社会的数字化转型，我们越来越生活在一个数字化原生的时代，生活在一个人工智能原生的时代。不仅基础设施已经数字化了，而且人类的思考、控制甚至决策也外包给了算法和人工智能。当决策外包后，人工智能首先要做的事情，就是如何证明自己是值得信赖的，但在没有证明自己值得信赖之前，我们还是不敢将我们的决策和思考、控制移交给人工智能的，所以，对人工智能可信任的研究就形成了全球的共识。”
事实上，推动人工智能的透明可视、安全可控、多元包容已成为全球共识，也是未来人工智能健康发展的必由之路。
工信部科技司技术处徐鹏处长则对下一步人工智能和实体经济融合，法律法规、伦理以及生态建设等方面提出了一些思考与建议，他提出，加快相关法律法规、伦理、治理框架标准和研究工作，重点研究智能算法产品安全性和公平性，切实提升数据安全和隐私保护能力；进一步发挥联盟等生态圈作用，促进人工智能行业和企业自律；共享国际交流经验，共同面对防范人工智能发展当中可能出现的风险与挑战，促进形成全球共识力量。