人工智能（Artificial Intelligence，AI）发（fā）轫于（yú）20世纪50年代，至（zhì）今已经历了三次（cì）发展浪潮，不管是实验（yàn）室阶段还（hái）是大规模（mó）产业化阶段，研究者们几十年如一日不变的都（dōu）是推（tuī）进其（qí）技（jì）术的进步，希望机器真的有一天能（néng）具有一般（bān）人类智慧，执行全方位的人（rén）类认知能（néng）力。

近年来，为了让（ràng）AI更加健康（kāng）发（fā）展，有一项（xiàng）技术领域正在成为产业界和学（xué）术界研究的重点：可（kě）信AI，即（jí）将人类（lèi）社会的正面价（jià）值观，通过技术赋予到人（rén）工智能（néng）上，包（bāo）括可解（jiě）释、公平性、隐私保护和公（gōng）平性。

从（cóng）学术研究层（céng）面来说（shuō），可信AI主要是针对（duì）算法和系统层面的研究，包括安全性/鲁棒性、可（kě）解释性（xìng）、隐私性、公平性、可（kě）审（shěn）计性/问责性（xìng）、环（huán）境保护。可解释性包括学习（xí）方法或（huò）模型（xíng）的（de）理（lǐ）论可解释、算法可（kě）解释、行为可解释；鲁棒（bàng）性（xìng）主要针对模型稳定性研究、攻（gōng）击模型和（hé）防守模型；隐私保护指的（de）是攻击与保护方法直接的博弈（yì），如差分隐私、多（duō）中心（xīn）联邦学习；公（gōng）平（píng）性针对的是各种数据、模型（xíng）的偏置研究（jiū），平等和公（gōng）正的（de）平衡（héng）；而环保指的（de）是寻求高能效策（cè）略，更（gèng）高能效的计（jì）算硬件。

与可信AI学（xué）术研究不同，企业（yè）更多是针对当下的问（wèn）题，提出解（jiě）决方案。如2015年，蚂蚁集团启动基于“端特征”的（de）手机丢失风险研究项目，旨在用（yòng）AI技术保护用（yòng）户（hù）的隐私（sī）安全。为（wéi）了解决了（le）AI中的公平性（Fairness），IBM于2018年开发了（le）多个AI可信工（gōng）具，在AI系（xì）统中采用不带偏见的数据（jù）集和模（mó）型，从而避免（miǎn）对特定群体的不公平（píng）。产业界对可信AI的应用（yòng）加更加苛刻，容错率更高。很多可信AI白皮（pí）书提到，可（kě）信AI真（zhēn）正落地起来（lái），需要（yào）放到生产（chǎn）流程里面，让其成为一（yī）种机制，发挥技术的约束作用。

青年学生（shēng）是重要的技术（shù）人才储备。对于研究（jiū）可信AI的青年学生来说，对从事可信AI怎么准备，在他们现在的学习和（hé）生活中，就应了解学术（shù）的前（qián）沿，以及业界最（zuì）新技术趋势，思考哪些技术可以应用（yòng）到（dào）哪些（xiē）问题上，主动观（guān）察了解所处的世界，以（yǐ）及业界（jiè）的需求痛点和技术（shù）瓶颈。比如，最近一档可信AI实战科技真人秀，就联动了全国一些顶尖高（gāo）校，通过可信AI在工业（yè）界“科技反诈（zhà）”当中（zhōng）的应用（yòng），还原了（le）可信AI技术在实际（jì）应用中的能力，把学术界和产（chǎn）业界正在做的（de）事，通过大家都能（néng）理解的形式打通起来，让技术从业（yè）者、技术研究者（zhě）都深度参与其中。

做AI研（yán）究，“复杂度”是一个关键词。环（huán）境复杂度、任务复杂度、系统复杂度决定了AI的（de）水平。对它的研究可以揭示AI产生原（yuán）理，也可（kě）以回（huí）答AI的终极问题，即对人类命运的（de）最终影响。未来（lái）可信AI研究，也要从复杂（zá）度（dù）分析来（lái）看AI为（wéi）人（rén）类（lèi）带（dài）来的价值，更需（xū）要学界和产业界共同努力来推动。