最近，全球的一些人工智能（néng）各企业都很关（guān）注AI的法规，欧盟也出了《人工智（zhì）能白皮书》来监（jiān）管AI市（shì）场。人工智能（néng）法规的陆续（xù）推（tuī）出，约束AI进一步走向正规化 ，规避一些不（bú）法分（fèn）子在AI上（shàng）的不好（hǎo）想法来获利。

科技是把双刃剑（jiàn），当人（rén）工（gōng）智能技术大规模应用于社会时，我（wǒ）们（men）必（bì）须考虑它所（suǒ）带（dài）来的负面效（xiào）果。

现（xiàn）代是一（yī）个文明社会，大众除了道德限（xiàn）制还有法律（lǜ）对自身行（háng）为进（jìn）行约束，但（dàn）开发者进行应用开发时（shí），是（shì）否考虑到输入给机器的数据是否符合“法规”，特别是（shì）近年来人机（jī）交互的（de）数量（liàng）急剧增（zēng）加，从而使得（dé）AI监（jiān）管问（wèn）题的（de）讨（tǎo）论（lùn）变得更为热烈。

感官的欺骗

视觉与听（tīng）觉是（shì）我们对外界感知的重要窗口（kǒu），大众的观念中普遍认为“人的第一印象（xiàng）很重要”“眼见（jiàn）为实（shí），耳听为（wéi）虚”。

但面对信息错综（zōng）复杂的世（shì）界，如今（jīn）眼（yǎn）见也（yě）不一定为实，听到的则可（kě）能（néng）更为虚假（jiǎ）。曾经（jīng）被（bèi）议论的（de）Deepfake换脸技术（shù）就属于罪魁祸首之一，其利用了AI深（shēn）度学习功能，通（tōng）过数以亿（yì）计的自我学习、神经网络训（xùn）练，AI能够识别出画面中那些和周围场景格格不入的部分（fèn），同（tóng）时将其移走和生成缺失的像素（sù），最后重绘出部分像素进行画面填补。

谷歌公（gōng）司也（yě）曾推（tuī）出WaveNet软件，可以利用其神经网络系统对原始音频（pín）波形进行建模，生成带有不同语气音节和情感表达（dá）的人类（lèi）自然语言（yán）的音频。

外媒曾报道（dào）过一例案件，不（bú）法分子（zǐ）就利用了类似（sì）的AI技术，成功模仿了英国某能源公司CEO的声音，诈（zhà）骗了220，000欧元，执（zhí）法当局认为此种类案件（jiàn）的调查（chá）取证更为困难。

AI道德准则（zé）

2019年，我国首次（cì）将AI造假音视频列（liè）入法规（guī），国家网（wǎng）信（xìn）办出台（tái）《网络（luò）音视频信息服务管理规定》。

对于利用基于深（shēn）度（dù）学习、虚拟现（xiàn）实等新技（jì）术新应（yīng）用制作、发布、传播非真实（shí）音视频信息的网（wǎng）络音视频：，应当以显（xiǎn）著方式予以标识，不得（dé）利（lì）用（yòng）其制（zhì）作、发（fā）布、传播虚假新闻信息（xī）；网（wǎng）络音视频信息服（fú）务提供者应当部署应用违（wéi）法违规（guī）音视频（pín）以及非（fēi）真（zhēn）实音（yīn）视频鉴别技术，应当建立健全（quán）辟谣机制。

日前，欧（ōu）盟也相继（jì）出台《人（rén）工智能（néng）白皮书（shū）》，对人工智能领域（yù）的投资监管路（lù）径（jìng）设立双重目标，旨在推动道德和（hé）可信赖人工智（zhì）能的（de）发展。并（bìng）通过（guò）建设“卓越（yuè）生态系统”和“信任生态系统”双（shuāng）重系统（tǒng），构建一个卓越的、可信赖的（de）人（rén）工智能体系框架。

近日，面对人工智（zhì）能的伦（lún）理 “红（hóng）线”，博世在“博世互联世界大会”上发布人工智（zhì）能（néng）技术的指导方针《AI道德准（zhǔn）则》，博世认为人（rén）工（gōng）智能是服务于人类（lèi）的工（gōng）具，任何可（kě）能对人造成影响（xiǎng）的人工（gōng）智能决策（cè）都需要人（rén）类的监管。

准则中包（bāo）含（hán）了三种机制，它们遵守着一个共同的原则，即（jí）博世开发（fā）的（de）人工智能产品中，人类必须保（bǎo）留（liú）对人（rén）工智能（néng）所做决策的最终（zhōng）控制权。

第一种（zhǒng）机制为人工控制（human－in－command），它适用于（yú）人工智能（néng）只（zhī）作（zuò）为支持工具出现的情况。例（lì）如，在决策（cè）支持系统（tǒng）中，人工（gōng）智能帮助人们对物体或（huò）生物进行分类。

第（dì）二种机制为使用阶段的（de）人为干（gàn）预（human－in－the－loop），适用于人工智能系统可以自主决策，但（dàn）人类可以随时干预的情况。例（lì）如，驾驶辅助系统（tǒng），驶员可以直（zhí）接介入停车辅助（zhù）系统的决策等。

第三种机制为设计阶（jiē）段（duàn）的人为干预（human－on－the－loop），适用于紧（jǐn）急制动系统（tǒng）等应用。开发此（cǐ）类智（zhì）能产品时，专家将定义参数作为人（rén）工智（zhì）能决（jué）策的基础（chǔ），而人类不参与决（jué）策，由人工智能进行。

但是工程师可（kě）以随（suí）时追溯检查机器是否遵（zūn）守所设（shè）定的参数进行（háng）决（jué）策，必要情况（kuàng）下（xià）可以（yǐ）修改参数。

面临的困难

人工智（zhì）能在应用（yòng）层面有逐渐完善的法律法规进行约束，但在实际的技术（shù）开发中仍（réng）面临着（zhe）许多（duō）难以确定的细则。

数据（jù）标（biāo）定没有统一标准（zhǔn）：在机（jī）器学习中训练数（shù）据前（qián）都（dōu）会对数据进行清洗和标定。有时为了满足业（yè）务进度的要求，不会（huì）进（jìn）行（háng）全量全分类的处理（lǐ）。

准确的说，无法（fǎ）对（duì）数据（jù）进行严格而准确的分类。这也是有监督（dū）学（xué）习（xí）类算法的缺点，就是针对（duì）特殊（shū）业务往（wǎng）往要进行专门的数据标定，同时算法设计者自（zì）身存在（zài）价值偏见也会导致人工智能系统无法正常（cháng）运行。

数据（jù）分析难全面：在准备训（xùn）练数据时应容（róng）扩各类发生的情况，AI在（zài）数据错（cuò）误的情况势必会造成（chéng）BUG，除了掌握各（gè）类情况，仍要（yào）调整好处理（lǐ）各种情况的参数或系数，包括算法（fǎ）模型存（cún）在（zài）的技（jì）术性缺（quē）陷可（kě）能（néng）导致（zhì）人工智能系统无法正常运行。

模型成长环境差异：AI算法模型的训练环境对（duì）算法结（jié）果有（yǒu）重大影（yǐng）响，假设机器（qì）训（xùn）练环境变得没有边界，各类数据都被机（jī）器学习，这将很难保证机器会往着人类预想的方（fāng）向发展，以及因为算法（fǎ）日（rì）趋“黑箱化（huà）”可（kě）能导致技（jì）术失控等（děng）问（wèn）题。

无论在技术或应（yīng）用方向（xiàng），都应（yīng）该通过政策和法律引导，开展人工智（zhì）能算法安全的评（píng）估检测；推动技术伦理的算法导入，要求人工（gōng）智（zhì）能开发者设计（jì）高可解释性的智能系统（tǒng）；同时，加强智（zhì）能算法的透明监督，人工智能企业（yè）、行业应建（jiàn）立（lì）相应的（de）算（suàn）法监管体制，保持与政府监管的协同。

相信在人工智能法（fǎ）规陆续出台监管的（de）路上，AI市（shì）场会越来越（yuè）规范，符合市场的需求。