本文刊载于《中国科学院院刊》2024年第11期专题“前沿科技伦理风险异常治理”

鲁晓1,2 刘慧晖1 李瑞1 潘教峰1,2,3*

1 中国科学院科技政策征询磋商院

2 中国科学院大学 人人政策与管束学院

3 中国发展政策学磋商会

科技是发展的利器，也可能成为风险的源流。目下宇宙，新科技立异和产业变革加快演进，深刻影响和重塑东说念主类出产生活，激勉诸多已知和未知的伦理风险，攸关个东说念主权益、社会结实、国度安全和东说念主类永续发展。著述凝练前沿科技伦理风险的特征，包括领域各异性、将来不祥情趣、社会重构性、终极挑战性。轮廓磋商前沿科技各领域的风险，从安全风险、生命风险、阴私风险、环境风险、说念德风险、苍凉风险、时期叠加风险等7个维度进行阐释，为化解前沿科技伦理风险，明确治理重心和安全护栏，有用构建前沿科技伦理治理的国法和机制，提倡举座性对策建议。

伸开剩余95%

现时，东说念主工智能、基因剪辑等前沿科技畴昔所未有的速率推动产业变革、社会越过、增进东说念主类福祉，愈发深入地融入东说念主类社会，极地面改变东说念主类传统的责任和生活姿首，伦理风险挑战也相伴而生。举例，以CRISPR-Cas9为代表的基因剪辑时期本人存在的“脱靶效应”激勉东说念主们对其应用安全性的担忧；无东说念主驾驶、医疗机器东说念主等面对阴私数据露馅、包袱包摄不清等质疑。科技伦理治理旨在将前沿科技举止表率在东说念主类可控的轨说念上，对前沿科技可能形成的危害加以预警，驻防和化解前沿科技创新及应用中激勉的伦理风险挑战。这有助于疏导前沿科技向着有益于东说念主类文静越过、促进东说念主类可不绝发展的正确说念路向前进，从而确保前沿科技在伦理说念德框架下健康发展，最终达成科技创新高质地发展和高水祥瑞全的良性互动。

相较于传统科学时期，前沿科技带来的伦理风险更为复杂，关涉个体自身、社会结构乃至东说念主类永续发展。前沿科技使东说念主类有才气对自身进行更深入地改造和打扰，对社会结构和运行姿首组成根人性的挑战，甚而不错在某种程度上达成对当然界的操控、重塑东说念主与当然的关系。同期，跟着全球化的发展，前沿科技的研发与应用已超越单一国界和地域的适度，对全球产生潜入影响。由此来看，前沿科技所产生的伦理风险是底层性、全局性、结构性的，需要对其进行机感性、举座性、系统性的深刻凝视与考量，这是进一步的国法制定和有用治理的前纲要求和表面基础。

一些前沿科技领域的发展仍处于尚未纯熟的阶段，伴跟着较大的不祥情趣；其可能形成的伦理风险将引致平凡而深刻的社会争议，对东说念主类社会说念德鸿沟带来严峻磨真金不怕火，“基因剪辑”婴儿便是一个典型例子。传统上的“先发展后治理”的姿首决然不顺应前沿科技的伦理治理，而是需要一种更为前瞻性的策略，提前对前沿科技的伦理风险进行深入研判，识别其可能产生的多种维度的伦理风险，从而提倡更为科学合理的驻防之说念。为此，本文对前沿科技发展带来的伦理风险进行系统性的前瞻识别，提倡加强前沿科技伦理治理的对策建议，以期抓好科技向善的“标的盘”，建好科技功绩健康发展的“眺望塔”，推动我国前沿科技领域向善向好、健康有序发展，同期为我国前沿科技发伸开辟新的空间，加多更多可能性。

一、前沿科技伦理风险的特征阐释

现时，跟着基础科学磋商不休向宇不雅拓展、微不雅深入和极点要求标的加快纵深演进，物资结构、生命发源、六合演化等首要前沿问题有望取得突破。信息、生物、能源、先进材料与制造等前沿科技领域呈现多时期交叉交融和群体性跃升态势。以高速迁徙通讯、物联网、东说念主工智能、大数据、区块链、量子信息等新一代信息时期、智能化时期为引颈的新时期体系，加快时期和产业质的嬗变，推动东说念主类社会向着东说念主机物三元交融发展。举座上看，前沿科技是指高时期领域中具有前瞻性、先导性和探索性的首要时期，是具有突破科学探索鸿沟、引颈时期发展标的和形成新质出产力后劲的时期，是新科技立异和产业变革的中枢驱能源量。前沿科技探索和开拓未知领域，从科技伦理视角看，传统的伦理鸿沟日益突破，伦理风险种类增多、潜在隐患成为现实，识别难度急剧增大。前沿科技伦理风险的特征体现为领域各异性、将来不祥情趣、社会重构性和终极挑战性。

1.1 领域各异性

前沿科技建立在学问密集突破和新颖创造的基础上，其伦理风险因时期本质属性的不同而存在领域各异。科学时期是东说念主类为自身异常社会文静越过与发展而创造的文静化姿首或器具，其发展属于客不雅现实的限度。而科技伦理是建立在科学时期客不雅真是基础上的价值关系，具只怕期依赖性。现代科学时期高度施展的要害符号之一是科学时期学问的专科性、密集性，更要害的是其在专科领域和学问出产体系中的快速分衍与更新。

现时，前沿科技正在大规模、多点式、群簇性爆发，形成了各异化的多元领域，由此使得前沿科技的发展演化呈现昭彰的领域各异性。在此基础上，科技伦理问题因不同的科学学问和时期应用而存在领域各异。一方面，这要求对于前沿科技伦理问题辩论诉诸现代科学时期发展本人，探微特定领域的科学时期最新表面效果和时期方法，并在识别特定领域的科学时期本质限定和演化特征的基础上，深入良好探讨其突出的伦理问题。另一方面，对现代科技伦理的探讨需要保持多元领域的绽放性及前瞻性，对多元交叉领域的科技伦理问题保持明锐性，促进建立在专科化基础之上的跨学科、跨领域的交叉互联。

1.2 将来不祥情趣

前沿科技因其探索旅途、应用场景的千般性，以及东说念主类社会对时期越过的复杂反应，使得伦理风险愈加难以揣测、识别和派遣。前沿科技快速应用及发展具只怕期道路复杂多变、应用场景多元拓展的秉性，尤其是在科学时期尚未纯熟时期，学问产生和时期演化标的都具有很大的不祥情趣。同期，伴跟着研发过程的鞭策，将会产生如何评估将来居品、用途、应用场景和后果的不祥情趣，以及如何治理随之而来的各样原则和表率的不祥情趣。

此外，由于东说念主类应用时期的目的及路子具有不祥情趣，前沿科技伦理风险具有将来不祥情趣。时期本人是中性的，不错用于为善也不错用于违规。时期能产生若何的影响，取决于使用它的主体出于何种目的，或使用过程中存在的特定逻辑。东说念主类对时期应用目的的“瞎想”运动于一切科技举止的永久，甚而依然深刻影响到了东说念主的激情（如步履胁制时期）和生理（如基因工程）的举止。因此，前沿科技激勉的伦理风险也必须从时期瞎想和创新的运行阶段加以磋商。

总之，前沿科技的爆发式增长及延伸，以实时期无所不在的实施愚弄，都会给现代东说念主类社会带来不祥情趣的伦理风险和挑战。因此，需要选定预先驻防、前瞻性、敏捷性的治理姿首，将时期的可能性风险预先磋商、研判，并将时期的伦理说念德价值镶嵌研发的全过程。

1.3 社会重构性

前沿科技领域的发展是一个包含着科学时期突破、东说念主类念念想证实重塑、社会文化更动的平凡而深刻的举座性变革。前沿科技可能会影响甚而重塑东说念主类的证实模式、念念维姿首、讲解理念等，催生新念念想、新价值不雅、新文化，带来社会结构变革。

（1）以东说念主工智能、量子科技、生物科技、天际探索等为代表的前沿科技在时空限度拓宽了东说念主类对于客不雅宇宙的证实，这使得东说念主的念念维风俗也将从线性、因果模式向非线性、非直不雅姿首改造。

同期，伴跟着前沿科技对学问信息获取和传播逻辑的重塑，讲解理念也要求同步变革，将愈加突显自主性、交互性和创新性。学校不再是一个阻滞系统，而成为学问出产与创造的中心，成为与其他社会主体协同创新的要害力量。更为要害的是，以东说念主工智能为代表的前沿科技成为新的学问发现器具，乃至有可能成为学问发现的主体，将会重塑东说念主类学问体系，加快现实构造的变化，并深刻影响东说念主类政事和社会。

（2）前沿科技的披露将东说念主类从传统上依赖当然物发展到依赖智能物或者东说念主造物，东说念主与智能机器可能形成新的出产生活关系，东说念主与东说念主、东说念主与社会、东说念主与当然的关系将会发生首要变革。

与之相对应，东说念主类对于生命、东说念主性、社会、当然的理会和共鸣将会重构，从而形成新的对于生命本质、社会运行限定的精神念念想，也将冲击东说念主类现存的对于善恶和说念德的价值体系，进而形成新的社会表率和文化念念想。

（3）当这些时期组成的时期群汇注交融并使得形成新的产业体系成为可能，会形成新的利益联系方方法，由此使得传统的社会关系、收入分派、做事形态等面对浩瀚冲击，形成东说念主类社会新的权力起首。

更要害的是，现时沿科技突破改变了依然形成的社会国法、社会稳态，可能冲破原有的社会公说念自制理念。时期获取的分歧等性将导致社会贫富南北极分化，加重社会矛盾。快速发展的科技及应用所带来的社会矛盾可能在某个科技事件上纠合开释，产生“黑天鹅”事件，继而对社会结构、社会结实性带来伤害。

1.4 终极挑战性

前沿科技使瞎想和改造生命成为可能，重构东说念主类生命当然实质；创造新的智能机器物理宇宙，改变东说念主类生涯的当然情境，组成对东说念主类生涯与发展的终极挑战。

（1）从东说念主类生命的当然实质而言

跟着前沿科技的突破式进展，东说念主类在某种程度上依然超越了达尔文进化论以来“格物致知”的基本范式，参预到东说念主造生物体、“造物致知”的新阶段。东说念主类发展出不错理会和旁边生物系统的才气，改变了东说念主类里面宇宙（肉体和精神）成长发育的当然轨迹。由此带来了对东说念主的当然职权、公说念自制问题的再行理会，进而激勉了诸如生命的界说及价值、合成生命的说念德地位、物种界限等一系列关涉东说念主类本人生涯发展的问题。

（2）从东说念主类生涯的当然情境而言

以新一代信息时期为代表的前沿科技应用依然将东说念主类从东说念主机或物机二元宇宙交融推向了东说念主机物三元交融的宇宙。物理空间、信息空间、能源空间、社会空间滚滚连接地进行着信推辞互和资源的有机交融，并在东说念主类贤达和机器贤达的共同作用下推动东说念主类社会向前发展。三元交融在增强了东说念主类的感知、共情、步履和应变才气，为东说念主类生涯带来个性化居品和服务的同期，也激勉了诸如“东说念主类在多大程度上选定东说念主工心思、捏造社会关系”“东说念主的专注力、感知力和精神心思是否应该商品化”“对于东说念主的尊容心思、东说念主的社会价值、东说念主与机器关系等一系列影响东说念主类动作‘智东说念主’生涯姿首和兴味兴味”的伦理拷问。

科技是把“双刃剑”，在前沿科技伦理挑战眼前，如何均衡科技发展与伦理风险是当下需要深入辩论的要害议题。一方面，前沿科技具有浩瀚后劲，不错深刻改变东说念主的生涯情境。另一方面，伦理风险的警钟需要长鸣，需要东说念主类社会共同奋发，以确保科学和时期的应用是负包袱的，构建和谐向善的东说念主类气运共同体。

二、前沿科技伦理风险的类型识别

前沿科技发展对东说念主类社会带来深刻变革和永远影响，这些伦理风险不可通过肤浅的伦理原则加以表率，而是需要在对其进行系统性识别和证实的基础上，探寻具有全局性、前瞻性的派遣策略。本文将前沿科技伦理风险分为安全风险、生命风险、阴私风险、环境风险、说念德风险、苍凉风险、时期叠加风险七大类型，明白各种风险的成因及影响，并以风险最杰出的前沿科技为例进行深入分析。

2.1 安全风险：前沿科技发展及应用的不祥情趣对东说念主类形成安全隐患

现时沿科技处于探索阶段时，时期本人仍然不纯熟、不完善，其将来发展及应用也存在极大的不祥情趣，将对东说念主类生命健康、社会有序发展形成安全隐患。安全风险主要源于前沿科技本人的秉性。举例，基因剪辑时期存在“脱靶效应”，可能会对非靶位点位置的基因进行切割，用于东说念主体将带来不可揣测的反作用；若母体子宫内植入脱靶胚胎细胞，可能使后代患上难以根治的遗传性疾病甚而导致先天性无理。深部脑刺激、愚弄超声和光遗传学对脑区进行调控、药物神经增强等新时期对大脑功能的历久影响存在着不祥情趣。再生医学和干细胞磋商存在时期不祥情趣，细胞可能增殖失控，并在植入部位产生肿瘤。无东说念主驾驶汽车本人时期的不纯熟和应用场景的不祥情趣，可能出现难以定责的事故，触及电车难题的伦理逆境，愈加难以治理。3D打印时期可能被亏蚀于打印枪支器械、化学毒品等，带来安全风险。据关联报说念，枪击日本前首相安倍晋三的嫌犯所使用的枪支可能是3D打印手枪。一些纳米材料会毁伤东说念主体内的细胞，一朝被吸入肺脏，可能激勉致命性病症。

2.2 生命风险：前沿科技改造东说念主类当然实质，颠覆生命伦理证实

重生物时期动作前沿科技的要害领域，其快速发展使东说念主类从结实生命走向改造生命、合成生命甚而瞎想生命，颠覆东说念主们对生命和当然的证实，磨叽生命与非生命、当然物与东说念主造物的界限，对东说念主类的生命价值和生命尊容形成要挟。生命风险是由于一些前沿科技的出现冲破了生命与非生命的自然界限，对传统生命含义、发源、本质、价值和兴味兴味等不雅念产生冲击而激勉的，这种冲击将影响、撼动东说念主们对生命界定乃至东说念主类生命尊容的基才略会。举例，基因剪辑触及东说念主类基因组的修改，东说念主为打扰东说念主类遗传千般性激勉对于东说念主类是否不错打扰生命进化的争议。东说念主-非东说念主灵长类嵌合胚胎的磋商成为干细胞与再生医学磋商的前沿，同期也带来东说念主们对于神经系统、生殖系统等组织嵌合的担忧。合成生物学将工程学理念和策略引入重生命体式的磋商和创造，在分子水平达成对生命系统的再行瞎想和改造，重塑当然生命形态甚而冲破物种界限，将对生命本质的证实及联系结实论提倡挑战。

2.3 阴私风险：前沿科技带来的个东说念主阴私数据露馅和亏蚀问题突显

跟着东说念主工智能、大数据等新一代信息时期的发展，个东说念主阴私数据成为一种要害的出产资源。阴私数据有可能被违警汇集、使用、露馅甚而亏蚀，对个体的阴私权、信息知情权与取舍权形成挑战。阴私风险主淌若由于个东说念主阴私数据在采集和使用过程中的失当使用和处理所形成的，对于个东说念主信息、个东说念主空间、个东说念主目田都将带来极大的伤害。举例，东说念主工智能、物联网等时期发展下的各式迁徙末端、录像头、传感诱骗、可一稔诱骗不错达成对用户在线、离线步履的全记载，使得个东说念主阴私的获取姿首更为方便和暗藏，激勉大都与隐独关联的伦理与法律监管问题。有磋商标明，在捏造现实（VR）模拟中停留20分钟将被记载近200万条突出的肢体记载、动作信息。

通过大数据时期对多元数据异常踪影进行信息整合和交融，可用于推测用户的步履、心思、偏好等信息，形成对个东说念主阴私职权的严重侵略。厂商利用大数据时期分析用户阴私数据和揣测用户步履偏好，并平凡愚弄于信息推送、告白推介，弱化东说念主们的独处念念考才气与行动自主权。以ChatGPT为代表的大言语模子，以东说念主类现存的学问库、数据库为教训语料，经常伴跟着阴私侵略的风险，并可能带来数据亏蚀、深度伪造的问题。

2.4 环境风险：前沿科技发展及应用带来新的环境问题

新材料、新能源、智能时期、基因驱动等新时期在其应用过程中，经常伴跟着一系列新的浑浊物的产生；这些浑浊物难以降解，有新的浑浊作用和毒性机理，新时期带来的能源破费也激勉环境问题。举例，太阳能电板板的出产过程中会产生大都废水、废气和废渣，其中含有多种无益物资，若莫得经过妥善处理胜利丢弃或排放，将严重浑浊环境。又如，东说念主工智能高算力需求激勉大都能源破费问题。据推测，ChatGPT每天推理计较需要破费特出50万千瓦时的电力，是好意思国普通家庭每户每天用电量的1.7万倍。电子居品的快速迭代激勉电子废料处理难题，据2024 年合股国教训磋商所和外洋电信定约共同发布的《全球电子废料监测论说》夸耀，2022年全球电子废料量高达6200万吨，但仅有22.3%的电子废料能被妥善处理。基因驱动时期可能使改造基因在当然种群中马上扩散，导致一些物种的减少或骤一火，干扰原有的当然生态均衡。

2.5 说念德风险：前沿科技影响改变东说念主与东说念主、东说念主与社会间的伦理说念德关系

前沿科技在东说念主类出产生活中的应用，不休影响、改变着现实社会，给东说念主与东说念主、东说念主与社会间的传统伦理说念德关系形成影响甚而带来颠覆性的改变。说念德风险的产生，根源在于前沿科技异常应用对于东说念主类社会价值理念、伦理说念德的撼动，引致与传统伦理说念德的矛盾突显，乃至出现热烈冲击、敏锐对立，带来伦理说念德顺序的芜乱甚而失范。举例，线粒体置换时期使后代同期领有亲生父母和女性线粒体捐赠者的遗传物资，这种“一父两母”的遗传模式对传统“一父一母”的亲子关系形成冲击。克隆时期为干细胞磋商提供细胞供体，粗略通过复制胚胎干细胞制造与原胚胎具有通常遗传基因的个体，这颠覆了原有的有性衍生姿首，对传统的由血统详情亲缘的伦理说念德国法带来挑战。东说念主胚胎干细胞磋商中使用的胚胎多为赞助生殖捐赠的“剩余”胚胎，但实验室磋商经常触及对胚胎的打扰甚而破裂，这激勉破裂东说念主胚胎是否说念德的争议。智能机器东说念主可能会导致东说念主类个体对其产生心思和依赖，影响其与他东说念主的普通交流，导致社会关系的疏离和淡化，甚而激勉与传统婚配家庭不雅念相冲突等说念德问题。

2.6 苍凉风险：前沿科技发展的失控及亏蚀可能对东说念主类带来放手性打击

前沿科技在为东说念主类带来利益和出产力的同期，其“双刃剑”属性也愈发突显，一朝东说念主类不可阻扰前沿科技的失控、无法适度前沿科技的亏蚀，将给东说念主类带来浩瀚苍凉。苍凉风险主淌若由于前沿科技发展偏离东说念主类胁制所形成的，特别是现时沿科技发展的标的偏向于破裂性科技时，苍凉风险尤为严重，危及东说念主类生涯，甚而对东说念主类形成放手性打击。利用东说念主工智能的智能解码才气，可入侵、操控、破裂国度枢纽基础设施或人人服务系统，如操控交通系统导致大规模交通事故、操控医疗系统影响患者救治、操控金融系统激勉经济张惶和社会摇荡，这些都将激勉社会系统的大规模功能失效，产生东说念主类难以承受的后果。东说念主工智能的兵器化应用，展现出高效的杀伤才气，一朝被大规模投放到干戈中，将使东说念主类面对近似核兵器一样的放手性要挟。合成生物学在病毒“功能获取性”磋商的愚弄，如复现已骤一火的“西班牙”流感病毒、生成天花病毒“至亲”马痘病毒等，若被恐怖分子亏蚀于制造生物兵器、开展恐怖要害，将严重要挟东说念主类生涯。

2.7 时期叠加风险：多项前沿科技耦合叠加带来的复杂风险挑战

当不同领域的前沿科技相互交汇、叠加应用时，经常产生不同于单一前沿科技领域的新的伦理风险。时期叠加风险主要源于多项时期的叠加耦合和时期应用场景的多元化，这些情况将加重伦理风险的不祥情趣和复杂性，并使影响受众和掩盖范围急速延伸。具体而言，脑机接口、医疗机器东说念主、东说念主脸识别等属于生命科学和信息时期的交叉领域应用。举例，侵入式脑机接口时期走向临床测验和应用阶段，胜利作用于东说念主脑，具有安全风险；特别是脑机接口时期干扰了受试者的大脑意志，如何获取明确的知情应许成为一个难题。外洋学界也在辩论神经职权是否应动作一种新的东说念主权。医疗机器东说念主触及瞎想者、开发者、供应商、病院、大夫等多方包袱主体，其在自主有策划过程中发生的医疗事故，难以详情包袱包摄和明确界定各主体的包袱分派，面对包袱包摄不清的问题。欧盟《东说念主工智能法案》不容在人人场合使用实时良友生物识别系统，主淌若幸免人人场合实时识别的东说念主脸数据被亏蚀于追踪、监控个东说念主步履。

三、对于加强我国前沿科技伦理治理的对策建议

为派遣前沿科技伦理治理面对的挑战，参与全球科技治理，我国急需缔造“以东说念主为本、科技向善”的伦理态度，达成科技创新与科技伦理的良性互动，为此提倡6个方面的建议。

3.1 缔造昭着外洋态度，均衡好伦理治理和科技发展之间的关系

伦理治理既关乎前沿科技创新之发展，也触及国度竞争力之打造，需要均衡好伦理治理与科技发展之间的关系，达成良性互动、共同促进。

（1）建立昭着的外洋伦理态度

积极办法“以东说念主为本、科技向善”的价值不雅及原则，向外洋标明我国在前沿科技研发、应用、监管等方面的伦理态度和格调。我国应尽快明确伦理方面的原则态度，对外融入全球科技治理体系，引颈联系国法制定，加多政策影响力；对内表率科技和产业领域的发展，保持市集活力，普实时期影响力。

（2）确立合理的伦理治理国法

针对我国必争、必抢、必占的前沿科技领域，前瞻性研判伦理风险、详情伦理治理国法，使其粗略在符合伦理说念德、符合外洋伦理表率的说念路上稳步前行，不绝保持我国在这些前沿科技领域上的“领跑”上风。特别是针对一些勇闯“无东说念主区”的前沿科技领域，其窗口期异常短，需要快速制定相应伦理规制措施，确保伦理国法粗略跟向前沿科技发展措施。

（3）明确科技伦理的办法定位

科技伦理不应通过固定、刻板的伦理国法来敛迹、停止前沿科技的发展，而应成为前沿科技发展添砖加瓦的器具，使前沿科技给社会带来的浩瀚冲击“软着陆”。同期，要将科技伦理动作开展科技创新举止的“基线”，科技立法动作不可逾越的“底线”，伦理价值不雅则动作科技创新中追求超卓的“高线”。

3.2 识别前沿科技伦理风险，明确治理重心，确立安全护栏

前沿科技领域的伦理风险具有千般性、泛在性、动态性、复杂性的特征，需要在风险识别和研判的基础上，构建分级分类的治理体系，并对重心领域设立安全护栏。

（1）建立前沿科技领域风险识别体系

对前沿科技领域进行风险研判，并以此进行分级分类治理。建议前沿科技风险识别体系包括2个维度：

① 前沿科技本人的风险，主要针对科学学问和安全信息的充分程度、时期纯熟度、操作难易程度、安全性、有用性、可控性进行分析；

② 前沿科技激勉的伦理风险， 包括安全风险、生命风险、阴私风险、环境风险、说念德风险、苍凉风险、时期叠加风险等。

对每种类型风险发生的可能性、严重程度、影响范围等进行分析。在此基础上，充分磋商前沿科技举止的必要性、办法东说念主群、办法应用场景等，对不同领域、不同类别、不同应用场景的前沿科技伦理风险进行前瞻研判和分级分类治理。

（2）明确治理重心领域并构建安全护栏

要在轮廓磋商国度安全、经济社会发展需求、我国比拟上风和国度科技政策重心领域的基础上，联接时期本人风险异常可能激勉的社会风险，为东说念主工智能、大数据时期、脑科学磋商、合成生物学、基因剪辑、干细胞和再生医学、脑机接口时期等伦理风险杰出的科技领域构筑安全护栏。安全护栏应按照时期风险的影响范围、应用场景、受众和实验对象等不同要素确立“高—中—低”的风险阈值，并凭据时期的发展和社会对其反应进行动态转变。需要严防的是，要对前沿科技的不祥情趣有一定的宽宏度，对时期的快速发展不宜确立过多清贫。举例，大模子的优化需要不绝的数据反馈流动才能达成。如果治理范例过高，部分企业可能无法上线大模子应用，进而停止时期的发展程度。

3.3 联接不同前沿科技领域秉性，开展各异化伦理治理

针对信息时期、生命科学、信息生命交叉领域，准确把抓领域特征，联接践诺情况各异化开展伦理治理。

（1）信息时期领域，重心温文现时快速发展的生成式东说念主工智能和大模子的应用研发

从时期应用的场景、功能、对象、影响等维度进一步落实分级分层监管举措，细化可实施的风险监测策划。强化时期东说念主员伦理镶嵌的讲解疏导，从研发到部署的全历程对峙时期伦理风险可控；通过价值对皆、过滤抗拒测试等时期妙技，使大模子与东说念主类社会价值不雅相符合。完善大模子底座的安全可控和伦理镶嵌。重心温文高质地汉文数据库的开发。

（2）生命科学领域，加强伦理审查委员会开发和天禀评估，优化伦理审查轨制

加强下层伦理审查委员会开发，建立伦理审查委员会认证轨制，落实方位和联系行业主管部门监督管束和复核审查职责。跟进优化伦理审查轨制，合理转变风险品级分袂，对低风险品级的磋商精简审查历程。幸免“多主体”和“再文牍”情况下的重叠性审查。举例，鉴戒好意思国东说念主类磋商保护办公室和好意思国食物药品监督管束局的合股审查礼貌，针对多机构的互助磋商选定合股审查。

（3）信息生命交叉领域，不绝追踪前沿动态，加强伦理监管和范例开发

加强对东说念主工智能时期介入医疗的监管胁制，明确医疗机器东说念主的法律定位、东说念主工智能系统与大夫的交互关系、医疗事故后的包袱包摄问题等。加强对通过信息时期汇集指纹、虹膜、面目、DNA、神经信号等东说念主体生物数据的监管，幸免阴私侵略。加强国表里脑机接口发展的动态追踪监控，制定袪除的市集准入安全认证范例。

3.4 加强统筹协袪除包袱主体的权责袪除，建立首要科技伦理事件的快速反馈机制

各部门、各主体在伦理治理方面的统筹调和及权责袪除至关要害，需要均衡好各部门、主体之间的关系，明确包袱分袂。

（1）统筹调和各部门伦理监管和审查技艺

明确各部门在伦理监管方面的权责，并联接已有监管体系开展伦理治理。建立跨部门的责任组织或委员会，矜重伦理审查方面的调和责任，实时期享联系信息和数据，幸免重叠性的伦理监管和审查。

（2）充分施展科学共同体和行业学会的作用

由学术组织、学术团体等牵头，研讨不同领域面对的前沿科技伦理风险，制定不同领域的伦理指南和范例，并凭据前沿科技发展进行动态转变和改革，促进关联科学共同体的共鸣达成，以无邪派遣具体领域的伦理风险，促进负包袱的磋商。

（3）充分施展企业等包袱主体作用，有用开展伦理治理

荧惑东说念主工智能和生物医药领域的企业合股制定行业时期范例，将伦理说念德要素镶嵌到时期范例中；这些范例应能有用派遣所在领域时期前沿的伦理挑战，以率领企业的步履和实践。疏导企业自主设立伦理审查机制，积极参与伦理辩论和政策制定，并公开展示其伦理实践情况，提高透明度，增强公众和利益联系者的信任。

（4）建立首要科技伦理事件的快速反馈机制

确保首要科技伦理事件的公和煦透明处理，加强外洋国内社会的信任。政府机构、学术机构和行业协会合股建立反馈机制，快速反馈和处理违背伦理国法的首要事件。确保各部门在反馈科技伦理事件方面有明确的职责，建立公开透明的论说和反馈渠说念，实时向外洋社会和国内公众公布关联事件的处理进展情况。

3.5 加强多元利益主体调换，促进多方共治

前沿科技伦理的问题本质上是由于科技快速发展下多元主体的利益冲突和不屈衡所带来的，需要考量多方利益主体的诉求，达成多元共治。

（1）促进多元主体的调换对话

喜爱来自各级政府、高级院校、科研机构、医疗机构、科技企业、科学共同体、社会公众、媒体等利益联系者的参与。加强多元利益主体的调换、交流、对话，在反复的调换协商中达成不同利益主体对于科技伦理的共鸣。

（2）建立多元主体联动机制

加强政府层面统筹，强化关联主管部门联动，促进多元主体有用调换、密切配合。压实高级院校、科研机构、医疗机构、科技企业等在多元共治中的主体包袱，有用施展科学共同体的自治作用，通过宣传、疏导不休提高公众参与科技伦理治理的积极性，形成科技伦理治理的最大协力。搭建常态化交流平台，建立科学家与伦理学家、法学家的联动机制，对不休发展的前沿科技伦理问题进行依期研讨和动态更新。

3.6 积极开展外洋互助，参与外洋科技伦理治理开发

加强我国在科技伦理领域的外洋互助，积极发出中国声息，提高我国在科技伦理方面的公信力和外洋影响力，推动我国科技功绩的健康有序发展。

（1）举办外洋科技伦理研讨会

积极寻找外洋科技伦理领域的互助者，针对科技伦理问题进行深入磋商，形成有影响力的磋商效果。依期举办外洋科技伦理研讨会，涵盖信息、生命、信息生命交叉等前沿科技伦理领域的枢纽问题。

（2）教训具有外洋视线的伦理众人

在生命科学、医学和东说念主工智能领域，教训一批具有外洋视线的伦理众人，积极开展外洋对话，在领域内有影响力的外洋期刊发表学术驳斥著述。荧惑我国众人积极参与伦理方面的外洋互助磋商名目，与外洋团队共同探讨伦理问题，了解外洋伦理治理动向，实时发出中国声息。

鲁 晓 中国科学院科技政策征询磋商院磋商员，中国科学院学部科学表率与伦理磋商撑持中心实檀越任，中国科学院大学人人政策与管束学院智库科学与工程系主任。《中国科学院院刊》后生编委。磋商标的为科技政策与管束、新兴科技治理。

潘教峰 中国科学院科技政策征询磋商院院长、磋商员，中国科学院大学人人政策与管束学院院长。中国发展政策学磋商会理事长，《中国科学院院刊》编委。主要从事科技政策权术、创新政策和智库表面方法磋商。

著述源自：

鲁晓, 刘慧晖, 李瑞, 等. 前沿科技的伦理风险：日益增长的要挟. 中国科学院院刊, 2024, 39(11): 1835-1844.

DOI:10.16418/j.issn.1000-3045.20240516004.九游会J9

发布于：陕西省