【光明青年論壇】

　　　編者按

　　隨著科技進(jìn)步的日新月異，世界發(fā)展的面貌和格局也發(fā)生著深刻變化。人工智能、大數(shù)據(jù)算法等新發(fā)現(xiàn)、新突破，在造福人類的同時，也帶來了一定的倫理風(fēng)險和挑戰(zhàn)。2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，對加強(qiáng)科技倫理治理作出系統(tǒng)部署。樹立正確的科技倫理意識，遵守科技倫理要求，不僅是科技工作者，更是全人類都應(yīng)該具備的認(rèn)識自覺和行為自覺。那么，如何增強(qiáng)科技倫理意識，實現(xiàn)科技增進(jìn)人類福祉的宗旨？本刊特組織幾位青年學(xué)者圍繞“倫理價值”“倫理原則”“倫理責(zé)任”三個維度開展對話，并邀請專家予以點評和闡發(fā)，以期對深化相關(guān)研究和探討有所助益。

　　　與談人

　　譚泰成 中國人民大學(xué)哲學(xué)院博士生

　　閆雪楓 復(fù)旦大學(xué)哲學(xué)學(xué)院博士生

　　周穎 上海交通大學(xué)科學(xué)史與科學(xué)文化研究院博士生

　　　主持人

　　劉永謀 中國人民大學(xué)哲學(xué)院教授、國家發(fā)展與戰(zhàn)略研究院研究員

　　　1、倫理價值：助力走出科技發(fā)展困境

　　主持人：針對如今的科技發(fā)展現(xiàn)狀和發(fā)展前景，我們都面臨著哪些倫理風(fēng)險和挑戰(zhàn)？

　　譚泰成：21世紀(jì)以來，隨著運用新科技參與社會治理的不斷推進(jìn)，特別是智能革命興起后，出現(xiàn)了“智能治理的綜合”趨勢，即不同技術(shù)治理手段逐漸在智能技術(shù)搭建的平臺上綜合起來，不再是零散的、局部的甚至相沖突的“技治拼盤”。各種智能治理措施在新冠肺炎疫情暴發(fā)以來更是迅猛發(fā)展，在大展身手的同時也暴露出一些問題，且大多與倫理風(fēng)險和挑戰(zhàn)相關(guān)。主要表現(xiàn)為四個方面：一是“信息孤島”。無法接入智能平臺與他者通信的人群，就會成為“信息孤島”，在數(shù)字世界中“消失”，信息權(quán)不能得到公平保障。二是“無人困境”。智能技術(shù)如果不能與“治理中的人”很好地結(jié)合起來，人的因素容易被治理者忽視，技術(shù)問題則被過分強(qiáng)調(diào)，可能出現(xiàn)背離人本的“無人困境”。三是數(shù)據(jù)專家權(quán)力越界。要對數(shù)據(jù)專家的權(quán)力進(jìn)行規(guī)范，防止技治專家權(quán)力過大，違背社會主義民主法治的基本精神。四是個人隱私濫用。盡管政府已在盡力立法對數(shù)據(jù)、個人隱私予以保護(hù)，但仍然存在不少風(fēng)險。

　　周穎：近年來，數(shù)據(jù)被視為一種新型生產(chǎn)要素，與土地、勞動、資本、技術(shù)等傳統(tǒng)生產(chǎn)要素一樣是人類社會的重要構(gòu)成。伴隨數(shù)據(jù)科學(xué)與數(shù)據(jù)技術(shù)的發(fā)展，數(shù)據(jù)正在進(jìn)行著對整個社會生活、生產(chǎn)和治理方式的重塑。在全球數(shù)字化轉(zhuǎn)型的進(jìn)程中，我國數(shù)字化發(fā)展備受關(guān)注且發(fā)展迅速?；跀?shù)據(jù)科學(xué)與數(shù)據(jù)技術(shù)對人類社會的深度影響，相關(guān)的倫理風(fēng)險和挑戰(zhàn)也隨之而至，并成為社會各界熱議的話題。比如，健康碼推出不久就出現(xiàn)了許多沒有手機(jī)或不會下載、使用該程序的群體——尤其是老年人群體，不光被技術(shù)拒絕，更被公共場所拒絕，進(jìn)而加劇了社會分化、權(quán)利不平等的倫理問題，也體現(xiàn)出倫理在數(shù)據(jù)賦能過程中缺位帶來的危害。此外，與數(shù)據(jù)相關(guān)的倫理風(fēng)險還包括數(shù)據(jù)不正當(dāng)獲取，數(shù)據(jù)訪問、使用和共享具有不透明性，數(shù)據(jù)信任危機(jī)和數(shù)據(jù)被過度商用等問題所帶來的倫理風(fēng)險和倫理挑戰(zhàn)。

　　主持人：要走出科技發(fā)展的道德倫理困境，“倫理反思”扮演著怎么樣的角色？

　　周穎：為了走出科技發(fā)展的倫理困境，倫理反思是必不可少的。歷史地看，倫理反思貫穿技術(shù)哲學(xué)發(fā)展全過程。經(jīng)典技術(shù)哲學(xué)關(guān)注的是整體而抽象的“大寫的技術(shù)”，技術(shù)的倫理反思通常是悲觀地批判技術(shù)的社會影響和它所造成的人類生存境況的變壞。隨著德國學(xué)者胡塞爾吹響“回到事物本身”的號角，一定程度促使技術(shù)哲學(xué)更加關(guān)注經(jīng)驗事實，即“打開技術(shù)黑箱”，倫理反思也更加注重具體的技術(shù)經(jīng)驗證據(jù)。隨之而來的技術(shù)的快速發(fā)展，使倫理問題愈發(fā)顯現(xiàn)，技術(shù)倫理學(xué)逐漸從技術(shù)哲學(xué)中分離出來，進(jìn)一步地，荷蘭學(xué)者維貝克等主張反思進(jìn)路應(yīng)當(dāng)“從外在主義、人本主義到內(nèi)在主義、非人本主義”。從數(shù)據(jù)應(yīng)用的發(fā)展來看，對隱私、安全、公平等方面進(jìn)行深入的倫理反思，才能促使我國經(jīng)濟(jì)社會更加健康有序發(fā)展，促使大數(shù)據(jù)技術(shù)產(chǎn)品更新?lián)Q代和數(shù)據(jù)賦能相關(guān)產(chǎn)業(yè)的轉(zhuǎn)型升級。

　　閆雪楓：正如澳大利亞學(xué)者彼得·辛格所言，當(dāng)面對新興的科學(xué)技術(shù)時，許多人會產(chǎn)生某種直覺，但直覺未必是經(jīng)得起推敲的。從生命倫理學(xué)的視角來看，倫理反思一方面能夠使我們從習(xí)以為常的生活中認(rèn)識到技術(shù)帶來的道德困境和挑戰(zhàn)，另一方面，借助哲學(xué)史上的經(jīng)典理論框架，倫理反思能為我們在諸多彼此沖突的價值觀念中提供多角度思考問題的進(jìn)路，幫助我們提煉梳理對于技術(shù)的態(tài)度和觀點，推理重構(gòu)“不言自明”的信念背后的論證邏輯，審慎地分析其中的問題。破除科幻電影和小說的夸張情節(jié)對于技術(shù)本質(zhì)的扭曲，讓我們能回過頭來審視一些廣泛存在的規(guī)范性觀念本身是否合理，進(jìn)而為科學(xué)技術(shù)的研究與實踐進(jìn)行恰當(dāng)?shù)霓q護(hù)。值得注意的是，進(jìn)行倫理反思的目的不是一味地限制科技的發(fā)展。生命倫理學(xué)學(xué)者需要與科技從業(yè)者保持積極的對話，在科技發(fā)展與倫理反思中尋求動態(tài)的平衡點。

　　譚泰成：最近被熱議的大數(shù)據(jù)治理、算法治理和區(qū)塊鏈治理，都屬于智能治理的具體形式。在各種智能治理場景中，倫理反思有助于不同主體（信息倫理學(xué)者、算法工程師、數(shù)字政府治理者和公眾等）審視技術(shù)治理措施是否因超過合理限度成為技術(shù)操控手段，揭示嵌構(gòu)在算法認(rèn)知背后的復(fù)雜制度安排。盡管對于智能治理的倫理反思存在認(rèn)知差異，但它的根本宗旨在于實現(xiàn)人民向往的美好生活，厘清實施智能治理應(yīng)有的限度。因此，倫理反思的關(guān)鍵在于區(qū)別智能治理與智能操控，尋求效率工具與倫理價值之間的動態(tài)平衡。實際上，智能治理伴隨著社會、政治、制度和倫理等多重風(fēng)險，既有的道德批判不足以回應(yīng)和化解，只有以制度化方式將德治、法治和技治手段充分融入智能治理中，才能實質(zhì)性地發(fā)揮科技倫理在智能領(lǐng)域的治理成效。

　　　2、倫理原則：以人民為中心推動科技向善

　　主持人：在《關(guān)于加強(qiáng)科技倫理治理的意見》的總體要求中，將“倫理先行”作為治理要求的第一條，那么，在科學(xué)技術(shù)的發(fā)展中何以“倫理先行”？

　　譚泰成：倫理先行需要確定相關(guān)原則及規(guī)范。目前，歐盟、美國和中國都頒布了人工智能相關(guān)的倫理指南、指導(dǎo)意見或規(guī)范，基本涵蓋算法設(shè)計、部署和監(jiān)管各個環(huán)節(jié)對于透明度和可解釋性的要求。發(fā)揮倫理引導(dǎo)智能治理的先行作用，需要充分考慮技術(shù)專家、政府治理者、企業(yè)用戶、公眾等不同治理參與者的多元價值訴求，兼顧倫理的價值適配性與算法的技術(shù)可用性。需要注意的是，倫理先行并非以絕對道德主義來約束或反對技術(shù)治理活動。倫理先行的中國語境在于確保技術(shù)治理為人民服務(wù)，使之服務(wù)于中國特色社會主義民主制度的更高目標(biāo)。同時，強(qiáng)調(diào)一般倫理原則與具體治理場景的結(jié)合，例如從道義上要求科技企業(yè)完全公布其核心基礎(chǔ)算法并不可行。而對于公共部門而言，為了維持行政決策的執(zhí)行力和公信力，有必要對算法行政決策進(jìn)行充分解釋，澄清背后的治理依據(jù)和價值理由。

　　周穎：倫理先行是技術(shù)倫理學(xué)的內(nèi)在路徑的必然要求。維貝克等學(xué)者提出和發(fā)展了調(diào)節(jié)的理論，將技術(shù)自身納入解決其倫理問題的語境中。首先，在數(shù)據(jù)相關(guān)技術(shù)設(shè)計之初就需要倫理學(xué)者、技術(shù)專家、公眾代表等多元主體參與并制定倫理框架、指南、原則，即在設(shè)計的目的、方法和結(jié)果預(yù)測中納入倫理考量。例如，2020年美國聯(lián)邦總務(wù)署發(fā)布的《數(shù)據(jù)倫理框架草案》中提出7條數(shù)據(jù)倫理基本原則。其次，數(shù)據(jù)相關(guān)技術(shù)設(shè)計過程作為設(shè)計者的決策過程內(nèi)在地滲透著倫理價值，技術(shù)調(diào)節(jié)作用不可避免地存在著，因此，須將倫理前置，有意識有目的有方向有預(yù)見地發(fā)揮調(diào)節(jié)作用。最后，由于技術(shù)不確定性的特征，調(diào)節(jié)的各個維度不能被完全預(yù)期，許多倫理問題往往是在技術(shù)與人處于社會大背景下進(jìn)行交互的過程中產(chǎn)生的，所以需要對技術(shù)進(jìn)一步修復(fù)調(diào)節(jié)。如健康碼在實施過程中顯現(xiàn)了隱私安全等倫理隱患，在修復(fù)過程中，既制定了《新冠肺炎疫情防控健康碼管理與服務(wù)暫行辦法》，其中提出“為疫情防控、疾病防治收集的個人信息，不得用于其他用途”，又從技術(shù)上對健康碼加以修復(fù)。經(jīng)過三個維度的調(diào)節(jié)，技術(shù)自身被道德化，進(jìn)而調(diào)節(jié)著人的合倫理的感知和行動。

　　閆雪楓：新興技術(shù)手段往往兼具巨大的效益和風(fēng)險，倫理先行也因此成了當(dāng)今時代發(fā)展背景下的必然趨勢。為了應(yīng)對基因編輯帶來的諸多挑戰(zhàn)，科技工作者作為發(fā)展科學(xué)技術(shù)的主體，首先需要考慮的是所進(jìn)行的科學(xué)研究與實踐是否以人民為中心，以提升人類福祉作為最終的目標(biāo)，對生命和倫理抱有敬畏之心。在開展科技工作時，要充分考慮到風(fēng)險問題，提升自身的倫理道德敏感度，保證科技發(fā)展中倫理在先。新西蘭生命倫理學(xué)者尼古拉斯·阿加曾強(qiáng)調(diào)，不要忘記歷史上許多新技術(shù)都曾給人類造成預(yù)料之外的重大災(zāi)難。因此在制定倫理原則時，仍然需要考慮到一些在當(dāng)下看來或許永遠(yuǎn)不會發(fā)生的情況，并給出相應(yīng)的對策?？茖W(xué)技術(shù)不斷發(fā)展，倫理原則也應(yīng)當(dāng)隨之改進(jìn)和完善，保持動態(tài)的發(fā)展，以便應(yīng)對新的挑戰(zhàn)。

　　主持人：《關(guān)于加強(qiáng)科技倫理治理的意見》中明確了科技倫理的基本原則，即“增進(jìn)人類福祉”“尊重生命權(quán)利”“堅持公平公正”“合理控制風(fēng)險”“保持公開透明”，其中蘊含著哪些倫理觀念？

　　譚泰成：在技術(shù)治理活動中，服務(wù)于人民是上述原則的根本價值旨?xì)w?？萍枷蛏茝母旧险f就是讓人民共享科技發(fā)展成果，共同引導(dǎo)技術(shù)治理賦能美好生活。當(dāng)然，不同領(lǐng)域的技術(shù)治理活動對于科技倫理原則有不同側(cè)重，例如算法治理比較強(qiáng)調(diào)“公開透明”。這一原則主要是針對算法運行的黑箱問題，具體化為研發(fā)者如何通過改善訓(xùn)練算法的數(shù)據(jù)樣本質(zhì)量來確保算法輸出的精準(zhǔn)度，以及企業(yè)和政府部門如何通過算法治理來提升決策效率，進(jìn)而確保公共行政顯得更為合理，讓算法問責(zé)更具操作性。算法向善不應(yīng)僅僅作為柔和的倫理觀念，而是轉(zhuǎn)化為敏捷的治理行動，避免因濫用算法而陷入偽技術(shù)治理。

　　閆雪楓：《關(guān)于加強(qiáng)科技倫理治理的意見》中明確的科技倫理基本原則涵蓋了美國學(xué)者湯姆·比徹姆和詹姆士·邱卓思在《生命醫(yī)學(xué)倫理原則》中所提出的“尊重自主性”“不傷害”“有益”“公平”四原則的內(nèi)涵。與之呼應(yīng)的還有2018年第二屆人類基因組編輯國際峰會委員會對遺傳基因編輯開展臨床試驗所提出的十項原則。具體來說，在進(jìn)行生殖系基因編輯臨床試驗時，需要首先確定無其他合理替代方案，并將試驗?zāi)康膰?yán)格限制在嚴(yán)重疾病的預(yù)防上，最大限度避免試驗可能造成的傷害，合理控制風(fēng)險。對參與試驗的患者充分告知試驗潛在的風(fēng)險，保持公開透明，讓患者自主作出知情且自愿的決策，尊重患者的生命權(quán)利和自主性，保障患者知情權(quán)和隱私。

　　周穎：從數(shù)據(jù)的視角來看，相關(guān)倫理問題大致圍繞隱私、安全、公平和正義四個面向展開，在個人、社會和國家的不同層面上表現(xiàn)不同，在不同的語境中側(cè)重的倫理原則也有所差異，其倫理意蘊具有多元化、復(fù)雜性、交叉性和動態(tài)性等特征。不同的倫理原則在不同的技術(shù)中或具體情境中可能存在價值沖突，產(chǎn)生取舍的困境。對此，維貝克曾將調(diào)節(jié)理論和價值設(shè)計相結(jié)合，提出了價值發(fā)揮重要作用的方法來加以應(yīng)對。簡言之，將利益相關(guān)者的價值觀動態(tài)地轉(zhuǎn)化并內(nèi)嵌到技術(shù)物中。以健康碼為例，最初以保護(hù)公眾健康和尊重生命權(quán)利為首要原則，在實施過程中逐步顯現(xiàn)出隱私泄漏、不公平、不透明等倫理隱患，在修復(fù)調(diào)節(jié)中就需要加以著重考慮，將之置于價值矩陣的前端。

　　　3、倫理責(zé)任：以正確價值導(dǎo)向規(guī)范科技實踐

　　主持人：要形成多方參與、協(xié)同共治的科技倫理治理格局，需要各方主體履行怎樣的倫理責(zé)任？

　　閆雪楓：形成多方參與、協(xié)同共治的科技倫理治理格局，首先需要科技工作者在進(jìn)行研究的過程中主動加強(qiáng)倫理意識，自覺遵守科技倫理原則，積極與科技倫理學(xué)者進(jìn)行對話和合作。對科技倫理研究者來說，需要以科學(xué)事實為依據(jù)開展對諸如知情同意、自主性等倫理問題的研究，為相關(guān)政策和原則的制定提供符合實際情況的理論支持。相關(guān)政府部門和決策者需要廣泛聽取來自自然科學(xué)、社會科學(xué)、人文科學(xué)的專業(yè)人員的意見建議，對特定技術(shù)的潛在風(fēng)險效益以及倫理問題進(jìn)行評估，建立可靠的監(jiān)督機(jī)制。

　　周穎：就數(shù)據(jù)倫理治理而言，主體包括政府部門、數(shù)據(jù)專家、大數(shù)據(jù)技術(shù)設(shè)計者、數(shù)據(jù)倫理學(xué)者、公眾、企業(yè)、高校、科研機(jī)構(gòu)、社會團(tuán)體等。為形成多方參與、協(xié)同共治的數(shù)據(jù)倫理治理格局，一方面，各方主體需要進(jìn)行跨學(xué)科、跨范式的有效溝通，加強(qiáng)合作共建，凝聚力量，合力推進(jìn)倫理治理實踐。另一方面，各方主體應(yīng)當(dāng)積極履行各自的倫理責(zé)任，如政府部門，應(yīng)當(dāng)進(jìn)一步完善相應(yīng)的管理、監(jiān)管制度建設(shè)；各個創(chuàng)新主體應(yīng)當(dāng)接受政府部門的管理和監(jiān)督，主動學(xué)習(xí)數(shù)據(jù)倫理知識，自覺遵守數(shù)據(jù)倫理要求，依法合規(guī)地開展研究工作；倫理學(xué)者應(yīng)當(dāng)拓展研究的廣度和深度，對比各國的研究成果，發(fā)表符合我國國情的倫理研究成果。

　　譚泰成：要各方履行好倫理責(zé)任并非易事。在智能治理背景下，倫理責(zé)任的首要主體是處在創(chuàng)新和研究一線的算法工程師和數(shù)據(jù)科學(xué)家。他們應(yīng)當(dāng)克服算法理性主義的狂妄，保持科技謙遜主義的態(tài)度，提升對于數(shù)據(jù)樣本、算法解釋的倫理敏感性。從更大的角度來看，人工智能研究的科學(xué)共同體既要勇攀科技高峰，也要敏銳地意識到創(chuàng)新與研究活動的潛在倫理風(fēng)險和挑戰(zhàn)。當(dāng)前，技術(shù)治理的智能化趨勢集中反映在公共行政領(lǐng)域。對于公共治理者而言，最基本的倫理責(zé)任就是要慎用手中的數(shù)據(jù)和算法治理手段，合理約束這種“技術(shù)權(quán)力”。

　　主持人：在人類社會深度科技化的背景下，倫理責(zé)任的難點與痛點有什么？

　　譚泰成：結(jié)合算法倫理的現(xiàn)狀，與倫理責(zé)任有關(guān)的難點在于：倫理問題側(cè)重于關(guān)切如何達(dá)成基本的共識性原則，治理問題則傾向于從公共治理角度來妥善解決技術(shù)引發(fā)的社會問題。顯然，對于當(dāng)下的算法治理而言，難點并不在于缺乏共識性的倫理原則，而是如何將這些原則貫徹到算法治理中。僅僅依靠頂層的適度設(shè)計是不夠的，還需要配套的底層設(shè)計。在智能治理領(lǐng)域，與倫理責(zé)任相關(guān)的最大痛點在于：人們往往為獲取服務(wù)便利，或覺得維權(quán)成本太高，不愿意與相關(guān)企業(yè)、公共部門或服務(wù)業(yè)的一些算法歧視或侵權(quán)行為進(jìn)行抗?fàn)?。一個重要原因是，不同年齡段、不同地區(qū)、不同學(xué)歷層次的人群，對于風(fēng)險感知程度不一樣，這種差別反過來會影響他們采取相應(yīng)行動的意愿。另一個原因是，缺乏制度化的治理參與途徑，既有的維權(quán)手段也不盡如人意。

　　閆雪楓：新興技術(shù)中普遍存在的倫理責(zé)任痛點與難點主要包括責(zé)任的歸屬、倫理審查實施的有效性，以及如何把握不同價值觀之間的平衡、技術(shù)發(fā)展與倫理之間的平衡。在基因編輯的基礎(chǔ)研究和臨床試驗中涉及包括科技工作者、患者、監(jiān)督機(jī)構(gòu)，以及政府部門等在內(nèi)的多個主體。各主體的責(zé)任范圍、責(zé)任權(quán)重在不同的案例中不盡相同，因此需要具體情況具體分析。此外，即便有了倫理監(jiān)督審查機(jī)構(gòu)，也可能存在倫理審查理解偏差、尺度不嚴(yán)或走過場等情況，導(dǎo)致審查監(jiān)管方面的倫理責(zé)任不能得到切實履行。落實倫理審查，需要從多方吸納審查人員、平衡各主體間的利益，從而保障審查是透明、客觀和公正的。最后需要明確的是，倫理責(zé)任應(yīng)當(dāng)是科技工作者開展科研活動時的底線，不應(yīng)反過來限制科技的發(fā)展。

　　　　周穎：人類深度數(shù)據(jù)化的背景下，難點與痛點之一在于仍有一部分群體游離在數(shù)據(jù)應(yīng)用帶來的便利之外，被數(shù)據(jù)技術(shù)拒絕，更不必說承擔(dān)相應(yīng)的倫理責(zé)任。以新冠應(yīng)用程序中的技術(shù)拒絕現(xiàn)象為例，表現(xiàn)為一部分人游離在新冠應(yīng)用程序之外，人從過去對技術(shù)的拒絕主體地位掉落下來，變成被技術(shù)拒絕的對象。表現(xiàn)為技術(shù)物質(zhì)條件上的拒絕、技術(shù)知識和信息來源上的拒絕以及技術(shù)自身的不完善、技術(shù)漏洞或者非開放性技術(shù)權(quán)限的拒絕。該問題實質(zhì)上使人與技術(shù)間的嚴(yán)格邊界被逐步消解。技術(shù)權(quán)利提升、倫理意蘊增強(qiáng)的同時，人的主體性地位、權(quán)利相對就被削弱了，從而，過去人對技術(shù)“呼之則來揮之則去”的自主性不復(fù)存在，而當(dāng)技術(shù)不僅成為人的生活方式，且主導(dǎo)了人的生活方式時，幾乎無法為人所拒絕，然而卻有了拒絕人類進(jìn)入的能力，這是技術(shù)發(fā)展的必然結(jié)果，因此也是未來值得關(guān)注和深入思考的問題。