OJY流量資訊——探索最新科技、每天知道多一點LLSUM.COM
文 ｜ 李俠（上海交通大學科學史與科學文化研究院教授）OJY流量資訊——探索最新科技、每天知道多一點LLSUM.COM
自2022年3月20日中共中央辦公廳、國務院辦公廳印發《關于加強科技倫理治理的意見》以來，科技倫理研究呈井噴式發展，相關文章和學術會議呈現出一派繁榮景象。其中需要我們考慮的一個根本性問題是，在追求科技向善的過程中，科技倫理到底是底線還是“天花板”？ 客觀地說，科技倫理對于科技負面效應的約束力是有限的。換言之，科技倫理不是保證科技始終向善的唯一靈丹妙藥，畢竟倫理不具有強制性。 筆者曾撰文指出，科技倫理治理的最終目標是使科技風險最小化，而不是風險清零。因此，加強科技倫理要有限度，否則會事與愿違。無限降低潛在風險看上去很美，但很可能導致治理成本快速增長甚至出現極度不經濟現象，阻礙科技的正常發展。就如同考試得80分比較容易，但考95分甚至100分就非常難，一味追求高分會扼殺學生的學習興趣。基于這種常識，在科技倫理的具體治理過程中，我們應采取什么樣的行動理念呢？ 在倫理學上有一個非常有名的命題——捍衛倫理底線，即全社會要努力捍衛一些基本規則與規范，防止人類行為下滑到某種不可接受的水平，從而維持最起碼的道德、秩序與文明。倫理教育的首要任務不是提升道德標準，而是捍衛道德底線不被各種力量所擊穿，避免出現大范圍社會失范現象，讓全社會的行為可以預期。 科技領域是當今社會活動中最活躍的領域，新事物和新現象層出不窮，人類應對這些新事物或新現象并沒有現成經驗，而其中蘊含的不確定性后果并不能在短期內全部顯現。 對此，人類只能在沒有較多經驗積累的基礎上，吸取歷史教訓，設置出一些最基礎的規則與規范，沖抵科技可能帶來的不良后果，而這些基礎性的新規則與規范就是科技界要捍衛的科技倫理底線。 倫理原則或規范是為人類行動劃定邊界的，由此人們會想當然地認為，為了讓科技更好地服務人類，真正實現科技向善的目的，倫理標準越高越好，甚至可以把標準的天花板作為最高目標。追求倫理天花板聽起來固然很棒，但并不具備現實可操作性。 首先，什么樣的倫理標準可以稱作天花板級的標準？是康德的絕對命令嗎？其次，很多前沿科技完全是探索未知領域，其后果根本無法預料，再加上新領域的展開方式很多時候是被遮蔽的，沒有現成經驗可以借鑒，比如腦機接口技術、ChatGPT等引發的很多問題是我們從未遇見過的，即便我們想設置天花板級別的倫理標準，也很難做到。 從人類發展史看，最高的倫理標準就一定最有效嗎？至今鮮有成功事例。歷史的吊詭之處恰恰在于那些看似底線級別的倫理標準卻發揮了最大的作用，比如西方的“摩西十誡”、儒家的“己所不欲，勿施于人”等深入人心并成為群體行為的實際指南。反之，越是高級與抽象的規范，在實踐中起的作用就越小。 倫理標準的設置，還會受到很多非學術因素的影響。僅僅從思辨角度考慮，過高的倫理標準顯然會遏制新技術的發展，再加上當今國際形勢復雜，單方面追求倫理天花板很可能阻礙一個國家的科技發展進程，這個代價我們承受得起嗎？ 因此，在新生事物的起始階段采取底線倫理與野蠻生長的組合是一個現實的選擇。如果科技倫理的最終目標是追求剩余風險最小化，那么，我們應該追求的是倫理底線而不是倫理天花板。這更接近科技發展的實際，而且能獲得多數人的支持。 底線倫理的優點在于它以明確的規則或規范禁止科技人員產生作惡動機，并給予科技人員更多自由。重要的是，底線介入對科技活動的影響最小，有利于科研生態環境的建設。 公眾可能會擔憂，提倡科技倫理底線是否會讓科技發展出現失控風險，從而威脅到人類的長期福祉？ 筆者認為，這里存在兩個誤區：其一，倫理底線不是很低的標準，也并非永恒不變，它會隨著整個社會認知水平的提升而逐漸上移，即向倫理天花板方向靠攏，這正是人類文明逐漸進步的體現。隨著科技活動的展開以及相關經驗的增多，倫理原則或規范也會進化，并且會越來越精準，從而真正促成科技向善。反之，在缺乏基礎的情況下盲目追求倫理天花板，不但違背實際，還會導致欲速則不達的尷尬局面。 其二，在倫理底線與法律底線之間的確存在一個灰色空間，會導致某些科技成果出現意料之外的問題，但這些問題一旦觸碰到法律底線，還會受到法律的硬約束，該風險是人類為了科技進步所必須付出的代價。畢竟，倫理只是一種硬約束，只能讓剩余風險最小化而不是清零。 回到現實生活，我們要明確，科技倫理治理的目標要定位在捍衛倫理底線而不是追求天花板。學術界方興未艾的研究與社會公眾的熱議恰恰是維系與提升科技倫理底線的有力支撐。
本文鏈接：科技倫理是底線還是“天花板”？http://m.lensthegame.com/show-11-1601-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任，僅提供存儲服務。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 上海“雙一流”，布局安徽
下一篇： 用GPT訓練自家大模型賬戶遭OpenAI停用？字節：將全面檢查確保合規