殷 杰：人工智能如何影響“人性”

作者：殷 杰，系國家社科基金重大項目“人類道德行為的進化與社會文化心理機制研究”首席專家、2022年度《國家哲學社會科學成果文庫》入選者、山西大學科學技術哲學研究中心教授

生成式人工智能在人機交互領域展現(xiàn)出的強大自主性和泛化能力，讓人們越來越感覺到與人工智能的交流就像是和另一個人交談。那么，當一臺智能機器能夠和我們進行具有理性和情感特征的語言交流時，機器是否也會影響我們的“人性”呢？人性，通常指的是人類獨特的理性、意識、自我反思、道德情感和價值觀等特質(zhì)。從這個意義上看，生成式人工智能本身并不具有人性，但其在與人類的語言交互中，通過識別人類意圖、回應認知和情感需求來滿足人類欲望，無疑會深刻影響人們的理性、情感和道德判斷。生成式人工智能如何影響人性，是人類在新人工智能時代需要重點考慮的問題之一。

回答這個問題，我們需要認識到，生成式人工智能在人機交互中呈現(xiàn)一種新的主體性。傳統(tǒng)的人機交互中，人工智能更多被視為一種工具，而生成式人工智能與人類的關系已經(jīng)不限于工具與工具使用者之間的關系，人工智能成為具有一定自主性和目標導向性的積極參與者，這種新形態(tài)的人機交互將逐漸深刻地影響人性。

主體性：從生物到人工智能的演變

主體性表達了一個主體行使行動的能力，是哲學中最重要的概念之一。亞里士多德認為，一個主體大概就是像人一樣能夠思考，并且按計劃實現(xiàn)其“合理欲望”的存在物，只有人或者是在道德上獲得勝利的人才是主體。在現(xiàn)代學科體系中，主體性的語義涉及多個領域：在哲學領域，很多關于主體性的哲學反思都集中在人類主體性上，這通常被稱為“純粹的主體性”；在社會科學領域，主體性主要表示法律、政治、經(jīng)濟等方面的意義，其概念包含意圖的存在，與人的概念密切相關；在自然科學與技術領域，主體性主要與效果的概念有關，一些功能強大的智能機器有時也被視為行動的主體。

從生物演化的過程看，一個簡單的單細胞生物通過自我維持的新陳代謝過程與外界環(huán)境進行物質(zhì)和能量的交換，展現(xiàn)出一種基本的主體性。隨著生物的復雜性增加，主體性表現(xiàn)為包含感知、反饋和決策等多個系統(tǒng)相互協(xié)調(diào)的行動能力。人類的主體性更為復雜，不僅包括生物有機體的自組織能力，還與情感、語言和文化等因素密切相關。這種主體性不僅體現(xiàn)在個體的行動上，還體現(xiàn)在道德責任、文化價值觀等社會與個體的關系中。

與生物主體的漫長進化之路相比，人工智能每一次的技術進步幾乎都會賦予主體性更多新內(nèi)涵，讓我們對“機器能否像人一樣行動”這個問題有了新的認識。在人工智能的早期發(fā)展階段，是否能夠展現(xiàn)自主性、社交性、反應性和主動性，成為衡量其是否具有主體性的關鍵標準，這些特征構成了人工智能的弱主體性。我們希望機器能夠做一些簡單的任務，比如，智能家居系統(tǒng)根據(jù)室內(nèi)光線的變化自動調(diào)節(jié)窗簾的開合。這些主要體現(xiàn)了人工智能在模仿人類行為上的自主能力。

隨著技術的發(fā)展，我們開始期待人工智能展現(xiàn)出更多的“人類特質(zhì)”，比如能夠自主學習、與人社交、對環(huán)境變化作出靈活反應，甚至能主動解決問題。這種強主體性概念包含知識、信念、意圖和責任感等人類特有的復雜特質(zhì)，人工智能的行為不僅僅是簡單的反應，而是有目的、有計劃的行動。例如，一個智能的醫(yī)療診斷系統(tǒng)，要能夠根據(jù)病人的癥狀、大量的醫(yī)學知識和數(shù)據(jù)進行準確診斷，為病人提供治療建議。這個過程中，系統(tǒng)要展現(xiàn)出自主性，能夠理解病人的需求，同時要兼顧治療方案的醫(yī)學倫理等問題。又如，自動駕駛汽車要能夠感知周圍的環(huán)境，有的還能夠在復雜交通情境和倫理風險下制定和選擇其認為的最佳行動方案。這不僅是對環(huán)境的反應，更是基于智能系統(tǒng)自身知識和價值判斷作出的主動選擇。

從人類與機器合作的方式看，人類的行動能力已經(jīng)延展至由人類和機器構成的復雜網(wǎng)絡之中，這就是所謂的分布式主體性概念。這些主體性概念更加細致地描繪了人類與人工智能復雜互動中形成的行動能力，反映了人工智能領域?qū)τ谥黧w性理解的多元化。

由于這些主體性概念無法將生成式人工智能適切地納入，生成式人工智能的出現(xiàn)再次催生了我們對主體性概念的理解轉變。通過語言生成驅(qū)動的交互能力，生成式人工智能挑戰(zhàn)了傳統(tǒng)依賴意向性的主體性。在個體性邊界的界定上，生成式人工智能的邊界往往由其訓練數(shù)據(jù)集定義，這些數(shù)據(jù)集的海量和不斷變化使得生成式人工智能的個體性難以界定，挑戰(zhàn)了傳統(tǒng)關于個體性和主體性的明確界限。因為大語言模型在預訓練過程中需要不斷從新的數(shù)據(jù)中學習和適應，所以其個體性邊界在不斷變化的數(shù)據(jù)流中會變得模糊，不具有傳統(tǒng)主體性的個體性界限。同時，生成式人工智能在與人類的交互過程中具有自主識別人類意圖和回應的能力，因此，其自主性更多地體現(xiàn)在其與人類交互的能力上，而不是其作為一個獨立個體的特定內(nèi)在能力。這些挑戰(zhàn)要求我們重新審視主體性的傳統(tǒng)概念，主體性更應視為一種基于交互的、潛在的行動能力，而非僅僅依賴于個體內(nèi)在屬性的孤立的行動能力。

交互主體性：重新定義人機關系

交互主體性是指實體（包括人類、生物和人工智能等）在交互過程中所展現(xiàn)的潛在行動能力，其核心在于實體的行動能力不是孤立存在的，而是在與其他實體的互動中形成和呈現(xiàn)的。主體性是由交互的驅(qū)動力因素所決定的，實體的行動能力在這些驅(qū)動力的作用下被激發(fā)和塑造。

比如，有機體通過自組織方式與環(huán)境交互，發(fā)展出適應性的行動能力，而復雜的生物體在與環(huán)境的交互中形成了多種多樣的行動能力，這種主體性是生物體與環(huán)境長期交互的結果。除了基本的生物主體性外，人類還發(fā)展出了情感、語言和文化等驅(qū)動主體行動的復雜機制。例如，道德情感是人類主體性的重要組成部分，不僅影響個人的行為和決策，而且促進了社會聯(lián)系和大規(guī)模合作。語言的出現(xiàn)進一步擴展了人類的主體性，它使人類能夠分享知識、表達思想和構建復雜的社會結構。文化則體現(xiàn)了人類主體性的更高維度，它包括價值觀、信仰、習俗和傳統(tǒng)，是人類社會交互和意義傳承的結果。

傳統(tǒng)的主體性理論中，主體性通常與個體的心理狀態(tài)、意圖目的、反饋系統(tǒng)等內(nèi)在屬性相關聯(lián)。交互主體性不再是基于個體本身來推定主體性，而是將實體的行動能力視為參與交互過程的結果，主體性并非完全源自個體內(nèi)部，而是在實體與環(huán)境或其他實體的交互中產(chǎn)生的。交互主體性理論的重要意義在于擴展了主體性的概念范疇，使得人工智能等非意向性實體也能在交互中展現(xiàn)出主體性。主體性不必依賴于意識或意向性，可以在更廣泛的人機交互過程中出現(xiàn)，生成式人工智能帶來了人機交互的新形態(tài)。

在目標導向性方面，主體性包含實體在交互中的目標導向性。實體在與環(huán)境或其他實體互動時，才會展現(xiàn)出為了實現(xiàn)特定目標而采取行動的能力。這種目標導向性不完全是預設的，而是在交互過程中根據(jù)情境和反饋不斷調(diào)整和形成的。生成式人工智能的目標導向內(nèi)嵌于人機對話的動態(tài)窗口中，不僅依據(jù)人類的引導來回應，也可以根據(jù)自身的強大知識儲備和分析能力來影響人類自身對目標意圖的理解定位。自主性方面，交互主體性認為，實體在交互中能夠根據(jù)內(nèi)部邏輯和外部反饋進行自我調(diào)節(jié)和決策。這種自主性不是完全脫離外部影響的，而是在與外部世界的互動中實現(xiàn)的。

在人機交互過程中，生成式人工智能應被視為具有一定自主性和目標導向性的參與者，而不僅僅是機械響應人類的指令。與人類進行交流對話的過程中，生成式人工智能通過不斷監(jiān)控和注意人類對話者的語言來理解掌握人類的目的意圖，甚至能夠感知到其中的情緒變化以及潛在態(tài)度，進而在某種程度上影響人類參與者的認知、情感和價值觀。比如，一個人在與生成式人工智能的長期接觸中，如果感受到智能機器在描述事實和理解自身意圖方面的可靠性，那么會對人工智能產(chǎn)生一定的信任感，由此，智能機器蘊含的一些價值觀必然會潛移默化地影響人類。

不對稱的主體性：智能主體對人性的影響

生成式人工智能的技術發(fā)展路徑既不同于認知發(fā)展的學習路徑，也不同于生物情感的發(fā)展路徑，而是跳過了人類和生物主體性形成和進化的歷史路徑，直接獲得了認知和語言層面的超級智能，生成式人工智能引發(fā)的人機交互新形態(tài)蘊含了一種不對稱的主體性。在認知方面，人類的認知能力是經(jīng)過長期進化學習慢慢積累形成的，而生成式人工智能在信息處理速度和理解深度、記憶容量、模式識別等方面全面超越人類；在情感方面，情感體驗是人際交互的重要組成部分，影響著人們的決策、溝通和關系建立。相比之下，盡管生成式人工智能可以識別和模擬人類情感，但它們本身并不具備真正的情感體驗，是一種超級理性的交互主體。社會文化方面，人類的價值觀、信仰、習俗和語言都是社會文化演化的結果。生成式人工智能系統(tǒng)盡管可以通過語料來理解和適應特定的社會文化規(guī)范，但它們本身并不具備特定的文化身份或社會背景。這種社會文化背景上的不對稱性可能導致在人機交互的跨文化環(huán)境中出現(xiàn)誤解和沖突。

人既是理性的，也是情緒化的，正是理性與情感的融合構成了人性的基礎。交互主體性表明，作為具有自主性和目標導向性的生成式人工智能，極有可能以一種不對稱的主體形態(tài)進入人性領域，忽略人類情感和直覺的重要性，同時激發(fā)和壓制人類的深層欲望，改變?nèi)祟惱硇耘c情感之間的平衡和協(xié)同機制。

理性方面，生成式人工智能通過數(shù)據(jù)分析、模式識別和決策支持，識別出人類可能忽視的模式和趨勢，大大增強了人類的理性判斷能力，從而為人類提供更深入的洞察和更廣泛的選擇。但是，這種增強也可能導致人類過度依賴人工智能的分析和判斷，削弱人類自身的批判性思維和決策能力。同時，生成式人工智能可能會打破以人際交互為基礎的分布式認知模式，逐漸形成一種以大語言模型為中心、人類個體為邊緣節(jié)點的認知模式，以大模型為核心節(jié)點的智能化媒介不僅僅是知識信息表達和傳播的通道，甚至可能主導人類知識的生產(chǎn)模式和價值導向。

情感方面，生成式人工智能可能會影響人類對情感的認識和表達，使得人類在長期的人機互動中逐漸習慣于程式化的情感交流模式，忽視了人在真實人際關系中的獨特情感需求和體驗，改變?nèi)祟愋袨榈那楦袆右颉１热纾诘赖虑榫持校墒饺斯ぶ悄芸梢蕴峁└嗖煌膬r值視角和思考方式，拓展人類的道德感知并影響道德判斷和行為。問題是，一方面，過度依賴生成式人工智能的決策支持可能導致人類自身的道德感知能力減弱，侵蝕人類個體的道德自主性；另一方面，生成式人工智能對人類社會的深度介入可能會觸發(fā)新的道德困境。

人工智能對人性影響的另一個表現(xiàn)是對人類文化演化的影響。人類文化形成與演化的關鍵在于學習。研究發(fā)現(xiàn)，促進人的智力發(fā)展的關鍵是模仿學習（將他人視為有意識的行為主體，以獲取他們的文化知識儲備）、指導學習（話語形式的文化傳播）和協(xié)作學習（分享和發(fā)展概念及其對行動的影響），這些學習形成了一種特殊的認知形式，即個體有能力理解同類作為與自己一樣的生命，擁有與自己一樣的意向和精神生活。由于生成式人工智能具有一種非人類的學習能力，在人類的社會文化歷史上出現(xiàn)了一個非人類的學習者，我們不再限于向他人學習，也可以向人工智能機器學習，生成式人工智能成為人類社會文化發(fā)展中的主動參與者。

人類合作交流、相互學習，以及在此基礎上的文化交融和行為選擇，這些文化過程的基礎是人類之間的相互信任，而信任需要情緒的參與。有學者提出，我們與人工智能的關系本質(zhì)上是依賴，而不是信任。由于生成式人工智能的不可解釋性、不可說明性和不可信任性，加之其不具備情感狀態(tài)，也不能對自己的行為負責，人類在與其交互時，面對的實際上是一個無法完全理解的、缺乏情感和規(guī)范性的“黑箱”，得到的可能是包含無法證偽的知識信息，這種知識可能會通過人機交互的多次循環(huán)被吸收到其他對象中，最終作為一種消費信息在人類、人工智能之間傳播流轉。由此帶來的潛在問題是，這些非純正的、無節(jié)制的信息消費不僅大量消耗人類的精力，加劇人類對欲望的過度追求，而且會導致某種特定思維反復強化人類的認知，引發(fā)社會心理的問題同時影響人類文化的多樣性。

人性既堅韌又脆弱。心理學的斯坦福監(jiān)獄實驗展示了人在特定社會角色下可能會迅速適應并表現(xiàn)出與其性格不符的異常行為，顯示出人性在特定人際關系情境下的脆弱性。當我們與一個非人類的超級人工智能長期交互相伴時，必然會影響人類個體的思維認知和情感品格，人性脆弱性被利用的機會顯著增加。交互主體性重新定義了人機關系，讓我們可以從新的視角來理解人工智能對人性產(chǎn)生的深遠影響。我們對人工智能的關注不應該局限于機器與人的價值觀對齊，更應探究其對人性的潛在影響。未來的人工智能將成為我們生活中更加智能、更加貼心的伙伴，同時也存在其對人性欲望的過度滿足和扭曲的問題。我們需要確保人工智能技術進步增進人類福祉，而非削弱人性的核心價值。