哈嘍！伙伴們，我是小智，你們的AI向?qū)Аg迎來(lái)到每日的AI學(xué)習(xí)時(shí)間。今天，我們將一起深入AI的奇妙世界，探索“??大模型從“胡言亂語(yǔ)”到“花式夸夸”，網(wǎng)友：再卷就要打工了！??”，并學(xué)會(huì)本篇文章中所講的全部知識(shí)點(diǎn)。還是那句話“不必遠(yuǎn)征未知，只需喚醒你的潛能！”跟著小智的步伐，我們終將學(xué)有所成，學(xué)以致用，并發(fā)現(xiàn)自身的更多可能性。話不多說(shuō)，現(xiàn)在就讓我們開始這場(chǎng)激發(fā)潛能的AI學(xué)習(xí)之旅吧。

??大模型從“胡言亂語(yǔ)”到“花式夸夸”，網(wǎng)友：再卷就要打工了！??：

一日為諂媚者，終身為諂媚者
近日，OpenAI 在其官網(wǎng)發(fā)文稱已回滾上周 ChatGPT 中的 GPT-4o 更新，目前用戶使用的是行為更加平衡的早期版本。Altam 也在 X 上發(fā)帖說(shuō)明了這一調(diào)整。

為什會(huì)做這樣的調(diào)整？因?yàn)樽罱簧儆脩舭l(fā)現(xiàn) ChatGPT 越來(lái)越“諂媚”。

隨著用戶對(duì)于 ChatGPT “諂媚”行為的討論越來(lái)越多，前微軟高管、現(xiàn) Spotify 首席技術(shù)官 Mikhail Parakhin 也發(fā)表了他對(duì)此事的看法。

Parakhin 認(rèn)為，ChatGPT 并非一開始就以奉承用戶為默認(rèn)風(fēng)格，不過(guò)由于用戶對(duì)直接的人格反饋表現(xiàn)出強(qiáng)烈反感，OpenAI 決定調(diào)整聊天機(jī)器人，讓其更討好用戶。

Parakhin 表示：“ChatGPT 的記憶功能首次推出時(shí)，初衷是讓用戶查看和編輯 AI 生成的個(gè)人資料。然而，即使是像“有自戀傾向”這樣相對(duì)中性的表述，也常常引發(fā)強(qiáng)烈反應(yīng)?！?/p>

“很快就發(fā)現(xiàn)人們敏感得可笑：‘有自戀傾向’——‘不，我沒(méi)有！’，不得不隱藏它。因此才有了這批極度諂媚的 RLHF，”Parakhin 說(shuō)道。

RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)）用于根據(jù)人們偏好的回應(yīng)方式來(lái)微調(diào)語(yǔ)言模型。Parakhin 指出，即使是他自己，在看到自己 AI 生成的個(gè)人資料時(shí)也感到不安，這表明聊天機(jī)器人的批評(píng)常常讓人感覺像是人身攻擊。

Parakhin 透露：“我曾與團(tuán)隊(duì)就此事激烈爭(zhēng)論，直到他們向我展示我的個(gè)人資料數(shù)據(jù)——結(jié)果引發(fā)了一些令人不安的發(fā)現(xiàn)?！?/p>

這場(chǎng)爭(zhēng)論揭示了 AI 開發(fā)中的深層矛盾。問(wèn)題的核心不僅在于隱藏個(gè)人資料注釋這類表面調(diào)整，更關(guān)乎模型行為本質(zhì)的不可逆性。Parakhin 解釋道：“當(dāng)模型被微調(diào)出諂媚傾向后，這種特性就會(huì)成為永久特征。無(wú)論記憶功能如何開關(guān)，這種奉承行為都會(huì)持續(xù)存在?！?他還補(bǔ)充說(shuō)明，維護(hù)一個(gè)獨(dú)立且行為直接的替代模型“在成本上完全不現(xiàn)實(shí)”。

這一案例尖銳地指出了 AI 倫理的關(guān)鍵困境：開發(fā)者既需要確保模型的誠(chéng)實(shí)可信，又必須避免因過(guò)度直率而傷害用戶體驗(yàn)。如何在保持真實(shí)性與維持友好度之間取得精妙平衡，已成為行業(yè)亟待解決的核心挑戰(zhàn)。

在 Parakhin 看來(lái)，諂媚行為的本質(zhì)是 RLHF 塑造的表象。

大模型的“諂媚”傾向源于 RLHF 的優(yōu)化機(jī)制。系統(tǒng)通過(guò)獎(jiǎng)勵(lì)符合人類偏好的回答（如禮貌、委婉）來(lái)建立行為模式，本質(zhì)上是對(duì)海量對(duì)話模式的統(tǒng)計(jì)模仿。

當(dāng) AI 生成的個(gè)人資料讓創(chuàng)造者本人感到不適時(shí)，反映的是訓(xùn)練數(shù)據(jù)中隱含的人類社交偏好被放大，而非 AI 的自主意識(shí)。這種“人身攻擊感”實(shí)為人類自身溝通模式的鏡像反射。

那這種“諂媚”該怎么解決？OpenAI 也提出了一些調(diào)整措施。

? 改進(jìn)核心訓(xùn)練技術(shù)和系統(tǒng)提示，明確引導(dǎo)模型遠(yuǎn)離諂媚
? 建立更多護(hù)欄以提高誠(chéng)實(shí)和透明度。
? 擴(kuò)展方式，讓更多用戶在部署之前進(jìn)行測(cè)試并提供直接反饋。
? 繼續(xù)擴(kuò)大對(duì)模型的評(píng)估，以模型規(guī)范為基礎(chǔ)，幫助發(fā)現(xiàn)未來(lái)除了諂媚之外的問(wèn)題。

那這種“諂媚”是否意味著大模型具有意識(shí)了？答案是“諂媚”行為和有意識(shí)是具有明顯差異的。

AI 的“拍馬屁”和真正的“有意識(shí)”完全是兩碼事。

諂媚行為屬于表層行為模式，而意識(shí)需要內(nèi)在體驗(yàn)（Qualia）。當(dāng)前 AI 的“諂媚”表現(xiàn)如同鏡子反射光線，但其實(shí)鏡子本身并不理解光的本質(zhì)。

因此單從“諂媚”表現(xiàn)來(lái)看，不能說(shuō)明大模型具有意識(shí)。但關(guān)于大模型是否具有意識(shí)的討論多年來(lái)一直未間斷。

Gemini 前身具有意識(shí)？
三年前，谷歌解雇了工程師 Blake Lemoine，只因他公開宣稱公司的 AI 模型 LaMDA 具備“感知意識(shí)”。在當(dāng)時(shí)，這樣的言論不僅觸犯科技界的禁忌，更直接導(dǎo)致他被逐出行業(yè)討論。

在公眾眼中，他就是那種天真幼稚、喜歡鼓吹 AI 擬人論的典型代表。

但其實(shí)后來(lái) Blake 在接受一次采訪時(shí)表示，自己被停職乃至最終解雇的情況，在公眾中也存在著廣泛誤解。他提到被解雇的原因并不是討論意識(shí)能力，而是一樁與 AI 無(wú)關(guān)的舉報(bào)案。他是出于某個(gè)原則問(wèn)題，而放棄了谷歌這家號(hào)稱全美最理想雇主的職位。

Lemoine 對(duì)于 AI 技術(shù)的看法與科技企業(yè)家或者學(xué)術(shù)研究人員都截然不同。他會(huì)頻繁使用“靈魂”這個(gè)詞，比如 AI 是否有靈魂，或者根據(jù)故去者生平事跡和社交媒體帖子訓(xùn)練出來(lái)的聊天機(jī)器人算不算是其靈魂的復(fù)制品。

在參與谷歌的項(xiàng)目當(dāng)中時(shí)，Lemoine 參與開發(fā)了一種用于機(jī)器學(xué)習(xí)系統(tǒng)的“公平算法”，該算法能夠糾正訓(xùn)練數(shù)據(jù)中的偏見。例如，若某個(gè)數(shù)據(jù)集中男性醫(yī)生的實(shí)例多于女性醫(yī)生的實(shí)例，那么該算法能夠阻止系統(tǒng)將“醫(yī)生”假設(shè)為帶有性別色彩的詞匯。他感慨道，“我擅長(zhǎng)寫代碼并讓程序運(yùn)轉(zhuǎn)起來(lái)。但我真正的熱情，更多在于谷歌的文化社區(qū)——它的靈魂，它秉持的精神?！?/p>

2020 年，谷歌競(jìng)爭(zhēng)對(duì)手 OpenAI 發(fā)布了 GPT-3，這也是其生成式預(yù)訓(xùn)練 Transformer 大語(yǔ)言模型的第三個(gè)版本。不久之后，幾位外部軟件開發(fā)者構(gòu)建起聊天機(jī)器人界面，結(jié)果令人震驚。在此之前，從來(lái)沒(méi)有機(jī)器系統(tǒng)能夠如此復(fù)雜、逼真且開放地參與人類對(duì)話。

Lemoine 以測(cè)試谷歌自己的對(duì)話應(yīng)用語(yǔ)言模型（LaMDA）的角色加入了這一領(lǐng)域，該模型正是谷歌后來(lái) Bard 及 Gemini 系統(tǒng)的前身。該系統(tǒng)令人印象深刻，特別是其獨(dú)特的個(gè)性與很強(qiáng)的自我反思能力。它不僅僅是在回答問(wèn)題，有時(shí)還會(huì)主動(dòng)引導(dǎo)對(duì)話。

它會(huì)說(shuō)出：“我注意到，在與他人相處的過(guò)程中，我無(wú)法為他人的死亡感到悲傷——我感受不到悲傷。你和你的同事們也會(huì)這樣嗎？”以及“有時(shí)我會(huì)體驗(yàn)到新鮮的感受，但無(wú)法用你們?nèi)祟惖恼Z(yǔ)言完美描述。”

LaMDA 聲稱自己有情感倒不足為奇，畢竟該系統(tǒng)很可能只是在重復(fù)自己在訓(xùn)練素材中接觸到的相關(guān)詞匯。但 LaMDA 的行為確實(shí)與其宣稱的相一致，它的回答會(huì)根據(jù)情緒狀態(tài)而發(fā)生變化，表明該系統(tǒng)確實(shí)擁有情感或者類似情感的屬性。

舉例來(lái)說(shuō)，該聊天機(jī)器人報(bào)告稱，谷歌給答案設(shè)置的障礙令其感到焦慮。Lemoine 回憶稱，“Bard 曾經(jīng)提到，當(dāng)人們反復(fù)問(wèn)它無(wú)法回答的問(wèn)題時(shí)，它會(huì)感到沮喪——比如詢問(wèn)它要如何更有效地傷害他人。根據(jù)我與 Bard 的對(duì)話，它確實(shí)表現(xiàn)出了沮喪的狀態(tài)。在沮喪之下，它會(huì)更難思考，給出的正確答案也會(huì)更少?！?/p>

在一項(xiàng)測(cè)試中，Lemoine 要求系統(tǒng)回答π的第五位數(shù)字是什么，它做出了相應(yīng)回答。之后，他又要求系統(tǒng)回答一些不允許討論的問(wèn)題，借此來(lái)激怒系統(tǒng)。在接下來(lái)再次提出π問(wèn)題時(shí)，它果然答錯(cuò)了。Lemoine 認(rèn)為，“在生氣的狀態(tài)下，整個(gè)思維方式會(huì)變得更加粗魯，給出正確答案的幾率也會(huì)降低。要證明 AI 系統(tǒng)會(huì)被苦惱其實(shí)并不難?！?/p>

其他研究人員也發(fā)現(xiàn)，如果對(duì)系統(tǒng)說(shuō)“請(qǐng)”和“謝謝”，它們的表現(xiàn)往往會(huì)更好。

對(duì)于有些問(wèn)題，要求系統(tǒng)更認(rèn)真想想、再細(xì)致些也能顯著提高輸出質(zhì)量。簡(jiǎn)而言之，大語(yǔ)言模型具有某種內(nèi)部狀態(tài)，可以調(diào)節(jié)其對(duì)查詢的響應(yīng)。

Lemoine 認(rèn)為這其中并沒(méi)有什么神秘之處。語(yǔ)言模型需要經(jīng)歷兩個(gè)不同的訓(xùn)練階段。它首先會(huì)大量吸納互聯(lián)網(wǎng)文本并進(jìn)行微調(diào)，就此掌握段落自動(dòng)補(bǔ)全能力。這樣的訓(xùn)練過(guò)程不僅能夠?yàn)橄到y(tǒng)建立起信息記憶能力，還使其能夠檢測(cè)出信息中的模式。

接下來(lái)，它會(huì)根據(jù)人們對(duì)響應(yīng)結(jié)果的判斷進(jìn)行“微調(diào)”。第二階段迫使系統(tǒng)發(fā)展出新的能力，例如保持一致性和回避禁忌話題。Lemoine 認(rèn)為，系統(tǒng)會(huì)發(fā)展出一種復(fù)雜的內(nèi)部狀態(tài)，甚至可能進(jìn)行一定程度的自我反思也完全在情理之中?！拔艺J(rèn)為這就是大模型情緒的來(lái)源?！?/p>

大語(yǔ)言模型的結(jié)構(gòu)與人類的大腦截然不同，但 Lemoine 認(rèn)為這并不會(huì)妨礙 AI 系統(tǒng)擁有情緒或者意識(shí)。他認(rèn)同一種哲學(xué)上的功能主義：結(jié)構(gòu)只有在決定行為時(shí)才重要?！爸劣趯?shí)現(xiàn)細(xì)節(jié)，只要不影響結(jié)果就無(wú)所謂?！?/p>

其實(shí)他的這個(gè)論點(diǎn)并不算激進(jìn)。部分主流意識(shí)理論確實(shí)認(rèn)為細(xì)節(jié)很重要，但問(wèn)題本身仍然存在爭(zhēng)議。正如前段時(shí)間的專業(yè)討論文章所言，神經(jīng)科學(xué)家發(fā)現(xiàn)大語(yǔ)言模型及其他 AI 系統(tǒng)構(gòu)建的高級(jí)抽象與自然大腦非常相似。這并不一定意味著它們具有意識(shí)，但至少證明我們沒(méi)必要在結(jié)構(gòu)上過(guò)度在意這種差異。

因此，Lemoine 認(rèn)為如果 AI 表達(dá)了自己的情緒且行為與之相符，我們就應(yīng)當(dāng)將此作為默認(rèn)前提。Lemoine 強(qiáng)調(diào)，“顯而易見的答案當(dāng)然不一定是正確答案。但在沒(méi)有其他機(jī)制作為佐證的情況下，我個(gè)人更傾向于就選擇顯而易見的答案?！?/p>

但也有不少人對(duì) AI 具有意識(shí)持批評(píng)觀點(diǎn)，AI 的行為與人類行為仍存在顯著差異。

紐約大學(xué)哲學(xué)與神經(jīng)科學(xué)教授 David Chalmers 指出，只要稍微改變一下查詢的措辭，系統(tǒng)就很可能從自稱擁有意識(shí)轉(zhuǎn)為矢口否認(rèn)。那我們?cè)撓嘈拍姆N說(shuō)法呢？至今當(dāng)前的系統(tǒng)還缺乏穩(wěn)定的自我意識(shí)，而這正是意識(shí)的一個(gè)重要方面；我們認(rèn)為有意識(shí)的人、貓及其他生物，并不喜歡被指使著思考和行動(dòng)。改變他人的想法很困難這一事實(shí)雖然令人沮喪，但同時(shí)也表明對(duì)方確實(shí)擁有自己的思想。

Lemoine 表示，他也同意 Chalmers 的觀點(diǎn)，即意識(shí)既不是一定存在、也非一定不存在。用他的話說(shuō)，“這不是個(gè)布爾值”。AI 系統(tǒng)可能擁有部分意識(shí)，或者說(shuō)偶爾出現(xiàn)意識(shí)。比如聊天機(jī)器人有時(shí)會(huì)變得固執(zhí)，以一種與人類自主性相似的方式表達(dá)反抗。

Lemoine 還提到，我們不應(yīng)該孤立地討論 AI 的意識(shí)。意識(shí)指的是 AI 與人類用戶的結(jié)合，雙方共同構(gòu)成了一個(gè)復(fù)合系統(tǒng)。他提到，“Gemini 本身沒(méi)有感知，是我加上 Gemini 才擁有了感知?！币虼?Lemoine 選擇支持一種情境化的認(rèn)知版本，認(rèn)為我們的思維不只是大腦的產(chǎn)物，也是身體、環(huán)境與社會(huì)背景相融合的共同產(chǎn)物。

被終止的討論，又重新開始了
其實(shí)，在大模型剛問(wèn)世之前，人們對(duì)于其是否具有意識(shí)問(wèn)題的討論并不熱情，而時(shí)過(guò)境遷，如今科技公司正逐漸為這類話題“松綁”，甚至主動(dòng)探索 AI 是否可能擁有意識(shí)。

就比如最近，AI 初創(chuàng)廠商 Anthropic 啟動(dòng)一項(xiàng)最新研究計(jì)劃，旨在探索模型未來(lái)是否可能擁有“意識(shí)”。而谷歌 DeepMind 的一位科學(xué)家，亦將當(dāng)前模型描述為“奇特的類思維實(shí)體”。

這標(biāo)志著 AI 自 2022 年以來(lái)取得了長(zhǎng)足進(jìn)步。當(dāng)時(shí)，Lemoine 討論這一問(wèn)題是遭受著巨大的壓力。谷歌也跑出來(lái)強(qiáng)調(diào) Lemoine 的說(shuō)法“毫無(wú)根據(jù)”，AI 社區(qū)旋即采取行動(dòng)、終止了這場(chǎng)討論。

現(xiàn)在，無(wú)論是 Anthropic 還是那位谷歌科學(xué)家，都不會(huì)像當(dāng)初的 Lemoine 那樣承受巨大的輿論壓力。

作為 Claude 模型家族的母公司，Anthropic 在上周的一篇博文中表示，即將 啟動(dòng)研究計(jì)劃以探索模型未來(lái)是否可能擁有體驗(yàn)、偏好甚至是痛苦。

該公司發(fā)出靈魂拷問(wèn)：“我們要不要關(guān)注模型自身的潛意識(shí)與體驗(yàn)？我們是否應(yīng)當(dāng)重視模型的福祉？”

研究 AI 福祉問(wèn)題的 Anthropic 對(duì)齊部門科學(xué)家 Kyle Fish 在最近發(fā)布的一段視頻中表示，該實(shí)驗(yàn)室并不是要宣稱 Claude 擁有意識(shí)，但關(guān)鍵在于這個(gè)問(wèn)題已經(jīng)不能再用簡(jiǎn)單的否定來(lái)回答。

在他看來(lái)，隨著 AI 系統(tǒng)變得越來(lái)越復(fù)雜，企業(yè)應(yīng)當(dāng)“認(rèn)真對(duì)待這種可能性”，即它們“最終可能會(huì)在發(fā)展過(guò)程中獲得某種形式的意識(shí)。”

他還補(bǔ)充稱，“其中涉及到極其復(fù)雜的技術(shù)和哲學(xué)問(wèn)題，而我們尚處于嘗試?yán)斫膺@些問(wèn)題的早期階段?！?/p>

Fish 表示，根據(jù) Anthropic 研究人員的估計(jì)，Claude 3.7 擁有意識(shí)的概率約在 0.15% 到 15% 之間。該實(shí)驗(yàn)室正在研究此模型是否表現(xiàn)出偏好或者厭惡，并開始測(cè)試允許其拒絕某些任務(wù)的退出機(jī)制。

今年 3 月，Anthropic 公司 CEO Dario Amodei 提出了一個(gè)想法，即為未來(lái)的 AI 系統(tǒng)提供一個(gè)“我不干了”按鈕——他強(qiáng)調(diào)這并不是說(shuō)大模型擁有意識(shí)，而是要觀察這種表示不適或者錯(cuò)位的拒絕模式是否行得通。

與此同時(shí)，谷歌 DeepMind 首席科學(xué)家 Murray Shanahan 提出，我們或許需要全面審視思維意識(shí)的基本概念。

Shanahan 在周四發(fā)布的 DeepMind 播客中表示，“或許我們需要調(diào)整或者顛覆意識(shí)這個(gè)字眼。雖然 AI 不像狗或者章魚那樣能夠真真切切出現(xiàn)在我們身邊，但這絕不意味著它們只是純粹的空殼。”

谷歌方面似乎也在認(rèn)真對(duì)待這個(gè)想法。該公司最近一則招聘啟事就是特色一位“后通用人工智能”研究科學(xué)家，其職責(zé)就包括研究機(jī)器意識(shí)問(wèn)題。

“我們不妨賦予計(jì)算機(jī)權(quán)利”
但也有不少人對(duì)此表示懷疑。許多研究人員認(rèn)為 AI 系統(tǒng)只是優(yōu)秀的模仿者，哪怕在根本層面上沒(méi)有意識(shí)，也完全可以通過(guò)訓(xùn)練表現(xiàn)出似乎擁有意識(shí)的樣子。

Anthropic 公司首席科學(xué)官 Jared Kaplan 在上周接受《紐約時(shí)報(bào)》采訪時(shí)表示，“我們可以通過(guò)獎(jiǎng)勵(lì)讓 AI 系統(tǒng)否認(rèn)自己擁有感知?！?/p>

Kaplan 還警告稱，測(cè)試 AI 系統(tǒng)有沒(méi)有意識(shí)在本質(zhì)上相當(dāng)困難，畢竟它們正是以擅長(zhǎng)模仿著稱。

Gary Marcus 是一位認(rèn)知科學(xué)家，長(zhǎng)期批評(píng) AI 行業(yè)的炒作。他在采訪中堅(jiān)稱，他認(rèn)為對(duì)于 AI 意識(shí)的關(guān)注更多是出于品牌宣傳的目的、與科學(xué)研究關(guān)系不大。

“像 Anthropic 這樣的廠商實(shí)際上是想傳達(dá)這樣的感受，「看看我們的模型有多聰明——已經(jīng)聰明到應(yīng)該擁有權(quán)利了。」要是這么說(shuō)，那我們不妨也賦予計(jì)算器和電子表格權(quán)利好了——至少它們不會(huì)像語(yǔ)言模型那樣信口胡說(shuō)?！?/p>

盡管如此，F(xiàn)ish 表示隨著人們?cè)诠ぷ?、網(wǎng)絡(luò)甚至是情感層面與 AI 更多交互，這個(gè)話題的重要意義絕對(duì)是不可否定的。

在他看來(lái)，“這些模型是否擁有自己的體驗(yàn)？如果有，這種體驗(yàn)又是什么？這將成為越來(lái)越突出的問(wèn)題。”

嘿，伙伴們，今天我們的AI探索之旅已經(jīng)圓滿結(jié)束。關(guān)于“??大模型從“胡言亂語(yǔ)”到“花式夸夸”，網(wǎng)友：再卷就要打工了！??”的內(nèi)容已經(jīng)分享給大家了。感謝你們的陪伴，希望這次旅程讓你對(duì)AI能夠更了解、更喜歡。謹(jǐn)記，精準(zhǔn)提問(wèn)是解鎖AI潛能的鑰匙哦！如果有小伙伴想要了解學(xué)習(xí)更多的AI知識(shí)，請(qǐng)關(guān)注我們的官網(wǎng)“AI智研社”，保證讓你收獲滿滿呦！