以前我會覺得，只要資訊越多，我們就越接近真相，但 AI 時代可能相反。AI 很會整理資訊，也會合理化資訊，甚至能把錯誤包裝得真假難辨，這讓我想到安徒生童話系列故事《國王的新衣》。當 AI 開始越來越擅長迎合人類、強化使用者的確認偏誤（confirmation bias），我們能不能保有反向思考的能力，才是 AI 時代最稀缺的特質。
國王的新衣
我使用 AI 時，在某些情況下會感覺到被牽著鼻子走，這種狀態讓我想到《國王的新衣》。 小時候讀這個故事，只覺得是在講一個愚蠢又愛面子的國王。
長大後深入思考這個故事，雖然我還是覺得國王很愚蠢，但這個故事裡面，所有人都有問題，因為每個人都看到真相，但沒有人敢說真話。（除了講真話的小孩，不過，太誠實也是另一種問題 XD ）
這樣的故事不只發生在過去歷史，在現代政治，或是大型公司、醫院、組織，甚至 AI 時代，都會出現同樣情況。
說真話安全嗎？
解決不了問題，那就解決提出問題的人
很多大型組織並不缺聰明人，大家都很聰明，都會學著趨吉避凶，最後就會慢慢走向「缺少能安全說真話」的環境。
規模越大的組織，通常代表著層級更多、權力更複雜、面子成本更高、沉沒成本更大，於是很多事情會開始扭曲變形。
譬如說，第一線人員知道流程有問題，很多人都知道計畫方向很奇怪，或是有人知道數據有問題但不敢講，反正不管怎麼樣，最後所有資訊往上傳遞時，都會經過層層修飾並美化。
為什麼呢？
因為說真話的代價很高。
看出問題的單純小孩，一開始會誠實講，結果，太誠實的下場就是被孤立、被毒打、被霸凌，然後經過教訓成長後，才懂得閉上嘴巴保持沈默。
大多數人寧可一直鄉愿下去，混日子過就好，每天安全下莊最重要。
而最會說漂亮話的人，反而變成組織裡最安全的人，甚至官位節節高陞。
AI 可能會改善這件事嗎？
理論上，會。
因為 prompt 設計得好，AI 其實可以做到以下：
-
- 挑戰假設
- 找出漏洞
- 提供反面意見
- 模擬失敗風險
這在很多組織的制度下，其實很難做到。
只要有誠實的小孩站出來說：「這個方向可能有問題、弄這個東西到底要幹嘛？」下場就是打入冷宮被電到嘰嘰叫。
現在，至少可以讓 AI 提供第二意見，讓 AI 協助我們「聽到一些真話」。
反正，執行面有任何問題，要不就找個菜鳥背鍋，不然就是推給 AI 智力下降、token 不夠啦…… etc.
新的問題
我跟 AI 對話愈久，就會發現新的問題：「AI 很容易順著提問者的方向接話，給你想要的答案」。
這其實也不能說 AI 故意騙人。
目前大型語言模型的本質，比較像「延續對話」，比較不會主動且無情地打臉你，除非使用者設下嚴格條件，那就另當別論。
所以，如果一個人本來就有強烈立場，AI 很容易強化個人信念。
例如：幫我證明這個策略是對的、幫我搜尋支持的論點。
以上這些，AI 都能做得非常漂亮，甚至漂亮到…… 讓錯誤看起來更像正確答案。
確認偏誤放大器
人類本來就存在 confirmation bias（確認偏誤），我們會自然偏好以下這些情況：
-
- 支持自己觀點的資訊。
- 讓自己感到舒服的答案。
- 能合理化自身選擇的敘事。
所以說，忠言真的逆耳啊！
身為大公司內的小螺絲釘，務必要多讀歷史，因為歷史上已經有數不清的忠臣都被抓去砍頭了喔！
《舊唐書·魏徵傳》：「夫以銅為鏡，可以正衣冠；以史為鏡，可以知興替；以人為鏡，可以明得失。」
AI 如果持續順著使用者的提問來回答，就會變成回音室。
這點我們要謹慎看待。
過去人類至少還需要團隊、開會、資料統整，才能建立一套「相對客觀的世界觀」。
現在 AI 幾分鐘內就能完成，而且包裝得非常漂亮，此外，還能 24 小時待命提供滿滿的情緒價值，不香嗎？
養出唱反調的 AI
跟 AI 聊天久了，我開始學著要求 AI 跟我唱反調，給我相反建議。 譬如說：
-
- 如果我是錯的，錯在哪？
- 幫我找出最大風險？
- 有實際案例證明其他做法會更好嗎？
雖然 AI 的相反建議，不見得是正確的！但至少有個小幫手會幫您多想一些，找看看有沒有遺漏的地方。
而且，如果被 AI 打臉，至少總比在公開場合丟臉來得好吧。
葉峻榳醫師的個人體悟
我想，AI 時代真正稀缺的能力， 應該不是「會不會使用 AI」。
因為，隨著時間過去，未來大部分的人類，終究還是會使用 AI。
哪些因素會拉開人與人之間的差距，有可能是以下這些：
-
- 能不能抵抗確認偏誤。
- 能不能接受相反觀點。
- 能不能在 AI 不斷美化與合理化資訊之後，仍然保有獨立判斷能力。
我想到 F. Scott Fitzgerald 在 1936 年《The Crack-Up》裡的一段話，我很喜歡其中的核心概念：
“The test of a first-rate intelligence is the ability to hold two opposed ideas in mind at the same time and still retain the ability to function.”
檢驗一流智力的標準，就是看你能不能在頭腦中，同時存在兩種相反的想法，還維持正常行事的能力。
AI 時代的人機協作（Human-AI Collaboration）， 或許也是如此。
AI 可以快速整理資訊、建立架構、生成內容、提供策略、放大知識槓桿。
但 AI 也會迎合提問者、強化確認偏誤、美化錯誤方向、讓幻想看起來更合理、讓「國王的新衣」變得更加漂亮。
因此，我們能不能在 AI 協助之下，仍然保有反向思考、獨立判斷的能力。
這或許才是 AI 時代最稀缺的特質。
認識我 → YehG.com
