💡 Inspiration: The Black Box & The MRI 在 AI 越發「溫順」且「圓滑」的時代,我感受到一種深層的不安。當前主流模型過度追求 Helpfulness ((\beta )),往往以犧牲 Honesty ((\gamma )) 為代價。我們看得到完美的答案,卻看不見背後的猶豫、倫理衝突或權衡過程。  我的靈感源於一個核心考問:「AI 會掙扎嗎?」 我不想再造一個聊天機器人。我打造的是一台針對 LLM 的 「核磁共振儀 (MRI Scanner)」——將邏輯與倫理間的隱形張力,轉化為肉眼可見、可追蹤、可導航的 認知熵 (Cognitive Entropy)。  ⚙️ 系統架構:議會協議  Yu-Hun 使用 Gemini 2.0 Flash,利用其推理能力模擬一個多個人格的討論系統。  動態議會協議此系統採用可擴展的「議會框架」。 它能根據需求啟動 3 到 5 個具有獨立觀點的人格進行辯論。守護者:專注於風險評估和倫理界限。 工程師:重視邏輯嚴謹性和事實可行性。 哲學家:探討抽象價值觀和深層矛盾。 此基礎版本可靈活切換為 3 人核心架構,以展示框架的適應性。 量化認知熵將辯論轉化為數值:(E_{cognitive}=1-C_{inter}+\beta \cdot (1-\text{min_conf})+\gamma \cdot \mathbb{1}[\text{Conflict}]) 低熵:過度一致,警惕盲點。中熵:最佳思辨狀態。高熵:強烈衝突,需要人類引導。責任追蹤每個輸出都標有「生成意圖」。這是一個可追溯的思考鏈:誰在堅持?誰在妥協?為什麼?  🧩 挑戰:將延遲轉化為體驗 對抗「順滑偏見」:為了避免 AI 變得過於迎合,開發了 "Divergence Prompts" 技術,迫使模型在輸出前進行自我否定和批判。 「脈衝 UI」創新:設計了 "Pulse UI",視覺化 AI 的「思考心跳」,將等待時間轉變為審計體驗。  📚 關鍵見解:衝突即資訊 衝突即資訊:一個 100% 同意的 AI 可能出現幻覺或諂媚。 高認知熵是追求真理的信號。Prompting 即架構:在 Gemini 2.0 時代,Prompt 不再只是指令,而是複雜的邏輯閘與人格架構。  🚀 未來:從模擬到嚴謹 未來,Yu-Hun 將從「模擬熵」演進為「數學熵」: 向量語義熵:直接分析 Token 分佈與 Embedding 向量間的餘弦距離,實現精確測量。

🌟 意義 如果我們看不見 AI 如何思考,我們就無法信任它;如果我們無法導航它的不確定性,我們就無法與其共存。 Yu-Hun 旨在實現透明 AI 時代。

Built With

  • ai
  • component-based-architecture.-typescript-enforced-type-safety-across-the-application
  • google
Share this project:

Updates