# 智子計畫

By [Aphasia](https://paragraph.com/@aphasia) · 2024-04-06

---

個防止AI誤用學術文獻、強化公領域知識庫韌性的方法
-------------------------

### 待解決挑戰：

*   LLM可以快速蒐集研究成果與報導資料，很容易用來曲解原意或生成惡意內容，且訓練之後即進入模型，結果無法逆轉。
    
*   學術圈很難防止成果洩漏。且囿於社會資本累積機制，心態難以即時轉向CC0等方案。當LLM學習逐漸氾濫，極有可能走向鎖死論文的道路，最終徒勞無功，且自砍韌性，失去社會信任。
    
*   負責任AI (Responsible AI) 的討論，最終注定將規範關鍵歸於使用者，很難兼具強制力與市場占有力，更難以因應多元文化與地緣政治問題，而這兩者正是機器學習對公領域知識的最大威脅。
    

### 解決方法：

由研究AI規範的單位，來設立一些機構、平台、工具，讓所有人都能輕易製造不實、戲謔、難分真假的社科類研究與報導，並自動餵給AI。

藉此，公開免費的訓練資料庫便將逐漸混沌難測，成為極為有趣但不值得參照的實驗場。研究用AI模型的可信度，將由利害相關人組成的聯盟資料庫決定。訓練資料的門檻將納入創作者的分散式識別符(DID)或社會圖譜。

一個由DID或社會圖譜構成，而非由字面語意構成的訓練庫，可以有效阻滯語意的侵蝕、漂洗、研究的曲解或斷章取義。另一方面，充滿混沌二創的公開訓練資料庫，將孕育出數倍於目前的研究、創業、社會與政治創意。

藉此便能使知識與從業組織，獲得更高的社會權威與社會信任韌性，亦能明顯推高威權國家與恐怖組織在分裂操弄社會時的成本。

### 可能值得開發的工具/平台：

*   可任意輸入數值、可任意揉合文本，創造出研究報告的變形模型
    
*   可利用閒餘算力，以個人機台協助運算的分散資料庫，搭配根據運算貢獻自動分發的加密貨幣
    
*   協助學術報告生成與解析各種文本，並能跨越文本原脈絡進行混搭的LLM模型
    

※ 以2024年因Netflix改編而爆紅的《三體》命名。作品中的智子 (Sophon) 是外星人用來阻抑地球科技進展的方法，與此原理類似。

※ [cover art](https://zh-tw.ac-illust.com/clip-art/23676422)來源見此

---

*Originally published on [Aphasia](https://paragraph.com/@aphasia/2MT77D38fgny6j2kflQ1)*