Cover photo

智子計畫

個防止AI誤用學術文獻、強化公領域知識庫韌性的方法

待解決挑戰:

  • LLM可以快速蒐集研究成果與報導資料,很容易用來曲解原意或生成惡意內容,且訓練之後即進入模型,結果無法逆轉。

  • 學術圈很難防止成果洩漏。且囿於社會資本累積機制,心態難以即時轉向CC0等方案。當LLM學習逐漸氾濫,極有可能走向鎖死論文的道路,最終徒勞無功,且自砍韌性,失去社會信任。

  • 負責任AI (Responsible AI) 的討論,最終注定將規範關鍵歸於使用者,很難兼具強制力與市場占有力,更難以因應多元文化與地緣政治問題,而這兩者正是機器學習對公領域知識的最大威脅。

解決方法:

由研究AI規範的單位,來設立一些機構、平台、工具,讓所有人都能輕易製造不實、戲謔、難分真假的社科類研究與報導,並自動餵給AI。

藉此,公開免費的訓練資料庫便將逐漸混沌難測,成為極為有趣但不值得參照的實驗場。研究用AI模型的可信度,將由利害相關人組成的聯盟資料庫決定。訓練資料的門檻將納入創作者的分散式識別符(DID)或社會圖譜。

一個由DID或社會圖譜構成,而非由字面語意構成的訓練庫,可以有效阻滯語意的侵蝕、漂洗、研究的曲解或斷章取義。另一方面,充滿混沌二創的公開訓練資料庫,將孕育出數倍於目前的研究、創業、社會與政治創意。

藉此便能使知識與從業組織,獲得更高的社會權威與社會信任韌性,亦能明顯推高威權國家與恐怖組織在分裂操弄社會時的成本。

可能值得開發的工具/平台:

  • 可任意輸入數值、可任意揉合文本,創造出研究報告的變形模型

  • 可利用閒餘算力,以個人機台協助運算的分散資料庫,搭配根據運算貢獻自動分發的加密貨幣

  • 協助學術報告生成與解析各種文本,並能跨越文本原脈絡進行混搭的LLM模型

※ 以2024年因Netflix改編而爆紅的《三體》命名。作品中的智子 (Sophon) 是外星人用來阻抑地球科技進展的方法,與此原理類似。

cover art來源見此