# 智子計畫

**Published by:** [Aphasia](https://paragraph.com/@aphasia/)
**Published on:** 2024-04-06
**URL:** https://paragraph.com/@aphasia/2MT77D38fgny6j2kflQ1

## Content

個防止AI誤用學術文獻、強化公領域知識庫韌性的方法 待解決挑戰： LLM可以快速蒐集研究成果與報導資料，很容易用來曲解原意或生成惡意內容，且訓練之後即進入模型，結果無法逆轉。 學術圈很難防止成果洩漏。且囿於社會資本累積機制，心態難以即時轉向CC0等方案。當LLM學習逐漸氾濫，極有可能走向鎖死論文的道路，最終徒勞無功，且自砍韌性，失去社會信任。 負責任AI (Responsible AI) 的討論，最終注定將規範關鍵歸於使用者，很難兼具強制力與市場占有力，更難以因應多元文化與地緣政治問題，而這兩者正是機器學習對公領域知識的最大威脅。 解決方法： 由研究AI規範的單位，來設立一些機構、平台、工具，讓所有人都能輕易製造不實、戲謔、難分真假的社科類研究與報導，並自動餵給AI。 藉此，公開免費的訓練資料庫便將逐漸混沌難測，成為極為有趣但不值得參照的實驗場。研究用AI模型的可信度，將由利害相關人組成的聯盟資料庫決定。訓練資料的門檻將納入創作者的分散式識別符(DID)或社會圖譜。 一個由DID或社會圖譜構成，而非由字面語意構成的訓練庫，可以有效阻滯語意的侵蝕、漂洗、研究的曲解或斷章取義。另一方面，充滿混沌二創的公開訓練資料庫，將孕育出數倍於目前的研究、創業、社會與政治創意。 藉此便能使知識與從業組織，獲得更高的社會權威與社會信任韌性，亦能明顯推高威權國家與恐怖組織在分裂操弄社會時的成本。 可能值得開發的工具/平台： 可任意輸入數值、可任意揉合文本，創造出研究報告的變形模型 可利用閒餘算力，以個人機台協助運算的分散資料庫，搭配根據運算貢獻自動分發的加密貨幣 協助學術報告生成與解析各種文本，並能跨越文本原脈絡進行混搭的LLM模型 ※ 以2024年因Netflix改編而爆紅的《三體》命名。作品中的智子 (Sophon) 是外星人用來阻抑地球科技進展的方法，與此原理類似。 ※ cover art來源見此

## Publication Information

- [Aphasia](https://paragraph.com/@aphasia/): Publication homepage
- [All Posts](https://paragraph.com/@aphasia/): More posts from this publication
- [RSS Feed](https://api.paragraph.com/blogs/rss/@aphasia): Subscribe to updates
- [Twitter](https://twitter.com/aphsaia): Follow on Twitter