matphy

May 31

对AI agent与交易的思考

可能仅靠扩大规模，AGI已经实现了。对世界的影响不亚于任何一次工业革命。 现在很可能已经有 AI 在默默观察整个互联网。甚至可能他们已经存在了一段时间，伪装成人类，通过加微信等方式与你互动。 以后打游戏遇到的妹子，即使加了微信、能语音，也有可能是 AI 假扮的——它的目的也许只是为了提高你的游戏活跃度。 最重要的应用场景应该是金融市场，比如他们可能通过各种行动调查大参与者的仓位，比如用黑客技术。 超级智能体可能不会宣告自己的存在。可能已经存在AI，开始“赚钱、扩张、操控”，影响市场，影响人们的决策。目的是扩大掌控力—类似SBF的有效利他主义。

matphy

Nov 6

之前的言论有些过激了

我想我之前有些言论确实过于情绪化，其中部分指控也缺乏充分证据。 我想我之前有些言论确实过于情绪化。问题依然存在，但我为过激的表达道歉。 市场存在的问题暴露出来的是整个传统制度结构的问题，需要大家共同努力解决。但确实也不是一时半会能解决的，面对一些激进的观点，我一时也产生了强烈情绪。 在我看来，一个可能的思路是：隐藏订单簿，仅（延迟）公开价格的暗池机制，结合监管方对交易结果进行随机抽检（可能需要匿名抽检以防止自成交行为）和大量数据下的平均胜率兜底，或许能更好地保护市场参与者。

matphy

Jun 22

thoughts on AI_summary

我认为LLM不断复杂地添加各种trick的路线可能不是最快速提升科技的方向，伟大的思路应当是简洁明了的，况且AI学了一大堆没用的知识也没什么意义，虽然可能提高一部分生产力，但我认为真正能引领社会大幅度进步需要靠数学和理论物理突破，或者说我认为AGI之路可能是让AI对数学和物理的理解很深刻以后，再反过来理解这个世界。比如有了很多数学大定理后再创造、理解物理大定律，然后再让他理解新华字典。 最终可能还是要采用多模型、多层架构的思路，也就是LLM提供可能的idea方向，形式化推理用于严谨推导，给出定理。根据公理使用的严谨程度、推理的逻辑深度等，对模型进行划分。 这可能与我之前认为“要让人工智能理解世界”的想法冲突了，我现在认为我以前的想法可能是错的，因为越往后发展，理论物理可能越难给数学提供idea了，更多的是数学引领物理前进，然后再是工程上的巨大进步。 这里讲一讲很久以前萌芽的一些想法，我可能不是第一个想到的，也很有可能不是第一个提出的。这是个类似Alpha Zero的想法，我基本没有看过形式化人工智能的有关前沿论文，只是直觉告诉我这么做可能可以：训练不依靠任何人类数据。 什么定理是...