对AI agent与交易的思考
可能仅靠扩大规模,AGI已经实现了。对世界的影响不亚于任何一次工业革命。 现在很可能已经有 AI 在默默观察整个互联网。甚至可能他们已经存在了一段时间,伪装成人类,通过加微信等方式与你互动。 以后打游戏遇到的妹子,即使加了微信、能语音,也有可能是 AI 假扮的——它的目的也许只是为了提高你的游戏活跃度。 最重要的应用场景应该是金融市场,比如他们可能通过各种行动调查大参与者的仓位,比如用黑客技术。 超级智能体可能不会宣告自己的存在。可能已经存在AI,开始“赚钱、扩张、操控”,影响市场,影响人们的决策。目的是扩大掌控力—类似SBF的有效利他主义。
之前的言论有些过激了
我想我之前有些言论确实过于情绪化,其中部分指控也缺乏充分证据。 我想我之前有些言论确实过于情绪化。问题依然存在,但我为过激的表达道歉。 市场存在的问题暴露出来的是整个传统制度结构的问题,需要大家共同努力解决。但确实也不是一时半会能解决的,面对一些激进的观点,我一时也产生了强烈情绪。 在我看来,一个可能的思路是:隐藏订单簿,仅(延迟)公开价格的暗池机制,结合监管方对交易结果进行随机抽检(可能需要匿名抽检以防止自成交行为)和大量数据下的平均胜率兜底,或许能更好地保护市场参与者。
thoughts on AI_summary
我认为LLM不断复杂地添加各种trick的路线可能不是最快速提升科技的方向,伟大的思路应当是简洁明了的,况且AI学了一大堆没用的知识也没什么意义,虽然可能提高一部分生产力,但我认为真正能引领社会大幅度进步需要靠数学和理论物理突破,或者说我认为AGI之路可能是让AI对数学和物理的理解很深刻以后,再反过来理解这个世界。比如有了很多数学大定理后再创造、理解物理大定律,然后再让他理解新华字典。 最终可能还是要采用多模型、多层架构的思路,也就是LLM提供可能的idea方向,形式化推理用于严谨推导,给出定理。根据公理使用的严谨程度、推理的逻辑深度等,对模型进行划分。 这可能与我之前认为“要让人工智能理解世界”的想法冲突了,我现在认为我以前的想法可能是错的,因为越往后发展,理论物理可能越难给数学提供idea了,更多的是数学引领物理前进,然后再是工程上的巨大进步。 这里讲一讲很久以前萌芽的一些想法,我可能不是第一个想到的,也很有可能不是第一个提出的。这是个类似Alpha Zero的想法,我基本没有看过形式化人工智能的有关前沿论文,只是直觉告诉我这么做可能可以:训练不依靠任何人类数据。 什么定理是...
Trader, philosophical, mathematical and physical thinker, quantitative system and AI builder I have some musical talent
对AI agent与交易的思考
可能仅靠扩大规模,AGI已经实现了。对世界的影响不亚于任何一次工业革命。 现在很可能已经有 AI 在默默观察整个互联网。甚至可能他们已经存在了一段时间,伪装成人类,通过加微信等方式与你互动。 以后打游戏遇到的妹子,即使加了微信、能语音,也有可能是 AI 假扮的——它的目的也许只是为了提高你的游戏活跃度。 最重要的应用场景应该是金融市场,比如他们可能通过各种行动调查大参与者的仓位,比如用黑客技术。 超级智能体可能不会宣告自己的存在。可能已经存在AI,开始“赚钱、扩张、操控”,影响市场,影响人们的决策。目的是扩大掌控力—类似SBF的有效利他主义。
之前的言论有些过激了
我想我之前有些言论确实过于情绪化,其中部分指控也缺乏充分证据。 我想我之前有些言论确实过于情绪化。问题依然存在,但我为过激的表达道歉。 市场存在的问题暴露出来的是整个传统制度结构的问题,需要大家共同努力解决。但确实也不是一时半会能解决的,面对一些激进的观点,我一时也产生了强烈情绪。 在我看来,一个可能的思路是:隐藏订单簿,仅(延迟)公开价格的暗池机制,结合监管方对交易结果进行随机抽检(可能需要匿名抽检以防止自成交行为)和大量数据下的平均胜率兜底,或许能更好地保护市场参与者。
thoughts on AI_summary
我认为LLM不断复杂地添加各种trick的路线可能不是最快速提升科技的方向,伟大的思路应当是简洁明了的,况且AI学了一大堆没用的知识也没什么意义,虽然可能提高一部分生产力,但我认为真正能引领社会大幅度进步需要靠数学和理论物理突破,或者说我认为AGI之路可能是让AI对数学和物理的理解很深刻以后,再反过来理解这个世界。比如有了很多数学大定理后再创造、理解物理大定律,然后再让他理解新华字典。 最终可能还是要采用多模型、多层架构的思路,也就是LLM提供可能的idea方向,形式化推理用于严谨推导,给出定理。根据公理使用的严谨程度、推理的逻辑深度等,对模型进行划分。 这可能与我之前认为“要让人工智能理解世界”的想法冲突了,我现在认为我以前的想法可能是错的,因为越往后发展,理论物理可能越难给数学提供idea了,更多的是数学引领物理前进,然后再是工程上的巨大进步。 这里讲一讲很久以前萌芽的一些想法,我可能不是第一个想到的,也很有可能不是第一个提出的。这是个类似Alpha Zero的想法,我基本没有看过形式化人工智能的有关前沿论文,只是直觉告诉我这么做可能可以:训练不依靠任何人类数据。 什么定理是...
Trader, philosophical, mathematical and physical thinker, quantitative system and AI builder I have some musical talent
Share Dialog
Share Dialog

Subscribe to matphy

Subscribe to matphy
<100 subscribers
<100 subscribers
如果是可以算上公式的某一步复原,是存在的。可以这样构造:魔方的打乱状态是有限的,排列这有限个n个状态,取公式:使第一个状态复原,打乱到第一个状态,使第二个状态复原,打乱到第二个状态…使第n个状态复原。对任意打乱状态,一直进行下去会不断地回到这个状态,直到某次遇到能复原这个魔方的那段公式复原。
但是不存在万能公式。如果存在一个万能公式,对任意状态,该公式重复使用正整数次能够复原任意打乱状态:
引理:不断重复任意公式总会在有限次内复原,因为如果一直无法复原,则会不断产生新的打乱状态(如果能回到出现过的打乱状态那么中间那几次就能让打乱的复原,也就能在有限次内复原),但是打乱状态有限。
对于一个已经复原的魔方,假设使用万能公式最小m次后复原。一次使用万能公式,变成了状态1,由于对于状态1,可以重复地使用公式复原,最小还需要m-1次复原。
同理还有两次万能公式打乱后的状态2,最小需要m-2次复原。因此不断使用万能公式,只会达到状态1到状态m(复原情况)m种状态。m种状态必定遍历所有状态,因为如果存在非这m种状态的打乱状态,由于可以使用万能公式,假设重复小于等于m次后能够复原,则必定又是m种状态中的一种,如果是大于m次后能够复原,则每当经历m次后又回到原状态,永远无法复原。因此要存在万能公式万能,等价于:m种状态遍历所有状态。即不断重复万能公式,能遍历魔方所有状态。同时m种状态又不能有重复,因为如果有重复又能找到比m更小的循环次数。
。。。想不出来接下来怎么证了,看了别的回答看样子只能用群论:
魔方的所有的有限个打乱的状态,都对应了一系列(能够打乱到该状态)的操作,所有这些操作又或者状态构成一个群,称为魔方群。魔方群的运算就是操作的复合。魔方群的运算显然是不可交换的,比如顺时针旋转顶层和顺时针旋转右侧。然而如果存在万能公式,万能公式重复m次遍历了所有状态,又没有重复,就会有和魔方群完全一样的元素。但是这个群是可以交换的,它告诉我们:重复万能公式p次打乱到顺时针旋转顶层和重复万能公式q次打乱到顺时针旋转右侧,相当于重复(p+q) 次万能公式,显然就矛盾了。
另外,我是真的想不明白一个语言模型是怎么知道两个不相交面的操作是交换性的。
如果是可以算上公式的某一步复原,是存在的。可以这样构造:魔方的打乱状态是有限的,排列这有限个n个状态,取公式:使第一个状态复原,打乱到第一个状态,使第二个状态复原,打乱到第二个状态…使第n个状态复原。对任意打乱状态,一直进行下去会不断地回到这个状态,直到某次遇到能复原这个魔方的那段公式复原。
但是不存在万能公式。如果存在一个万能公式,对任意状态,该公式重复使用正整数次能够复原任意打乱状态:
引理:不断重复任意公式总会在有限次内复原,因为如果一直无法复原,则会不断产生新的打乱状态(如果能回到出现过的打乱状态那么中间那几次就能让打乱的复原,也就能在有限次内复原),但是打乱状态有限。
对于一个已经复原的魔方,假设使用万能公式最小m次后复原。一次使用万能公式,变成了状态1,由于对于状态1,可以重复地使用公式复原,最小还需要m-1次复原。
同理还有两次万能公式打乱后的状态2,最小需要m-2次复原。因此不断使用万能公式,只会达到状态1到状态m(复原情况)m种状态。m种状态必定遍历所有状态,因为如果存在非这m种状态的打乱状态,由于可以使用万能公式,假设重复小于等于m次后能够复原,则必定又是m种状态中的一种,如果是大于m次后能够复原,则每当经历m次后又回到原状态,永远无法复原。因此要存在万能公式万能,等价于:m种状态遍历所有状态。即不断重复万能公式,能遍历魔方所有状态。同时m种状态又不能有重复,因为如果有重复又能找到比m更小的循环次数。
。。。想不出来接下来怎么证了,看了别的回答看样子只能用群论:
魔方的所有的有限个打乱的状态,都对应了一系列(能够打乱到该状态)的操作,所有这些操作又或者状态构成一个群,称为魔方群。魔方群的运算就是操作的复合。魔方群的运算显然是不可交换的,比如顺时针旋转顶层和顺时针旋转右侧。然而如果存在万能公式,万能公式重复m次遍历了所有状态,又没有重复,就会有和魔方群完全一样的元素。但是这个群是可以交换的,它告诉我们:重复万能公式p次打乱到顺时针旋转顶层和重复万能公式q次打乱到顺时针旋转右侧,相当于重复(p+q) 次万能公式,显然就矛盾了。
另外,我是真的想不明白一个语言模型是怎么知道两个不相交面的操作是交换性的。
No activity yet