Play Episode
內容描述
本期请到一位“觊觎”已久的嘉宾——孟岩老师（不是投资业界“有知有行”的孟岩，而是在区块链业界“知行合一”的孟岩）。孟岩老师不仅观点经常让我醍醐灌顶，而且是和Will老师唱“二人转”的最佳人选——两位都很有“web3说书人”潜质。
今天还是“AI三人行”系列，算是文理两开花第六次讨论AI。前五次大多是怀着对其惊叹、赞美的情绪，试图更多理解其背后的运行逻辑。今天却想从情绪的另一面——“末日情结”来聊一聊AI的危险性，以及人类可能的对策。
AI领域其实一直有“乐观”、“悲观”两派。前几期的嘉宾朱老师是乐观派，也可能AI专业人士对本轮ChatGPT的突飞猛进实在太激动，还没时间悲观；而Will老师看起来好像是乐观派，但似乎也有悲观的情绪混入——事已至此，想多了也没用，不如但行诸事，莫问前程吧。
我肯定是悲观派，已经抓住一切机会给大家灌毒鸡汤了。但奇怪的是，国内似乎很少看到悲观的观点，而大部分“doomsday”的观点都来自国外那几位AI教父，和尤瓦尔赫拉利这样的人类学家。但我“欣慰”地发现，孟岩老师和我一样悲观，甚至觉得人类只是智能的一个载体，是硅基生命的引导程序，白驹过隙，不足挂齿。
但孟岩老师更有建设性，也在积极寻找解决办法。在他《强人工智能时代，区块链还有戏吗？》这篇文章中，将区块链在人类对抗“AI无声侵入”这场“数字战争”中可能扮演的角色，总结的清晰明了。
我们今天就来听听：区块链将如何拯救人类？
BGM：Day Late and A Dollar Short, by Land of Loops
嘉宾：孟岩。Solv Protocol联合创始人。
时间戳：
1:30
AI感性坐标系：乐观派、悲观派、乐观悲观派、悲观乐观派、和“但行诸事莫问前程”派。
5:44
孟岩老师的三个观点：(1) ChatGPT已经发现了强人工智能的新大陆，完成了“从零到一”的转变；(2) 强人工智能对于人类的存在构成威胁；(3) 区块链可以帮助人类跟AI协作，成为规范AI行为的一个工具。
8:42
“暴击式威胁”和“无痛死亡”。尤瓦尔赫拉利：“AI不需要意识就可以毁灭人类文明”，我们面对的是“甜蜜、渐进式的攻击”、“超级政府”。
14:00
人工智能之父杰夫辛顿后悔了吗？
18:00
罗素的“Human compatible”（《AI新生》）书中涵盖了市面上的各品类“担忧”。基本可以归为三类：（1）假信息：有目的（为了实现自己的目标）控制人的思想；（2）夺走人的工作，让“人”失去意义。“智人”让位；（3）成为自动杀人武器。
AI专家们从技术上到底在怕什么？（1）学习能力无限复制；（2）未来智商不可预知，能通过阅读人类书籍来学习如何操纵人类，能轻易绕过人类设定的限制，且人类甚至不能感知到被 AI 操控；（3）一旦有了创建子目标的能力，很快会意识到控制人类可以帮其助它实现其他目标。
25:10
从现有价值观的“另一面”看看：两颗原子弹拯救了一亿日本人？因为有了核武器，世界才得以保持和平？
科技具有“强制理性”作用，会强制人类用理性去思考和看待世界。科技从来没有辜负过人类，是人类自己在“作”。
32:30
AI是否能让人类社会分裂、分化？从而“分而治之”？“Code is Law”——通过代码和加密技术能为机器人“立法”吗？
39:04
人类目前的对策有以下几种：
（1）呼吁类：联名上书
（2）威胁类：辞职以身作则
（3）教导类：把人类的道德约束灌输给AI，教AI怎么做人
（4）鸵鸟类：把威胁合理化，科幻小说看多了
（5）防御性：全民基本收入UBI、World Coin、“proof of human”
（6）主动进攻类：主动调整和干预 AI 的工作方式
45:10
人类基本原则的缺失：“打不过就合理化”，再把合理化后的结果宣称为人类文明的进步。
AI的未来本来就不可预料——消灭了人类的工作，人类不正好可以躺平，天天让机器注射多巴胺，飘飘欲仙的过完一生，不好吗？
人类还来得及做一些事情，至少给后代人类文明留下一些基本原则。
50:00
“消极防御”法：区块链这个“白盒子”能用来给人工智能这个“黑盒子”划红线。
56:20
区块链是给机器人准备的。它能发挥最大威力的地方，应该是在数字世界。区块链不是用来约束碳基生命，而是”对付“硅基生命？
1:00:23
身份与契约：AI是数字世界的“个体科技”，而区块链是数字世界的“关系科技”。
1:05:20
人类需要改变认知：数字世界不再是“服务于现实世界的附庸“，以后我们得尊重一下数字世界，升级自己在数字世界中的生存技能。
1:13:02
对接两个世界的“平行世界之桥”：不用等到下一代，五年到十年的时间里面，我们就会看到很强的连接出现？
关于《文理两开花》：
《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”，我们试图在混沌中寻找秩序。
Twitter：
@LeiSalin_XP
@Will42W
TG群（开放）：t.me
收听平台：
小宇宙：文理两开花
苹果播客｜Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花（海外版）》（苹果播客中国区可复制https://open.firstory.me/rss/user/cl0roqwc0000l0hzje7se6f28手动添加节目）
文字稿和延伸阅读：
微信公众号《文理两开花播客》
《文理两开花》newsletter。欢迎订阅：https://wenli.substack.com
其他平台：
即刻：文理两开花
微博：文理两开花播客
《文理两开花》微信群：请添加文理小助手微信w_ruy_ 注明：文理两开花
留言告訴我你對這一集的想法： https://open.firstory.me/user/cl0roqwc0000l0hzje7se6f28/comments
Powered by Firstory Hosting