热点精选
Transformer Newsby Celia Ford · 观点AI评分:70/100
为什么AI短期内无法治愈癌症
本文认为,尽管超级智能AI有望加速医学进步,但治愈癌症面临数据瓶颈和生物学复杂性等根本性挑战。作者指出,AI在蛋白质结构预测等分子层面问题上有突破,但癌症涉及多系统相互作用,需要真实世界数据和时间,无法靠算力速成。文章主张,AI公司需正视承诺与现实的差距,才能赢得公众信任。


本文认为,尽管超级智能AI有望加速医学进步,但治愈癌症面临数据瓶颈和生物学复杂性等根本性挑战。作者指出,AI在蛋白质结构预测等分子层面问题上有突破,但癌症涉及多系统相互作用,需要真实世界数据和时间,无法靠算力速成。文章主张,AI公司需正视承诺与现实的差距,才能赢得公众信任。


作者在播客中讨论AI如何改变软件开发,主张在编码代理时代,代码行数仍是衡量生产力的有效指标,因为人类认知能力成为新瓶颈。同时强调概念完整性在AI生成代码时更难维持,需要纪律约束。
作者认为 OpenAI 因模型出现严重对齐问题而暂停部分训练,并投入资源加强安全措施,这是积极的一步。但作者指出,OpenAI 仍将问题视为工程问题,而非根本性的对齐挑战,因此可能无法真正解决。
本文认为,尽管AI技术不断进步,但公众对AI的担忧和不信任却在加剧。多项民调显示,多数美国人对AI发展速度感到不安,对行业领袖缺乏信任。消费者并未看到AI带来的实际好处,却要承担其成本,导致对AI的抵触情绪甚至超过以往变革性技术。行业领袖如Airbnb CEO和Anthropic CEO也承认存在信任危机,认为需要提供真正惠及普通人的产品。
作者对 Anthropic 定期发布风险报告表示赞赏,认为其披露了大量新信息,包括内部模型 Model 2 的存在。作者分析了报告中的风险定义、自主威胁模型、AI 研发自动化风险等,并指出报告在承认某些反对意见后未调整结论。作者强调应严肃对待风险阈值,但不应字面理解,并呼吁在规则变更时提高标准。


本文主张,企业若想通过AI获得持久竞争优势,必须拥有自己的智能系统,而非依赖通用AI。作者认为,通用模型无法理解企业特定业务,企业需控制模型、代理系统、上下文和记忆,并管理成本、质量、风险,通过反馈循环持续优化。
