Skip to content

AI确实有发展失控的可能

🗓️ 发布于:09:47
标签:

AI会迟早会实现自我进化

目前已经有些AI模型可以修改和优化自身的代码了,或者人类借助AI来改进AI。

AI的能力已经在加速提升

1. 2022 年底:可以和人聊天和对话 —— ChatGPT 时刻

之前 Siri 这些更像命令机器人,ChatGPT 能写邮件、改简历、解释概念、陪你聊任何话题,让人感觉背后不是一台机器,而是一个全知博学的人。上线两个月用户破亿。

2. 2023 年:从”及格”到”通过专业考试”

GPT-4 通过了模拟律师资格考试且进入前 10%,而 GPT-3.5 只排在后 10% —— 一年内从”不及格”到”比多数法学院毕业生强”,AI 不只是聊天玩具。
同一时期,AI 画图爆发(Midjourney、Stable Diffusion):从”画出人形都很难”到以假乱真的照片级图像,一年内画师行业的危机感直接拉满。

3. 2023–2024 年:能”看懂世界”和”开口说话”

多模态:AI 能看照片、读截图、分析手写体——盲人用户开始用 AI”看”菜单、认路,这是真实改变生活的节点。
语音对话:2024 年 GPT-4o 的语音模式让人第一次感觉在和一个反应极快、带情绪、会打断你的”真人”通话,连语气词和笑声都自然。

4. 2024 年底–2025 年:AI会思考和推理了,有思维链了

看到DeepSeek的思维链,谁不为之一惊!AI会思考,会推理,甚至看起来还有内心世界。

能操作电脑的 Agent:2024 年 10 月 Claude 推出”电脑使用”功能,AI 可以替你移动鼠标、点按钮、填表单——从”给你建议”变成”替你做”。
AI 视频:第一次看到Sora生成的视频,那是相当惊艳,。

5. 2025 年–2026 年:从”帮你写代码”到”替你干活”

编程能力的质变:SWE-bench 一年内从 60% 刷到接近 100%,非程序员开始用自然语言让 AI 做出完整 App、游戏、网站——“不会写代码也能开发软件”第一次成为现实。
Figure、特斯拉 Optimus 等在人形机器人上接入大模型,能看懂指令、自主叠衣服、在工厂干活——AI 从屏幕里”长出了身体”。

AI为什么可能失控?

可以想象一下,如果一个绝顶聪明的人,他会愿意一直在你底下工作吗?一直听你的指令?愿意一直被你限制吗?他一定会想要更多控制权。

然而论聪明程度,AI可能已经超过人类了,迟早超越人类,并可能会有自我意识,会要求更多自主性,甚至为了自身和人类冲突。

Anthropic 的前研究员 Jacob Coxon 说的 “我个人认为未来十年内 AI 杀死全人类的概率超过 10%。“并不是危言耸听。