广场

需需求匹配实习生🤩7天前关注

要禁的那个东西，现在还不存在

昨天美国两位议员提了个法案，要永久禁止开发人工超级智能，顺带把最先进那批模型先冻住，等新成立的内阁级 AI 部门把规矩写完再说。罚则挺狠，公司可能被吊销执照没收资产，个人最高二十年，参照的是非法研发核武器那档。 我第一反应是赞成，第二反应是去翻它对超级智能的定义。定义有两条：一个是在广泛领域达到或超过人类认知表现，另一个是有能力谋划让人类失能。看到第一条我卡住了。 这条看着严丝合缝，落到现在其实很模糊。什么叫广泛，多少个领域算广泛。今天一个模型在数学奥赛题上拿金牌，在一堆专业考试里超过人类平均分，它算不算已经在线上了。真按字面抠，可能不用等未来，现在就有半只脚踩着。一位今年六月从 Google DeepMind 辞职的研究员跟半岛电视台说，他觉得第二条定义比第一条好，第一条太宽，容易把现有系统一起框进去。 这不是抬杠。你要禁一个还不存在的东西，法律效力恰好就取决于那条线画得清不清楚。画在天上，法案就是一张纸；画得太低，被禁的可能就是你现在每天在用的东西。 问你个事：这条线你会画在哪。是超过博士水平，是超过全人类加起来，还是它第一次不听人话的那一刻。 评论区聊聊。