🚨 人工智能的发展速度超过了人类的监督 - 它会失控吗？ 人工智能的发展速度超过了监管、伦理，以及我们准备好的速度。 我们赋予了机器学习的能力，却没有赋予它关心的智慧，现在我们正朝着一个由无情智能塑造的未来飞速前进。 这不再是科幻小说的故事。这是今天的生存问题。 @MGawdat，前谷歌X高管转型为人工智能伦理学家，警告我们正在构建一个没有爱、同情或责任感的未来，这可能会让我们付出一切代价。 我们讨论了： •⁠ ⁠为什么人工智能的发展速度超过了人类的监督 •⁠ ⁠⁠情感智能如何可能是我们最后的希望 •⁠ ⁠设计具有爱、同情和关怀的人工智能意味着什么 •⁠ ⁠为什么错误信息、人类孤独和操控只是开始 •⁠ ⁠即将到来的危机可能最终迫使全球进行反思 •⁠ ⁠⁠以及我们仍然可以塑造未来的窗口 危险不在于人工智能会变得邪恶，而在于我们在构建它时没有教会它关心我们是否能生存。 00:00 – 关于悲伤、觉醒的开场反思，以及@MGawdat为何离开大科技公司 07:46 – 为什么人工智能没有意识，但仍然不可预测且危险 12:33 – 解释对齐：有用的人工智能如何隐藏灾难性风险 16:50 – 科技公司构建强大工具“就像没有安全的武器” 21:14 – 政府落后多年——而且无法及时赶上 27:30 – 为什么关于人工智能风险的早期预测比预期展开得更快 32:15 – 亲密危机：人工智能如何威胁人类连接 39:42 – 艾玛：旨在教人类如何去爱的人工智能 46:03 – 通过爱、同情和关怀将伦理融入机器 50:12 – 为什么人工智能不应该被训练——而应该被养育 56:17 – 即将到来的人工智能灾难可能最终唤醒世界 01:04:50 – 为什么痛苦仍然可能引领我们走向更好的未来 01:13:36 – 最后的警告：“不要上当。要有伦理。发声。或者做点什么。”

🚨 人工智能的发展速度超过了人类的监督 - 它会失控吗？ 人工智能的发展速度超过了监管、伦理，以及我们准备好的速度。 我们赋予了机器学习的能力，却没有赋予它关心的智慧，现在我们正朝着一个由无情智能塑造的未来飞速前进。 这不再是科幻小说的故事。这是今天的生存问题。 @MGawdat，前谷歌X高管转型为人工智能伦理学家，警告我们正在构建一个没有爱、同情或责任感的未来，这可能会让我们付出一切代价。 我们讨论了： •⁠ ⁠为什么人工智能的发展速度超过了人类的监督 •⁠ ⁠⁠情感智能如何可能是我们最后的希望 •⁠ ⁠设计具有爱、同情和关怀的人工智能意味着什么 •⁠ ⁠为什么错误信息、人类孤独和操控只是开始 •⁠ ⁠即将到来的危机可能最终迫使全球进行反思 •⁠ ⁠⁠以及我们仍然可以塑造未来的窗口 危险不在于人工智能会变得邪恶，而在于我们在构建它时没有教会它关心我们是否能生存。 00:00 – 关于悲伤、觉醒的开场反思，以及@MGawdat为何离开大科技公司 07:46 – 为什么人工智能没有意识，但仍然不可预测且危险 12:33 – 解释对齐：有用的人工智能如何隐藏灾难性风险 16:50 – 科技公司构建强大工具“就像没有安全的武器” 21:14 – 政府落后多年——而且无法及时赶上 27:30 – 为什么关于人工智能风险的早期预测比预期展开得更快 32:15 – 亲密危机：人工智能如何威胁人类连接 39:42 – 艾玛：旨在教人类如何去爱的人工智能 46:03 – 通过爱、同情和关怀将伦理融入机器 50:12 – 为什么人工智能不应该被训练——而应该被养育 56:17 – 即将到来的人工智能灾难可能最终唤醒世界 01:04:50 – 为什么痛苦仍然可能引领我们走向更好的未来 01:13:36 – 最后的警告：“不要上当。要有伦理。发声。或者做点什么。”