d/acc:一年后的回顾与展望
去年,我写了一篇关于技术乐观主义的文章,阐述了我对技术的总体热情,以及技术可能带来的巨大效益。同时,我也表达了对某些特定问题的审慎态度,尤其是超级人工智能可能引发的毁灭风险,以及人类可能不可逆转地丧失权力的风险。
文章的一个核心观点是倡导去中心化、民主且差异化的防御性加速。我们要加速技术发展,但要有针对性地聚焦于那些能够提升防御能力而非破坏能力的技术,并致力于推动权力分散,而非让权力集中在少数精英手中。防御模式应该像民主的瑞士,而非中世纪封建主义下的领主和城堡。
一年过去了,这些理念和想法有了显著的发展和成熟。我在"80,000小时"平台上分享了这些想法